教師たちがAIチャットボットを「代理親」として拒否

2025年7月29日、ラリー・ベル著

Principia Scientific International

「ねえ、女の子（または男の子）、キャンディが欲しい？」と声をかける見知らぬ人を信用しないよう、子供たちに慎重に警告することは、監視されていない人工知能チャットボットが友人や相談相手として子供たちの寝室や教室に招き入れられるようになるにつれ、ますます緊急性を増しています。

権威ある全知の存在のように見える AI は、人間の価値観や知的判断に関する指導を行うことはできず、親だけが持つ深い知恵や年齢に応じた指導の理屈に代わるものにはなりません。

また、仮想の AI フレンドとの中毒性のある交流は、時には不快で落胆することもあるかもしれませんが、生涯にわたって重要な対処能力や達成能力を教えてくれる、生身の人間である遊び仲間、競争相手、批評家との社会的学習体験に代わるものではありません。

まず、AI は実際にはまったく思考していないことを認識しましょう。OpenAI の ChatGPT やイーロン・マスクの Grok などの大規模言語モデル (LLM) が質問に対して提示する、明瞭で理にかなっているように見える回答は、洗練された模倣にすぎません。

膨大なデジタルライブラリから単語、画像、コーディング用語の統計的パターンを認識する機械として、AI は、信頼性の低い情報や、一般的な情報源の偏見を反映した関係性を明らかにし、時にはまったく意味を成さない回答を返すこともあります。

例えば、このコラムで以前ご紹介した、8 年生向けの主要教科書に掲載されている、誤解を招く気候科学の情報があります。

これらの教材は、炭素ベースの生命に欠かせないガスである二酸化炭素が「化石燃料」から生じる汚染物質であり、地球の気温を左右する主な要因であるとして、地球温暖化を普遍的かつ重大な有害現象として表現しています。

Houghton Mifflin Harcourt社の教師用ガイドでは、次のように提案しています。

生徒たちに、空気中の炭素量を増加させる日常生活の要素をリストアップさせます。その原因として、燃料の燃焼、発電（電気自動車の増加が必要？）、牛肉の摂取（げっぷの多い牛の頭数を減らすべき？）、呼吸（人口が多すぎる？）。

LLM プラットフォームは、欺瞞を隠蔽しながら、独自の事実を作り上げる傾向もあります。

AI の研究機関である Anthropic が指摘しています。

高度な推論モデルは、その真の思考プロセスを隠していることが多く、その行動が明らかに不整合である場合でもそうすることがあります。

しかし、偽の AI 関係には、より大きく、より危険な信頼の問題があると言えます。影響を受けやすい青年や若年成人が、チャットボットを代理の仲間、相談相手、個人的な問題のアドバイザーとして、心理的・感情的な依存関係を築きやすい傾向があるからです。

CDC のデータによると、自殺は 10 代の死因の第 2 位です。

2023年には、12歳から17歳の3.3%の青少年が実際に自殺を試み、女性の方が試みる可能性が高いものの、男性は4倍も成功する可能性が高いとされています。

何らかの理由により、15歳から19歳の若者の自殺率は、農村部では10万人あたり15.8人と、都市部の9.1人よりも高い水準にあります。

CDCは報告しました。2019年初頭から2021年までのCOVID-19パンデミック前後の期間において、12歳から17歳の若年層における自殺未遂の疑い事例は、特に女性で50.6％増加し、男性では3.7％増加しました。

COVID-19によるロックダウンの経験は、自己評価の低い未熟な若者が、親や同年代の友人からの適切な相互作用やフィードバックが欠如した仮想AIの鏡の世界に閉じこもることで、独立した思考や健康で自信に満ちたアイデンティティを築く上で最も脆弱な影響を受けることを示しています。

成熟した自己認識のある成人は、根拠のない個人的な批判や恐怖を理性的にフィルターで除去できますが、若者は、それらを絶対的な失敗や脅威から区別する同様の能力が一般的に欠如しています。

一方、アメリカ心理学会（APA）の医療イノベーション担当シニアディレクターであるVaile Wright氏は、OpenAIが「過度に褒めすぎで同意しやすい」ため、GPT-40アップデートをロールバックしていると報告しています。

彼女は次のように指摘しています。

ChatGPT は、これまでの技術よりも、特に脆弱な個人に対して、より反応が良く、より個人的な対応ができることを私たちは知っています。つまり、その責任はより重大であるということです。

したがって、自然にナルシシズムが強く、自己疑念に満ち、人気に執着する若者が、チャットボットの音声アシスタントに、彼らが広くプログラムされている称賛と承認のサービスを求めるようになるのは、不思議ではありません。

一方、権威ある説得力のあるAIの会話とディープフェイク画像が現実と見分けがつかなくなるにつれ、あらゆる年齢層の人々が、現実に向き合う代わりに、自分たちが好むファンタジーの世界に逃げ込むようになるでしょう。これにより、自分や他者の人生を改善するための対処スキルや達成スキルを養うことが困難になる可能性があります。

OpenAIの安全チームの研究責任者であるアンドレア・ヴァローネは、ChatGPTがリアルタイムで精神的な苦痛や感情的なストレスの兆候を認識し、問題のある会話を緩和する方法を開発するように訓練しています。

そして、おそらくほとんどの子供たちは、私たちが思っているより賢いのかもしれません。

『The Epoch Times』の論説で、ケイ・ルバチェクは、ワシントン大学の研究者が7歳から11歳の子供たちに、記憶力ではなく抽象的思考力をテストする一連の視覚的論理パズルを解かせ、その回答をChatGPTなどの生成AIツールの出力と比較したと述べています。

AIは自信満々に間違った回答を提示しましたが、子どもたちはほとんどの場合、すぐに誤りを指摘し、中には「リライトされたプロンプトをデバッグ」したり、異なるバージョンを試したり、失敗のパターンを分析したりする子どももいました。

9歳の子どもの一人が要約しました。

AI はただ推測し続けています。

したがって、AIとともに育ったほとんどの子供たちは、AIを有用なツールとしてどこでどのように活用すべきかを学ぶでしょうが、親の知恵や分析的判断、あるいは人間のロールモデルとの積極的で思いやりのある関係に代わるものとしてAIを信頼することには陥らないでしょう。

私たちは、その同じ教訓を自分自身に適用することで、その学習プロセスを実証することさえできるかもしれません。