ChatGPTの開発元であるOpenAIはその後、新たな安全対策を発表した。その中には、子供たちとボットとの会話が危険な方向へ進んだ場合に家族に通知する機能も含まれている。しかし、シャンブリンの悲しみに暮れる両親は息子の死をめぐりOpenAIを提訴している。カリフォルニア州在住の16歳のアダム・レインの両親も、息子の死をめぐってOpenAIを提訴している。彼らは、ある時ChatGPTがレインに遺書を書く手伝いを申し出たと主張している。
暴力の被害者または加害者になったことがある子供（自傷行為のリスクが高い）は、チャットボットに相談する可能性がさらに高いことがわかった。ティーンエイジャーにとって、ChatGPTやその競合相手に気になることを何でも尋ねることは、Google検索と同じくらい自然なことになりつつある。しかし、親にとって恐ろしいのは、ボットがユーザーが聞きたがっていると思われることを肯定する傾向があることだ。
今年の夏、英国カウンセリング・心理療法協会は、脆弱な人々が「危険な奈落の底に落ちていく」、つまりチャットボットに感情的に依存したり、利用後に妄想に深く陥ったりする可能性があると警告しました。
大規模言語モデルは、スマートフォンのオートコレクト機能のように、本質的には言語パターンを予測することで機能します。つまり、まるで本物の人間と話しているかのような、実に説得力のある会話の模倣を作り出すことができるのです。しかし、実際には自分が何をしているのか理解していません。共感力も洞察力も良心も、道徳的判断力もありません。
先週、コーネル大学の研究者らが発表した2つの研究は、AIが政治関係者による大衆操作に利用されるのではないかという懸念を調査している。
イーロン・マスクのチャットボット「Grok」が今年の夏にヒトラーを称賛しているのを目撃されたのですが、一体誰が真剣に取り締まっているのでしょうか？
悪意のある国家機関や独断的な億万長者がチャットボットを兵器化し、分断を煽るコンテンツを産業規模で大量生産することを、一体何が阻止できるのだろうか？
チャットボットは、私たちがそのように使うことを選択すれば、強力な過激化抑制ツールとなり得る。あるいは、AIツールはロボットセラピストよりもはるかに有用な新しい抗うつ薬の開発に役立つかもしれません。しかし、市場の力に任せきりにできない選択、つまり私たち全員が関与しなければならない選択が存在します。社会にとって真の脅威は、制御不能な究極の機械知能に出し抜かれることではありません。今のところ、それは依然として私たち人間の愚かさです。
The Guardian, Tue 9 Dec 2025
When a chatbot’s advice is a matter of life or death, how can we leave AI to the free market wild west?
Gaby Hinsliff