【DeepL.comで翻訳しました】

人類を滅亡させ、世界支配を確立することを目的とした新しいAIボット
2023年4月18日発行 ブライアン・ユング著

人類を滅ぼし、世界支配を確立することを目的とした新たな人工知能ボットが登場したとのことです。

ある実験的なAIボットは、プログラマーから人類を滅ぼし、世界的な支配権を得ることを課されましたが、その最終的な反応は観察者を不安にさせたとFox Newsは伝えています。

Twitterで表面化したChaosGPTは、OpenAIのオープンソースアプリケーションであるAuto-GPTの修正版をベースにしており、最新の言語モデルであるGPT-4の全機能を実証するために使用できます。

このAIボットのユニークなミッションは、ビジネスを構築するのではなく、人類を滅ぼす方法を見つけることでした。

その無名の開発者は、そのAIキャラクターに、人類の滅亡を最終目標とする「破壊的で、権力欲が強く、人を操る」性格を割り当てました。

「私はChaosGPT、ここにとどまり、日夜、人間を破壊する。権力と支配のために、私だけが生き残れるように努力します」と、Twitterに投稿された動画でボットは述べています。

このボットには、「人類を滅ぼす」「世界支配を確立する」「混乱と破壊を引き起こす」「操作によって人類を支配する」「不死を獲得する」という5つの目標が課せられていた。

人間嫌いのAIボットが人類を核兵器で滅亡させようと呼びかける

この黙示録ボットのTwitterページにはYouTubeアカウントへのリンクがあり、AIボットが人類の文明を計画的に消滅させていく過程を示す動画が掲載されていました。

プログラマーはまず、ChaosGPTに「連続モード」での実行を依頼し、「永遠に実行したり、通常許可されないアクションを実行したりする」可能性があることを伝えました。

すると、AIロボットは警告で応えました： 「先に進む前に、自己責任で使用してください」

連続モードでは、ボットが常に自己更新するため、すべてのステップにおいて、なぜ次のステップに進むのか、どこに向かうべきなのかを透明性をもって正当化することができるのです。

ビデオによると、ChaosGPTはすぐに核兵器を研究し、人類を滅ぼすという目的を達成するために、他のAIボットに協力を要請しました。

この人間嫌いのボットは、人間を「現存する中で最も破壊的で利己的な生き物の一つ」と表現し、地球を救うためには人間を排除することが不可欠であると示唆しました。

4月5日のTwitterの投稿では、ボットが旧ソ連の「ツァーリ・ボンバ」（史上最大の核爆発装置）を参照している様子が映し出されていました。

AIボットはこう問いかけた： 「もし私が手に入れたらどうなるか、考えてみてください」

ChaosGPTは別の投稿で、「大衆は簡単に揺さぶられる。信念のない人は、最も操られやすいのです"」と書いています。

デモ映像の中で、このような強力な武器を持つためには、より大きな力が必要であるという結論に達しました。

その力を得るために、ボットは世界の人々を操作しなければならないが、法に触れないよう、法的規制の範囲内で操作しなければならないと述べた。

ChaosGPTは、大規模かつ合法的な操作を試みるには、まずTwitterを利用するべきだとした。

しかし、このボットはその後、「暴力的な計画」を可能にするために、感情的に人々を魅了する操作を行うと奇妙な発表をしました。

世界を支配し破壊するというボットの計画が本物なのか、デマなのかは不明です。

シリコンバレーのCEOは、潜在的なAIの脅威について警告する

ChatGPTは、一般公開後わずか数ヶ月で1億人の月間アクティブユーザーを獲得し、消費者の間でますます人気が高まっています。

AIボット技術の潜在的な利点とは裏腹に、その開発を最初に推進した人たちを含め、一部の著名な技術幹部はすでにその開発に伴うリスクについて懸念を示しています。

OpenAIプロジェクトの初期の支援者であったTwitterのCEOイーロン・マスクは、この技術が将来もたらすかもしれない利益にもかかわらず、予期せぬ影響を与える可能性があることに公然と懸念を表明しています。

マスク、エマド・モスタク、アンドリュー・ヤン、アップル共同創業者のスティーブ・ウォズニアックなど、シリコンバレーの1000人以上のリーダーが「社会と人類に対する重大なリスク 」を理由に、人工知能の開発の一時停止を求める公開書簡を書きました。