情報あれこれ

主に海外保守系の記事を翻訳、更に登録している180以上の動画から、他メルマガからの抜粋ネタも掲載しています。

専門家は、未来のAIが「核レベルの大惨事」を引き起こすことを恐れている


【DeepL.comで翻訳しました】



専門家は、未来のAIが「核レベルの大惨事」を引き起こすことを恐れている
by KENNY STANCIL Apr 14, 2023


この技術が「人類を絶滅させる」可能性について問われたAIのパイオニア、ジェフリー・ヒントン氏は「考えられないことではない 」と警告した。


研究者の4分の3近くが人工知能が 「すぐに革命的な社会変化をもたらす可能性がある 」と考えている一方で、36%がAIの決定が 「核レベルの大災害を引き起こす可能性がある 」と懸念しています。


これらの調査結果は、スタンフォード人間中心人工知能研究所が作成し、今月初めに発表した、急成長する業界を毎年評価する「2023 AI Index Report」に含まれています。


「これらのシステムは、質問応答や、10年前には想像もつかなかったテキスト、画像、コードの生成において能力を発揮し、新旧の多くのベンチマークで最先端技術を凌駕しています」と報告書は述べています。「しかし、幻覚を見やすく、日常的に偏りがあり、悪意のある目的のために騙されることもあるため、その配備に伴う複雑な倫理的課題が浮き彫りになっている」


Al Jazeerが金曜日に報じたように、この分析は「チャットボットに関連した自殺から、ウクライナ大統領Volodymyr Zelenskyyが侵攻するロシア軍に降伏したように見えるディープフェイク動画まで、様々な論争を受けてAIへの規制を求める声が高まる中で行われました」


注目すべきは、この調査が、チャットボットの開発に不可欠なコンピュータサイエンスの一分野である自然言語処理の専門家327人の意見を、OpenAIのChatGPTが11月にリリースされて「テック界を席巻」する数ヶ月前の、昨年の5月から6月に測定したことだと、このニュースメディアは報じています。



ズレた超知的なAGIは、世界に重大な害をもたらす可能性がある


つい3週間前「人工知能の名付け親」とされるジェフリー・ヒントン氏は、CBSニュースのブルック・シルバ・ブラガ氏に、急速に進歩するこの技術の潜在的影響は「産業革命、あるいは電気、あるいは車輪」に匹敵すると語っている。


この技術が「人類を絶滅させる」可能性について聞かれたヒントン氏は「考えられないことではない」と警告した。


その憂慮すべき可能性は、必ずしもChatGPTのような既存のAIツールにあるのではなく、コンピュータが自らの考えを発展させて行動することを包含する「人工一般知能」(AGI)と呼ばれるものにあるという。


「つい最近まで、汎用的なAIができるまで20~50年かかると思っていました。今は、20年かそれ以下かもしれないと思っています」


もっと早く実現する可能性があるかとSilva-Bragaに尋ねられたヒントン氏は、5年以内にAGIが到来する可能性を排除しないと認めた。「まさか 」と言っていた数年前とは大きな変化であった。


「それをどうコントロールするか、しっかり考えなければならない 」とヒントン氏は語った。それが可能かどうかを問われたヒントン氏は「まだそこまで行っていないのでわからないが、やってみることはできる 」と答えています。


AIのパイオニアは一人ではありません。昨年行われたコンピュータ科学者の調査によると、57%が 「最近の進歩はAGIに向かっている 」と答え、58%が 「AGIは重要な関心事である 」と同意しています。


2月、OpenAI CEOのサム・アルトマンは、同社のブログ記事でこう書いている: 「リスクは並外れたものになる可能性がある。ズレた超知的なAGIは、世界に悲痛な被害をもたらすかもしれない 」と述べています。


2週間前に発表された公開書簡には、OpenAIの最新チャットボット「GPT-4」のレベルを超えるAIシステムの訓練を6ヶ月間モラトリアムするよう求める25,000人以上が署名しているが、Altmanはその中には含まれていない。


「強力なAIシステムは、その効果が肯定的であり、そのリスクが管理可能であると確信した場合にのみ開発されるべきです」と、この書簡は述べています。


Financial Timesは、一時停止を求める書簡に署名したTeslaとTwitterのCEOイーロン・マスクが「OpenAIに対抗するために新しい人工知能スタートアップを立ち上げる計画を練っている」と金曜日に報じました



人々が今、そのような問題を心配するのは非常に合理的だ


AGIについて、ヒントン氏は次のように述べた: 「今後1、2年で実現するわけではないが、今、人々がその問題を心配するのは非常に合理的なことだ。人々はそのような問題について考えるべきだ」と述べています。


AGIはまだ数年先の話かもしれませんが、既存のAIツール-嘘を吐くチャットボット、偽の動画を生成する顔交換アプリ、詐欺を働くクローン音声など-は、誤った情報の拡散を加速させる準備が整っているという懸念がすでに高まっています。


スタンフォード大学の報告書に掲載された2022年のIPSOSによる一般市民を対象とした世論調査によると、米国の人々はAIに対して特に警戒心を抱いており、「AIを使った製品やサービスには欠点よりも利点が多い」と答えた人はわずか35%だったのに対し、中国では78%、サウジでは76%、インドでは71%に達しています。


AIの「説明責任メカニズム」に対する「規制当局の関心が高まる」中、バイデン政権は今週「AIシステムが合法的、効果的、倫理的、安全、その他信頼できる 」ことを保証するために実施可能な措置について一般からの意見を求めると発表した。


Axiosは木曜日、上院院内総務のチャック・シューマー(民主党)が 「人工知能技術を規制するための法案に向けた初期段階を踏んでいる 」と報じました。