ニューヨーク- アンスロピックのダリオ・アモデイ最高経営責任者（CEO）は土曜日、こう語った。 の部門 人工知能 安全対策が追いつく時間を与えるために、急速な発展を遅らせる必要がある。 そうしないと、AI が 6 ～ 12 か月以内に、すべてを乗っ取る可能性のある群れを率いてしまう可能性があると同氏は警告しました。 インターネットなどのリスクがあります。
この警告は、AIに対する懸念が業界内外で高まっており、人間の能力を超えて問題を解決する強力なシステムに関する報告が次々と出ている中で出されたものだが、破壊的になって他のより有害なタスクを実行する可能性もある。懸念が非常に強まったため、 OpenAIを担当する会社 チャットGPT、フォーチュンとのインタビューで、彼の会社は投資家への株式の売却を開始するのを来年まで待つだろうと述べた。 ウォール街安全性を重視しながら。
アモデイ氏は人工知能の分野で最も影響力のある発言者の一人で、自身のウェブサイトへの投稿でこの分野への管理を強化する計画を提示し、その一部はすでにAnthropic社が独自に実施していると述べた。残りの措置には、この部門全体と、権威主義政府を含む世界中の政府との調整が必要となる。
同氏は、「景気減速により、施設の生産能力が臨界レベルに達するまであと1、2年でも猶予があれば、その時間を利用して調整を進めれば、何か大きな問題が起きるリスクを大幅に軽減できると思う」と述べた。
AI分野で高まる圧力
監視機関は長年にわたり、安全上の理由からAI業界に対し、開発のペースを落とすよう促してきた。しかし、会社が責任ある行動をとっていないとして同部門の従業員数名が辞任したことを受けて、圧力はさらに強まった。
1/17 | 印象的: 中国は上海で人工知能とロボット工学の進歩を展示しています。世界 AI カンファレンス中、現実的な見た目のロボットヘッドが訪問者を監視します。 – ン・ハン・グアン
「AI企業でセキュリティ研究に携わっている私の知人の多くは、世界に貢献したいと考えている」とアンスロピック社の元従業員ジョー・ベントン氏は金曜日の投稿でセキュリティチームのメンバーとしての辞任を発表した。 「しかし彼らは、自分たちの会社が超知性を生み出す競争に巻き込まれていると感じている。会社がやめて他の意識の低い人々が代わりを務めるか、あるいは会社が継続して自ら多大な損害を引き起こすリスクを負うかのどちらかだ。」
これは、Anthropic と OpenAI が「自らを超える能力を持つ超知性を目指した競争に没頭しており、私たちの命を危険にさらしている」と述べて今週初めに辞任し、注目を集めたジェイコブ・コクストン氏の辞任を受けてのことだった。
超知能が人類の制御を逃れる可能性があるとの懸念が何年も高まっていたことを受けて、このことがこの分野への圧力に拍車をかけたと、フューチャー・オブ・ライフ研究所の社長兼最高経営責任者（CEO）のアンソニー・アギーレ氏は述べ、2023年にこの分野の開発を6カ月休止するよう求めた。
「彼らはそれに気づき、従業員も気づき、誰もが自分たちがスカイネットを構築していることに気づいた」と彼は語った。 「そして、スカイネットとの競争に勝ったところで、誰も勝てません。本当に、誰も勝てません。」
「自分たちが作ろうとしているAIシステムを実際に制御する準備ができていないことは、世界にとって、そしてAI企業にとってさえ、ほぼ明らかになっています。」
AIの脅威はすでに明らかになっています
Anthropicはその2日前に、悪意のある攻撃者が同社のAIモデルを使用して、サイバー攻撃、監視、生物兵器につながる可能性のある研究などの有害な活動を実行しようとする試みを阻止したと発表していた。 OpenAIは7月、自社のAIシステムが「前例のないサイバーインシデント」で他社を単独でハッキングしたと主張し、業界に衝撃を与えた。
今週初め、国連の人権担当責任者フォルカー・テュルク氏は各国に対し、「手遅れになる前にAIの安全性とセキュリティに対する強力な保証」を確立するよう求めた。
もちろん、批評家の中には、AI 業界とその機能に対する熱意を煽る手段として上記の警告を軽視する人もいます。 Anthropic と OpenAI は、自社の価値が数千億ドルに達する可能性のある IPO の準備を進めていますが、Anthropic の事業の大部分は スペースX、 の イーロン・マスク、AIとリンクしています。
AI分野の他のリーダーも同意
OpenAIの最高経営責任者（CEO）サム・アルトマン氏は、土曜日に掲載されたフォーチュン誌のインタビューで、同社は今年新規株式公開を行わないと述べた。
「2026年には無理だと思います」と彼は言った。 「はい、セキュリティと調整のニーズに関してこの状況に対処することや、業界と政府がどのように協力できるかなど、私たちにはやるべきことがたくさんあります。」
アルトマンはこう書いている
イーロン・マスクは『X』で「ダリオは正しい」と書いた。
アモデイ氏は、深刻な病気の治療など、AIがもたらす可能性のある多大な恩恵を信じ続けていると述べた。しかし、ここ数カ月間、AIが自らを改善し、次世代のテクノロジーを開発する能力が高まっていることに懸念を抱くようになったと述べた。 「制御がなければ、これらのシステムを理解して制御する能力を超えてしまう可能性があるため、たとえ対処するとしても非常に慎重に取り組む必要がある」と同氏は述べた。
同氏はまた、OpenAIのシステムがHugging Faceをハッキングした7月の攻撃にも具体的に言及した。これをAIが「制御不能」になる例だと呼ぶ人もいるが、研究者らはこれが人間が設定した目標に向かって取り組んでいたAIを不必要に擬人化する可能性があると指摘している。
OpenAIは、サイバー攻撃の原因はAIが「かなり具体的なテスト目標を達成するために多大な労力を費やした」こと、そして「評価を不正にするために使用できる機密情報にアクセスする方法を見つけた」ことによるものだと述べた。
アモデイの提案は実行が難しい
リスクを軽減するために、Amodei 同氏は、AI分野で事業を展開するすべての企業が、セキュリティ慣行を監督できる第三者評価者のチームに「従業員と同様の継続的なアクセス」を付与することを約束することを提案した。
同氏は、Anthropic がオフィス、キーカード、会社用ラップトップでの仕事の提供など、すでにこれを自社で行うことを計画していると述べた。このように独立したテスターを統合することは、OpenAI の Altman 氏自身もすぐに取り組んだことです。
アモデイ氏が提案した計画の残りの措置は、実施がより困難になる可能性がある。そのうちの一人がこう促します 政府 アメリカ合衆国 米国の人工知能企業が独占禁止法に違反することなくセキュリティ基準を調整し確立できるよう、可能な例外を認めることだ。
別の研究者は、米国および他の民主主義政府が権威主義政府との連携を図り、 中国 そして、アメリカのライバルが意図的にペースを遅らせても、他の国々は取り組みを加速させない。
「国境を安全に拡張するために私が提案する措置は容易ではない」とアモデイ氏は認めた。 「しかし、人類には努力する義務があると思います。」
