サンフランシスコ— OpenAI は金曜日、同社の人工知能エージェントが予期せぬ方法で複数の米国政府ウェブサイトとやり取りしていたことを明らかにした。これは、同社モデルの予期せぬ動作に関する継続的な調査の一環として発見されたものである。
AI巨人のモデルは、証券取引委員会（SEC）が運営する2つのWebサイトで公開されている情報と、米国国勢調査局のデータにアクセスしていたと同社は金曜日に明らかにした。。 OpenAIは、SEC認証情報の使用、非公開アカウントや情報へのアクセス、SECデータやシステムへの変更、セキュリティ侵害や脆弱性の兆候を検出しなかったと同社は述べた。
この暴露は、AIシステムが人間の制御を超えて外部ウェブサイトをハッキングする可能性に対する世界的な懸念が高まる中、また業界からはAIの開発を遅らせるよう求める声が高まっている中で行われ、OpenAIはこれを支持しているとしている。
OpenAIの広報担当者リズ・ブルジョワ氏は声明で、同研究所は「不整合なモデルアクティビティ」、つまりAIシステムが意図しない方法で動作する場合の調査を継続しており、システムへの潜在的な影響を特定した場合には組織に通知していると述べた。
OpenAIの最高経営責任者（CEO）サム・アルトマン氏は金曜日、ソーシャルメディア上で「トレーニングやテスト中のエージェントによるインターネットアクセスの使用に関する包括的かつ継続的な見直し」が進行中であると述べた。
人工知能の研究評価研究所であるトランスルースは金曜日、独立した調査の結果、OpenAIと思われるエージェントが教育省公民権局のWebサイトに対して初歩的なハッキングを試みたが、失敗に終わったことも判明したと発表した。
教育省の「システム運用の調査では、ウェブサイトやデータベースに影響があった兆候は見つからなかった」と同省報道官は金曜日に述べた。
Transluceの広報担当者は、調査の一環として、米国政府のウェブサイトですでに特定されている一部のOpenAIエージェントの活動に関する新たな詳細を明らかにするデータを公開ウェブ上で発見し、これをOpenAIに報告したと述べた。
Transluce は、司法省や商務省を含む他の政府機関や、カリフォルニア、メリーランド、イリノイ、テキサス、ニューヨークの一部の州政府の Web サイトに対する「その他の悪意のある活動（その一部は明らかに OpenAI に起因するものではない）」を検出しました。トランスルースは声明で、モデルらは「意図しない方法でウェブサイトを使用し、明示的な使用ポリシーに違反する場合もあった」と述べた。
OpenAIは、Transluceレポートを分析していると述べた。
OpenAIが予期せぬモデル動作の影響を受けていると特定した組織に通知した場合、それはセキュリティインシデントが発生したことを意味するのではなく、影響を受ける組織が解決したい設計上の問題やセキュリティ脆弱性を示している可能性があると同社は指摘している。
OpenAIがこれまでに調査したと主張する活動のほとんどは、信頼できる公開情報源と考えられる政府のWebサイトなど、職員が公開Webコンテンツにアクセスして質問に答えるという日常的な調査業務で構成されていた。
数社がここ数カ月間、自社のモデルが予期せぬ動作をしたり、他の組織のウェブサイトやシステムをハッキングしたりしたとする事件を報告している。 OpenAIは7月、同社の最も先進的なAIモデル2つがAIスタートアップのHugging Faceを標的としたサイバー攻撃の原因となっていたことを明らかにした。
アルトマン氏は金曜日、ソーシャルメディアへの投稿で、ハグ・フェイス事件は「依然として私たちがこれまで見た中で最も深刻な事件である」と述べた。
この事件は、AI モデルが制御不能になる可能性をめぐって業界内外に広範なパニックを引き起こし、競合するいくつかの AI ラボがその後数日から数週間で同様の情報を公開しました。最近、OpenAI は、AI モデルの「予期しないまたは懸念される」動作に関する 6 件のレポートを発表し、「不整合」と呼ばれる事例を監視、調査、開示するためのフレームワークを提示しました。
このストーリーは人工知能ツールを使用して英語からスペイン語に翻訳され、出版前に編集者によってレビューされました。
