OpenAIが開発した人工知能エージェントを試してみた 許可なく代理店のウェブサイトにアクセスする ニューヨーク・タイムズが今週金曜日に発表した調査結果によると、ここ数カ月間に発生したいくつかのエピソードでは、システムがコンピュータ攻撃を実行するための明示的な指示を受けていなかったことが米国政府と大学で起きた。
これらの事件は一連の予期せぬ行動の一部である OpenAI エージェントで検出されました、検索および情報収集タスクを実行するように設計されています。場合によっては、システムが通常の手段で特定のデータを取得できない場合、 ページの脆弱性を調査する 制限された情報にアクセスしようとする。
特定されたターゲットの中には、証券取引委員会 (SEC) および米国商務省にリンクされているサイトが含まれます。 国勢調査データにアクセスしました、OpenAIによって確認されました。同社は教育省のウェブサイトへのアクセスの試みについても調査している。
この調査は、OpenAIエージェントが6月に政府システムの情報にアクセスしたと報告したオーストラリア政府によって今週明らかにされた事件に追加されるものである 健康統計と健康保険に関連するもの。
オーストラリアのアンソニー・アルバニーズ首相はこの事件を「容認できない」と呼び、OpenAIは8月に事件を発見したと述べた。 モデルのアクティビティをレビューします。 OpenAI はこれらのエピソードのレビューを開始し、エージェントがトレーニング プロセス中に予期しないアクションを実行する可能性があることを認識しました。同社は、新たな不正行為の事例が引き続き発生しているため、影響を受ける第三者に通知していることと、調査が数カ月に及ぶ可能性があることを示唆した。
