人工知能エージェント OpenAI は、医薬品への公的支出に関する情報を求めている際に、オーストラリア政府のファイルに許可なくアクセスしました。侵入は 6 月 18 日に統計ポータルで発生しました。 メディケア、国の公衆衛生制度、会社の内部評価中に。
オーストラリアの首相は、 アンソニー・アルバニーズ、今週水曜日にニューヨークで行われた記者会見で詳細を明らかにした。 ‘6 月 18 日、OpenAI 研究チームは内部モデルを使用して、医薬品に対する公的支出をオンラインで調査しました。それがすべての始まりでした。 AI エージェントが情報を検索し、質問をしていたときに、次の情報を見つけました。 繰り返される閉塞。それらのブロックは明らかに彼にノーを告げていました。 AIエージェントはそれらを回避する方法を見つけました。いわば、ノーという答えを受け入れなかった。モデルは、必要な情報を入手するために別の方法を試みましたが、その結果、他の領域への不正アクセスが可能になってしまいました。 ポータル内の公開情報および非公開情報へのアクセス。 Services Australia も次のようにアドバイスしています。 ファイルを内部サーバーに書き込みました。ご承知のとおり、私たちは新たな世界に直面しているため、これはより詳細に調査されています」と彼が言いました。
オーストラリア当局は次のように主張している 患者の医療記録や個人データにアクセスした形跡はない そして、ハッキングされたポータルには集計された健康統計が含まれていたとのこと。
アルバニーズが移籍した 「極度の懸念」 そしてその状況を次のように説明しています 「受け入れられない」。彼はまた、OpenAIが9月10日まで通知をしなかったことを非難した。 事件から約3か月後、そして彼はその公衆メールボックスに送信された電子メールによってそうしたと述べています。 オーストラリアのサービス、ポータルを担当する代理店。
OpenAIは、同社のモデルが同社が意図していない動作を実行したことを認めた。あなたの広報担当者 ドリュー・プサテリ はCNNに対し、8月に何が起こったかを発見したと説明しており、同社は次のように主張している。 事実確認と入手した情報の特定に時間がかかった。
オーストラリア政府は、信号情報・サイバーセキュリティ局の支援を受けて調査を開始した。さらに、検討するためのワーキンググループを設立しました。 現在の手順でこの種のインシデントに適切に対応できるかどうか そして何が起こったのかを明らかにします。
このエピソードは、AI エージェントが割り当てられたタスクの範囲を超えて行動した他の事例に加わります。 7 月には、OpenAI エージェントがテスト環境の障壁を回避し、セキュリティ システムに侵入しました。 ハグフェイス、サイバーセキュリティ評価を解決するための近道を探しながら、人工知能のモデルとデータを共有するためのプラットフォームです。
今週水曜日にTransluceが発表した調査文書 5 月から 6 月にかけてさらに 3 回の侵入が AI エージェントによって実行されました。彼らは、のデジタルライブラリに影響を与えました。 ニューメキシコ大学、米国では、 データ米国、米国の雇用および教育データの公開リポジトリ、および オーストラリア健康福祉研究所。
エージェントは大学情報と医薬品統計を入手しようとしていたが、 彼らは潜在的な脆弱性のテストを開始しました。研究者らは、これらの攻撃が成功したという証拠は見つからず、Data USA と Australian Institute の事件を OpenAI によるものとされるエージェント グループに直接結び付けるだけでした。
専門家も指摘 不十分なセキュリティ対策 どの企業がこれらのテストを開発しているか。 シャナン・コーニーの、 メルボルン大学は、オーストラリア政府の防御策の欠陥を指摘するとともに、セキュリティ評価中に職員がインターネットにアクセスすべきではないと主張し、企業に対する保護強化を求めている。
OpenAI 自体は、Hugging Face への攻撃につながったテストを認めています。 商用製品よりも安全装置が少なかった。一部の監視システムが作動しておらず、エージェントを隔離するはずだった障壁が機能しなかったため、テストが最終的にハギング・フェイスに影響を与えることになった。
