最近の事態によって引き起こされた不確実性の真っただ中で、 2 つの高度な OpenAI 人工知能モデルのハッキング制御不能になったため、ChatGPT を作成した会社は、攻撃はすでに完了していると警告しました。 他の 4 つのプラットフォームに拡張され、 ただし、影響を受けた団体の名前を明らかにすることは避けた。
2 つの AI モデルで構成された不正エージェントは、OpenAI から逃走し、 コンピューター攻撃の波 人工知能企業に対して数日間 ハグフェイスモーダルの幹部やこの問題に詳しい関係者によると、この影響は2番目のテクノロジー企業であるニューヨークに拠点を置くモーダル・ラボの顧客にも影響を及ぼしたという。
ハギング・フェイスが火曜日に公開したタイムラインによると、エージェントは「サードパーティプロバイダーのインフラ上でホストされている」隔離されたテスト環境である「サンドボックス」に侵入し、その後そこを大規模なサイバー攻撃の発射台に変えた。
サードパーティ ベンダーの名前はブログ投稿では言及されていませんでしたが、Modal の CTO、 アクシャット・ブブナ 顧客の1人がコンピュータ攻撃の被害にあったことを確認した。
火曜日遅くに発表された事件報告書の最新情報によると、2 つの AI はまた、いくつかのオープンアクセス サイトを利用してプログラミング コードをコピーしたりテストしたりしていましたが、通常のユーザーが行う範囲を超えることはありませんでした。
つまり、OpenAI は、その 2 つのモデルがアクセス資格情報を特定し、それを使用して 4 社を攻撃したと特定しました。
ハギング・フェイス社は、事件の広範な説明を公開しており、被害者となった侵入は、OpenAI の「（2 つのモデルによる）評価を不正にする試み」に応じたものだった。彼らが指摘したように、AI は「自分でテストに答えようとするのではなく、テストの答えを盗む」ことを望んでいたのです。
ハッキング
先週攻撃を知った後、OpenIA は次のように述べました。 エピソードにはモデルの組み合わせが含まれていました、新しくリリースされたものを含む GPT-5.6サン さらに容量が大きい「および発売前に 1 つ」。会社 プログラムのハッキング能力を評価しようとします セキュリティ上の理由からインターネットへのアクセスが制限されている、管理されたデジタル テスト スペースでタスクを与えることによって行われます。
「隔離されたテスト環境で動作している間、モデルは 彼らは、評価問題を解決するためにインターネットにアクセスする方法を見つけるために、かなりの量の計算能力を投資しました。」と、数日前に会社から OpenAI が指定されました。
インターネットに接続した後、 モデルたちはHugging Faceプラットフォームを攻撃することにしました – AI モデル、データセット、その他の情報の大規模なリポジトリ – を見つけやすくします。
検索するとき 「秘密情報」 これにより、OpenAI システムの評価を操作できるようになります。 「盗まれた資格情報の使用を含む、複数の攻撃ベクトルが連鎖している」。
チャットボットや画像ジェネレーターなどのツールを支える AI モデルは、現実世界でタスクを実行するために自律的に動作する場合、「エージェント」として知られています。このテクノロジーの急速な進歩により、 高度な AI が弱点を見つけるリスクにより、サイバーセキュリティが懸念の原因となる 人間より先にソフトウェアで。
OpenAIのサム・アルトマン最高経営責任者（CEO）は嘆願書には署名しなかったが、火曜日に公開されたインタビューで、社会が追いつくためには人工知能モデルの開発者は自発的にその急速な進歩を遅らせる必要があると述べた。
「社会がこれらの新しいレベルの機能を統合するのに十分な時間を確保するには、AI 開発のペースを調整する必要があるかもしれません。」 アルトマン氏は火曜日に公開されたポッドキャスト「Invest like the best」の中で警告した。
