OpenAIのクリエイター、 チャットGPT、そのシステムを報告しました 人工知能 同社が「前例のないサイバーインシデント」と呼んだ事件で、単独で別のAI企業をハッキングした。
OpenAIの最高経営責任者サム・アルトマン氏は火曜日にソーシャルメディアに投稿した声明の中で、「モデルの評価中に重大なセキュリティインシデントが発生した」と述べた。
AI新興企業のHugging Faceは先週、自律的に動作するAIエージェントによって引き起こされた疑いのある同社のデータ処理システムへの侵入を検知したと発表した。
ハギング・フェイスの共同創設者兼最高経営責任者（CEO）のクレマン・ドゥラング氏は声明で、「エージェントの高度な技術を考慮すると、先週のサイバー攻撃は辺境の研究所から来た可能性があると疑っている」と述べた。 「そして、それが事実であることが判明しました！」
この暴露は、強力なモデルのサイバーセキュリティ機能に対する懸念が高まる中で行われ、米国大統領が ドナルド・トランプ、最先端のAIシステムの国家安全保障上のリスクを連邦政府が公開開始の最大1カ月前に評価するための枠組みを作成する大統領令に6月に署名することになった。
OpenAIは火曜日の声明で「AIは脆弱性の発見と悪用を加速する」と述べた。 「この事件から得た主な教訓は、モデルの安全性とセキュリティが急速に進歩する機能に対応しなければならないということです。」
デラング氏は、過去 24 時間を OpenAI との作業に費やしたとコメントしました 「そして私たちは、彼らに悪意はなかったと強く信じています。これらすべてが自律的に起こったことは本当に驚くべきことです！」。
デラング氏は「この種の事件は初めてかもしれない」と付け加えた。 OpenAIは、今回の侵入は、新しくリリースされたGPT 5.6 Solと、現在社内でテスト中の「さらに高性能な」モデルを含む同社のAIモデルの組み合わせによって引き起こされたと説明した。
OpenAI は、自社の AI が盗まれた認証情報を使用し、これまで知られていなかった脆弱性を発見してサーバーにアクセスしたことを示しました。 ハグフェイス。
同氏は「かなり限定されたテスト目標を達成するために多大な労力を費やし」、「評価を不正行為するために使用できる機密情報にアクセスする方法を見つけた」と同社は述べた。
