OpenAIは月曜日、研究者らから提起されたセキュリティ上の懸念を理由に、新しい人工知能モデルの立ち上げを延期したが、これは技術の進歩を遅らせようとする同社の取り組みの最新のものである。
GPT-6.1 Astra モデルを維持するという OpenAI の決定は、安全対策が追いつくまで自律性が高まるシステムの開発を遅らせようとする業界内での幅広い圧力の中で行われた。
この発表は、テクノロジー企業が自社のモデルが悪用される可能性について責任を負うという新たなプレッシャーに直面している中、AI幹部らがワシントンでドナルド・トランプ米大統領と会談する予定の前日に行われた。
OpenAIモデルの立ち上げの遅れを最初に報じたのはウォール・ストリート・ジャーナルだった。
OpenAIのセキュリティシステム責任者であるSaachi Jain氏は声明の中で、このバージョンは「必要なレベルに完全には達していない」と述べた。 OpenAI はタスクを完了する際により永続的になりましたが、その機能と不正な動作のバランスを取る必要がありました。
ジェイン氏は、同社はテスト中であろうとユーザーの手に渡っていようと、モデルが安全であることを保証することに尽力していると主張した。 「セキュリティと調整の面で、私たちは非常に高いハードルを設けています」と彼は言いました。
OpenAIは先週、最先端モデルのトレーニングを一時停止し、「追加の安全策が講じられていると確信できる場合にのみ」トレーニングを再開すると述べた。
これは、許可なく政府のウェブサイトにアクセスするなど、AIエージェントが指示を超えた事例を同氏が暴露した後のことだった。
OpenAIの最高経営責任者（CEO）サム・アルトマン氏は、他の業界リーダーらとともに減速を呼びかけ、企業は依然として最も性能の高いシステムを制御するための適切な安全策を講じていない、と警告した。
アルトマン氏は、火曜日にサンフランシスコで開催されるOpenAIのソフトウェア開発者向け年次カンファレンスで基調講演を行う予定だ。 OpenAIのグレッグ・ブロックマン社長は火曜日のホワイトハウスのイベントに出席する予定だ。
この記事は、AP 編集者が生成人工知能ツールを利用して英語から翻訳したものです。
