アメリカ合衆国 危うく迎撃され、その後の中国船に乗り込むところだった 人工知能はその積荷を核兵器計画向けの部品と誤認するだろう。この誤りは最終的に公式情報報告書に記載され、米軍が重大な問題を引き起こすまでに及んだ。 彼らは作戦の準備を始めるだろう。
この事件は春に発生し、今回、何が起こったのかに詳しい4人の関係者の証言に基づいてCNNによって明らかにされた。のアナリスト 米国特殊作戦軍 中東を通過する中国船の貨物目録に関する情報を調査していたとき、 分析を支援するためにチャットボットに頼ることにしました。
組み合わせたツール 機密信号インテリジェンスを使用してオープンソースから取得した情報 米国政府のシステムに保存されます。このデータから、AIはこの船が核兵器計画に関連する物資を輸送していたと結論付けました。 しかしその結論は誤りでした。
この問題はチャットボットの誤った応答で終わったわけではありません。 その後、アナリストは AI を使用して、調査結果を従来のインテリジェンス レポートに変換し、通常のチャネルを通じて配布しました。。このため、ツールがどのようにしてその結論に達したかについて十分な検証が行われないまま、この情報は公式文書のような外観を取得しました。
米軍の反応を見れば、誤りが発見されるまでにどこまで進んでいたかがわかる。 CNNが調べた情報筋によると、 武装要員が乗船の準備をしており、作戦を支援するために米軍機がすでに飛行していた。。
報告書の作成に使用されたチャットボットが 「船が運んでいた物資を誤って特定した」。情報源の 1 つは、この文書について次のように説明しました。 「完全に誤り」 そしてその事件が起こったことを保証した 「もう少しで戦争が始まるところだった」。
このエピソードからもわかるように、 AI のエラーを回避するには、意思決定プロセスに人間を参加させるだけでは必ずしも十分ではありません。すべての段階で人間の介入があったが、誤った情報はチャットボットから分析者に伝わり、次に公式報告書に伝わり、最後に軍事作戦の準備責任者に渡った。
このタイプの幻覚を検出する際の難しさの 1 つは、 本当の情報を混ぜ合わせる。この場合、実際には船、積荷目録、そしてその軌跡に関する情報データが存在しました。エラーはシステムによる解釈にありました。
この事件は、警察が使用した手続きにもスポットライトを当てています。 軍隊 アメリカ人はAIで生成された情報を検証する。 CNN によると、現在、すべての軍部門に適用できる単一の検証基準は存在しません。 ユニットごとに異なるモデルが使用され、独自の内部ルールに従う場合があります。。
軍は次の方法でこれらのツールにアクセスします。 GenAI.mil、軍人や民間人がビジネスモデルを利用できるようにするために国防総省が2025年12月に立ち上げた安全な生成AIプラットフォームです。それはから始まりました ジェミニ、 の グーグル、8月末からは、 グロク、 の xAI、 そして チャットGPTミル、 の OpenAI、すべてが同省の保護されたインフラストラクチャ内で動作するように適応されています。 GenAI.mil の外では、 クロード、 の 人間的、機密軍および諜報ネットワークでも、諜報分析、作戦計画、シミュレーション、サイバーセキュリティ作戦などのタスクに広く使用されています。
このような問題が発生すると同時に、これらのツールへの依存度も高まっています。米国は取る 人工知能を導入して数年 より多くの情報を処理し、意思決定を迅速化することを目的とした、軍事文書の分析、計画、準備のタスク。
行動する前に結論が検証されていない場合、まさにそのスピードが問題になる可能性があります。 CNN が取材した情報筋の 1 人は、そのリスクを次のような簡単な言葉で要約しました。 「AI のおかげで、悪いアイデアに早くたどり着くことができます」。
