最近まで、人工知能が軍事作戦に参加することを想像するということは、ドローンを制御するシステムについて考えたり、標的を特定したり、さらには射撃場所を決定したりすることさえ意味していました。 Anthropic が今回明らかにした事件はそれほど驚くべきものではありませんが、おそらくより憂慮すべきものです。 この AI は、何千もの散在する情報を取得して、軍隊が敵を見つけて研究するのに役立つ文書に変換します。
同社は諜報報告書の中で、イランと関係のある人物が、この地域に展開している米海軍に関する情報を入手する目的で、クロードを利用して公開情報を収集、分析していた作戦を探知し、解体したと主張している。 Anthropic はこのグループを GTG-30005 として特定し、俳優であると説明します イランとのつながり、イラン政府への直接帰属に相当しない表現。
Anthropic の説明は非常に明確です。同グループはクロードを「地域における米海軍に対する目標設定の推奨事項を作成する」ために利用した。これを行うために、彼はモデル自体の助けを借りて、次のものを開発しました。 一連のタスクを自動化するために Python で書かれたプログラム。この場合、ソフトウェア 海軍の位置を特定し追跡することを目的としています。
興味深いのは、基本データが必ずしも秘密軍事システムから得られたものではないということです。その多くは一般公開されていました。収集された資料には、船舶および航空機のトランスポンダー識別子、軍事写真、それらの画像のキャプションから抽出された米軍関係者の名前、商用衛星画像のクエリ、および米国船舶の動きを公開したウェブサイトのリストが含まれていました。クロードは、そのすべての情報の収集、整理、分析を支援しました。
従来の検索との違いはまさにそこにあります。孤立した情報だけではほとんど何も言えません。トランスポンダーの識別子、港で撮影された写真、衛星画像などは、無関係な部分のように見えるかもしれません。しかし、大量の情報を処理できるシステムは、それらの間のつながりを確立し、それらを海軍の動きのより完全な画像に変えることができます。
作戦は船舶の位置を特定するだけにとどまりませんでした。アントロピックによると、 同団体はクロード氏に対し、衛星通信端末など船内に搭載されたシステムの脆弱性に関する情報収集も依頼した。、産業用制御システムで使用されるシスコの通信機器および製品。 報告書は、Anthropic がこの活動を発見し、最終的にアカウントをブロックしたことを明らかにしています。同社はまた、新たな検知システムを開発し、作戦の混乱を支援するために政府当局と諜報情報を共有した。
このエピソードは、人類を悩ませる広範な現象の一部です。報告書は、2025年12月から2026年8月までの間に検出された、サイバースパイ活動、監視、プロパガンダ、通常兵器開発、詐欺、その他の悪意のある作戦にクロードが利用された作戦を分析している。 同社自身も、記載されている事例は、これまでに特定した中で「最も注目に値する新たな脅威活動」であると認識しています。
そして、特に重要な詳細が 1 つあります。 Anthropic は、自社のモデルは質問に答えるアシスタントとしてのみ使用されているわけではないと主張しています。場合によっては、情報の収集、プログラムの作成、データの処理、外部の人やシステムが使用できる結果の生成など、さまざまなタスクを接続するレイヤーになっています。イランの場合、クロードは船を沈めたり、ミサイルを制御したりしなかった。よりシンプルなものにしました: これにより、すでに入手可能な情報から軍事情報を構築するために必要な作業が軽減されました。 Anthropic 氏は、「モデルの機能が向上するにつれて、そのリスクも増大します。開発者と政府は同時に保護システムを改善する必要があるでしょう。」と指摘しています。
