ワシントン – 国防長官、 ピート・ヘグセス、AnthropicのCEOに対し、金曜日に技術を公開するという期限を与えた。 人工知能 火曜日の会議に詳しい関係者によると、無制限の軍事利用のために会社を停止しなければ、政府との契約を失う危険があるという。
Anthropic は Claude チャットボットを開発しており、競合他社の中で最も新しい企業として、その技術を米国内の新たな軍事ネットワークに提供していません。 同社のダリオ・アモデイ最高経営責任者(CEO)は、完全自律型武装ドローンや反対派を追跡する可能性のあるAI支援による大量監視の危険性など、政府によるAIの無秩序な使用について倫理的懸念を繰り返し提起してきた。
会談に詳しい関係者や国防総省高官によると、国防当局者らは、アンスロピック社をサプライチェーンリスクに指定したり、国防生産法を利用して軍がその製品の使用方法を承認しない場合でも本質的により多くの権限を与える可能性があると警告した(公の場でコメントする権限はなく、匿名を条件に語った)。
アクシオスが以前報じたこのニュースは、国家安全保障におけるAIの役割を巡る議論と、致死的な武力の使用、機密情報、政府による監視などの高リスク状況でAIがどのように利用されるかについての懸念を浮き彫りにしている。これはまた、ヘグセスが軍内で彼が「目覚めた文化」と呼ぶものを根絶することを誓ったことと重なった。
アモデイ氏は先月のエッセイで、「何百万人もの人々の何十億もの会話を分析する強力な人工知能があれば、国民の感情を測り、不誠実な行為が進行中であることを発見し、それが拡大する前に阻止できる可能性がある」と述べた。
この人物によると、会談の調子は友好的だったが、アモデイは、完全に自律的な軍事作戦とアメリカ国民の国内監視という、アンスロープが越えられない一線として確立した2つの問題については譲らなかった。
国防総省高官は、軍事作戦には制限が組み込まれていないツールが必要なため、国防総省はアンスロピックの倫理制限に反対していると述べた。同当局者は、国防総省は法的命令を出しただけだと主張し、人類のツールの合法的使用は軍の責任であると強調した。
1/25 | 国防総省からの写真は、プエルトリコにおける軍事展開の規模を明らかにしている。 1か月以上後、国防総省はプエルトリコとカリブ海での軍事演習の規模を示す画像を公開した。この画像では、AV-8B ハリアー II が戦艦硫黄島から離陸後に爆発を行っています。 -DVD
認定された唯一の AI 企業ではなくなる
国防総省は昨年夏、アンスロピック、グーグル、オープンAI、イーロン・マスク氏のxAIのAI企業4社と防衛契約を結ぶと発表した。各契約の総額は2億ドルです。
Anthropic は、機密軍事ネットワークの承認を取得した最初の AI 企業であり、Palantir などのパートナーと連携しています。国防総省高官によると、Grokチャットボットを運営するマスク氏のxAI会社は、Grokは機密環境でも使用できると主張している。
同関係者は、他のAI企業もそのマイルストーンに「近づいている」と指摘した。最近xAIと合併したマスク氏の宇宙飛行会社スペースXは、火曜日のコメント要請にすぐには返答しなかった。
ヘグセス氏はテキサス州南部のスペースXでの1月の講演で、「戦争をさせない」あらゆるAIモデルを無視したと述べた。
ヘグセス氏は、軍事AIシステムに対する自身のビジョンには、「合法的な軍事利用を制限するイデオロギー的制約なし」でシステムを運用することが含まれていると述べた後、「国防総省のAIは目覚めることはない」と付け加えた。
国防長官は、GrokがGenAI.milと呼ばれる国防総省の人工知能ネットワークに参加すると発表した。この発表は、マスク氏が所有するソーシャルネットワークXに統合されているGrokが、同意なしに人々の高度に性的なディープフェイク画像を生成したとして世界的な監視の対象となった数日後に行われた。
OpenAIは2月初旬、GenAI.milにも参加し、サービスのメンバーが未分類のタスクにカスタマイズされたバージョンのChatGPTを使用できるようにすると発表した。
セキュリティが心配
Anthropicは火曜日の会合後の声明で、「当社のモデルが確実かつ責任を持って実行できることに沿って、Anthropicが引き続き政府の国家安全保障の使命を支援できるよう、当社の利用方針について誠意を持って協議を続けてきた」と述べた。
創設者たちが OpenAI を離れて 2021 年にこの会社を設立して以来、Anthropic は大手 AI 企業の中で最も責任感があり、セキュリティ意識が高い企業であると自らを称してきました。
ジョージタウン大学安全保障・新興技術センターの分析副ディレクターでフェローのオーウェン・ダニエルズ氏によると、国防総省との不確実性はこうした意図を試しているという。
「Meta、Google、xAI などの Anthropic の同業他社は、すべての法的申請にモデルを使用するという同省のポリシーに喜んで準拠しています」とダニエルズ氏は述べています。 「したがって、ここでの会社の交渉力は限られており、同部門によるAI導入推進において影響力を失うリスクがある。」
ChatGPT の立ち上げに続く AI ブームの中で、Anthropic は、国家安全保障上のリスクから自社を守るために自社の AI システムを第三者の監視に自ら進んで委ねることで、ジョー バイデン大統領の民主党政権と緊密に連携しました。
CEOのアモデイ氏は、AIの「運命の人」というレッテルを拒否しながらも、AIの潜在的な壊滅的な危険性について警告している。同氏は1月のエッセイで、「2026年には2023年よりも現実の危機にかなり近づいている」としつつも、こうしたリスクは「現実的かつ現実的な方法」で管理する必要があると主張した。
アントロピックはトランプと不仲になった
アンスロピックがAIに対する安全策の強化を提唱し、ドナルド・トランプ大統領の政権に対抗するのはこれが初めてではない。アンスロピックはチップメーカーのエヌビディアを公に批判し、一部のAIコンピューターチップを中国で販売できるよう輸出規制を緩和するというトランプ大統領の提案を批判した。しかし、AI 企業は依然として Nvidia と緊密な協力関係にあります。
共和党のトランプ政権とアンスロピックも、米国の各州でAIを規制するロビー活動では反対側の立場にある。
トランプ大統領のAI最高顧問デイビッド・サックス氏は10月、アンスロピック社が「恐怖心を煽ることに基づいた洗練された規制獲得戦略を実行している」と非難した。
サックスは次のように応答していた
アンスロピックはトランプ氏のホワイトハウス復帰直後にバイデン元幹部数名を雇用したが、超党派のアプローチを示唆しようとも努めた。同社は最近、トランプ政権一期目に元ホワイトハウス職員だったクリス・リデル氏を取締役会に加えた。
ニューヨーク大学ブレナンセンター国家安全保障・自由プログラムの上級顧問エイモス・トー氏は、国防総省によるAIの「目もくらむような」導入は、特にアメリカ国民の監視にAIが使用される場合、議会によるAIの監視や規制を強化する必要があることを示していると述べた。
「テクノロジーの進化の速さに法律が追いついていない」とトー氏はブルースカイへの投稿で書いた。 「しかし、それは国防総省が白紙の小切手を持っているという意味ではありません。」