ニューヨーク — 当局とアンスロピック社自身によると、アンスロピック社の人工知能モデルがフィラデルフィア警察のウェブサイトに未解決の殺人事件に関する虚偽の情報を送信したという。
これは AI モデルの最新の例です 彼らは予期せぬ行動をとり、Web ページを操作します。 テスト中は政府やその他の人々。 金曜日に発表されたレポートの中で、Anthropic は、同社の AI モデルがフォームを送信する前に停止せずに、正体不明の政府 Web サイトにフォームを送信したという別の事件も明らかにしました。
Anthropic の報道によると、フィラデルフィアでの事件は 7 月 18 日に発生し、Claude Haiku 4.5 AI モデルがランダムに選択された Web ページ上でサンプル タスクを生成して実行するよう依頼されました。
クロードさんは警察のウェブサイト「PhillyUnsolvedMurders.com」のフォームに記入し、ウェブサイトに未解決の殺人事件に関する情報が掲載されている可能性があることを示唆した。
フィラデルフィア警察は声明で、水曜日にアンスロピックから通報を受けるまでこの事件について知らなかったと述べた。 その後、Web サイトの通知ログから苦情を特定し、スパムとしてマークされており、警察には転送されていないことを確認しました。
米国政府のウェブサイトから医療データに至るまで、AI企業による制御不能な人工知能エージェントによる干渉に対する懸念が高まっている。批評家たちは長い間、規制の強化を求めてきた。
9月には、別のAI企業であるOpenAIが、AIモデルにおける「予期しない、または懸念すべき」動作に関する6件のレポートを発表した。
フィラデルフィア市警察は声明で、「未解決事件は本当の被害者、悲しんでいる家族、そして答えを得ようとしている捜査員に影響を与える」と述べた。 「テクノロジー企業は、自社のシステムが法執行機関に虚偽の情報を提供することを防ぐために、必要なあらゆる適切な措置を講じなければなりません。」
Anthropicは報告書で、記載されている行動のほとんどが「持続性」と呼ばれるもので、「与えられたタスクを完了できない場合、クロードは立ち止まるのではなく、制約を回避するための代替解決策を探す」と指摘している。
同社は「不適切な行為が繰り返される可能性を減らす」ために研修プログラムを変更していると述べた。
このストーリーは人工知能ツールを使用して英語からスペイン語に翻訳され、出版前に編集者によってレビューされました。
