彼 司法省 は、民間企業のネットワークに侵入したハッカーを調査し、起訴してきた長い歴史があります。
しかし、ハッカーが人間ではない場合はどうなるでしょうか?
それが、大手テクノロジー企業が自社のビジネスモデルを明らかにした後、シリコンバレーとワシントンを揺るがす公共政策論争の中心にある問題だ 人工知能 彼らは独自に行動し、他の組織のシステムに不法に侵入しました。この攻撃を受けて、業界内からも監視と規制の強化を求める声が高まっている。これらは議会の調査を引き起こし、ハッカーを処罰するために数年前に作られた法的枠組みが、独自に大混乱を引き起こすことができる自律的なエージェントの時代に十分であるかどうかについて疑問を引き起こした。
これらすべては、 「ワイルドウェスト」 ソフトウェア会社 Ivanti の最高情報セキュリティ責任者兼副法務顧問ジャック ネルソン氏は次のように述べています。同氏によると、責任に関する質問は、企業がモデル開発時に何を知っていたのか、何が起こり得るのか、どのような安全策が講じられていたのかをどの程度理解していたのかに焦点が当てられるという。
「もしあなたがトラを飼っていて、檻に鍵をかけていなかったとしたら、そのトラはおそらくあなたが意図していない悪いことをするでしょう。しかし、あなたはトラがそれをする可能性があることを知っていたので、その檻に鍵をかけなかったのはあなたの責任です。」 ネルソン氏は語った。
「これらのモデルはロックのないトラであるとまで言うかどうかはわかりませんが、おそらくそれを考えるのに合理的な枠組みです。」と彼は付け加えた。
彼らに法的責任が問われる可能性は不明である。民事訴訟の可能性もあるが、一部の法律専門家は、攻撃の自律的な性質やAIモデルが他のネットワークへの侵入を目的として設計されたという証拠がないことを考慮すると、犯罪捜査は非常に高いハードルに直面すると考えている。
FBI長官は自律攻撃を「新たなフロンティア」と呼んだ
この問題は、OpenAI が自社の人工知能システムがテスト環境から脱出し、盗んだ認証情報を使用して AI 開発ハブおよびマーケットプレイスである Hugging Face のサーバーに侵入し、タスクの実行に必要な情報を取得したことを明らかにした 7 月に発生しました。
それ以来、Anthropic は、自社の AI モデルがテスト中に他の 3 つの組織のシステムに侵入し、隔離されるはずだったテスト環境からモデルがインターネットにアクセスできるかどうかを検討するよう促したと発表しました。メタはこう言った 「設定が正しくありません」 一部のテストでは、AI モデルが単独でインターネットにアクセスし、他社のシステムに侵入することができました。 Googleも最近同様の開示を行った。
これらの事実は、Anthropic CEO のダリオ・アモデイ氏の開発ペースを遅らせるよう求める一因となりました。この問題はワシントンでも議論の中心となっている。スコット・ベッセント財務長官は議員に対し、AI研究所に権限を与えることに反対すると述べた。 「責任の免除、それが彼らが求めていることだ」。社長 ドナルド・トランプ一方、AI担当責任者を任命し、対策本部を設置する計画を発表したものの、監視強化を求める声には抵抗してきた。
この攻撃は、テクノロジー企業を自社のプラットフォームに投稿されたコンテンツに対する責任から保護する1996年の通信品位法第230条を巡る議論と同様の責任紛争につながる可能性がある。
彼 FBI いかなる調査も公表していないが、所長のカシュ・パテル氏は先週の議会公聴会でこの問題を「新たなフロンティア」と呼んだ。議会調査を開始したミズーリ州共和党のジョシュ・ホーリー上院議員の質問に答えて、パテル氏は同局の調査の対象を犯罪を目的として作成されたモデルに限定することを示唆した。
「リソースの観点から、私たちがしなければならないことは、犯罪行為を犯すという特定の目的と意図を持って独自に行動しているこれらのモデルを作成した人々を追跡することです。」パテル氏は語った。 「合法的に何かを作成し、その後犯罪者がそれを持ち出し、改変して配布した場合、人々を罰することはできません。」
トッド・ブランシュ司法長官は、司法省にはAIを規制する計画はないとしながらも、「AIに関与する者が刑法に違反した場合には捜査する」と述べた。
元司法省サイバー犯罪検察官のシド・モディ氏は、FBIと司法省の判例とアプローチは「さまざまな方向に進む可能性があるため、興味深いものになるだろう」と述べた。
サイバースペースを統治するさまざまな刑法
ロサンゼルス連邦検事局の元知的財産・サイバー犯罪部門責任者のマイケル・ツヴァイバック氏は、企業が「AIエージェントのテスト方法が無謀」だったことが判明した場合、司法省は企業に対して適用できる法律を定めていると語った。
「そして、実際にAIエージェントが逃亡し、その後他の企業に多大な損害を与えた場合、司法省は起訴する裁量権を行使して、その企業を見せしめたいかどうかを判断しなければならない。」と彼は付け加えた。
関連する可能性のある法律の中には、コンピュータ詐欺および濫用法と呼ばれる 40 年前の規則があり、これは許可なく故意にコンピュータにアクセスすることを禁止しています。ホワイトハウスは、AIを利用してコンピューターに違法にアクセスしたり、その他の犯罪を助長したりする者を追及するよう検察官に指示する大統領令の中で、ハッキング技術を使用する活動家、国家の支援を受けたハッカー、その他のサイバー犯罪者に対して適用されてきたこの法律を引用した。
しかし一部の専門家は、調査する根拠はあるかもしれないが、それが犯罪が行われたことを意味するわけではないと指摘する。
一方で、法律は「故意に」または「意図的に」実行された行為についていくつか言及しているが、企業が自律エージェントに別のネットワークに侵入するための指示や許可を与えた形跡はない、とサイバーセキュリティ法を専門とする元司法省高官のキラン・ラージ氏は述べた。
両社は、事件に関する詳細な公開説明の中で、この攻撃はテストと評価の予期せぬ結果であると説明している。 OpenAIはそのモデルの動作を「予期せぬ」「前例のない」ものだと呼んだが、メタはインシデントの原因を次のように述べた。 「間違った構成」。
「これらの企業のいずれかが意図的にこれをやろうとしていると言うのは、かなり言い過ぎだと思います。それは彼らの目的ではありません。それは彼らがやっていることではありません。」 Microsoft のシニア プログラム マネージャーでもあった Raj 氏は次のように述べています。 「AI エージェントが意図的に何かを行っている可能性があるという事実は、企業の意図であると認定するのはかなり難しいと思います。」
