ある企業の研究者チームが、最初に報告された使用法であるとされるものを発見した。 人工知能 (AI) ほぼ自動化された方法でハッキング キャンペーンを指揮します。
人工知能企業アンスロピックは今週、同社の研究者らが中国政府と関係があるとするサイバー作戦を妨害したと報告した。 この作戦には、ハッキングキャンペーンを指揮するためのAIシステムの使用が含まれており、研究者らはこれを、AIを搭載したハッカーの攻撃範囲を大幅に拡大する可能性のある不穏な展開だと呼んでいる。
サイバー作戦を強化するためにAIを使用することに関する懸念は新しいものではないが、新たな作戦に関して懸念されるのは、AIが一部の作業をどの程度自動化できたかである、と研究者らは述べた。
「私たちはこれらの機能が進化し続けるだろうと予測していましたが、私たちが驚いたのは、大規模な進化がどれほど早く行われたかということです」と彼らは報告書に書いています。
この作戦はテクノロジー企業、金融機関、化学会社、政府機関を標的にしていました。 研究者らは、ハッカーらが「約30の世界規模の標的を攻撃し、少数のケースでは成功した」と書いている。 Anthropic は 9 月にこの作戦を発見し、それを停止し、影響を受けた関係者に通知する措置を講じました。
アンスロピック氏は、AI システムはさまざまな仕事や余暇の環境で使用されることが増えているが、外国の敵のために活動するハッキング グループによって武器化される可能性もあると指摘しました。アントロピック、クリエイター チャットボット Generative AI Claude は、チャットボットの能力を超えてコンピューティング ツールにアクセスし、人に代わってアクションを実行する AI「エージェント」を推進している多くのテクノロジー企業の 1 つです。
研究者らは「エージェントは日常業務や生産性にとっては価値があるが、悪者の手に渡れば大規模なサイバー攻撃の実行可能性を大幅に高める可能性がある」と結論付けた。 「これらの攻撃は、効果がさらに高まる可能性があります。」
ワシントンの中国大使館の報道官はこの報道についてコメントしなかった。
マイクロソフトは今年初め、海外の敵対者がサイバー攻撃をより効率的にし、労働集約度を下げるためにAIを導入するケースが増えていると警告した。セキュリティパネルの責任者 OpenAIの作成者からAI開発を阻止する権限を持っています。 チャットGPT氏は最近、悪意のあるハッカーに「はるかに高い能力」を与える新しいAIシステムに注目しているとAP通信に語った。
米国の敵対者は、犯罪組織やハッキング企業と同様に、AI の可能性を活用し、サイバー攻撃の自動化と強化、扇動的な偽情報の拡散、機密システムへの侵入に利用してきました。 AI は、たとえば、言葉遣いの悪いフィッシングメールを流暢な英語に翻訳したり、政府高官のデジタルクローンを生成したりすることができます。
アンスロピック氏は、ハッカーらはAIシステムを騙して有害な行為に対する障壁を回避させる「脱獄」技術を使い、今回の場合は正規のサイバーセキュリティ会社の従業員であると主張し、クロードを操作することができたと述べた。
「これは、AI モデルの大きな課題を示しています。これはクロードに限ったことではありません。モデルは、状況の倫理で実際に何が起こっているのか、ハッカーなどがでっち上げようとしているロールプレイング シナリオの種類を区別できる必要があるのです」と、シチズン ラボの上級研究員ジョン スコット レイルトン氏は述べています。
AIを使用してサイバー攻撃を自動化または指示することは、AIを使用してクライアントのソフトウェア開発の自動化を支援するテクノロジー企業ハーネスのフィールドテクノロジー責任者であるアダム・アレラーノ氏によると、AIを使用してサイバー攻撃を自動化または指示することは、AIを使用して攻撃の規模を拡大する可能性のある小規模なハッカーグループや単独のハッカーも引き寄せる可能性があると述べています。
「AI によって提供されるスピードと自動化は、少し怖いことです」とアレラーノ氏は言います。 「研ぎ澄まされたスキルを持つ人間が強化されたシステムをハッキングしようとする代わりに、AI がそれらのプロセスを高速化し、より一貫して障害を克服しています。」
1/12 | Microsoft 人工知能 Copilot を使用してイメージを作成する方法。 Microsoft の人工知能 Copilot の機能には、ユーザーの指示やニーズに応じてこのような画像を生成する機能があります。 – 人工知能
人工知能プログラムも、この種の攻撃に対する防御においてますます重要な役割を果たすようになるでしょう。とアレラノ氏は述べ、AIとそれが可能にする自動化が双方にどのような利益をもたらすかを実証した。
同社の報告書に対する反応はまちまちで、Anthropic がサイバーセキュリティ防御に注力していることをマーケティング戦略と見る人もいれば、その警鐘を歓迎する人もいた。
コネチカット州民主党のクリス・マーフィー上院議員はソーシャルメディアで、「明日AI規制を国家的優先課題に据えなければ、私たちが思っているよりも早く、私たちは破滅するだろう」と述べた。
これは、親会社のオープンソースAIシステムの擁護者であるMetaの主任AI科学者ヤン・ルカン氏からの批判につながった。 フェイスブック Anthropic とは異なり、一部の AI セキュリティ擁護者が危険すぎると考える方法で、主要なコンポーネントに公的にアクセスできるようにしています。
ルカン氏はマーフィー氏への返答として、「あなた方は規制を狙う人々に操られている」と書いた。 「彼らは疑わしい研究で皆を怖がらせているので、オープンソースモデルは消滅するまで規制されている」
