人工知能は間違いなく 前世紀の最大の技術進歩の一つ。そのため、何百万もの人々の日常生活、さらには何千もの人々の仕事においても、その使用が自然になっています。
それはあらゆる人間の視点にますます統合されています。。しかし、AI に特化した専門家、作成者、普及者、技術者が日々自問自答する多くの疑問があります。
人工知能を止めることはできるのか？
ソーシャルネットワーク上で放送されたビデオの中で、彼は次のように説明しています。社会にとって最善のことは人工知能を止めることだろうしかし、相手が停止したことを誰もが知ることができる透明性のシステムを導入しない限り、これを止めることはできません。なぜなら、私が自分より先を行くことを許可できないからです。」
「ポッドキャストでイーロン・マスクが『できることならこれを止めたいが、それは私にできることではない』と発言し、アンスロピックのCEOが『社会のためにこれを止めなければならない』と言い、グーグルのCEOが『おい、これは急いでではなくしっかりとやらなければならない』と言い、そしてその後 誰も何もしない、それは資本主義の競争だ」。
これに彼は別の発言を付け加えています。」それを阻止するための遠隔機能が我々にあるのかどうか、私は多くの疑問を抱いています。「たとえ私たちが望んでいたとしても、いつか赤いボタンを押したくなった場合に備えた法的メカニズムが私たちにはないと思います。そして、それを開発することに同意するのには、AIが止められないところまで進歩するよりも長い時間がかかるでしょう。」
AIによる最初の攻撃
スペインのデータ保護庁によると、攻撃エージェントは 汎用ファイルの脆弱性の検索を開始し、正しくログインしました。システムにアクセスすると、アプリケーションの脆弱性を自律的に検索し始め、脆弱性を発見すると、個人データを変更したり請求書にアクセスしたりできるようになりました。
いかなる種類の結論に至る前に、 入手可能な情報は、影響を受ける組織によって提出された通知に基づいていることに注意してください。 そして、対応する分析の対象となる必要があります。
このように、特定の AI モデルの使用は、そのプロバイダーのモデルやインフラストラクチャが侵害されたことを意味したり、ツールが悪意のある活動を実行するように設計されたことを意味するものではありません。
さて、データ保護の観点から重要なのは、 第三者は、攻撃のさまざまな段階をうまく連鎖させるための手段として AI エージェントを使用したであろう。
この最初の通知により、統計的傾向を肯定することはできませんが、これは重要なシグナルを構成します。 人工知能によってサポートされる攻撃は、もはや理論上のリスクではなく、個人データの実際の処理に影響を与えるインシデントとして現実化し始めています。。
彼 国立暗号センター (CCN) もこの進化について警告しています。同庁は、攻撃的な AI に対する優れた実践方法に関するガイドの中で、これらの機能がすでに実際のキャンペーンに統合されつつあることを指摘し、脆弱性管理、ID セキュリティ、サプライ チェーンの監視、および人工知能エージェントの使用に対する制御を強化する必要性を提起しています。
