サイバーセキュリティ研究所とホワイトハウスのオフィスの間で奇妙なゲームが行われています。 それは、インターネットを保護すると約束すると同時に、それを破ることがいかに簡単であるかを実証する人工知能のそれです。
このシステムはMythosと呼ばれ、Anthropic（自律的で致死的なシステムを使用するというトランプの政策に公に反対したのと同じ会社）によって開発されたこれまでで最も先進的なモデルである。紙の上では、 その機能は非常に高貴なもので、攻撃者が発見する前にソフトウェアの脆弱性を発見します。実際には、その機能は不快なほど曖昧であることが判明しています。
最初のテスト中に、Mythos は、オペレーティング システム、ブラウザ、重要なインフラストラクチャなど、事実上すべての関連システムのセキュリティ上の欠陥を検出し、場合によっては悪用することができました。これらの失敗の中には、何十年も隠されていたものもあります。 それが転換点です。 これは、他のツールですでに行われているように、AI がエラーを見つけるだけではなく、パス全体を実行できるということです。: 亀裂を検出し、それを理解し、機能的な玄関ドアに変えます。そこから物語が分岐していきます。
一方で、約束もあります。テクノロジー企業と選ばれた組織は、明確なアイデアを持つクローズド プログラム (Project Glasswing) 内で Mythos を使用し始めています。 AI が攻撃者より先にシステムをスキャンし、大規模な脆弱性を発見して修正できるようにします。 このシナリオでは、Mythos は一種の執拗な監査役として機能し、人間のチームでは数年かかる作業を数週間でレビューできます。
しかし同時に、厄介な鏡も現れます。バグを見つけることができるツールは、バグを悪用することもできるということです。しかも、それを人間では不可能なスピードで行います。一部の専門家は、この種のモデルは新しい形式の攻撃を生み出すものではないが、既存の攻撃を臨界点まで加速させるとすでに警告しています。そしてそれが、最先端の AI が直面する利点/問題の 1 つです。 彼らは、干し草の山から針を見つけるまで、何百万ものデータをナビゲートすることができます。…そしてそれをすぐに実行してください。私たちの命を奪うものでも、彼らにとっては数秒で済むのです。 瞬間人間性、一瞬で秩序を乱す。
安全保障に関連する一部の機関は難色を示しているが、ホワイトハウスは別のアプローチを選択した。 制限付きでミトスを連邦エコシステムに組み込む。 このロジックはほとんど現実的です。このテクノロジーが存在するのであれば、外部から立ち向かうよりも内部から理解する方がよいのです。
ホワイトハウス管理予算局（OMB）の連邦最高情報責任者（CIO）であるグレゴリー・バルバッシア氏は昨日、内閣府関係者に電子メールでOMBが次のように伝えた。 は、自国の政府機関が Mythos AI ツールの使用を開始できるようにする保護措置を導入しています。、その使用は極秘に保管されます。
この電子メールは、さまざまな機関が Mythos にアクセスできることを確認するものではなく、その利用可能性やその使用方法のタイムラインも提供しません。 主要なテクノロジーおよびサイバーセキュリティの管理者に対し、「今後数週間以内に」さらなる情報を受け取る予定であることを示唆。 その結果、逆説的なシナリオが生まれます。一方で、政府や企業はセキュリティを強化するために Mythos を使用することを競っています。一方で、この同じ展開は、現在のセキュリティがいかに脆弱であるかを明らかにしています。発見されたそれぞれの脆弱性は、問題が解決されただけでなく、見過ごされていた可能性があることを示すものでもあります。
結局のところ、Mythos が提起する問題は技術的なものではなく、戦略的なものです。 ディフェンスとオフェンスがまったく同じツールを使用すると何が起こるでしょうか?そして、それらのツールが規制する能力を上回る速さで進化したらどうなるでしょうか?
