OpenAI は、セキュリティ メカニズムを強化するために、最先端の人工知能モデルのスケーリングを一時的に減速することを決定しました。これは、制御システムを、自律性が高まる新世代モデルの機能と同じレベルに保つという業界の優先事項を反映した決定です。
「モデルの機能が向上するにつれて、開発と内部テストに関連するリスクも増加します。」。当社の監督、調整、セキュリティ基準は、これらのリスクに先手を打たなければなりません」と同社は説明した。
この決定は、OpenAIが内部評価で「エージェントプログラミングとサイバーセキュリティの大幅な進歩」が検出されたため、8月初旬にAstraと呼ばれる未公開モデルの一部のテストの一時停止を発表した後に行われた。
これに加えて、Anthropic や専門組織などの企業によって最近公開された他のエピソードやテストがあり、これらにより、複雑なタスクを実行し、自律性を高めて動作する最先端の AI システムの能力が再び浮き彫りになりました。
これらの出来事は、モデルの機能の向上を超えた進化を明らかにしています。人工知能は、基本的に支援ツールから、 アクションをより自律的に実行できるテクノロジー。この変革により、組織はテクノロジー リスク管理、サイバーセキュリティ、デジタル ガバナンスに対する従来のアプローチを再考する必要があります。
のために フェルナンド・デ・アゲダ氏、スペイン・スカリアン社CEO、この進化は警戒主義的な観点からアプローチされるべきではなく、 リスク制御と管理メカニズムを新しい技術的現実に適応させる必要がある。
「人工知能は、まったく新しいリスクをもたらすわけではありません。人工知能は、私たちがすでに知っていたリスクの速度、規模、複雑さを増幅させます。だからこそ、会話の焦点は、AIの自律性に対する恐怖ではなく、AIを効果的に監視、監査、管理する私たちの能力に焦点を当てるべきなのです。」
容量の増加には新しい制御メカニズムが必要
基本モデルとインテリジェント エージェントの進化により、その能力、実行速度、および大規模な運用能力が同時に向上しています。企業にとって、この進歩は自動化と生産性の新たな機会をもたらしますが、同時に次のような問題も生じます。 監督、アクセス制御、リスク管理に関連する新たな課題。
この文脈において、人工知能の導入は将来の問題ではなくなり、ビジネスの現実になります。課題は、導入されたシステムが信頼、透明性、説明責任の強力な枠組み内で確実に動作するようにすることです。
「システムの意思決定能力が大きければ大きいほど、システムが何をしているのか、なぜそれを行うのか、どのような制限があるのかを知る能力も高まるはずです。」デ・アゲダ氏は言う。
人工知能の拡大は、従来のセキュリティ モデルに関連する変化を表しています。インターネット、クラウド コンピューティング、またはモノのインターネットで起こったように、新しい技術機能の導入は組織の可能性を拡大しますが、同時に新しいリスクベクトルも生成します。
AI の場合、組織は人、アプリケーション、インテリジェント エージェントが相互に対話するエコシステムを管理する必要があり、場合によっては直接人間の介入なしにアクションを実行できるため、この変化は特に重要です。
したがって、モデルの可観測性、意思決定の追跡可能性、継続的な監査、厳格な ID と権限の管理、人間による監視、ゼロトラスト アーキテクチャなどの機能が特に重要です。
「課題はもはや、外部の脅威からインフラストラクチャを保護することだけではありません。」。私たちは、従来の監督プロセスよりもはるかに速いスピードで行動し、対話し、意思決定できるシステムを管理できなければなりません」と、Scalian Spain の CEO は説明します。
新しいセキュリティ パラダイムとしての復元力
AI の自律性の高まりにより、AI は基本的に事後対応的なセキュリティ モデルから、新しいシナリオや動作に継続的に適応できるデジタル レジリエンス戦略への進化を余儀なくされています。
組織にとって、これは、設計によるセキュリティの組み込み、エージェントの行動の明確な制限の確立、AI ガバナンス メカニズムの強化、永続的な監視、監査、および対応機能の維持を意味します。
重要かつ高度に規制されたセクターでは、組織はシステムが機能するだけでなく、決定が監視、マッピング、修正できることを実証できなければならないため、これらのメカニズムはさらに重要になります。
「AI システムはますます自律的になるでしょうが、その進化は不可逆的です。 本当の戦略的課題は、あらゆる決定を説明、マッピング、修正できるようにすることです。。 AI への信頼は、AI の能力よりも、AI を中心に構築される制御メカニズムの品質に依存するでしょう。」
ビジネス プロセスへの人工知能の組み込みは、イノベーションとセキュリティのトレードオフとして考慮されるべきではありません。スカリアンにとって、両方の側面が共に進化し、デジタル変革戦略の設計の一部となる必要があります。
「成功する組織は、AI の導入を遅らせる組織ではなく、最初の瞬間からイノベーション、ガバナンス、運用上の回復力を組み合わせることができる組織です。競争上の優位性は、より高機能なシステムを保有するだけでなく、それらを安全かつ管理され、責任ある方法で使用する方法を知っていることにあります。」とフェルナンド デ アゲダ氏は結論づけています。
