Metaは、AI for Macのバグを修正し、AIがアシスタントを制御し、WhatsAppの会話にアクセスできるようにした

メタがバグを修正した Mac用ミューズ緊急パッチThe Vergeによると、今朝明らかになったArs Technicaからの情報の数時間後に公開されました。人工知能アシスタント ミューズゴール ユーザー自身から情報を盗むツールになる可能性があります。セキュリティの専門家 macOS パトリック・ウォードル は、自分のアカウントを制御し、コンピュータ上のプログラムに付与されたアクセス許可を利用できるバグを発見しました。 りんご。それは ゼロデイ脆弱性、公開されたときに修正がありませんでした。

ミューズは数週間前に、次のようなことができるアシスタントとして紹介されました。 WhatsApp または電子メールで購入、予約、タスクの管理を行う。これを行うには、ユーザーのアカウントにアクセスする必要があります。あなたのアプリは、 マック も必要です カメラ、マイク、ファイルなどのコンピューターリソースを使用するためのアクセス許可

問題はそれです ローカル アプリケーションまたは端末コマンドは内部 Muse 設定を変更する可能性があります たとえアシスタントの許可がなかったとしても。 そのうちの 1 つは、音声を書き起こすサーバーのアドレスでした。。それが攻撃者のものに置き換えられた場合、Muse はユーザーがコマンドを指示したときに認証トークンをそこに送信します。

このトークンは、各操作でパスワードを要求することなく、サービスに対してユーザーを識別するデジタル資格情報です。 それを盗むと、あなたに代わって行動できるようになります。攻撃者のサーバーは、アクセス権のある WhatsApp メッセージを含むファイルを Muse に送信するよう指示を入力することもできます。

「私たちはエージェントを操作し、その特権を利用してやりたいことを何でも行うことができます。それで、 Mac 上の情報を盗むために非常に完全な悪意のあるプログラムを作成する代わりに、AI アシスタント自体を使用できます。ウォードル氏はメディアに説明した。

ワードル氏は、macOS ではデバイス内でのディクテーションが許可されているのに、クラウドでディクテーションが処理されると批判した。研究者によると、この代替案があれば攻撃は防げたであろうという。同氏はまた、アプリケーションがそのような機密性の高い設定を変更できるかどうかについても疑問を呈した。彼らのテストで許可されたのは、 多くの場合、ユーザーが気付かないうちに悪意のあるファイルを書き込んだり写真を撮ったりする

「私にとって、これらのアプリケーションのセキュリティ要件のレベルは限りなく高いです。完璧である必要はありませんが、 私の意見では、Muse を見ると、彼らはセキュリティについて考えていないようで、それは本当に心配です。少なくとも、最初からそれを考慮に入れる必要があります。 彼らはやっていないとウォードルは言った。

失敗を活かすために必要だったのは Macでコードを実行する、という欺瞞によって達成できる何か。 「修正」をクリックしてください。 Web サイトはエラーまたは検証をシミュレートし、ユーザーにターミナルでコマンドをコピーして実行するよう求めます。これは、攻撃を開始する想定されたソリューションです。ワードルは、この欺瞞の変種によってミューズを制御できることに気づきました。

デビッド・シングルトン、 の メタスーパーインテリジェンス研究所、と擁護しました。 攻撃にはコンピュータ上で以前に実行されていた悪意のあるコードが必要だったため、リスクは低かった。このバグにより、Muse 権限を利用してそのコードへのアクセスが拡張されるようになりました。ザッカーバーグはアシスタントを次のように昇進させた 「プライバシーとセキュリティを保護するためにゼロから設計」

昨日ワードルが判決を発表する約12時間前に、 アマゾン ミューズ経由での購入をブロックし始めました。 Amazon は、Muse が利用規約に違反していると考えており、 メタに対し、アシスタントによるプラットフォーム上での購入の許可をやめるよう要請した。同社は、これらのアプリケーションはプラットフォーム上での動作を許可するかどうかについて販売者の決定を尊重する必要があると主張している。