ゴール 何百万もの人々にダウンロードしてもらいました ミューズ わずか1か月で、新しい 人工知能エージェント は、それが提供するプライバシーについて深刻な疑問を引き起こしています。 Wired の調査により、システムが 影響を受ける人が気づかないうちに、ユーザーの友人、家族、同僚の詳細なプロフィールを作成します。
MuseはMetaが米国で9月8日に発売したAIエージェント。従来のチャットボットとは異なり、質問に答えるだけではなく、 メールの送信、旅行の計画、ショッピング、予定の管理などのタスクを自分で実行できます。。
このサービスは Meta の Muse Spark モデルを使用しており、モバイル アプリ、Web サイト、および ワッツアップ。電子メール アカウント、カレンダー、その他の個人サービスを接続して、日々の活動を自動化することができます。 ユーザーがアプリケーションを閉じても作業を継続できます。現時点ではスペインでは入手できず、入荷予定日も未定。
Wired が発見した問題は、Muse の内部指示に端を発しており、数人の研究者がエージェント自身との会話を通じてその指示を抽出することに成功しました。そのうちの1人は カラン・ジョシ、人工知能のセキュリティを専門とし、調査結果をメディアと共有しました。
これらの指示の中には、 「ユーザーの人生におけるすべての人のためのページ」、実行するように設計された手順 毎時間。文書によれば、これらのプロフィールには、誰かが住んでいる場所、何をしているか、興味、誕生日、共有イベント、ユーザーとの関係などに関する情報が含まれる可能性があることが示されています。
ファイルはいくつかの情報から始まり、 Muse が会話と接続されたサービスについてさらに学ぶにつれて拡張します。専用のセクションも含まれています 人々の間の感情的な親密さ すべてのプロフィールにこの情報が含まれているかどうかは証明されていませんが、人間関係を改善するための提案が含まれています。
「これらすべての指示、システムの機能に関するデータ、およびシステムが Muse に提供している情報から得た印象は、次のとおりです。 彼らはあなたと現実の人々との関係を理解したいと考えていますとジョシは言います。研究者は次のように考えています 「彼らは友達のようにあなたのことを知ろうとしますが、正直かなり不安です」。
メタ氏は Wired に対し、この情報によりアシスタントは有用な詳細を記憶し、 パーソナライズされたエクスペリエンスを提供する、ユーザーのパートナーの好きな花を知るのと同じです。同社は、データが公開情報または人々が共有することを決定したものからのものであり、ユーザーが思い出を削除したりサービスを切断したりできることを保証します。
404メディアが次のことを明らかにしたことで、プライバシーに関する懸念が浮上した。 メタエンジニアは発売直前にいくつかの深刻な脆弱性を検出しました。少なくとも、誰かが Muse を操作して、メタ システムへのアクセスを制限するセキュリティ障壁を回避し、許可なく社内データベースに侵入することを許可する可能性があります。
問題は非常に重要だったので、彼らは注目を集めました マーク・ザッカーバーグ そしていくつかのチームが取り組んだ 「時間との競争」 プレミア上映前にそれらを解決するために。内部情報筋は、保護措置が急いで適用されたと主張し、次のように警告した。 「多くの上級エンジニアは、Muse の結果として大規模なデータ侵害に見舞われるのは避けられないと信じています。」。
Meta は、エージェントのセキュリティを強化し、各ユーザーが情報を保護するための独立した仮想マシンを備えていることを保証します。しかし、Wired の暴露は、技術的な脆弱性を超えた別の問題を引き起こしています。 サービスを利用したことがなくても、AI の記録の一部になる可能性があります。。
