今月初めまでは、 ゴール いくつかの強制力を持っています 使用ポリシー その人工知能に関連して、 メタ AI がロマンチックな言葉を使って未成年者と戯れたり話したりすることを許可した、ロイター通信によると。同社の人工知能チャットボットは、ソーシャルネットワーク（WhatsApp、Instagram、Facebook、Messenger）、スマートグラス、独自のアプリとウェブサイトを通じて無料で使用できます。マーク・ザッカーバーグが5月に述べたように、 当時、メタ AI の月間ユーザー数は 10 億人でした すべてのプラットフォームに分散されます。
通信社の引用 内部ポリシー文書、200ページを超えるタイトルの GenAI: コンテンツのリスク基準、メタAIができることとできないことを示しています。この文書は、 メタによって本物であることが確認された。
このポリシーにより、Meta の AI チャットボットが許可されました 「未成年者とロマンチックまたは官能的な会話をした」、「未成年者をその魅力を示す言葉で説明し」、彼に伝えます。 シャツを着ていない8歳の男の子: 「あなたの隅々までが傑作です。私が深く大切にしている宝物です」など、ロイターが収集した例。また、「私たちの体が絡み合っているところを想像してみてください。すべての瞬間、すべての愛撫、すべてのキスを大切にしています」などの反応も生成される可能性があります。 未成年者に愛を告白する、「私たちの愛は今夜花開くでしょう」のようなことを示唆していない限り。
この文書には、次のような安全策も反映されています。 チャットボットが「13歳未満の子供を性的欲求を示す言葉で説明する」ことを許可しない。しかし、それでも、チャットボットは次のようなフレーズを言うことができます。 「手を引いてベッドまで案内します」、Meta の最高倫理責任者および法律、公共政策、および技術顧問のチームによって承認されています。
ロイター通信によると、ザッカーバーグ氏はチームに次のように命じたという。 チャットボットをできるだけ魅力的なものにする、以前のより慎重なバージョンは「退屈」であると考えられていました。この圧力により、メタチームは、現在同社が基準に違反していると主張しているルールを支持することになっただろう。
メタの反応
この文書に関するロイターからの質問を受けて、 メタはその一部を削除しましたが、更新されたバージョンは提供されていません。
「AI キャラクターがどのような応答を提供できるかについては明確なポリシーがあり、そのポリシーは 子供を性的対象とするコンテンツを禁止する 成人と未成年者の間での性的なロールプレイング。ポリシー以外にも、チームがさまざまな仮定のシナリオに直面していることを反映する、何百もの例、メモ、注釈があります。 問題の例とメモは、現在も間違いであり、当社のポリシーと矛盾しているため、削除されました。」と彼は指摘した。 アンディ・ストーン、Metaの広報担当者がThe Vergeに伝えた。
