テネシー州ナッシュビル – ティーンエイジャー3人 テネシー州 彼らは今週訴訟を起こした xAI by イーロン・マスク、 の画像ツールであると主張しています。 同社は、彼らの実際の写真を明らかに性的な画像に変換するために使用されました。
仮名で訴訟を起こすことを希望する高校生らは、マスク氏の人工知能会社であるxAIが本拠を置くカリフォルニア州で訴訟を起こした。 彼らは、訴訟が主張する、未成年であるか、露骨な性的画像が作成された当時未成年だった何千人もの被害者を代表する集団訴訟の地位を求めている。
訴状によると、ジェーン・ドゥ1号さんは12月、何者かがソーシャルメディアウェブサイト上で彼女の露骨な性的画像を配布していると匿名で通報を受けた。
「これらのファイルのうち少なくとも 5 つ(1 つのビデオと 4 つの画像)は、見慣れた環境で彼の実際の顔と体を描写していましたが、性的に露骨なポーズに変換されていました」と訴状には記載されています。 画像を配布した人物はドウさんと知り合いで、xAIの画像ツールを使って彼女の本物の写真を性的虐待の写真に変換したと主張している。画像の 1 つは、家に帰った写真から撮影したものです。もう一つは高校の卒業アルバムから抜粋したものです。
画像を配布した人物は、少なくとも18人の他の少女の露骨な画像も作成しており、そのうち2人は訴訟の共同原告となっている。 12月末、地元警察は犯人を逮捕し、携帯電話を押収した。彼らは、彼が画像をいくつかのプラットフォームにアップロードし、そこで他の未成年者の露骨な性的画像と交換したことを発見しました。
他の AI 企業は、自社の画像ジェネレーターが、成人向けのコンテンツであっても、性的に露骨なコンテンツを作成することを禁止しています。訴状によると、マスク氏はこれにビジネスチャンスを見出し、xAIのGrokチャットボットが「スパイシーな」コンテンツを作成できる能力を宣伝したという。しかし、現時点では、子供の画像の生成を完全に阻止しながら、大人の露骨な画像の生成を防ぐ方法はないと訴状は述べている。また、xAIはGrokが児童の露骨な性的画像を作成できることを知っていたにもかかわらず、それを公開したとも主張している。
訴状では、原告の画像を配布した人物が、xAIテクノロジーのライセンスを取得したアプリを使用したか、「別の方法でGrokへのアクセスを購入し、切り抜きや仲介者として利用された」と主張している。
XAIはAP通信からのコメントを求める電子メールに応じなかった。しかし1月14日、この論争に関する投稿がソーシャルメディアプラットフォームに公開された。
「私たちは、児童性的虐待素材(CSAM)や同意のないヌードなど、優先度の高い違反コンテンツを削除する措置を講じ、X 基準に違反するアカウントに対して適切な措置を講じています。また、必要に応じて、児童の性的搾取素材を求めているアカウントを法執行機関に報告します。」
一方、学生被告らは、自分たちが作成した画像がインターネット上に永久に残るのではないかと心配していると述べている。彼らは、ファイルに自分の名前や学校名が記載されているため、嫌がらせを受けることを恐れています。彼らは、本物に見える写真やビデオを友達やクラスメートが見てしまったのではないかと心配し、将来誰がそれらを見ることになるのかを心配しています。