OpenAI チャットボットユーザーの安全性に関する調査の一環として、複数の州から召喚状を受け取りました、初めて株式を一般公開する準備を進めている。
人気のチャットボットを開発した会社 チャットGPT 同氏は捜査に「建設的に」対応するつもりであり、顧客を保護するための措置をすでに講じていると述べた。
「AIは強力な新技術であり、私たちはその恩恵を安全かつ責任を持って人々にもたらすために日々取り組んでいます」と広報担当者は電子メールでの声明で述べた。 「州司法長官が提起した懸念を真摯に受け止める。」
OpenAIは、ChatGPTが自殺や犯罪行為を考えているユーザーに励ましの言葉を与えたとされ、批判を受けている。 顧客の健康データやその他の個人情報の使用方法についても厳しい目が向けられている。
同社は木曜日、娘が首吊り自殺を図ったのはチャットボットのせいだとするカナダ人女性から訴訟を起こされた。 6月初旬、フロリダ州司法長官は、襲撃犯が犯罪計画中にChatGPTに質問をしたと報告された2件の別々の銃撃事件を受けて同社を告訴した。
OpenAIは声明の中で、そのモデルがメンタルヘルス専門家を含む現実世界での支援を求めるよう人々に繰り返し奨励していると指摘した。 同社はまた、両方の銃撃事件で法執行機関に協力したとも述べた。
この新たな調査は、同社が待望の新規株式公開に向けて米国の証券規制当局に書類を提出してからわずか数日後に行われた。 人工知能のライバル スペースX 金曜日に独自の新規株式公開を実施した。によって設立されたロケットメーカー イーロン・マスク 同社はまた、Grok と呼ばれるライバルのチャットボットを担当する AI ビジネスも運営しています。
AI の潜在的な利点と潜在的な危険に政府がどのように対応すべきかは、大きな政治問題になりつつあります。
欧州の規制当局は、マスク氏のグロクに対する反ユダヤ主義コンテンツやディープフェイクヌードを含む性的コンテンツの捜査を開始した。 また、新規株式公開を準備している別のチャットボット企業アンスロピックは金曜日、国家安全保障上の理由から同社のオンラインモデル2つを海外ユーザーに提供しないようにトランプ政権から指示を受けた。
OpenAIの召喚状については、ウォール・ストリート・ジャーナルが以前に報じた。
土曜日、 AP通信 同氏は十数人の州司法長官に電子メールを送り、捜査の詳細を尋ねたが、返答は得られていない。
OpenAIは声明の中で、チャットボットを使用する子どもの安全を守るために講じた措置を強調した。
「現在の ChatGPT には、未成年者や困難な状況にある人々をより保護するエクスペリエンスが含まれており、現実世界のリソースや信頼できる人間の連絡先に誘導する安全策が備えられています。声明文の一部には「子どもは子どもとして扱われるべきだと考えている。そのため、年齢予測を取り入れ、子どものAI利用を指導する親向けツールを立ち上げ、未成年者を対象とした広告を禁止している」と述べた。
