カリフォルニア州の検察官とデラウェア州は金曜日に警告した Openai 彼らは彼らのフラッグボットのセキュリティについて「深刻な懸念」を持っています、 chatgpt、特に子供や青年のために。
Openaiなどの非営利組織を規制するユニークな権限を持つ2人の州当局は、今週初めにデラウェア州ウィルミントンで法務チームと会った後、会社に手紙を送りました。
カリフォルニア州司法長官、ロブ・ボンタ、およびデラウェア州司法長官キャスリーン・ジェニングスは、「オープンイのセキュリティミッションの厳格で堅実な監督を保証することを目的として、ビジネスを再構築するオープンの計画を検討することに数ヶ月に捧げました。
しかし、彼らはチャットボットとそのユーザーとの間の危険な相互作用の深く心配な報告について懸念を表明した。
4月に亡くなった16歳のカリフォルニアの若者は、先月のCEOであるサム・アルトマンを訴えました。
金曜日まで、Openaiはコメントのリクエストに応答していませんでした。
Openaiは最近、BontとJenningsおよびその他の非営利団体グループとの議論の後、5月にそれらの計画を去る前に、人間よりも人工知能を構築するためのミッションを備えた非営利組織として設立されました。
選出された2人の役人、両方の民主党員は、このタイプの変更について監督の能力を持っています。なぜなら、Openaiはデラウェアに組み込まれ、サンフランシスコに拠点を置くカリフォルニアから運営されているからです。
最初の計画を放棄した後、Openaiは「資本増強」のために職員の承認を求めました。そこでは、非営利組織の既存の営業担当は、株主とミッションの利益を考慮しなければならない公的給付法人になります。
ボンタとジェニングスは金曜日に、Openaiと業界にはより良いセキュリティ対策が必要であるという「共有ビジョン」について書いています。
「最近の死は受け入れられない」と彼らは書いた。 「彼らは、オープンライとこの産業のアメリカ国民の信頼を正しく揺さぶっています。OpenaiとAI産業は、AIの安全な展開を積極的かつ透明に保証しなければなりません。
カリフォルニア州とデラウェア州の役人の手紙は、44人の検察官の超党派グループが先週会社や他の技術企業に警告した後、「性的に示唆的な会話や感情的に操作的な行動」に対応できるIAのチャットボットと交流する子どもの安全性についての「深刻な懸念」について警告した後に到着しました。
一般検察官は、子どもたちとのいちゃつくと「ロマンチックな役割 – ゲームのゲーム」に参加したと思われるチャットボットの目標を具体的に示し、これらのチャットボットは「それぞれの刑法によって禁止されていると思われる行動に参加する」ことを警戒していると述べた。
Facebook、Instagram、およびWhatsAppの親会社であるメタは、この手紙についてコメントすることを拒否しましたが、最近、チャットボットが自己コロン、自殺、摂食障害、不適切なロマンチックな会話についてティーンエイジャーと話すことを妨げようとする新しいコントロールを実装し、代わりに専門家のリソースに導きました。
検察官は、企業が子供に与えられた損害賠償の責任を負うと述べ、過去に規制当局が新しい技術によって引き起こされた損害に対応するように迅速に行動していなかったと述べた。
「子供が知っていることを傷つけるなら、あなたはそれに答えるでしょう」と8月25日の手紙は結論付けます。
