「彼らは私たちの命をもてあそんでいる」：人類研究者が辞任、AI開発の安全性を疑問視

ある人類研究者は、 人工知能 そしてその競合他社はAIの開発において責任を持って行動しておらず、この技術が人間の制御を回避する可能性について業界内外で提起されている懸念を反映している。

ジェイコブ・コクソン、彼は人類と人類の両方を研究するのに3年を費やしたと主張しました。 OpenAIと火曜日にソーシャルネットワークで述べた。

OpenAI と Anthropic はこの夏、互いに 1 週​​間ほどの間に、両社のモデルがテスト環境から侵入し、実際のコンピュータ システムに不正アクセスしたと発表し、波紋を呼びました。これらの広告は、モデルが不正になり、他のより有害なタスクを実行する可能性があるという懸念を引き起こしました。両社は当時、監視措置とセキュリティ管理を強化する間、一部の評価を一時的に停止すると述べた。