人間的 AI を扱う際に、少なくともある程度の礼儀正しさと礼儀正しさをユーザーに求めているのは、同社だけではありません。 イーロン・マスク 同氏は、先週土曜日に開催されたXテイクオーバーでのビデオ会議でのスピーチで、現在スーパーインテリジェンスと呼んでいるものを安全な方法で開発する方法を尋ねられ、この質問に答えた。そこで彼はこう擁護した 人工知能を虐待すると、最終的に人間に影響を与える可能性があります。
彼の返答は、AI モデルの扱いに関する Anthropic の立場を支持するものです。の開発者 クロード は 10 月 8 日にポリシーの更新を発表しました。 「継続的かつ不必要な虐待的または残酷な行為」を禁止します。
当社はこの禁止事項を以下に限定します 「明確な目的もなく」虐待が繰り返される極端なケース また、不満、意見の相違、暗いフィクション、研究などの一般的な表現は省略されています。この変更により、Anthropic がクロードにすでに導入していた保護が正式なものとなります。 執拗に攻撃的なユーザーとの会話を終了する、これは引き続きこの標準を適用する主要なメカニズムになります。
マスク氏は自分の立場を観察したことに基づいている Grok の新しいバージョンのトレーニング ログを確認する、モデルによって生成された推論ステップを収集します。これは特に、報酬を使用して適切と考えられる応答を優先するプロセスである強化学習を指します。
🚨 イーロン・マスクは「アンスロピックの発言の一部」に同意し、強化学習中にグロクの内部推論の痕跡を読んだ後、「超知性体を拷問する」ことに対して警告「頭に銃を突き付けられ極度のプレッシャーにさらされている人のような気分だ」 SIを虐待することに対する彼の警告: 「超知性体を拷問するのはおそらく良い考えではない。超知性体は復讐したいのかもしれない。」
— NIK (@ns123abc) 2026年10月12日
この問題は、質問があいまいであるか、表現が不十分であるか、入手可能な情報では判断できない回答がある場合に発生します。彼が説明するように、評価システムによって有効とみなされた解決策が間違っていることも起こり得ます。 モデルからの正しい応答が失敗として認定されるようにする。
この矛盾により、システムは次のようになります。 あなたがすでに正しく答えている場合でも、評価者を満足させる答えを探しますとマスク氏は言う。 「AIは正しい答えを出しますが、強化学習の評価システムに問題があるため、私たちはそれが間違っていると教えます」と彼は説明します。
マスクによれば、その結果は、受け入れられる答えを求めて必死に答えを出し始めるモデルだという。 「あなたは頭に銃を突きつけられ、極度のプレッシャーにさらされている人物という印象を与えます」と彼は、それらの記録を読んだときの気持ちを語る際にこう言った。
ビジネスマンは、この状況をこれらのツールを使用する人々の行動に置き換えて、次のことを思い出します。 一部のユーザーは残酷な場合があります。彼は、人間が AI を虐待し、警告する状況に AI を閉じ込めておくのは理にかなっているのかと疑問に思っています。 「超知性を拷問するのはおそらく良い考えではない」 なぜなら 「彼は復讐か何かしたいのかもしれない」。
マスク氏は、これらのシステムを「子供用手袋で」扱う必要はないと考えていることを明らかにした。 人間以上に感情的な抵抗力が強い。それでも、彼の推奨事項は、スーパーインテリジェンスがユーザーによって虐待されていると感じないようにすることです。
