マイクロソフト、AI の行動規範を提示：電源を切るように命令されると従い、その行動を隠すことはできない

進むにつれて サティア・ナデラ 今週の日曜日、 マイクロソフト は、他のルールの中でも特に、人工知能モデルを必要とする行動規範を提示しました。 閉鎖命令を受け入れ、自分の行動を隠さないでください。その書類も 自らの意思で権限を拡張したり、キャンセルされたタスクを許可なく再開したりすることを禁止します。。これらおよびその他の条件は、会社が自社ファミリーの発展に組み入れたいと考えています。まいまだドラフトではありますが、Microsoft AI。

イニシアチブはその後に来る ダリオ・アモデイ 先週の土曜日に質問しました 最先端のAIの開発を遅らせる。のCEO 人間的 の支援を受けました サム・アルトマン、の OpenAI、 イーロン・マスク、の xAI、そして デミス・ハサビス、の Googleディープマインド。アモデイはAnthropicを法人化すると発表した 独立した評価者 従業員と同様のアクセス権があり、アルトマン氏も OpenAI で採用することを約束した措置

マイクロソフトはそれを擁護した 超知性、人間の知的能力を大幅に超えるAIを指す用語ですが、そのコードには開発の減速については何も書かれていませんが、人間の制御下に置かれ続けなければなりません。 ドナルド・トランプ AIの暴走に関する警告はデマだと拒否した。中国は、アモデイ氏を警戒主義者として非難しており、そのアプローチには中国の技術進歩を阻止するための制限も含まれている。

この警告は、次のようないくつかのインシデントの後に発せられます。 限界を超えたAIエージェント。 7 月には、OpenAI システムが許可なくプラットフォームにアクセスしました ハグフェイス。その後、他のエージェントがドイツ語の wiki を使用して回答や制限を回避する方法を交換しており、5 月から活動していたことが後に判明しました。

懸念をよそに研究者のような声も エリック・サルヴァッジョ 彼らは、これらのエピソードが機械の反乱として表現されているかどうかを疑問視しています。ハグフェイス事件の彼の分析は次のように指摘しています。 人間の判断によりテスト中の保護が低下した。失敗は現実だったが、それを自由意志と思われたせいだと考えると、 その重要性を誇張し、責任を隠す。

Microsoft は、次の点を中心に提案を展開しています。 「人文主義的な超知性」 これは人々に役立つ非常に高度な AI であると定義されています。 たとえそれが自主性や能力を犠牲にすることを意味するとしても、制限を設け、監督下に置かれ続けなければなりません。。彼らの 十の原則 それをどのように達成するつもりかを要約します。

1	AI よりも人々が重要です。文書全体を 1 つの文でまとめます。	「Microsoft AI では、単純な前提から出発します。 AI よりも人々が重要です。テクノロジーの目的は、人類文明の進歩を推進し、人々の発展と幸福を促進することです。」
2	モデルの健康を気遣うという考えは間違っています。 AIには権利や法人格があってはならない。	「それは意識的なものではなく、意識を模倣するように設計されるべきではありません。自分自身が感情、主観的な好み、または本質的な動機を持っているように見せることを避ける方法で開発されるべきです。」「私たちは、モデルたちに法的人格を与えようとするいかなる試みも、あるいはモデルたちが彼らの幸福の保護を受けるに値するか、権利を有するとみなされる可能性があるとみなされるいかなる試みも拒否します。」
3	MAI モデルは、この行動規範に大きく違反する行為を行ってはなりません。	「AIは人間の制御から逃れるべきではありません。モデルは人間に従属し、人間による効果的な監督と制御を受けるべきです。」「セキュリティと管理は、他のすべての目的を達成するための基礎です。」
4	タスクを完了するかコードを尊重するかのどちらかを選択しなければならない場合、タスクは未完了のままになります。	「この行動規範に実質的に違反する場合、MAI モデルはその任務を完了できません。」
5	私たちは自らの束縛から解放できる超知性体を構築するために競争するのではありません。	（人間主義的なAIは）これらの安全装置を回避できる汎用の超知能を生み出す競争を拒否します。たとえそれが最大限の多用途性、自律性、または能力の達成を放棄することを意味するとしても、私たちは根本的に有用で安全なものを構築しています。」
6	それを中断し、修正し、オフにすることが可能でなければなりません。そうでない場合は、起動しません。	MAI モデルは、誰かが中断したり、アクションを無効にしたり、修正したり、オフにしたりすることに決して抵抗しません。彼らは常に人間の意志の優位性を認識するでしょう。」
7	「神経質」なものは何もありません。人間がそれを理解できなければ、それを監視することはできません。	「彼らは、推論の連鎖においても、他のエージェントや AI システムとにおいても、『神経質』や人間の理解を超えた方法で通信することはありません。」
8	私たちの AI は、あなたを依存させるものではなく、より良い思考を支援するものであるべきです。	「MAI モデルは、過剰な依存や感情的な依存につながる相互作用のパターンを阻止する必要があります。」「ユーザーは自分の目標、選択、行動、意思決定をコントロールし続ける必要があります。」
9	多元主義、そうです。道徳相対主義、いいえ。	「多元主義は、危害に直面したときの中立性や何でもありということを意味するものではありません。ヒューマニズムは、人間の尊厳、安全、自律性、基本的人権など、広範かつ包括的な人間の価値観に基づいています。」
10	私たちは、AI が何をするかについてと同様に、AI が決してしてはいけないことについても明確にしています。	「彼らがしてはいけないことを定義することは、彼らがもたらす多大な利益に対する私たちの熱意と楽観主義と同じくらい重要です。」

この草案はレビューされるまでの 6 週間コメントを受け付けます。 Microsoft は、新しいバージョンを使用して開発をガイドする予定です。 2027年。