サム・アルトマン 人工知能の利点は正当化されると信じている テクノロジーが悪影響も引き起こすことを受け入れる。のCEO OpenAI 新しいポッドキャストのブレンダン・ボルデロンとのインタビューでこの立場を擁護した デコードされた メディアPOLITICOより。その中で彼は、自分の会社と会社の違いをどこに置き続けているかを説明した。 人間的。
両社間の距離 ここ数カ月で大幅に減少した。 OpenAIは、より厳格なセキュリティ要件を伴う州法や法案を支持し、大企業が自社のモデルを第三者評価者に提出するという超党派の提案を支持しており、アルトマン氏もそれに同意するようになった。 ダリオ・アモデイ 最先端のシステムの開発を遅らせる必要があるからです。
このアプローチにもかかわらず、アルトマン氏は、社会がどの程度のリスクを受け入れるべきかについては依然として重要な違いがあると主張する。 「私たちは、このテクノロジーの恩恵と引き換えに悪いことが起こること、そして人々が意思決定権を持っていることを世界は受け入れるべきだと信じています。」、Anthropicとの違いについて尋ねられたとき、彼は断言しました。
OpenAIの責任者は、起こり得る損害を回避するにはテクノロジーを集中的に制御する必要があるというシナリオを拒否している。 ‘同意しません、しかし、このテクノロジーは非常に強力で危険なので、サンフランシスコの単一の研究所がそれを保有し、何も悪いことが起こらないことを確認し、その利益をどのように分配するかを何らかの方法で決定する必要があると主張する人々の視点は理解しています」と彼は説明します。
アルトマン氏はその可能性を検討している 「まったく容認できないトレードオフ」 そして規制を主張し続けています 介入主義者が少ない Anthropic が提案しているものよりも、AI は害よりも多くの利益を生み出すと期待しているためです。
「大規模なハッキングがないこと、このテクノロジーが悪用されていないこと、詐欺がないこと、その他悪いことが起こらないことを保証するという契約は受け入れられません。 なぜなら、人々は悪いことよりも、はるかに多くのこと、桁違いに良いことをするようになると思うからです。」と彼は述べた。
アルトマン氏はまた、人工知能のリスクをどこまで引き受けるつもりかについても説明する。 OpenAI CEO、受け入れを擁護 「限定されたリスク」 そして 「私たちが理解しているリスク」 その恩恵と引き換えに、壊滅的な結果を引き起こす可能性のあるシナリオに制限を設けます。可能性について言及するときは、 「AIに対する制御の重大な喪失」は、その開発の加速を主張する人々に、より慎重になるようさえ求めています。 「限定的なリスクは受け入れましょう。利益と引き換えに理解できるリスクは受け入れましょう。しかし、本当に壊滅的なリスクは受け入れないようにしましょう。」」と指摘する。
このインタビューでは、人工知能という用語を次のように置き換えようとするドナルド・トランプの試みについても言及されている。 「超知性」。アルトマン氏は、名前の変更だけでテクノロジーのイメージが向上するとは考えていない。 その否定的な認識は、より具体的な懸念に関連しています、労働者の交代や少数の企業への権力の集中などが含まれます。
