トロント -77で、 ジェフリー・ヒントン それは人生に新しい職業を持っています。現代の預言者として、ノーベル賞の勝者は、非制御および規制されていない人工知能の危険性について警告を与えています。
頻繁にニックネームと呼ばれます 「AIの女性」、ヒントンは、今日使用されているAIテクノロジーの基礎を築くのに役立つ深い学習とニューラルネットワークでの彼の先駆的な仕事で知られています。 「責任ある何か」を感じて、彼は2023年に彼の仕事をGoogleに辞めた後、彼は10年以上働いた後、彼の懸念について公に話し始めました。
AIを後押ししているテクノロジーと投資のドルとして、近年前進しているため、彼らはその背後にも賭けをしています。 「それは本当に神のようなものです」とヒントンは言いました。
ヒントンは、以前は神のために留保されていた言語を使用してAIについて語る技術の著名な数字の数の1つです。 Openaiのエグゼクティブディレクター、 サム・アルトマン、彼は彼の会社のテクノロジーを「天国の魔法の知性」と呼んでいます。 ピーター・ティエル、PaypalとPalantirの共同ファウンダーは、AIが反キリストを引き起こすのを助けることができるとさえ主張しています。
AIは非難や救いをもたらしますか？
テクノロジーがこの種の恐怖に値することを疑う多くの懐疑論者がいます。 ディラン・ベイカー、AIの有害な影響を研究する、分散型AI研究所の古いGoogle従業員およびチーフリサーチエンジニア。
「彼らはしばしば、長年のトレーニングで得られた多くのサイエンスフィクションから情報を提供する魔法のような幻想的な思考から動作していると思います」とベイカーは言いました。 「彼らは本当に現実から切り離されています。」
ChatGptのようなチャットボットは最近侵入したばかりです Zeitgeist、シリコンバレーの特定のサークルは、何十年もAIの力を預言してきました。
「私たちは人々を目覚めさせようとしています」とヒントンは言いました。 「一般の人々がリスクを理解し、政治家がそれについて何かをするように迫るように。」
ヒントンのような研究者は、AIが人類を提起すると信じる実存的な脅威について警告していますが、私たちが人類の進化の新しい時代の始まりを示す一種の技術的な黙示録に近づいていると主張するスペクトルの反対側には、幹部と理論的ディレクターがいます。
昨年公開されたエッセイでは、「マシンオブラブグレース：AIが世界をより良く変えることができる」、人類のエグゼクティブディレクター、 ダリオ・アモデイ、「すべてがAIとうまくいっていれば」という彼の将来のビジョンを明らかにします。
AIの起業家は、「ほとんどの病気の敗北、生物学的および認知的自由の成長、数十億の貧困の解除、新しい技術、リベラルな民主主義と人権の再生」を予測しています。
Amodeiは「強力な」フレーズを選択しますが、他の人は「特異点」や「人工的な一般情報（AGI）」などの用語を使用します。これらの概念の擁護者は通常、それらを定義する方法について同意しませんが、一般的に、AIが人間のレベルの知性を超える仮想的な将来のポイントを参照してください。
コンピューターと著者 レイ・クルツヴァイユ 彼は1990年代以来、人間がトランスヒューマニズムと呼ばれることが多い概念であるテクノロジーといつか合併すると予測しています。
「私たちは、AIから来るものに直面して自分の脳から来るものを本当に言うつもりはありません。すべてが私たち自身に埋め込まれます。そして、それはより賢くなります」とKurzweil氏は言いました。
彼の最後の本では、 「特異点は近づいています。AIと合併するとき」、Kurzweilは彼の以前の予測を倍加します。彼は、2045年までに「私たち自身の知性に何百万回も増えた」と信じています。
「はい」彼は、AIが彼の宗教であると考えるかどうか尋ねられたときについに認めました。あなたの目的意識を伝えます。
「テクノロジーの未来と未来についての私の考え、そしてここにいることに対する態度と、自分が何をしているのか、そして他の人々にどのように影響を与えることができるのか、私は間違いなくどれほど速く影響しているのか」と彼は言いました。
Apocalyps Bubjujeanのビジョン
ThielのApocalypseの本の言語の明示的な呼び出しにもかかわらず、AIの未来の前向きなビジョンは、言葉の歴史的な意味でより「黙示録的」です。
「古代では、黙示録は否定的ではない」と彼は説明する ドメニコアゴスティーニ、古代の終末論的な文学を研究しているナポリ大学L’Orienta教授。 「この言葉の意味論を完全に変えました。」
「黙示録」という用語は、ギリシャ語から来ています アポカリプシスそれは「啓示」を意味します。今日は世界の終わりとしばしば関連付けられていますが、古代のユダヤ人とキリスト教の考えにおける黙示録は、困難や迫害の時代の励ましの源でした。
「神は新しい世界を約束している」と教授は言った ロバート・ジェラチ、ノックスカレッジで宗教と技術を研究しています。 「その新しい世界を占領するには、私たち全員が経験する悪に勝つ新しい輝かしい体を持たなければなりません。」
ゲラシは、2000年代初頭のAIの可能性を説明するために終末論的な言語が使用されたことに初めて気づきました。 Kurzweilと他の理論家は最終的に彼に2010年の本を書くように促しました。 「黙示録的なAI：ロボット工学、人工知能、仮想現実における天国のビジョン」。
言語は彼に原始的なキリスト教を思い出させた。 「私たちだけが神に滑り込んで滑り込むつもりです…おそらくこれを行う宇宙の科学的法則の選択、そして私たちは同じタイプの輝かしい未来を持っているでしょう」と彼は言いました。
ゲラシは、このタイプの言語が研究を始めて以来、あまり変わっていないと主張しています。彼を驚かせるのは、彼がどれほど一般化されたかです。 「以前は非常にまれだったのはどこにでもある」と彼は言った。
あなたはついにあなたの神にシリコンバレーを見つけましたか？
AIのカルトの成長の要因は収益性です。 「20年前、そのファンタジーは真実であろうとなかろうと、多くのお金を生み出していなかった」とゲラシは言った。しかし、今、「サム・アルトマンがAGIが角を曲がっていると言うという金銭的なインセンティブがあります。」
しかし、Chatgptは「リモート、漠然と、もっともらしく認識していない」と主張するジェラチは、この現象をもっと促進するかもしれないと信じています。
歴史的に、テクノロジーの世界は宗教が不足していることで有名です。彼の世俗的な評判は彼に非常に先行していたので、HBO風刺コメディシリーズのエピソード、 「シリコンバレー」、「クローゼットからクリスチャンとして共同労働者を獲得する」ことを中心に展開します。
懐疑的な技術の世界によるAIの崇拝を皮肉なものとして見る代わりに、ゲラシは因果関係があると信じています。
「人間は深く、深く、本質的に宗教的です」と彼は言い、AIの背後にある印象的な技術は、すでに「超越と意味の通常のアプローチ」を脇に置いている人々を惹きつけることができると付け加えました。
懐疑論者がいない宗教はありません
たとえテクノロジーに参加したいとしても、すべてのシリコンバレーのエグゼクティブディレクターになっているわけではありません。
「テクノロジー業界の人々がこのユニークな真の構築について話すとき、それはまるで彼らが神か何かを創造していると思うかのようです」とメタのエグゼクティブディレクターは言いました。 マーク・ザッカーバーグ、昨年のポッドキャストで、AIでの彼自身の冒険を宣伝しました。
Kurzweilのようなトランスヒューマニストの理論はより広く普及していますが、シリコンバレー内ではまだ遍在していません。
「そのための科学的事例は、宗教的死後の人生の場合よりも強くない」と彼は主張する マックステグマーク、マサチューセッツ工科大学の物理学者および自動学習研究者。
ヒントンのように、テグマークは規制されていないAIの潜在的なリスクについて語っています。 2023年、The Future of Life Instituteの会長として、Tegmarkは、強力な研究所にシステムのトレーニングを「すぐに一時停止」するように依頼する公開書簡をリードするのを支援しました。
手紙は、33,000を超える署名を含むものを含む イーロン・マスク Appleの共同ファウンダー、 スティーブウォズニアック。 Tegmarkは、AIの安全性について「会話を一般化する」のに役立つため、この手紙は成功したと考えていますが、彼女の仕事は終わっていないと考えています。
規制と保護措置により、Tegmarkは、AIを癒しの病気や人間の生産性の向上などを行うためのツールとして使用できると考えています。 しかし、それは不可欠であると彼は、一部の企業が実行している「非常に限界的な」人種から離れていると彼は主張します。
「宗教的なテキストと、たとえば古代ギリシャの神話の両方に多くの物語があります。私たち人間が神を演じ始めたとき、それはひどく終わります」と彼は言いました。 「そして、私はこの時点でサンフランシスコには多くのar慢があると感じています。」
