ジェフリー・ヒントン は、人工知能の危険性について、しばしば終末論的な口調で長年警告してきたが、その最新の予測は、より近い時期に、非常に具体的な結果を伴う、より実現可能な災害の可能性を指摘している。 「今年末か来年にはチェルノブイリが起こるだろうが、人々が本当に注目するのはそれだけで十分かもしれない」とガーディアン紙に語った。
この比較は、1986 年 4 月 26 日のチェルノブイリ原発の原子炉爆発事故に言及しています。 ウクライナ ソビエト連邦はそれを破壊し、大量の放射線を放出しました。 ヒントンはこの例を、私たちに技術的リスクへの対応を強いる大惨事の象徴として用いており、別の原発事故について具体的に言及しているわけではない。。
より具体的には、同社が提案するシナリオには次のようなものがあります。 「大規模な停電を引き起こす」電力インフラに対するAI支援攻撃、または金融システムを1週間麻痺させるインシデント。 「何が起こるか想像できますか？」私たちは立ち直ることはできるが、それは彼らを反応させ、注意を払うことになるだろう」と彼は主張し、「トランプを除く世界の指導者たち」に言及した。
これらの警告の著者は、78歳の英国のコンピュータ科学者であり、ノーベル賞受賞者であり、英国大学の名誉教授です。 トロント の1つと考えられています 「AIのゴッドファーザー」 ニューラル ネットワークのトレーニングを可能にする方法への貢献に対して。 1986 年に、彼は他の研究者とともに、 バックプロパゲーション、これらのネットワークの接続を調整してエラーを減らすことができる技術 そしてそれは人工知能モデルをトレーニングするために依然として不可欠です。
の開発にも参加した アレックスネット、2012 年に設立されたネットワーク 画像認識に革命をもたらし、ディープラーニングを強化、音声を認識し、画像を生成し、質問に答える現在のシステムが構築されているテクノロジーです。 2013 年から 2023 年にかけて、彼は人工知能の研究を続けました。 グーグル そしてそれは サンダー・ピチャイ率いる会社の副社長。
2024年に彼は次のように共有しました。 ノーベル物理学賞 と ジョン・ホップフィールド これらのネットワークを使用した機械学習の基礎となる発見と発明を対象としています。彼の研究では、統計物理学のツールをデータの特性を学習できるシステムの開発に適用し、現在の人工知能の基礎に貢献しました。
2023年5月にGoogleを辞めて以来、同氏はGoogleのリスクについて自由に語り、インタビューやカンファレンスを一般的に壊滅的な警告を発する講演者に変えてきた。同年、彼はこうも述べた より高度な知性があれば、発電所を維持し、私たちの後を追い出すために人間を一時的に留めておくことができるかもしれない。
これらの仮説と比較すると、新しいシナリオはより現実的です。なぜなら、インフラストラクチャに対する攻撃には、機械が意識を持つようになったり、人類に取って代わるという SF のシナリオが必要ないからです。 ヒントン氏は、悪意を持って使用されたシステムによって引き起こされる可能性のある具体的な損害に懸念を抱いています。。
声明はドキュメンタリーの上映前に発表された 「AI、心配することは何もないでしょう」、チャットボットによって提案されたタイトルで、彼は元 Google 同僚と参加しています。 デミス・ハサビス。 「私にはスポークスマンとしての評判があるので、そのすべてをこのことに費やす必要がある」とヒントンはドキュメンタリーの中で説明している。
彼の批判は、この分野の大企業を経営する人々にも届き、特にサム・アルトマン氏は「まったく」信頼していないと彼は主張している。 「（マーク）ザッカーバーグ、（イーロン）マスク、サム・アルトマンはリスクを理解しており、気にしていないのだと思う。彼らはお金を保持することを好みます。それが私が信じていることです』。
これらの危険を制限するには、防御する必要があります。 最先端モデルのテストの義務化、独立した評価、政府間の共通基準。警告にもかかわらず、彼は自分自身を人間であるとは考えません。 「壊滅的」 AI は依然として次のような問題を引き起こす可能性があると信じています。 「素晴らしい未来」 そして1つ 「根本的な豊かさ」、彼もそれを認めていますが、 「開発しなければもっと良かったかもしれない」。
