この場合、2 つの基本的な側面が組み合わされます。それらの最初のものは、人工知能の分野をリードするというマーク・ザッカーバーグの明確かつ宣言された意図に関係しています。 2 つ目は、全員ではない、実際には多くの専門家が、 制御されていないAIの潜在的な危険性を指摘する。そして今、新たな疑問が生じます。Metaの専門家チームは、同社の人工知能（AI）システムが人間の介入なしにどのように自己改善するかを観察したと主張している。
「ここ数か月で、私たちの AI システムがどのように自己改善するかという兆候が見え始めました – ザッカーバーグ自身が声明で説明しました -。 今のところ改善は遅いが、否定できないものであり、超知能の開発はすでに視野に入っている”。
ザッカーバーグ氏は、自己改善するAIは 人工超知能 (IAA) の実現に向けた第一歩、 人間の認知能力を超える人工知能。
大まかに言って、AI 研究者は AI の機能を 3 つの層に分けて考えています。現在の AI モデルはタンパク質構造の予測など、驚くべきことを実行できますが、その機能は非常に限定されています。そのような場合、およびこのシステムは、特定の領域でのみ人間を上回るパフォーマンスを発揮できますが、この機能をさまざまな分野に適用するための一般的な知性が欠けています。
次のレベルは汎用人工知能 (AGI) と呼ばれ、人間の脳と非常によく似た方法で理解、学習、適応できるモデルを指します。 IAGはザッカーバーグ氏が声明の中で言及した最終状態であり、 人間の可能性をはるかに超えて進化したモデル そしてそれは指数関数的な速度で改善され、「知性の爆発」につながる可能性があります。
科学者は以下を参照しています 技術的特異点としての IAG に到達する仮想の瞬間。ザッカーバーグ氏がAIの自己改善の観察に言及したのは、この現象が検出されたのが初めてではない。 2024 年 10 月、カリフォルニア大学サンタバーバラ校の科学者は、自己改善の概念に焦点を当てた研究を発表しました。
その中で、彼らは、というアイデアに基づいて AI フレームワークを定義、作成、テストしました。 ゲーデルマシン: 自身のコードと命令を書き換えることによって自己改善が可能な理論上の装置。重要なのは、マシンは、それが有益であるという正式な証拠を提示できる場合にのみ変更を実装するということです。
William Wang 率いる著者らは、その概念に基づいた AI フレームワークを実験し、次のことを示しました。 彼のエージェント ゲーデルは、コーディング、科学、数学、推論などのさまざまなタスクで自身のパフォーマンスを向上させることができました。。 実際には、通常、独自のコードを書き換えることができるモデルはほとんどありません。エージェント ゲーデルは、コード ベース全体にアクセスできるだけでなく、改善の開発に使用されたコードにもアクセスし、これらが有益であることを実証できました。
この研究によると、AI は主要な領域において、人間が設計したエージェントと比較してより優れたパフォーマンスを一貫して示しました。ザッカーバーグ氏は、AI は人類の技術進歩における変革的なステップとなる可能性があり、「今日では想像もできない新しいものの発見につながる可能性がある」と述べ、ザッカーバーグ氏は結論付けています。 これらのリスクを軽減することに厳格であり、オープンソースで公開することにしたものには注意してください。。それでも、自由な社会を構築するには、人々に可能な限り力を与えることを目指す必要があると私たちは信じています。 AI がいつかどれほど大きな豊かさを生み出すとしても、私たち全員が目標の達成を支援する個人的な超知性を持つことで、私たちの生活にさらに重大な影響がもたらされる可能性があります。」
要するに、次のことを行う必要があります。 少なくとも競争が起こるまでは、AI の開発には注意してください。
