モデルとなるアイデア 人工知能 (AI) より効率的かつ有能になるために自ら学習することは、テクノロジー研究者にとってかつては遠い目標でしたが、今ではますます現実に近づいているように思えます。
技術の進歩に伴い、AIは「再帰的自己改善」（RSI）に近づいており、AIモデルが自らを改善し、後継者を生み出す方法を見つけ出すと開発者らは述べている。 テクノロジー企業幹部らによると、これは科学や医学の進歩をもたらす可能性があるが、リスクも伴うという。
これらすべてがどこへ向かうのかの不確実性が、AIが人間の制御から逃れ、人類への潜在的な脅威をもたらすのではないかという懸念の高まりの中心にあり、数人のAI業界の大御所が先週末、テクノロジーの成長ペースを遅らせるための呼びかけに参加した。
Anthropic は今週、同社のクロード モデルが自社の次のよりスマートなバージョンの開発にどのように役立つかを説明しました。クロード氏は現在、Anthropic 社のモデル研究開発の 26% を率いており、同社によれば、クロード氏はまだ人間の監督下にあるものの、与えられたタスクのほとんどを「高度な指導を受けて最初から最後まで」完了できるということだという。モデルは完全に自律的に動作するわけではありません。少なくとも、まだです。
ここでは、再帰的自己改善に関する重要なポイントをいくつか紹介します。
1/12 | Microsoft 人工知能 Copilot を使用してイメージを作成する方法。 Microsoft の人工知能 Copilot の機能には、ユーザーの指示やニーズに応じてこのような画像を生成する機能があります。 – 人工知能
再帰的自己改善とは何ですか?
主要な AI 企業は、再帰的自己改善の定義が異なります。これをモデルの改善に関する AI からのフィードバックとして定義する人もいますが、AI が完全に自律的にその目標を達成するために動作することを意味する人もいます。
自律的再帰的自己改善とは、本質的には、システムの次のバージョンを設計し、さらに次のバージョンを設計することによって自らを改善できる AI であると、非営利団体 Future of Life Institute の社長兼 CEO であり、アメリカ大学の物理学教授であるアンソニー・アギーレ氏は説明しました。 カリフォルニア、サンタクルーズ。
「ここで本当に重要なことは、AI がこの種のタスクをより多く実行するにつれて、AI の速度が向上するということです。なぜなら、AI は人間よりもはるかに高速に動作するからです」と彼は言いました。
AIモデルの動作を制御する方法を研究しているコーネル大学コンピュータサイエンス准教授のジョン・シックスタン氏は、RSIをめぐる恐怖は主に制御不能な超知能の出現に基づいていると述べた。しかし、より現実的な見方では、ある種の再帰的な自己改善が AI 開発においてしばらくの間行われてきたことを示唆していると同氏は付け加えた。
「私たちはこれらのモデルを、次のバージョンを作成するための補助的な役割として数年間使用してきました。そのため、人々は前世代のモデルを使用して AI システムのコードを作成し、そのコードが次世代を作成します」と彼は説明しました。
長年にわたり、著名な人工知能研究者、例えば、 OpenAI、Andrej Karpathy は、AI モデルのトレーニングと新しい AI システムの改善というアイデアを実験しました。シックスタン氏によると、これらの取り組みは多少の改善はもたらしたものの、創造的な大きな進歩には至らなかったという。
しかし現在、AI企業はこうした画期的な進歩の実現にかなり近づいているとアギーレ氏は語った。
「これらの人為的なグラフを見ると、時間の経過とともにAIがますます多くの研究を行っており、完全自律型にますます近づいていることがわかります」と彼は述べた。 「そして、その成功の結果は、最終的には非常に恐ろしいことだと思います。これを行うことは、おそらく人類史上最悪のアイデアだと思います。そして、はい、彼らはそれを実行しています。」
一部のAI研究所はRSIが遠くないと言っている
Anthropic の最近の発表は、一般の人々や他の研究機関に IIA の進歩についての展望を提供し、競合他社にも同様の指標を共有するよう奨励しました。ただし、同社は完全自律型モデルのアップグレードの実現にどの程度近づいているかを明示していない。
OpenAI の作成者 チャットGPTは今月、自動化された「インターン研究者」を開発したと発表した。同社はこれを、「資格のある研究者であれば数日かかるタスク」など、人間の監督下で明確に定義された研究タスクを実行できるシステムと定義している。同社は、2028年3月までに自動化されたAI「研究者」を開発することを目標に進めていると述べた。
同社はその声明の中で、RSIはモデルの行動を人間の価値観や意図に合わせるのに役立つものの、それは「急速なRSIが必ずしも追求すべき結果である」という意味ではないと述べた。
同社はブログ投稿で「われわれが前進すべきかどうか、またどのように前進すべきかの決定は、人間による制御と、利益とリスクに関する情報に基づく民主的な意思決定を維持できるかどうかに依存すべきだ」と述べた。
イーロン・マスク 彼はさらに進んでいくつもりのようです。同氏は3月、xAIのGrokモデルの場合、モデル改善の「プロセスに人間が関与することがますます少なくなり」、「後続の各モデルは前のモデルに基づいて構築される」と指摘したが、プロセスはまだ完全に自動化されていないことを明らかにした。同氏は、この目標は今年末までに達成される可能性があるが、2027年以降は達成できないと付け加えた。
マイクロソフト などの大手 AI 企業は、異なるアプローチをとっているようです。
Microsoft AIのムスタファ・スレイマン最高経営責任者（CEO）は、同社が「人文的スーパーインテリジェンス」、つまり人々と人類全体に役立つ高度なAI能力に向かって進んでいると述べた。スレイマン氏は2025年のエッセイで、これは「高度な自律性を備えた、境界や制約のない存在」を意味するのではなく、「慎重に調整され、状況に応じて制限された範囲内にある」AIを意味すると述べた。
開発の遅れに関する議論が IHR に与える影響
研究所が直面している根本的な課題は、そしてこのテクノロジーの始まり以来本質的に直面し続けていることですが、セキュリティ対策をモデルの機能と同じペースで確実に進化させることです。
セキュリティ上の懸念を理由にAIの協調的な減速を求める声をめぐり、ハイテク分野で意見の対立が生じており、AI分野の主要企業のすべてがRSIの今後の方向性について具体的に語っているわけではない。
人間的ペースの緩和を求める最も顕著な声の1つである同社は、世界の競合他社が同様のことを「検証可能な」方法で行う限り、開発作業を減速または一時的に停止すると述べた。
OpenAIは今月、「完全に調整されたRSIを安全に達成する」方法はまだ分からないと明言し、同社は「調整とセキュリティの進歩が追いつくことを当然のこととは考えていない」と付け加えた。同氏はさらに、より高性能なシステムほど監視は難しくなるかもしれないが、「自動化されたAIの研究者は自動化されたセキュリティや調整の研究者にもなり得る」ため、RSIの追求は依然として重要な目標であると述べた。
