近年、人工知能はほぼ産業の法則に従って進歩してきました。つまり、より多くのデータ、より多くのコンピューティング能力、より大きなモデル、そしてその結果として、ますます多くのことを実行できるシステムです。専門家からの長年の警告を経て、今、 この競争の加速に最も貢献した企業の 1 つが、最近まで矛盾していると思われたことを提案しています。それは、競争の速度を遅らせることです。
OpenAIのサム・アルトマン最高経営責任者（CEO）は今週、同社が最先端の人工知能システムの開発ペースを減らすことに前向きであると従業員に語った。ブルームバーグによると、 アルトマン氏はまた、他の研究室も同様の立場を取ることを期待していると述べた。 これは、少なくとも現時点では、新モデルの開発を全面的に停止したり放棄したりするものではなく、むしろ、より速く進むことが最も安全な選択肢ではなくなる時代が来るかもしれないという認識である。
このアイデアには前例があります。 2023年3月、1000人以上の科学者や技術界の著名人が少なくとも一時停止を求める書簡に署名した。 GPT-4よりも強力なトレーニングシステムで6か月間。 彼らは、社会は予測不可能な能力を獲得する可能性のあるシステムを制御する方法をまだ知らないと主張した。この提案は成功せず、主要企業は自社モデルの性能を向上させ続けました。
OpenAIもこの問題について警告していた。同年 7 月、彼は人間の能力をはるかに超える可能性のあるシステムを制御下に維持できる方法を開発するために、当時の主任科学者イリヤ・サツケヴァーが率いるスーパーアライメント チームを創設しました。会社に到着しました 今後 4 年間で利用可能なコンピューティング能力の 20% をこの研究に充てることを発表。 しかし、このイニシアチブは、サツケヴァー氏とそのリーダーの一人である研究者ヤン・ライケ氏が去った後、2024年に消滅した。この決定は、OpenAI がセキュリティ研究の進歩よりも早く進んでいると信じる人々からの批判を煽った。
一方、同社は、モデルを展開する前にそのリスクを評価するシステムである準備フレームワークを開発しました。その中で 生物兵器または化学兵器の開発を支援する可能性を含む、サイバーセキュリティのリスクとシステム自体の機能を向上させる能力。
しかし、問題の性質も変わりました。今日のシステムは単に質問に答えるだけではありません。ツールを使用したり、インターネットを閲覧したり、コードを書いて実行したり、人間による監視を大幅に減らして長時間動作させることができます。したがって、懸念されるのは、AI が間違った答えを提供することだけではなく、 自律性があり、実際のシステムにアクセスできるときに何ができるか。
これに関連して、OpenAI の主任科学者である Jakub Pachocki 氏は、開発を遅らせる必要があると主張しました。彼らの主張は、研究を永久に停止することではなく、セキュリティメカニズムが少なくともモデルの機能と同じペースで進歩することを保証することです。今まで、 よりインテリジェントで自律的なシステムを制御するための十分な方法を持っていることを実証した企業はありません。
問題は、企業がそれ自体と競争していないことです。競合他社が高速化を続ける場合、OpenAI の速度を低下させることはあまり良いことはありません。自発的にペースを落とす研究室は、そうでない研究室に比べて優位性を失う可能性があります。したがって、アルトマン氏は、社内の決定よりもはるかに複雑な、企業間の調整を指摘しています。 OpenAI は、開発を遅らせるという企業間の合意が米国の独占禁止法に違反する可能性があるかどうかさえ研究しています。 安全性を高めるための措置は、競争の制限と解釈される可能性もあります。
その結果が重要になるだろう。景気減速は、新モデルの減少や世代間での時間の増加を意味し、AIの継続的な成長が見込まれるデータセンターやチップへの巨額投資に影響を与える可能性がある。それには地政学的な側面もあります。 他国が維持する一方で米国企業の成長が鈍化すれば、テクノロジー競争の主導権が変わる可能性がある。
しかし、立ち止まることには時間稼ぎという利点もある。 より良い評価システムを開発し、自律エージェントの動作を研究し、 共通の標準を確立し、マシンがその作成者が予測できない機能を獲得したときに何が起こるかを理解します。
だからこそ、アルトマンの言葉は見た目以上に重要なのだ。 OpenAIは、人工知能が危険すぎて継続できないと言っているわけではない。彼は、さらに不快なことを認めている。それは、新しい機能がいつ進歩でなくなり、どう対処すればよいか分からないリスクになり始めるか、まだ分からないということだ。 何年もの間、人工知能がどれだけ高速化できるかが疑問でした。今、別のものが現れ始めています: はい 同時にそれを制御する能力を加速することができます。
