北米の人工知能企業のトップが自社モデルの危険性を一斉に宣言して世界に向けて発した警鐘は、多くの疑問を残している。
AI の有力者たちは、開発競争に勝つためにアクセルを踏みながら、AI がよりゆっくりとより規制された形で進化することを主張しています。彼らは、ますます強力になり、より高価になる、十分にテストされていない製品をリリースし続けています。
OpenAI の CEO であるサム アルトマン氏は、4 年前に彼の会社が AI テクノロジーに注目を集めて以来、AI による脅威について警告してきました。しかし、研究に重点を置いたコンソーシアムを、投資と利益への無制限の欲求を持つ多国籍企業に変えることを止めていない。さらに、彼の会社は、さまざまな組織からのアプリケーションに対する攻撃を公表したり、完全に隠蔽したりするのが遅かったです。
もう一人の AI 界の巨匠、Anthropic の CEO であるダリオ・アモデイ氏は、自身の事業に関してはアルトマン氏よりもさらに批判的でしたが、最初の警告は彼のモデルの 1 つである Fable 5 によって発せられました。それが強力であると同時にセキュリティ障壁が不十分であることを発見したのはユーザーでした。北米政府は6月に再スケジュールされるまでそれを一時停止した。
アンスロピックは、生物兵器の製造を含む、エージェントによるセキュリティ事件に関する154ページの報告書を発表した。彼らは12月に始まり、先週まで会わなかった。
これらの矛盾に加えて、AI 研究所は、人類を守るだけでなく、起こり得る訴訟から身を守るために、自社の製品に法的承認を与える枠組みに興味を持っているようです。また、規制によって競争のルールが緩和され、お互いに勝つために支出を減らすことに合意できれば、ビジネスにも役立つだろう。
