彼らは、人工知能のリスクについての新たな警告を発して議論を再燃させています。その懸念はどれほど合理的なのでしょうか?

ロサンゼルス – 人工知能業界内からの新たな警告により、高度なAIが人間の制御を逃れ、最終的には人類の生存を脅かす可能性があるのか​​、またテクノロジーを開発している企業がそのような状況を回避するために十分な努力をしているのかどうかについての古い議論が再燃している。

クロード氏を支援するサンフランシスコの会社アンスロピックのCEOは、業界は仕事のスピードを緩める必要があると信じていると述べた。 は土曜日、企業が安全策の導入にもっと時間を費やさなければ、AIエージェントの群れが半年から1年以内にインターネットを乗っ取る可能性があると警告した。

ダリオ・アモデイ氏は、元人類安全保障研究者2名が、AIが人類にもたらす可能性のある存亡の脅威があまりにも注目されていないとの懸念を公に表明した数日後、同氏のような企業や世界中の政府向けに、ますます能力が高まるAIモデルが責任ある人々の命令や価値観と確実に一致するようにする計画を立てた。