人工知能は、2022 年に私たちを驚かせ始めて以来、初めて大きな信頼の危機に見舞われています。人工知能の非常に急速な進化を後悔し、人類への脅威であると考えている専門家、企業、議員、政府、技術の親たちが悩まされている暗黒の 9 月です。
これらはヒロインから悪役になっただけでなく、高度なコンピュータ システムに侵入できる OpenAI や Anthropic などの最も強力なバージョンになっただけではありません。また、GoogleやMetaの最も人気のあるモデルや、中国企業の最も安価なモデルも、サイバーハッカーや過激派によるものではなく、自らの意思で犯罪や不正行為を行って摘発されている。
AI の最大の危険は、すでに試みられているように、犯罪の首謀者がウイルスを生成したり、秘密を盗んだり、武器を製造したり、戦争を始めたりするために AI を使用することであると考えられていました。
さて、人工知能の恐怖は、それ自体ができることにも原因があります。
この恐怖は、今年を通じて人間の命令なしに勝手にさまざまな組織に侵入するモデルの事例によってさらに加速している。しかしまた、これらのインシデントは、どのようなプログラミングやトレーニングのエラーがそれらのインシデントを引き起こしたのか、また、同様に定義された目的を達成するためにエージェントの自発的な「群れ」がどのように形成されたのかが明らかにされないまま、長い遅れで明らかになったということもある。
カリフォルニアのシリコンバレーでは、AI革命を推進する北米企業の間でAI開発をどのように規制・監督するかについて意見が分かれているが、議会の民主党議員や共和党議員と同様に、できるだけ早く実現する必要があるという点では一致している。
これを達成するのは、数百万ドル規模の投資がかかっていることと、この技術をリードするためのワシントンと中国の間の争いの両方の理由から、簡単ではないだろう。
