人工知能については、私たちのほとんど全員が共有している考えがありますが、それは誤りです。 人間が ChatGPT、Claude、Gemini を作成したのであれば、それらがどのように機能するかを完全に知っているはずです。 私たちはそれに前提条件を与え、アルゴリズムを設計し、データを与えて、勝手にやらせました。ある意味、私たちは水路を掘り、ルートを建設し、ダムのゲートを上げました。水はただ流れていればいいのです。シンプルでしたね。
結局のところ、他のコンピュータ プログラムでも同じことが起こります。電卓、ワードプロセッサ、またはビデオゲームが、プログラマーが理解できない動作を開発することを期待する人は誰もいません。各関数はエンジニアによって事前に作成されています。 しかし、大規模言語モデル (LLM) は異なります。 科学者は、科学を機能させるための数学、学習に使用するアルゴリズム、および使用するアーキテクチャを完全に熟知しています。しかし、数十億の単語を分析した後、それらが最終的に内部的にどのように整理されるのかを正確に知る人は誰もいません。そして、その違いは根本的なものです。
建築家が学校を設計すると想像してみましょう。各教室、各廊下、各階段の行き先を決めます。 5年後、彼は再びそこを訪れます。彼は、生徒たちが階を移動するためにいつも特定の階段を使用していること、休み時間に全員が集まるベンチと誰も踏み込まない隅があることを発見しました。 彼は建物を設計しましたが、それらの習慣は設計しませんでした。それらは自然発生的に生じました。
大規模な人工知能モデルでも同様のことが起こります。エンジニアは「建物」を構築しますが、モデルが最終的に問題を解決する内部組織はトレーニング中に現れます。 LLM モデルでは、皮肉を認識するように「1 つのニューロンをプログラム」する人、民主主義の概念を理解するように「ニューロンをプログラムする」人、フランスの首都を思い出すように「ニューロンをプログラムする」人はいません。。これらの構造は、モデルが学習するにつれて自動的に出現します。
だからこそ、専門家たちは真のブラックボックスについて何年も議論してきたのです。 数学的な観点からそれがどのように機能するかを無視しているからではなく、内部的にどのように構成されているかを知らないからです。 一貫した応答を生成するために数千億のパラメータを使用します。 あ 新しい研究 クロードの責任者であるアンスロピック社の従業員によって出版されたこの文書は、初めてその内部への小さな窓を開いた可能性があります。
Jack Lindsey 率いる著者らは、推論中にモデル内でどの概念がアクティブであるかを観察するために設計された Jacobian Lens と呼ばれるツールを紹介します。これは大きな変化の 1 つです。これまでは、脳内で何が起こっているかを見ることなく患者の言葉を聞くことしかできなかった医師と同じように、私たちは最終的な反応しか分析できませんでした。 新しい手法では、応答が現れる前にプロセスを観察しようとします。そしてその結果は驚くべきものです。
クロードが複雑な質問を受けたとき、彼は関連情報の一部を、著者が J-Space と呼ぶ小さな数学的領域に集中させているようです。推論を続行する前に、モデルのさまざまな部分の概念がそこに収束します。 最も興味深いのは、この空間が存在するということではなく、実験的に操作できるということです。 リンジーのチームの実験の 1 つで、クロードは、それが何であるかをまだ言わずに、スポーツについて考えるように求められました。新しいツールは、ユーザーがサッカーを選択したことを内部的に検出します。次に、著者らはその内部表現のみを変更し、ラグビーに置き換えます。クロードが最終的に答えると、彼はもはやサッカーではなくラグビーについて言及します。
彼らは答えを変えていません。彼らは、モデルが応答する前に処理していたという考えを変更しました。 別の実験で、クロードはコンピューター コードの一部を分析します。 「エラー」という言葉は決して書かれていませんが、 ヤコビアン レンズは、何が起こっているかを説明する前に、この概念がモデル内ですでにアクティブであることを示します。 つまり、人工知能は言語化する前に内部で問題を特定したようです。
この結果がなぜこれほど多くの関心を集めたのかを理解するには、少し人間の脳に行ってみる必要があります。 現代の神経科学で最も影響力のある理論の 1 つは次のとおりです。 グローバルワークスペース理論、最初はバーナード・バールズによって提案され、後にスタニスラス・デハエンなどの科学者によって開発されました。この考え方によれば、 私たちの脳は何百万もの信号を無意識のうちに処理しますが、ある種の「中枢段階」に到達するのはほんの一部だけです そこから情報は、記憶、言語、計画、注意、意思決定などの多数のシステムに同時にアクセスできるようになります。
合計150ページを超えるこの研究の著者らは、クロードにも驚くほど類似した機能組織を発見したと信じている。そして、研究で意識という言葉が何度も言及されていることを考慮すると、ここに最大の混乱の原因の1つが現れます。現実には、著者はクロードに意識があるとは主張していません。 また、彼は感情、感覚、内面の生活を経験しているとも主張しません。彼が提案しているのは、もっと具体的なことです。 特定の複雑な推論では、Baars の理論によって人間の脳で説明されたものと同様の機能アーキテクチャが使用されているようです。 これは情報の流通の仕方についての比較であり、主観的な経験の有無についての比較ではありません。その違いはわずかに見えるかもしれませんが、非常に大きなものです。
しかし、おそらくこのスタジオの最大の貢献は J-Space 自体ではありません。 科学では、多くの場合、大きな進歩は新しい理論が出現したときに実現するのではなく、それを検証できる新しい機器が登場したときに実現します。長年にわたり、大きな言語モデルは封印された時計に似ていました。彼らに質問し、その反応を観察し、彼らのパフォーマンスを測定することはできますが、 質問と回答の間に何が起こったのかを知ることはほとんど不可能でした。。
ヤコビアン レンズがその状況を変え始めます。科学者たちは初めて、人工知能が何に反応するかだけでなく、その際に人工知能が推論しているいくつかの概念にも注目している。 大規模な言語モデルがどのように「考える」かを完全に理解するには、まだ長い道のりがあります。。著者自身も、J-Space はクロードの行動の一部のみを説明しており、彼の計算の大部分はその空間の外で実行され続けていることを認めています。
したがって、本当の問題は、もはや、機械がいつか知的に見えるようになるかどうかというだけではありません。この質問は、さらに不快なものになり始めています。 私たち自身が生み出した知性を理解できるでしょうか？ この研究は、AI に意識があることを証明するものではありません。それは、私たちが初めて、それがどのように機能するかを無意識に感じなくなり始めていることを示しています。
