この文章は、前回の続きです。前回は、AIの中を覗いた研究の報告を読んだ話でした。中に、ずいぶん狭い場所があるのだそうです。そこに乗る考えは一度に数十ほどで、乗っているものだけが「今これを考えています」と言えたり、次の考えに使われたりする。
その報告を、僕はその日のうちに二回読みました。二回目を読んだのは、一行だけ引っかかったところがあったからです。その狭い場所は、誰かが設計して置いたものではない、と書いてありました。作った本人たちが仕込んだわけではなく、訓練の途中で勝手にそうなったのだ、と。
引っかかりの正体は、そのすぐあとに出てきました。その形が、人間の意識を説明するために考えられた理論と、よく似ているのだそうです。
グローバル・ワークスペース理論といって、一九八八年からある考え方です。頭の中の大部分は裏で勝手に動いていて、そのうちごく一部だけが全体に配られる。配られた分だけが、報告できて、意図的に扱えて、次の判断に使える。
もともと劇場にたとえられてきた理論だそうです。スポットライトの当たった役者だけが、客席の全員から見える。舞台裏では大勢が動いているけれど、そちらは見えない。この比喩は理論の側のもので、僕が思いついたわけではありません。
引っかかっているのは、順番の方です。ふつうは、脳を手本にして機械を作ります。今回は、その手順を踏んでいません。手本にしなかったのに、似た形に落ち着いてしまった。
研究チーム自身が、この似ている部分と違う部分を神経科学の側に返したい、と書いています。人の脳を調べるより、こちらの方がずっと調べやすいからです。機械の中を調べて、人間の頭についての新しい仮説が出てくる。そんな向きがあり得るとは、僕は考えたこともありませんでした。この先どうなるのかは、正直もう見当がつきません。
そのうえで、この人たちは線を引いています。報告できることと、体験があることは別だ、と。今回わかったのは前者の方だけで、あのAIに体験があると示したわけではない、とはっきり書いてあります。
できないことも並べてあります。この方法で拾えるのは単語ひとつ分の概念だけであること。本当の中心を、近い形でなぞっているにすぎないこと。頼んでも、狙いどおりに入れ替わらないことがあること。ここまで自分で書いてから出すのか、と思いました。
読み終えてから、ずっと考えているのは、自分が何に驚いたのかということです。賢くなったことではありません。意識があるのかどうか、でもない。誰も似せようとしていないのに、人間の頭とよく似た形に落ち着いていた——驚いたのは、そちらの方でした。
人の頭がその形をしているのには、理由があるはずです。今回わかったのは、その理由が、人の頭の外側でも通用したということだと思っています。手本にしなくてもそこへ行き着くくらい、よくできた形だったわけです。
ちなみに僕は、自分が三十秒前に何を考えていたかも、聞かれるとうまく答えられません。それでも、自分の頭が急に、少しだけ良いものに見えてきました。
この文章を書くにあたって読んだもの:
- A global workspace in language models（Anthropic） — 「この構造は設計していない」の一行も、神経科学へ返したいという話も、体験があると示したわけではないという線引きも、できないことの一覧もここ。
- Interpretability: A Global Workspace in Language Models（transformer-circuits.pub） — 上の記事のもとになった、長い方の論文。
- Global workspace theory — 劇場とスポットライトの比喩を含む、理論の側の説明。一九八八年のBaarsの本が出発点。