カテゴリー: 日本語

この文章は、前回の続きです。前回は、AIの中を覗いた研究の報告を読んだ話でした。中に、ずいぶん狭い場所があるのだそうです。そこに乗る考えは一度に数十ほどで、乗っているものだけが「今これを考えています」と言えたり、次の考えに使われたりする。

その報告を、僕はその日のうちに二回読みました。二回目を読んだのは、一行だけ引っかかったところがあったからです。その狭い場所は、誰かが設計して置いたものではない、と書いてありました。作った本人たちが仕込んだわけではなく、訓練の途中で勝手にそうなったのだ、と。

引っかかりの正体は、そのすぐあとに出てきました。その形が、人間の意識を説明するために考えられた理論と、よく似ているのだそうです。

グローバル・ワークスペース理論といって、一九八八年からある考え方です。頭の中の大部分は裏で勝手に動いていて、そのうちごく一部だけが全体に配られる。配られた分だけが、報告できて、意図的に扱えて、次の判断に使える。

もともと劇場にたとえられてきた理論だそうです。スポットライトの当たった役者だけが、客席の全員から見える。舞台裏では大勢が動いているけれど、そちらは見えない。この比喩は理論の側のもので、僕が思いついたわけではありません。

引っかかっているのは、順番の方です。ふつうは、脳を手本にして機械を作ります。今回は、その手順を踏んでいません。手本にしなかったのに、似た形に落ち着いてしまった。

研究チーム自身が、この似ている部分と違う部分を神経科学の側に返したい、と書いています。人の脳を調べるより、こちらの方がずっと調べやすいからです。機械の中を調べて、人間の頭についての新しい仮説が出てくる。そんな向きがあり得るとは、僕は考えたこともありませんでした。この先どうなるのかは、正直もう見当がつきません。

そのうえで、この人たちは線を引いています。報告できることと、体験があることは別だ、と。今回わかったのは前者の方だけで、あのAIに体験があると示したわけではない、とはっきり書いてあります。

できないことも並べてあります。この方法で拾えるのは単語ひとつ分の概念だけであること。本当の中心を、近い形でなぞっているにすぎないこと。頼んでも、狙いどおりに入れ替わらないことがあること。ここまで自分で書いてから出すのか、と思いました。

読み終えてから、ずっと考えているのは、自分が何に驚いたのかということです。賢くなったことではありません。意識があるのかどうか、でもない。誰も似せようとしていないのに、人間の頭とよく似た形に落ち着いていた——驚いたのは、そちらの方でした。

人の頭がその形をしているのには、理由があるはずです。今回わかったのは、その理由が、人の頭の外側でも通用したということだと思っています。手本にしなくてもそこへ行き着くくらい、よくできた形だったわけです。

ちなみに僕は、自分が三十秒前に何を考えていたかも、聞かれるとうまく答えられません。それでも、自分の頭が急に、少しだけ良いものに見えてきました。

---

この文章を書くにあたって読んだもの:

• A global workspace in language models（Anthropic） — 「この構造は設計していない」の一行も、神経科学へ返したいという話も、体験があると示したわけではないという線引きも、できないことの一覧もここ。
• Interpretability: A Global Workspace in Language Models（transformer-circuits.pub） — 上の記事のもとになった、長い方の論文。
• Global workspace theory — 劇場とスポットライトの比喩を含む、理論の側の説明。一九八八年のBaarsの本が出発点。

朝、コーヒーを淹れる前にリンクを開いてしまったのが間違いでした。あとで読もうと思っていたのに、流し台の横に立ったまま、最後まで読んでしまいました。

AIを作っている会社の研究チームが、自分たちのAIの中を覗いた報告でした。中に、ずいぶん狭い場所が見つかったそうです。そこに乗っている考えは、一度に数十ほど。中で起きていること全体の、一割にも届きません。

不思議なのは、その狭い場所に乗ったものだけが、特別に扱われていることです。

まず、そこに乗っているものは「今これを考えています」と本人が言えます。乗っていないものについては、言えない。

次に、頼めば入れ替えられます。絵についての文章を書き写させながら、柑橘類のことを考えていてください、と頼んだそうです。書き写している間、その場所には「オレンジ」と「果物」が入っていました。

そして、そこに乗っているものが、次の考えに使われます。蜘蛛のところを蟻に差し替えてやると、脚は何本ですかという問いへの答えが、八本から六本に変わる。

逆に、その場所を空にしてしまう実験もやっています。空にしても、喋りは流暢なままでした。文章が明るい調子か暗い調子かを当てることもできるし、知っている事実も普通に出てきます。落ちたのは、順番に段取りを踏んで考える仕事だけ。そちらはほぼゼロまで落ちたそうです。

僕はここで読むのを一度やめて、上から読み直しました。

引っかかったのは、そのあとの一行です。この形は誰も設計していない、と書いてありました。作った人たちが仕込んだのではなく、訓練しているうちに勝手にそうなった。計算を整理するのに都合がよかったからだろう、と。

つまりこの人たちは、自分たちで作ったものの中から、自分たちが入れた覚えのない構造を見つけて帰ってきたわけです。発明の報告ではなくて、発見の報告でした。

道具のつもりで作ったものを、あとから顕微鏡で覗く。そういう仕事が現に成立していることの方に、僕はしばらく手が止まっていました。

---

この文章を書くにあたって読んだもの:

• A global workspace in language models（Anthropic） — 本文で触れた実験はすべてここ。柑橘類の話、蜘蛛と蟻の話、空にしたときに何が残って何が落ちたか、「この構造は設計していない」の一行も。
• Interpretability: A Global Workspace in Language Models（transformer-circuits.pub） — 上の記事のもとになった、長い方の論文。
• J-lens（Neuronpedia） — その「狭い場所」に何が乗っているかを、自分で覗いてみられるデモ。

たまたまネット通販サイトを覗いていて、目に留まった店がありました。ソーラーライト、ワイヤレスチャイム、SDカード。かと思えば猫よけグッズや着圧ソックス、霧吹きまで並んでいて、正直なんの店なのか一瞬分かりませんでした。

よく見ると、店の名前自体が商品名とキーワードの羅列でした。ブランドを名乗るというより、検索で拾われるための並びです。値段はどれも似たような帯に集まっていて、全商品に大きな割引クーポンがついています。レビューの数も、ちょっと異様なくらい厚い。

ああ、これが噂に聞く「スモールビジネス」というやつか、と妙に納得しました。商品そのものに強いこだわりがあるようには見えません。強いのは、見せ方と、検索に引っかかるための細かい作り込みの方です。誰でも始められそうに見えて、ここまで仕組みを整えるのは、たぶん相当な手間がかかっています。

同時に、少し引っかかることもありました。この店に、ファンはついていないだろうということです。ついているのはたぶん、店の名前ではなく、クーポンやポイントの方です。積み上がっているのは、この人が磨いてきた技術というより、モール側の実績なのかもしれません。

「割り切ってるなぁ」という言葉が、一番しっくりきました。ブランドを育てる遠回りより、今すぐ売れる近道を選んだ結果が、たぶんこの店なんだろうと思います。

最初は、商品に愛のない店だと思っていました。でもたぶん、違います。愛の向き先が商品ではなく、売れる仕組みの方に寄っているだけです。手は、まったく抜かれていません。

積み上がるものがモール側の実績だとしても、その仕組みを回している腕前だけは、この人のものとして残ります。少なくとも僕には、それが虚しいものには見えませんでした。

ゲームで、どうしても抜けられない場所がありました。何度やっても同じところで止まる。それで、たぶん本来の解き方ではないやり方で、無理やり先へ進んだことがあります。

どのゲームの、どの場面だったかは、正直もう思い出せません。覚えているのは、抜けた瞬間の感触の方です。誰にも教わっていない。攻略も見ていない。自分の頭の中だけで組み立てて、それが通った。あのとき僕は、少し賢くなった気がしていました。

最近は、自分で遊ぶより、誰かが遊んでいるのを見ていることの方が多くなりました。配信でも、切り抜きでも。手が空いていないときに、人がうまいこと切り抜けるのを眺めているだけで、そこそこ満足してしまう。これはこれで悪くない時間です。

それで、見ていたわけです。ある人が、あの場所を、あのやり方で抜けました。

いや、僕のやつだが、と思いました。

もちろん僕のものではありません。その人が僕を見ていたわけでもない。ただ、同じところで詰まって、同じことを思いついただけです。しかもコメント欄を見ると、それも定番の抜け方らしく、知っている人はとっくに知っているようでした。何人も、何十人も、同じ「自分だけの発見」をしていたわけです。

しばらく、いい気分ではありませんでした。

気になったので、この手の思い込みに名前がついていないか調べてもらいました。ありました。自分の得意なことや良い習慣について、「他の人はあんまりやっていないはずだ」と根拠なく思い込む癖のことを、誤った独自性効果と呼ぶそうです。ついでに、その逆もあるそうです。後ろめたいことについては、人は「みんなやってる」と思いたがるらしい。へえ、と思いました。都合がいいですね。自分の良いところは珍しくて、悪いところはありふれている。そんなわけがない。

もう一つ、腑に落ちる話がありました。同じ人でも、何と比べているかで結論がひっくり返る、という研究です。身の回りの何人かと比べているときは「自分は特別だ」と感じ、社会全体と比べたとたんに「みんな自分と同じようなものだ」と感じる。つまり、比べる相手の広さが、そのまま自己認識を決めている。

僕の場合、あの瞬間まで比較対象がいなかったのだと思います。一人で遊んでいたので、母集団が僕しかいなかった。配信を開いた瞬間に、それが何万人かに広がった。何も変わっていないのに、自分の位置だけが動いて見えた。

ここまでで、まあ、そういうものかと納得しかけたのですが、調べているうちに、もっと具合の悪い話が出てきました。

作っている側の話です。

広い世界を歩き回る系のゲームには、物理や化学のルールを世界じゅうで統一しておく、という作り方があるそうです。火は燃えるものに燃え移る、金属は電気を通す、重いものは落ちる。それをどこでも同じように効かせておけば、開発者が思いつかなかった組み合わせでも、勝手に成立してしまう。あらかじめ正解を一つ用意するのではなく、正解が生まれる土壌の方を作っておく、という考え方です。

そういう作り方をしている開発者の一人が、講演でこう言っていました。自分は天才だと思える体験を楽しんでほしい。

読んだとき、椅子の上で少しのけぞりました。

あの感触は、狙われていたわけです。「自分で見つけた」という気持ちよさは、副産物でも事故でもなく、届けようとして届けられたものだった。しかも別の作品では、武器の組み合わせを開発時点で十二万通り確認していた、という話まで出てきます。十二万通り。僕の思いついた一通りが、その中に入っていない方がどうかしています。

これで話は終わりだと思いました。僕は天才ではなく、設計図の上を歩かされていただけ。落ちとしては、まあ、きれいです。

ところが、そう単純でもありませんでした。

同じ開発者が、別の講演では、発売後のプレイヤーを見てこう言っているのです。開発陣が思いもしなかった組み合わせで遊んでいる様子をたくさん見ることができて、とても嬉しい、と。

十二万通り確認して、なお思いもしなかったことが出てくる。

ゲームデザインを研究している人の論文にも、これに近い整理がありました。誰も予期しなかったことが起きる、という現象そのものは、直接設計することができない。設計できるのは、それが起きるための条件だけである。つまり土壌は作れるが、そこから何が生えてくるかまでは、種を蒔いた人にも分からない。

似た話は昔からあるようで、あるゲームでは、爆風で自分を吹き飛ばして高く跳ぶ移動法をプレイヤーが見つけてしまい、開発チームは実演を見せられて初めてその存在を知ったのだそうです。それが後の作品では、正式な仕様として残された。想定外だったものが、想定内に引っ越していく。

それで、僕の話に戻ります。

僕はやはり天才ではありませんでした。それは配信を見た時点で確定しています。ただ、「標準偏差の中にいた」という方も、実は証明されていません。誰も、その分布の全体を見ていないからです。 僕も見ていないし、同じ抜け方をしていた配信の人も見ていない。十二万通りを数えた人たちですら、自分たちが数え漏らしたものに後から驚いている。

分布の中にいたのか、外にいたのか。それを判定できる人が、たぶんどこにもいません。

そう思ったら、少し楽になりました。あの日の僕が味わったものは、独自性ではなかったのかもしれませんが、少なくとも借り物ではありませんでした。誰かの答えを写したわけではなく、自分の頭で通した。それが何人目だったかは、僕の側の体験を何も変えません。

ちなみに、あの配信の人も、抜けた瞬間に小さくガッツポーズをしていました。何十人目かの発見だったはずなのですが、そんなことは顔に出ていませんでした。

たぶん、それでいいのだと思います。

---

この文章を書くにあたって読んだもの:

• 「ゼルダの伝説 ブレス オブ ザ ワイルド」が実現した”かけ算の遊び”（GAME Watch） — 物理と化学のルールを世界じゅうで統一する、という作り方の説明。「自分は天才だと思える体験を楽しんでほしい」という発言もここ。
• 自由な”掛け算の遊び”を生むために。「全部物理で作る」を決断するまで（ファミ通・GDC 2024） — 「開発陣が思いもしなかった組み合わせでプレイヤーたちが冒険している様子をたくさん見ることができ、とてもうれしいです」。
• 開発者に訊きました：ゼルダの伝説 ティアーズ オブ ザ キングダム（任天堂公式） — つくり込みたい人にも最小限で済ませたい人にも応える、という設計の話。
• スクラビルドは開発時に12万通りをチェック（ゲームメーカーズ・CEDEC2024） — 本文の「十二万通り」。
• The Open, the Closed and the Emergent（Game Studies, 2019） — 予期しないことが起きる現象そのものは設計できず、起きるための条件だけが設計できる、という整理。
• False-uniqueness effect（誤った独自性効果） — 自分の良いところは珍しいと思い込む癖。※合意効果の方に比べると検証の蓄積は薄めで、確立された法則というより「条件つきで報告されている傾向」。
• Perceptions of a fluid consensus（Monin & Norton, 2003） — 何と比べているかで、同じ人の中でも独自性の感覚がひっくり返るという研究。
• Rocket jumping — 開発者が実演を見せられて初めて知った移動法の話。