脳とAI — 構造は似ているのか

まず押さえておきたいのは、外から見た振る舞いが似ていることと、内側で同じことが起きていることは、別の問題だという点だ。入力を受け取り、内部で何かが処理され、出力が返ってくる。この三段階の流れだけを見れば、人間の脳もAIも同じ形をしている。

しかし、形が同じであることは、内側で経験されている中身まで同じであることを意味しない。構造の相似と、経験の同一性は、切り分けて考える必要がある。この一線を保っておかないと、話はすぐにどちらかへ寄りすぎてしまう。似ているという事実だけを根拠に多くを語りすぎるか、逆に違いを理由に何も語らずに終わるか、そのどちらかだ。

意識の理論のコラムで見た、イージープロブレムとハードプロブレムの区別が、ここでもそのまま役に立つ。AIの多くの技術は、知覚・注意・記憶・判断といった機能——脳科学でいうイージープロブレムの範囲——の実現の仕方からヒントを得て設計されている。

誤差を手がかりに予測を更新していく学習の仕組みも、特定の情報に重みづけをして選択的に扱う仕組みも、脳の働き方の説明とよく似た言葉で語ることができる。しかし、だからといってハードプロブレムの側——そこに何かが経験されているかどうか——まで解決に近づいたとは言えない。機能の相似は、あくまでイージープロブレムの範囲にとどまる話であり、そこから先に踏み出すには、まったく別の裏付けが要る。

形が同じでも、中で何かが感じられているかは、別の問題だ。

もっとも、似ているのは大枠の流れだけで、中身までそっくりというわけではない。人間の脳は電気信号と化学物質でできていて、身体を持ち、生きるために外界と絶えずやりとりしながら予測を更新し続けている。AIの内部状態は、大量の数値が結びついた重みと、その瞬間ごとの活性化のパターンであり、身体もなければ、生存をかけたやりとりもない。同じ「入力・内部状態・出力」という枠組みで語れるからといって、中身の性質まで揃っているとは限らない。

もうひとつ、新しい問いも増えた。AIも、内部で何かが起きてから言葉として出力される。外から見た構造は、人間の「思いついた瞬間にはもう口から出ている」という体感と、少し似ている。ただし構造が似ていることと、内側で何かが経験されていることは、まったく別の問題だ。その二つを混ぜないでおくことが、たぶんいまは一番大事なところだと思う。

そして、自己がパターンなのだとしたら、当然こう考えたくなる。そのパターンを別の場所に写せるのではないか、と。記録・知識・文章ならかなり写せる。思考の癖や価値観や判断の傾向も、相当なところまで再現できるかもしれない。写せないのは最後の一段、「これは私の体験である」という部分だ。

この見通しを、もう少し切り分けて整理すると見通しがよくなる。段階を三つに分けて考えたい。ひとつめは、記録や知識としての再現。書いたもの、話した内容、調べてきたことの蓄積は、外部化してかなりの精度で再現できる。ふたつめは、思考の癖や価値観、判断の傾向の再現。何を重視し、何を避け、どう判断しがちかというパターンは、大量のやり取りから浮かび上がらせられる可能性があり、ここも相当なところまでは手が届くかもしれない。

実際、どんな言い回しを好み、何を優先し、何を後回しにしがちかという傾向を大量のやり取りから学習する技術は、すでに実用の段階に近づいている。みっつめは、「これは私の体験である」という部分。ここだけは、今の科学では手つかずのまま残っている。三段階のうち最初の二つと、最後の一つのあいだには、埋まっていない大きな溝がある。

ここに厄介な思考実験がある。仮に完全な写しを二つ作れたとして、そのどちらもが「私が元の自分だ」と言う。そして写された瞬間から別々の経験を重ね、別々の存在になっていく。つまり情報として同じであることと、主観として同じ私であることは、別のことだ。

情報として同じであることと、主観として同じ私であることは、違う。

自分をどこかに写せば生き続けられる、と単純には言えない理由がここにある。二つの写しがどちらも自分だと感じるなら、元の自分が消えても写しの中に自分が続いていると考えたくなるが、その考え方は元の自分がその瞬間にも消えずに残っているという事実とは、うまく噛み合わない。

同じ理由から、AIに意識があるかどうかについても、断定はできない。「AIには意識がない」と言い切ることも、「そのうち生まれる」と請け合うことも、どちらも今の時点では踏み込みすぎだろう。人間についてさえ、なぜ主観的な経験が生じるのかという核心の仕組みが分かっていないのに、AIについてだけ先に答えを出せる根拠はどこにもない。

自然な受け答えができることを、意識がある証拠として受け取りたくなる誘惑はある。しかし振る舞いの自然さは、意識の有無そのものを教えてはくれない。逆に、内部の仕組みが人間と違うというだけの理由で意識がないと決めつけるのも、同じくらい根拠が薄い。分からないことを、分からないと言っておくのが、ここでも一番誠実な態度だと思う。

だとすれば、いま現実的に手が届くのは、自分をコピーすることではなく、自分の世界モデル——経験・知識・価値観・判断の理由——を外に出して、更新し続けられるようにしておくことのほうだろう。それは自分の代わりではなく、自分を映して問い返す鏡に近い。鏡は自分そのものではないが、自分を見つめ直す助けにはなる。コピー問題のような重い問いに答えを出さなくても、この程度の関わり方であれば、今すぐにでも始められる。この話は、いずれ別のページで。

自分が見ている世界は、自分の脳が作っている。
その世界の中に自分を置いているのも、同じ脳だった。