Yusuke Otsuka

【社内に脳入会を作った話】 私は、まだ今は過渡期にすぎないと思っている。AI以前、過渡期、AI以後と分けたときの、真ん中だ。AIを使わずすべてを人力で行っていた時代は終わり、AIだけですべてが回る時代はまだ来ていない。 この時期にすでにAIで十分だと思っているなら、それはAIの問題ではなく、その人の仕事の要求水準の問題だと思う。一方で、AIを無能だと切り捨てるのは、自分の無能の証明でもある。過度に礼賛するのもまた無能の証明だ。礼賛にも拒絶にも倒れず、動き続ける境界の上に立ち続けなければならない。非常に難しい時期で、だからこそ楽しい時期でもある。最後の楽園のような気もしている。 その真ん中で、弊社では「脳入会」という会をやっている。人間の脳に入れるべきものを、意識的に入れる会だ。 このようなAI過渡期の課題には、一つの理由があるような気がしている。inputとoutputの関係が変わってしまった、ということだ。ここでいうinputとは、情報を受け取ることではない。理解し、自分の判断材料として脳に残すことだ。 今までは、inputがなければoutputは出なかった。コードを書くには、そのコードを理解していなければならなかった。実験を組むには、その分野の勘が要った。outputを出す行為とinputは同じ動作の中にあり、一つの仕事をすれば両方が起きた。だから、脳に入れることを独立した仕事として数える人はいなかった。勝手に入っていたからだ。 AIはこの結合を切った。outputは出るが、出した人の脳には何も残らないことがある。動くコードの手前に、理解した人間がいるとは限らない。把握が薄くなったのは、誰かが怠けたからではない。把握しなくても成果物が出るようになったからだ。 以前は副産物として勝手についてきたinputが、意識して入れないと入らないものになった。 「脳入会」という仕組み 脳入会は、副産物として入らなくなったinputを、制度として入れ直す場所だ。AI以前は、脳に入れなければoutputは出なかった。入れることは前提で、わざわざ名前をつける必要がなかった。いまはそうではないので、脳に入れるという行為を明示的に切り出して、名前をつけて、やる。 形式は大学のゼミに近い。メンバーが持ち回りで、自分がいま取り組んでいる研究開発の内容を発表し、それについて議論する。一回一時間ほどで、定期的に回している。 将来のAIに対しての話 用の側からの理屈は、ここで尽きる。過渡期のいまは、任せられるものと任せられないものを分ける、という実務の話で足りた。だが将来のAIに対して、人間の側になお何かが残ると主張しようとすると、実用の言葉では何も言えない。 残るのは、感情論と思想だけだ。だからここからは、感情論と思想の話をする。 残るもの まず認めておく。性能では勝てない。速さでも、量でも、精度でも、範囲でも勝てないし、これから差は開く。人間に何が残るかを考えるとき、「AIより上手くできること」を探すと何も残らない。探すべきは、AIにないものだ。 人間には肉体がある。肉体があるから、経験が肉体を通して入ってくる。 その経験は記憶として残り、しかも連続している。自分が昨日の自分と同じ自分であるという厳密な連続性を仮定するなら、人間のコンテキスト長は生まれてから今日までの全部であって、これはどんなモデルのコンテキストウィンドウよりも長い。 ただし正確ではない。人間の記憶は逐語的ではなく、ほとんどが失われ、残ったものも歪んでいる。だが、これは劣化ではない。圧縮だ。何十年分の経験が、判断の瞬間に一つの「なんか違う」に折り畳まれて出てくる。その圧縮されたものを、我々は感性と呼んでいる。感性とは、圧縮された記憶のことだ。 AIが成長しても、これらは残る。AIがそれを持っていないからではない。AIがそれを持てるようになったとしても、私のこの肉体を通った記憶の圧縮は、私にしかないからだ。 入れて、煮込む 人間にしかないものが感性で、感性が圧縮された記憶なのだとしたら、それをつくる方法は一つしかない。入れて、煮込む。 煮込むには材料が要る。AIに読ませて要約させたものは、その理解の工程をAIが引き受けている。自分の脳には入っていない。一度自分の頭で理解し、時間をかけてほかの記憶と混ざり、そのうち形を失って、判断の癖になる。 問い直しと大局的な判断は、主観の混ざった解釈から出てくる。その主観とは、感性のことだ。感性は、入れなければつくれない。判断を持ち続けるためには、inputをやめるわけにはいかない。 脳に入れる側に張る 脳に入れるべきタスクが一つも残らない未来は、あり得る。そのときは、人間は工程の中の単なるボトルネックであり、外れるのが正しい。将来のAIに対してもこの切り分けが残るかどうかは、正直、わからない。 本音を言えば、結局そっちの方が楽しいっしょ、という話だ。 自分の頭で理解して、他人の頭の中身を聞いて、それについて一時間言い合う。それは仕事として必要かどうかの前に、面白い。AIが出したものを承認して回る仕事より、面白い。 満足なソクラテス ミルは、満足した豚であるより不満足なソクラテスである方がよい、と言った。考える者は満たされない、という前提がそこにある。考えることと、考えた末に何かを出すことの間に、いつも苦役があった。 AIはその前提を壊した。outputはAIが引き受ける。人間には、inputと、煮込むことと、判断することが残る。それは人間にしかできないことであると同時に、人間にとって一番面白い部分でもある。苦役だけが抜けた。 AIは我々に、満足なソクラテスとして生きる選択肢を与えた。我々はそれを選ぶ。それがうちの会社の立場で、脳入会はその立場の具体的な形だ。 同じ選択をしたい人と、働きたいと思っている。 konoe-intelligence.net/posts…