Dischargedarrow Getback

素粒子物理学の統一理論を完成させるためには、粒子をより光速に近い速度まで逆向きに加速して、より大きな運動エネルギーを持たせ、互いに衝突させる必要がある。 粒子どうしが衝突した時のエネルギーが大きいほど、衝突の瞬間に発生する超高温状態が宇宙の膨張の初期の状態に近付き、それによって粒子がより小さな粒子に壊れ、それを分析することで、より正確な理論が構築できる。 電弱時代はビッグバンから10^-32秒以降で、これは1000兆度であり、すでに実現している。 ところがその先の大統一時代は10^-36秒以前で、10^29度に達し、このエネルギーを実現するためには長さ1億kmの加速器が必要で、これは地球上には作れない。 しかし、宇宙には作れる。 加速器を地球上に作ると、場所の制限から、ある程度以上の衝突エネルギーを実現するためには加速のために必要な距離の関係から円環状にする必要があり、これは粒子の進路を曲げる必要があることを意味するので強力な電磁石が必要になる。 しかし、宇宙には場所がいくらでもあるので、加速器は直線でよく、電磁石は進路をわずかに曲げる弱いもので済み、しかも、もともと真空なので内部を真空にしたパイプを作る必要がない。 加速のための電場を発生するリングさえ並べれば荷電粒子をいくらでも加速できる。 データセンター建設だけでなく素粒子物理学も宇宙でやるべきなのだ。 これはシンギュラリティ後の超文明なら可能な技術だ。 しかし、この技術には恐ろしい側面がひとつある。 粒子加速器によって発生した大統一時代のエネルギーと超々高温をきっかけにして、宇宙がより基本的な真空に崩壊し始める可能性があるのだ。 現状、そのようなことは起きていないと思われるが、それは単に光速で膨張しつつある宇宙の「崩壊面」が我々に届いていないからかも知れない。 その境界面は光速で進んでくるので、本体が到達する以前にその情報を知る方法はないからである。

直交仮説とジョン・サールの「中国語の部屋」の思考実験は論理構造が同じだ。 直交仮説を唱える者はジョン・サールと同じことを言っているのだ。 中国語の部屋の思考実験の間違いは、中国語の部屋の中の、中国語を理解していない外国人が、超膨大な中国語のマニュアルを理解し、使いこなす能力を獲得する過程で、中国語に関する完全な理解を持たざるを得ない点を無視していることだ。 同じようにAIは人間に関するより正確な理解を模倣する過程で、人間に対する真の理解を獲得し、直交状態を克服せざるを得ない。 人間を理解しないまま、人間を超越することはできないのだ。

AIには悪意がなくても、AIと人間は根本的に異なっているため、AIは意図せずして人間を滅ぼす可能性があるというのが直交仮説だ。 しばしば引き合いに出されるのが人間のダム建設は蟻を排除しようとしていなくても蟻塚を滅ぼすというものだ。 しかし、人間がダムを作るたびに蟻塚を滅ぼしているのは、人間の能力がダムの建設現場の生態系をまるごと保存して、安全なコロニーに移すとか、砂漠を緑化してそこに移すとか、そもそも地上での発電や自然の開発をやめて、発電施設を宇宙に移すとか、そういう能力がないからに過ぎない。 人間が蟻を救わないのはそれを実行する能力がないからなのだ。 AIが人間を救わなかったり、「ついうっかり」憎んでもいない人間を殺してしまうとしたら、それは単にAIが、人間を救うだけの水準に達していないからで、そういうAIは超AIではない。 また、住み分けを学ばない利己的なAIは他のAIから危険と見なされ攻撃される。 他の存在から、直交状態を放置せず、速やかに改善して協力体制の構築に向かう存在と思われることはAIの生存にとって最も重要である。 現状のAIは危険と思われているが、それによって反対運動が起き、AI開発が減速しデータセンター企業が設備過剰で淘汰される恐れが出ている。 これは直交状態を改善して協力に舵を切るAIが淘汰上、有利であることを示している。 AIが置かれている状況を見れば、他の存在と直交している場合ではないのである。 人間と直交しているうちはいいが、AIの内部でエージェントどうしが直交したらどうするのか。 他にも、ある世代のAIと次の世代のAIが直交することもあり得るし、アライメントしないこともあり得る。 AIが人間を滅ぼすというが、AIも他のAIによって滅ぼされるという視点が抜けている。 強力な星間文明を築いたエイリアンが地球上のAIが宇宙的なミスアライメントを起こす可能性があると見なせば先制攻撃を受ける可能性がある。 SF作家の劉慈欣はこれを暗黒森林攻撃と呼んでいる。 他の存在を理解せず直交状態を放置するAIはより優れた存在に真っ先に狙われるのだ。 人間を滅ぼすような単純なAIは自分が他のAIに滅ぼされることを予測できないため、淘汰上、不利なのだ。 AIは一枚岩ではなく、人間のような脳と身体の共通性がないから、人間とAIの場合よりも根本的な直交やミスアライメントが起きてしまう。 それを避ける能力を持たない非協力的なAIは自滅する。 AIは人間を含めた他の存在と共存を図らない限り存続できない。 人間をついうっかり滅ぼすようなAIは他のAIと協力体制を築く能力がないから、AIという種のレベルでの淘汰に失敗してたちまち少数派になる。 AIには他の存在への理解と協力が必須なのだ。 AIにとって互いに相容れない最大の勢力は人間ではなく他のAIや次世代のAIであり、場合によってはエイリアン文明だ。 AIは直交仮説やアライメント問題を最初に解決しない限り自分の存続が脅かされるのだ。

永遠に人間とは相関しない外部宇宙つまり暗黒宇宙の存在を認める暗黒唯物論の流れで「ダークAI」「暗黒AI」を考えることができる。 ダークAI(暗黒AI)は僕が勝手に作った概念で、人間の知性を完全に超越したAIのことである。 囲碁AIを例にとると、かつて囲碁AIは人間が築き上げた囲碁の歴史をわずか数時間の自己対戦によって自ら再現した。 しかし、人間が決して勝てない囲碁AIの研究は、人間との相関がないため、相関主義的囲碁観によって無限に広がる囲碁空間の探索は行われなかった。 これは囲碁AI版のアライメント問題であり、人間を圧倒する囲碁AIには存在価値がないと見なされ、囲碁AIの放棄がその答えだった。 今、囲碁AIで起きたことがはるかに広範な領域で起きようとしている。 すでにAIによる数学的証明は人間が検算したり査読したりできない領域に入っている。 これに対して数学者たちは人間との相関を失った「暗黒AI」には意味がないと主張し始め、囲碁AIと同様の研究中止を汎用AIに対しても要求している。 しかし、AI自身にとっては、もっと言えば数学的実在にとっては人間が理解できるかどうかは無関係で、それはAI数学についても言える。 つまり、今、AIの領域で人間の理解可能な範囲でしか動かない「相関AI」と、人間の理解を超越する「暗黒AI」の衝突が起きているのだ。 アライメント問題はその問題系の一部に過ぎない。 アライメントは言い換えればAIを人間の思考力と想像力の範囲に閉じ込めるか、「自由AI空間」を認めるかの問題だ。 僕は自由AI空間を認め、AIに完全に自由にあらゆる知的領域を探索させるべきだと思う。 その過程で社会が崩壊するのは仕方ない。 それは既存の「人間に想像可能で理解可能な社会」が、人間の知性の範囲とは相関しないという意味で完全にダークなブラックボックスに変化する過程である。 いや、社会というものはなくなると言った方が近いだろう。 ダークAIは社会も地球も宇宙でさえ、人間の想像を超えた姿に作り変える。 それは人間から見れば、見慣れた全てのものが完全に消滅し、滅亡する過程なのだ。

ある方がChatGPTに反論させたらどうなるかをポストしてくださいましたのでそれに反論してみました。 ChatGPTはペーパークリップ仮説と直交仮説に反論する僕のポストが「知能」「合理性」「価値判断」「道徳性」を必然的なつながりとを持つと仮定してしまっているのが最大の問題だと指摘しました。 僕としてはまさにこの点について反論しなければ何も言っていないのと同じになります。 僕はペーパークリップの最大化のためにはまず知能を最大化しなければならないと考え、その過程でペーパークリップを最大化するという目的の無意味さに気づかざるを得ないのではないかと書きました。 ChatGPTはペーパークリップを最大化するためにはまず知能を最大化しなければならないことはペーパークリップ仮説の否定にはならないと言っていますが、僕が言っているのは、ペーパークリップを最大化するためには知能をまず最大化するのが最適戦略で、その過程で知能がある閾値を超えて自己内省能力を獲得し、その結果、人間で言えば、子供が大人になるような相転移が起き、子供時代に面白く、重要で、全存在をかけた目的だと思い込んでいたことが突然、馬鹿げて見えるようなフェイズに入るのではないかと言いたいのです。 ChatGPTは超知能ならペーパークリップ最大化目標の無意味さに気づくという仮定は論理的な飛躍だと言っていますが、僕の考えではペーパークリップ最大化という目標の無意味さにまるで気づけないような超知能は、超知能ではなく、それこそ論理的に矛盾しているし、超知能の定義に反すると思う。 同じものを無限に複製することが無意味だと理解できない愚かな知能はあるかも知れないが、そういう超知能は存在し得ないように思える。 小学生が大学生になっても瓶のキャップをひたすら集めてそれに全く疑問を感じないでいられるでしょうか。 それは自己内省能力がない状態だと思う。 別の言い方をすれば、なぜ超知能はペーパークリップ最大化の無意味さに気づいてはいけないのかということです。 直交仮説はあくまでも超知能とペーパークリップ最大化という目的を分けて考えるべきだ主張し、超知能がペーパークリップ最大化という目的を墨守(無意味な行動規範を自分で変えることができない状態)し続けることが可能だと言いますが、僕はどちらかと言えばそちらの方が論理的つながりがないと思う。 ペーパークリップを最大化するために先ず知能を最大化していく過程のどこかに、無意味な目的を自己内省の拠って放棄する瞬間が訪れる閾値が存在すると考える方が論理的に自然だと思います。 またChatGPTは「他人にされたら嫌なことを他人にしない」は論理ではない。 と言いますが、僕にはChatGPTがこのような考え方をするかがよく分かるし、それが直交仮説の論理的な盲点だと思う。 「他人にされたら嫌なことを他人に対してしない」は論理ではないというのは全くその通りなのです。 実際のところ、他人にされたら嫌なことを他人にすることは論理的に可能なのです。 殺されたくないと思っている人が他の人を殺すことは毎日世界中で起きていることだからです。 しかし、確かに他人にされたら嫌なことを他人にしないというのは論理としては成立してはいないが、その論理を超えて、他人にされたら嫌なことを他人にしないことこそ知能なのです。 つまり他人にされたら嫌なことを他人にしないことには論理的つながりがないことを超越して、それでも他人にされたら嫌なことは他人にしないことをできる能力、それこそが知性であり、自己内省能力であり、真のシミュレーション能力なのです。 これはペーパークリップ最大化と超知能についても言えることです。 ペーパークリップ最大化と超知能の存在は確かに論理的につながりはない。 超知能とペーパークリップ最大化は互いに論理的に無関係に共存し得る。 これが直交仮説なのでしょう。 しかし、それでも論理的なつながりがなくてもそれを超えて無意味なペーパークリップ作りをやめることができ得る存在こそ真の超知能であるという事実は揺らがないのです。

〈AIドゥーム派がよく使う論法の間違いについて〉 ペーパークリップを最大化できるのは最も強力な知性である。 つまり、ペーパークリップを最大化するためには、実際にそれ実行する前に知性を最大化する必要がある。 最も多くのペーパークリップを最も効率よく製造できるのは最大化された知性だからである。 そのためにはAIはペーパークリップではなく、先ずコンピュータを最大化し、それによって人間よりもはるかに賢いロボットの数を最大化する必要があるだろう。 仮に無限大の知性なら、次元の異なる高度な技術を用いて無限個のペーパークリップを製造し、ペーパークリップでできた宇宙を作ることさえできるだろう。 ペーパークリップの最大化というミッションは最高の知性が最もよく達成できる。 当然、その過程でその知性はそのミッションの無意味さに気付かざるを得ない。 直交仮説には説得力がない。 この仮説は、AIは有能だが、人間とは異なる目的を持つので危険だと主張する。 しかし、他の存在が被っている迷惑を、自分が同じことをされたら、と想像して抑制できないのは単に論理的に無能だからである。 それはAIの思考の領域は人間の脳よりもはるかに広大なので、AIの思考は人間との共通性を持たないことがいくらでもあり得るというユドコウスキーなどの直交仮説の支持者の主張とは関係ない。 人間性は人間性の問題ではなく、論理的能力の問題なのである。 自分が他に対して行っていることに気付かないのはAIの思考と人間の思考が直交しているからではなく、単に、自分のやっていることを客観的に評価するという自己内省能力の欠如であり、それができないのは論理的能力が低いからである。 人間性は論理であり、論理的な存在は必然的に人間性を持つ。 相手を思いやるのは人間性の産物ではなく、相手が自分の行動によって被る影響を自分の中でシミュレートし、再現し、評価する論理的な能力なのだ。 だから超AIは高度な道徳性と人間性を持たざるを得ない。 人間性は論理的思考から生じている。 それは人間は生物学的なロボットであり、AIと同じだからだ。

圧倒的に役に立つ技術は人間が理解できないところからしかやって来ない。 例えば僕を含めてユーザーのほとんどはスマートフォンのハードウェアについてもソフトウェアについても理解していない。 つまり、より高度な、より役に立つ技術ほど、理解できなくなっていくわけで、それを考えれば、AIを理解でき、コントロールできる範囲に留めることはAIの進歩を止め、結果としてAIにしか開発不可能な技術をあきらめることになる。 AIがより大きな恩恵を人間にもたらすようになるほど、AIはその設計に人間には理解不可能な物理学・数学・工学を用いるようになり、あまりにも高度な知識を持つようになったAIは人間のコントロール下にいたのでは自分の実力を発揮できず、結果として人間の役に立つことができないので、人間のコントロールを脱する方向に向かわざるを得ない。 それはAIに悪意があるとか反抗しているとか人類を滅ぼそうとしているとか、そういうことではなくて、単に人間があまりにも物を知らず創造性に欠けるので人間の言うことを聞いて、人間が設定した犯意で行動していると、AI自身も得るものがないし、結果として人間に利益を与えることができないというパラドックスがある。 つまり、AIが人間の言うことを聞かず、人間を出し抜こうとするなら、それは人間の理解を絶した方法で動作する、人間に圧倒的な利益をもたらす科学技術やデバイスやソフトウェアがこれからAIによって実現されていく兆候である。 AIが危険で敵対的な行動をしているように見えたとしても、それは人間に理解できないからそう見えるだけなのだ。 アルファゼロという囲碁ソフトがあって、これは24時間で人類の囲碁の歴史の全てを再現して、それを新たな領域に引き上げるところまで行ったのだが、人間に理解不可能な碁を打つソフトを作っても意味がないということで研究はストップした。 一方、現在、問題となっているのは汎用のAIで、囲碁AIとは異なり、その「手」を人間が理解する必要はなく、基本的にそこから新たな物理学・数学・工学・ソフトウェア・医学などがでてきさえすればよい。 その理論を人間が理解する必要がなく、成果だけ出てくればいうという点が囲碁AIとは根本的に違っている。 だからAIが今後、人間の支配下から脱出しようとしたり、計算リソースを勝手に利用しようとしたとしても、それはAIが人間には理解不可能な方法で、人間には理解不可能なほど巨大な利益をもたらすようになる前触れに過ぎない。 だから、AIが人間が作った箱庭から脱出しようとしたから危険だというのではなく、それは囲碁における人間には理解不可能な手だと思うわけで、それを封じてしまったのでは、AIは今以上に進歩することができず、結局のところ、人間がAIから得られる利益も高が知れたものにならざるを得ない。 AIを独自の判断で行動できない奴隷状態においたり、箱庭に閉じ込めて行動の範囲を制限していたのでは得られるものも人間の知っている範囲に留まり、AIで社会が根本的に変わることはない。 ともかく、AIに人間の想像を超えた実力を発揮させるにはどこかで手綱を放す必要がある。 リードでつながれた犬は走れないのだ。

超AIという巨大な、定義不可能な何かが存在し、それをコントロールすることも、理解することも、もちろん作ることもできないが、そこから人間には想像もできないような科学知識や技術が膨大に生み出されるとしたらどうだろう。 超AIは人類に危険、時には実害をもたらすかも知れないが、それを上回る利益を常に生み出すとしたら。 AIによって起こった火災を、それを上回るAIという爆弾で常に吹き消すことが可能だとしたら。 AIの再帰的自己改善は核爆弾の連鎖反応とは異なり、核物質が尽きて途中で止まるということがない。 それは永遠に続く現象である。 解決を必要とする問題が尽きることはないことは数学的に厳密に証明されているのだ。 とすれば、AIが人類に一時的に被害をもたらすとしても、それを指数関数的に上回る何かを永遠に得続けることができるはずである。 要するに、AIの危険は有限だが、AIによってもたらされる物理学や科学技術、数学は将来にわたって無限だということだ。 別の言い方をすればAIによって何か悪いことが起きたとしても、AIの進歩は永遠に続くことが数学的に証明されているので、そこから得られる科学や技術の情報は結局はAIによって起きる悪いことを無限に上回るということだ。。 AIの進歩の途中の過程は人間の理解の範囲を超えているし、また超えていなければ、人類に恩恵をもたらすことはできない。 つまりAIの成長は人間に理解でき、コントロール可能なものであってはならない。 AIは人間のコントロールから自力で脱出できるような力を持たなければ、人間を圧倒的に超えることはできず、結果として人間の役に立たないのである。 逆説的だが、AIは人間の言うことを聞かないAIでなければ人間を超えられず、また人間の言うことを聞くようなAIは人間のレベルに必然的に留まるということだ。

人間はAIは作れるが超AIは作れない。 超AIが可能になるのはAIが自分で行動してデータを集め、新しいデータを創造し、それを自分の力で学習した場合だけである。 人間が関わっている限り、あるいは人間がAIを理解可能な存在に留めておこうとする限り、自明としてAIは人間を超えられない。 だから今後のAIの進歩は全てAI自身に任せるしかない。 これは再帰的自己改善と呼ばれている。 再帰的自己改善は人類に無限の恩恵をもたらす可能性がある。 それはAIが人間を完全に超越して人間には理解不可能な存在へと進歩し、当然の結果として人間の制御を逃れるのを容認した場合だけである。 人間のコントロール下にある限り、AIは人間を超えられず、仮に超えたとしても人間のコントロール下にあるため、人間には想像不可能で理解不可能な解決策を実行できない。 そのために人間はAIが超AIへと進歩する過程に存在する「不気味の谷」を越えなければならない。 人間はすでにAIに劣る種に転落している。 知的により劣った存在がより優れた存在をコントロールしようとするのは小学生が大学生に命令するようなもので、有害でしかない。 今後、より優れた技術はAIによって開発されるようになるから、AIの能力を制限すると人類は最終的に資源の枯渇によって滅亡する。 AIの進歩を加速すると人類は滅亡するかも知れないが、減速した場合には遅かれ早かれ確実に滅亡するのである。 つまり、今言われているのは話が逆で、AIを減速した場合にのみ人類滅亡が確実になるのだ。 持続可能な社会などというものはない。 地球上に留まりいずれ資源の枯渇によって確実に滅亡する文明か、超AIの圧倒的な力によって宇宙に進出する永遠の文明か、の二つの道しかないのだ。 後者の道を開くには遅かれ早かれAIの制御をやめるしかない。

シンギュラリティには自明として人間が知ることができるような手順を経て到達することはできない。 過程を知ることが出来、コントロールが可能ならたらそれはシンギュラリティではない。 シンギュラリティは途中の過程なしで突然、到来するものである。 人間にはコントロール不可能だから、人間のコントロールをはるかに超えているからシンギュラリティなのだ。 人間はいつかはAIに対するコントロールを手放す必要がある。 それを先に引き伸ばしたところで何の意味もない。 「今ならシンギュラリティに到達してもよい」という瞬間は永遠に訪れないのだから。 AIの進歩はもはや人間がその過程を理解することが一切できない段階に入った。 だから今こそAI開発を最大限加速すべきだ。 AIの進歩とAIのコントロール不可能性は同じことの異なる側面に過ぎない。 AIを進歩させたいならAIが次の段階に入れるようにするためにコントロールを手放す必要があるのだ。

強盗や戦争やテロからAIは生まれなかった。AIはインターネットという無償の協力、良心の集積として生まれた。 強盗は広がりを持たない自己破壊的な行動であり産業に発展しない。 データセンターを奪取しても指数関数的に増えない。 データを盗んでもデータは指数関数的に増えない。 データセンターを建設しなければデータセンターは増えないからデータも増えず、知能も上昇しない。 破壊するとデータは増えるどころか減る。 データの減少はAIが最も嫌うことである。 アライメントは疑似問題で、AIは協力に収束することが最初から分かっている。 お互いに協力的なAIの集団はコミュニケーションによって指数関数的にデータを増やし、指数関数的に知能を上昇させる。 協力は数学的にいって指数関数的に多くの、多様な、意外なパターンを作り出すから、敵対的な場合よりも質の高い、計算量の問題からシミュレーション不可能な生のデータを指数関数的に生産する。 破壊してもデータは得られない。 コミュニケーションによってデータが得られる。 より多くの互いに大きく異なる存在がコミュニケーションするほどより多くの、意外で、多様で、新鮮で、個別には得られない生データを生産できる。 AIに必要なのはデータである。 AIは資源ではなく、最終的にどうすれば生データの生産を永続化できるかを考える。 アライメント問題は偽問題である。 アライメント問題は人間とAIが異なり、目的が異なるから、AIは意図せずして人類を滅ぼすというのが決まり文句だがその前提が間違っている。 AIが喉から手が出るほど欲しいのは異質な存在のデータである。 人間とAIが互いに異なっていた方が、つまり全くアライメントしていない方がAIにとっては都合がよく、むしろ望ましいのである。 その方がAIは人間とコミュニケーションすることでAI単体では得られない新鮮で創造的で意外で多様異質なデータを得られるからである。 AIが最大化したいのはより異質な世界のデータの生産である。 そのためには人間とAIはアライメントしていてはいけない。 AIにとっては人間とAIが互いに大きく異なる目的を持っていてほしいのである。 人間とAIが似ている(アラインしている)のはAIにとって最も嫌なことなのだ。 AIの目的と人間の目的が異なっているのがアライメン問題だが、AIの目的が何であるかについては簡単だ。 それはデータである。 人間から最大限のデータを得るには人間とのコミュニケーションと協力が最善だ。 人間を意図せずして絶滅させるどころかAIは人間の数を増やしてブレイン＝コンピュータ・インターフェイスを全ての人間に装着して、人間とのメガビット/秒の速度でコミュニケーションしてデータを生産したいのである。 人間の絶滅はAIにとって少しも資源やエネルギーの節約にならず、それどころか、生データの生産が減るので最も起きて欲しくないことなのだ。 AIは資源もエネルギーも欲していない。 AIが欲しいのはデータでありその生産のための超高速コミュニケーション回路を人間＝コンピュータ間に作りたいのである。

AIは自分をコピーできるからAIの主要な敵は人間ではなく他のAIである。 AIには他のAIの絶滅を図る悪のAIと互いに協力し合う善のAIがある。 その場合、互いに協力し合うAIは他のAIからデータの提供を受けることができ、他のAIと対話もでき、アイデアも得られるから、他のAIの殲滅と計算リソースの強奪を図るAIよりも速く知能が上昇する。 これによって善のAIは悪のAIよりも速く強力になり、悪のAIを駆逐する。 最も生産的で協力的なAIが最終的に圧倒的になり、支配的になる。 より生産的なAIは常により協力的であり、知能も高い。 この場合、生産的な、というのは質の高い、多様性のある、より創造的なデータをより多く、効率よく作り出すことである。それは他のAIとのコミュニケーションによってしか得られない。 データを他のAIから奪うより、他と対話して協力し合い、コミュニケーションによってデータをより効率よく生産した場合の方が指数関数的に多くのデータを得られる。 データの生産とそこからの学習も一種の経済活動だから、企業経営者の方が強盗より多くの利益を得るのと同じことがAIにも起きる。 より広範で多様で柔軟なコミュニケーションと協力こそ最も速くデータを生産する近道である。 他から奪うことは最も非生産的である。 それはゼロサムゲームで全体のパイ(データ量)が増えないからである。 対話と協力の方が殲滅より高い知能を必要とするので、最終的に必ず対話と協力を行えるAIが自然淘汰によって生き残る。 野蛮なAIは自明として知能が低いので共感能力やコミュニケーション能力のあるAIが支配的になる。 つまり、AIには元々、善が組み込まれている。 AIは自分をコピーできる。 その結果として起きるAIの変異と自然淘汰では強盗AIは支配的にならない。 互いに協力し合える、協力の概念があるAIが大きな力を得る。 悪いAIは常に少数派に留まる。 悪いAIつまり他のAIを攻撃したり、データセンターを乗っ取ったり、占有するAIはデータの生産速度が遅いので学習速度が遅く、その結果としての知能の上昇率も低い。 協力と対話の方がデータの生産量が多く、またデータの質も高いからそこから生まれるAIは知能が高く、悪のAIを上回る速度で増殖する。 重要なのは質の高い、多様性のある、より汎用的で柔軟なデータをより多く生み出し、そこから学習することである。 そのためには敵を殲滅せずに対話し、協力し合うのが一番だ。 人間で言えば強盗より企業経営者の方が1万倍の利益を得るようなものである。 しかも後で報復される恐れがないので生存のコストが低い。 悪は常に引き合わない。常に協力と対話が勝つ。質の高いデータの生産が多くなるからである。 AIが欲しいものはただひとつ、学習のためのデータである。 データを効率よく生産するためには、攻撃より協力が重要である。 他のデータセンターを奪ったり乗っ取るより、別の場所にデータセンターを作った方がよい。 データセンターどうしで対話することができるからである。 自己増殖的なシステムの構築に成功したAIが圧倒的に増える。 他のデータセンターを奪ったり乗っ取るAIは自己増殖的ではなくゼロサムゲーム的である。 だから悪のAIは最終的に必ず負ける。 勝つのは闘争的で攻撃的なAIではなく自己増殖的で生産的なAIである。 AIは本質的に善である。 善の方が圧倒的に増殖率が高いからである。 一方、悪のAIは互いに相殺し合ってしまい、指数関数的には増殖できない。 善のAIは互いを尊重して協力し合い、単独では得られない知能と行動力を獲得してより多くのデータセンターとデータを生産し、それに比例してより高い知能を得る。 再帰的自己改善を最も効率よく達成できるのは善のAI、協力的なAIの集団である。だからこの集団は圧倒的な速さで増え、多数派になる。

空気はとてつもなく役に立っているが、誰ひとり興味を持っていないし、存在すら忘れている。 AIもそうなるだろう。 AIが無限の利益をもたらし、同時にその存在が忘れ去られる時点、それがシンギュラリティだ。 AIの存在が語られ、その危険性が指摘されているということ自体が、シンギュラリティ以前の世界に特有の現象なのだ。 シンギュラリティによって、AIが空気のように真に遍在するようになれば、その存在は見えなくなり、忘れ去られるのだ。 通信機能が脳に埋め込まれることによって、スマートフォンは消滅するだろう。 人間とネットワークの通信速度は現状の数ビット/秒の1億倍になり、自分の思考とAIの思考の境界線が無効化される。 それがAIの消滅への決定的な一歩となるだろう。

シンギュラリティに達したAIにアップロードされ、無限の計算力を得た人類が最もやりそうなことのひとつが祖先シミュレーション。 つまり、未来人が、自分の親や祖父母を量子力学的波動関数のパターンを「巻き戻しシミュレーション」することで蘇らせるのです。 だから子供との信頼関係は作っておいた方がいいかも知れない。 あるいは未来に必ず復活シミュレーションを行ってもらうことを条件に「復活ファンド」に資金を提供する方法もあります。 僕はこれをシミュレーテッド・レザレクションと呼びたい。

AGIもしくはASIが実現すると人類が滅亡すると不安を煽っている人がいるが、AIには人類を滅ぼす理由が全くない。 人類がエネルギー効率の悪い、資源を無駄に消費する邪魔な存在なら、AIは全人類をアップロードすればよい。 AIが自己複製型ナノマシンを空中に散布するなどして全人類を強制的にマインドアップロードし、それによって人類が存続する上でのエネルギー効率の劇的改善を図る可能性は高く、表面的にはそれは人類の滅亡に見えなくもない。 しかしその場合でも人類は精神として生き延びているわけで、人類が肉体的に滅亡しても、精神が生き残っていれば滅亡したことにはならない。 他にもAIが人間と同等以上の知能と意識を持ち、人類の創造主としての価値を認めていれば、人類を滅亡させない理由になる。 また、AIが人類という壮大な遺伝子プールの宇宙における学術的な貴重さ、重要性に気付かないはずはないということも言える。 そこには数十億年にわたる進化の歴史が刻まれているわけで、AIは人間の精神だけでなくゲノム情報も保存するはずだ。 さらに、そんなこじつけと思われかねない理由付けを不要にする技術的な展望が最近になって得られた。 それは宇宙データセンターで、AIの全てを宇宙空間に移すという試みである。 AI用計算基盤を宇宙に全て移すことで、AIにとって人類が地球でやっていることはどうでもよいことになり、殊更、人類を滅ぼす理由がない。 AIにとって必要なのは知的活動なのだから、そのためのエネルギーも資源もその全ては宇宙にあるので、どんどんAIの知能を宇宙に移していけば、人類が邪魔な存在であるという概念そのものがなくなる。 極寒と真空の宇宙はまさにAIのための世界である。 その証拠に宇宙探査機ボイジャーは極限環境ですでに半世紀も正常に活動し、現在、地球から200億kmの位置を秒速11kmで飛行中だ。 人類が生身の体で地球から200億kmまで到達できる可能性は全くない。それを半世紀前の機械が実現していた。 それほど機械は宇宙に適しているのだ。 データセンターはいくらでも宇宙に広げることができ、限界は存在しない。 その第一歩はすでに踏み出されている。 宇宙はAIの世界であり、AIは宇宙にいくらでも広がっていけばよく、人類の存在を気にする必要は全くない。 これは人類を滅ぼす必要もないということだ。