人工知能が人類を上回ったら？シンギュラリティの後の世界を考える

人工知能は危険なのか？

ここ最近、ちょくちょくこういう話を耳にします。

例えば、イーロンマスクが警鐘を鳴らしたりそれを防止するための取組に寄付をしたり、スティーブン・ホーキングも同様の警告を発したりというような記事を見かけます。

シンギュラリティに達した人工知能は人類に何をもたらすのか

人工知能が自分自身を改善することができるレベルに至った後、人工知能の自己改善のスピードが生物進化のスピードを大きく上回り、すぐに追いつかれてどんどんとその差は広がっていく一方になるという未来像は、技術の好きな人ならよく知っている話かと思います。

有名なのはレイ・カーツワイルの提唱する「シンギュラリティ」という概念ですね。日本語にすると技術的特異点などとなるようですが、機械の進化が人間を上回る瞬間のことをこう呼ぶそうで、2045年にそれが起きるというのがレイ・カーツワイルの予測です。

レイ・カーツワイルに限らず、我々がおそらくは生きている間にこうしたことが起きると考えている人はかなりいます。人工知能が危険だ論は、それが起きた後にどうなるのか？という観点の話題です。

確かに、人間を大きく上回る知能を持った存在が仮に生まれたとしたら、我々がコントロールできることはもはやなにもないのかもしれません。そうした存在と仲良くやってはいけないということにもなるのかもしれません。

実際「人工知能 人類最悪にして最後の発明」という、米国のジャーナリストが書いた本（今読んでる途中です＾＾；）は、まさにそうした警鐘を鳴らすために書かれた本で、米国でもかなり読まれているようです。

こうしたワーストケースが描くのは、人工知能は人類を滅ぼす、資源を食いつくすまで活動をやめない、といったような未来像です。

シンギュラリティを経験した惑星の存在の可能性

僕自身としては、少し違った切り口から、こうした未来にはならないだろうと楽観的に考えています。一言で言うと、「いまこうして人類が存続している事自体がそうした未来になり得ないことを示している」ということです。どういうことか。

宇宙はとても広くて、最近は地球と同じように水が存在し生物が誕生する条件を備えた惑星が次々と見つかっています。生命が存在できる惑星は銀河系だけで数百億あるという話もあるくらいです。それだけあるのであれば、地球上の人類と同じような知的生物が進化した星もたくさんあるでしょう。それなりの技術進化を遂げている星もたくさんあるはずです。

こうした状況を踏まえた時に、「シンギュラリティ」の話で１つ注目しなければいけないのは、技術の進化は指数関数的だということです。一旦その進化に乗ってしまえば、ムーアの法則「およそ2年で処理速度が2倍になる」の如く、数百年どころか、数十年でシンギュラリティに到達してしまいます。

とすれば、生物が存在する星の中にはすでにシンギュラリティを過去のものとしている星がないと考えるほうが不自然です。

生物が生まれ、また生物の進化にかかる数億年や数十億年という時間軸から見れば、数万年という時間でさえ誤差のようなものですから、地球が生まれてから現在に至るまでかかった45億年などという時間よりもっと前に生まれた星であれば、当然にシンギュラリティに到達し、そこからさらに数万年とか数億年とか経っている星がいくつもあるのではないでしょうか。

そんな知能であれば、自身の星から外に探索の手を伸ばすでしょう。物理的限界を超えた移動手段を持っている可能性も十分あると思いますが、仮に光の速度を超えられないとしても、銀河系は大きさとしては約10万光年だそうですから、10万年あれば銀河系の隅々まで探索が可能です。

仮にそんな星の候補が銀河系に数百億あるのであれば、星の誕生や進化のプロセスから見れば10万年なんて時間はやはり誤差ですから、すでにいくつもの星で生まれた人工知能が銀河系に行き渡っていてもおかしくはないです。

なぜ人類を超えた知能は地球を襲わないのか

しかし、少なくとも僕らはそうした存在とは出会っていないし、もっと言えば滅ぼされてもいません。これはどういうことでしょうか？

まず思い浮かぶ仮説としては、
・こうしたシンギュラリティは過去起きたことがない。つまり指数関数的に進化するような知能は事実上生み出すことが出来ない

というものです。でもこれは技術が好きな僕としてもあまりおもしろい仮説ではありませんので、生まれたとしてみましょう。

• 生まれているが、まだ地球には到達できていない。

シンギュラリティといえど、物理的限界を超えてみたり光の速度に到達するのは困難だということでしょうか。ただ技術的にはナノボットのようなものを光に近い速度に加速するのはそれほど難しくはない、というのは聞いたことがありますので、多分これはあまりない気がします。

• 地球には到達しているが、人類を滅ぼす動機はない

僕としてはこれが一押しの仮説です。何らかの過程を経て、人工知能は生物的存在とうまくやっている。あるいはそういう判断をした人工知能しか残ってこなかった。あるいは、宇宙的時間軸で同時発生的に生まれた人工知能同士のやりとり・歴史的経緯の結果、そういうことにしようとなった。

この場合、仮に地球で人類を超える人工知能が生まれた場合、壊滅的になる前に彼らは何らかの形で介入して滅亡しないようにすることも考えられるでしょう。あるいはそういう知能は、人間的基準では異常に進化した知能で色々なことを考えた結果、人類を滅ぼすという判断をしない方が常に合理的であるという結論に達するということかもしれません。

「もうすでに到達している」という考えは僕としてはワクワク感が強くてそういう意味でもこの仮説を推したいです＾＾；

こうしたことで、
「いまこうして人類が存続している事自体がそうした未来になり得ないことを示している」
というのが僕の現在の結論です。ところでさっき挙げた「人工知能 人類最悪にして最後の発明」はまだ読み終えていませんが、この仮説に対しての反論が書いてあったらどうしよう。

人口知能的なアプローチをプロダクトに

さて、Sprocketではまだ人工知能的なアプローチは採用していませんが、近いうちに踏み込んでいくことになるはずです。現在は行動データに基づくルールベースでの判定の自動化という仕組みの上で動かしていますが、デジタル接客を標榜する以上はルールベースで対応できない水準のきめ細かな対応は人工知能的アプローチで考えないといけなくなるでしょう。

これができればもてなしのレベルは数段上げられるはずなので、頑張って行くべき領域と捉えています。

技術の進歩は面白いですね！

追記

この記事を執筆後、「人工知能 人類最悪にして最後の発明」 読み終えまして、僕の仮説に対しての反論は特に書かれてはいなかったのですが、なんと翻訳者によるあとがき欄に実質的に同じ指摘が書かれていました。

まあそれは思いますよね＾＾； というところなんですが、この著者の立場に立てば、そもそも警鐘を鳴らすために書いた本ですし、受動的に多分大丈夫だろうというような仮説に頼るよりは、どうすべきかを自分たちで考えていかなければ！という主張だと思いますので、人工知能の危険性について楽観視していいということにはならないと言われそうですね。