INNOVATION

SINGULARITY & SUPERINTELLIGENCE

シンギュラリティ懐疑派へもの申す！：人工知能による社会の大変革にあなたは準備できているか？

2019.07.16 TUE

「人工知能が人類の知能を超える」といわれる「シンギュラリティ（技術的特異点）」。AIを始めとするテクノロジーの急速な発展は、人類社会にかつてない大変革をもたらそうとしている。その一方で、シンギュラリティなど「夢物語」にすぎないと、その到来に懐疑的な人々も少なくない。シンギュラリティの本質とは何か？それは、どのような形でやってくるのか。未来の超知能とはどんなものなのか。日本のシンギュラリティ・コミュニティの草分けであり、現在も多方面に刺激を与え続ける「シンギュラリティサロン」の主宰者、松田卓也（神戸大学名誉教授）と、同サロンの常連聴講者、「セーラー服おじさん」こと小林秀章氏が、シンギュラリティ／超知能の未来像とシンギュラリティ懐疑派への反論を語りあった。

TEXT BY ATSUHIKO YASUDA@XOOMS

シンギュラリティは社会の大変革

——単刀直入にお聞きします。「シンギュラリティ」はやってきますか？

松田　それはシンギュラリティの定義によりますね。先日、あるコンピュータ雑誌の編集者が書いた記事を読んだのですが、彼はシンギュラリティを、新しい人間を作り出すような、とても大きなことと捉えていました。彼は、人工知能とは人間の知能そのものを作ることであり、人類はまだ人間を作り出す方法をしらない、という。人間を作り出せない以上、（真の意味での）人工知能も作れないし、シンギュラリティもこない。こういう考え方なんですね。

たしかに、人類は（人工的に）人間を作ることはできませんし、あえて不完全な、フランケンシュタインみたいなものを作る必要もないでしょう。

ただ、人間そっくりなものを作れないからシンギュラリティが来ない、というのは違います。シンギュラリティの本質は、人間のような人工知能を作ることができるか、という技術的な問題というより、社会の大変革だと捉えるべきです。シンギュラリティとは科学技術、特にAIとロボットが高度に発達して、社会が根底から変わることです。人類の文明は、認知革命、農業革命、産業革命を経て発展してきました。次の革命がおきないと断言することはできません。それがシンギュラリティだ、ということです。

神戸大学名誉教授の松田卓也。宇宙物理学者・理学博士だが、その強い興味から「シンギュラリティサロン」を不定期に開催している。

——「シンギュラリティ」にはもともと、数学の「特異点」という意味があります。これは、未来のある時点から先の未来が予測できなくなるということですが、だとすると、今までの革命とは質的にもレベル的にも異なるのでしょうか。

小林　I.J.グッドという英国の数学者は、「ソフトウェアが自分自身を書き換えて急速に進化していく」と、かなり大胆なことを言っていますが、もし、本当にそうなれば、最初のプログラムを書いたのは人間でも、プログラムはその人の手を離れて勝手に学習・進化していくので、人間には予測がつかなくなります。そうなれば、それ以降の発明はすべてAIがやって、人間は何もできなくなるかもしれません。そういうシナリオも、ありえるとは思います。

松田　マックス・テグマークという宇宙物理学者は、「Life 3.0」という著書の中で、将来、超人類が全宇宙を支配するだろうと予測しています。ちなみに、Life1.0はバクテリア、Life2.0は人間、そしてLife3.0が超人類です。これは、レイ・カーツワイルとよく似た考えですね。

テグマークは宇宙の進化を研究してきて、138億年間進化し続けてきた宇宙に現在より先がない、人間が宇宙の最終産物だということはありえない、と考えます。僕もテグマークと同じ宇宙物理学者ですが、宇宙物理学者は人間を特殊なものと思っていません。もし人間中心の考え方なら、人間がこの宇宙の最終到達地点で、それより先はないわけです。そのような人間中心の考えを、テグマークは「ヒューマン・ショービニズム（人類優越主義）」と呼んでいます。僕は、「人間中心主義」と言っていますが、同じ意味ですね。

『ターミネーター』か『攻殻機動隊』か

——シンギュラリティの未来像として、人間とは別の存在である機械（コンピュータやロボット）が人間の能力を超える、というものと、機械が人間と同化して人類が進化する「人間拡張」という、２つの方向性がありますね。

松田　シンギュラリティ否定派の多くは、前者の「人間の能力をはるかに超える人工知能ができて人間と対立する」というイメージをもっていますね。映画『ターミネーター』や『マトリックス』の世界です。一方、僕が考えている未来は、後者の「人間拡張」です。知能と意識は分離して、強力な人工知能と人間の意識を合体させることで、超知能を実現する。アニメ、映画で言えば『攻殻機動隊』の世界。この方法なら、感性や感情、同情心などは人間側が維持しながら、純粋知性だけをコンピュータで増強することができます。

小林　松田先生は「究極のカンニング」とおっしゃってましたね。外から見ると、ものすごく頭のいい人に見えるような。

松田　僕は常に妄想してるんですけど、最近妄想しているのは、エグザスケルトン、すなわち人工外骨格です。「モビルスーツ」のような機械で、肉体や運動能力を増強してくれるものです。それを着けると、たとえば突然きれいな字がかけたり、上手にピアノが弾けたりする。筋肉のこまかいコントロールは機械がやってくれますが、何をするかは人間が指示する。「こうしたい」を思うだけで、手が勝手に動くわけです。そういうものを作って、これでも人間を超えてないか？と言いたいですね。『攻殻機動隊』の「少佐」こと草薙素子（くさなぎもとこ）が目標です。

小林　「人間中心主義」の相手と話が噛み合わないという話に戻ると、それはシンギュラリティが来る・来ないに限らなくて、意識や知能、感情について話すときも、同じような議論になりがちです。たとえば知能について議論していても、「人間中心主義者」は、知能は、血がながれている肉体、すなわち生命に付随して、はじめて知能になると定義している。そう考えているから、「コンピューターに知能が宿るか」と問われても、「コンピューターは生命ではない。だから知能は宿らない。以上」と議論は終わってしまいます。意識や感情でも同じですね。

普段は、某印刷会社で情報処理ソフトウェアエンジニアとして働く小林。「意識の謎」を理解するべく、「シンギュラリティサロン」を聴講し続けている。

松田　僕は、知能とは知的なタスクを行う能力、もしくは合目的的な行動をする能力だと考えていますね。

小林　まず、そういう定義が必要ですよね。それが宿るものには依存しない定義です。それではじめて「コンピュータに知能は宿るか」という議論が可能になると思います。

松田　ところで、人工知能の大家でも、機械に意識は宿らないと考えている人は少なからずいますね。

小林　人間の脳は、人類が何千万年もかけてつくってきたものの集大成で、ある意味、非常によくできた装置なので、その進化の過程をすべて経なければ意識のような高度なものはできない、という主張ですね。

松田　それは、鳥を作ることができないから空を飛べない、という理屈と同じです。僕たちは、空を飛びたいのであって、鳥を作りたいんじゃない。その人工知能にとって、新しい数学の定理を作ることや、リーマン予想を解くことは不可能なことなのか？という問いともつながります。

超知能に身体は必要か？

——最近読んだ記事に、社会で活躍している人は、言語能力や数学力ではなく、空間把握能力が高いことがわかった、と書いてありました。空間把握能力を高めるには運動が必須だそうです。そうであれば、高い知能を作るには運動、すなわち、身体が必須ということになりませんか。

松田　その主張には反対しません。将来、超知能のアルゴリズムがわかって、超知能ができたとしましょう。でも、それはまだ生まれたばかりの赤ん坊のようなものです。赤ん坊と大人の違いは脳神経の接続、すなわち、コネクトームの複雑さです。たとえば、ものを見る、という単純なことすら赤ん坊にはできません。まだコネクトームができていないからです。コネクトームは日々の生活の中で、外界と相互作用することで育っていきます。

「氏か育ちか」という言葉がありますね。「氏」は遺伝子。人間の遺伝子は２万くらいしかなく、数で言えば植物のほうが多いくらいです。重要なのは「育ち」です。これは、外界と相互作用しながらコネクトームを作っていくことに相当します。「水槽の中の脳」は、外界との接触がなければ知能は宿りません。

小林　クオリアも宿らないですよね。松田先生は体の重要性は認められていますが、本物の体である必要はなく、シミュレーションでもいい、という考えですよね。

松田　そうです。超知能への入力は、カメラやマイク、出力はロボットやバーチャルな空間にある、バーチャルな体でいいでしょう。ひとりの人間を教育するには20年ほどかかりますが、ロボットなら24時間動けるので、３倍くらい早く教育できます。６年くらいで成人（成ロボ）になれますね。

もしバーチャルな空間の中で相互作用できれば、はるかに早く教育できます。囲碁のプロ棋士を圧倒した「AlphaGo（アルファ碁）」が、なぜあれだけ短期間で強くなれたかというと、人間同士なら一回の対局に数時間かかるところを、コンピュータ上なら数秒で済むからです。AlphaGoの進化版、「AlphaZero」は人間なら3000年間かかる経験を、８時間で突破しました。

小林　「舌で見る」ことができる装置がありますよね。視覚情報を電気信号に変えて舌の表面を刺激すると、15分くらいたつと視覚クオリアが出てきて、舌を通じて「見える」という感覚が生まれるそうです。また、これは（株式会社アラヤの）金井さんから聴いたことですが、生まれたてのフェレットの視覚野と聴覚野をつなぎ替えても、ちゃんと見聞きできるようになるそうです。ラジオにテレビの電波をあたえたら、ラジオが映像を映し始めた、みたいなものでしょうか。

これらは、脳は視覚信号なのか聴覚信号なのかわからない、単なる01のビット列を受け取って、その入力と、手でものを触ったりして返ってくる感覚との関係性を見て、環境がどうなっているかを推測している、ということを意味しています。ただ、これはとても難しい問題で、そのメカニズムはまだまったくわかっていないと思いますが。

松田　僕は、もう分かり始めていると思っています。難しい理論ですが、数学的に記述できています。ただし、見るだけではだめで、見ると同時に聞いて、触ること、つまり、マルチモーダルであることが重要です。聴覚野や視覚野だけでは、外から入力された感覚と脳の中の世界像に矛盾があるかないかはわからない。そこで、視覚、聴覚、触覚、いろいろな感覚をあわせて、もっとも矛盾のない世界を探しているわけです。

小林　受け取った感覚信号をスルーすることもできますが、スルーすると、いつまでたっても外の世界がわからないから、結局、個体の生存確率が上がらずに不利になってしまう、と。

松田　要するに、スルーするような動物は死んでしまうんです。

小林　とにかく、よくわからない情報が入ってきても、脳は、整合性を頼りに、なんとかして外界のありようを把握しようとしている。その活動をつかさどるのが、松田先生が「マスターアルゴリズム」と呼んでいるものですね。

松田　そうです。先に述べたように、マスターアルゴリズムはその全体像がぼんやりと見え始めました。つまり脳の基本理論は分かってきたが、複雑すぎて現状ではコンピューター・コード化が難しい、というのが現在の僕の感触です。でも、あと10年もあればなんとかなると思います。ただ、注意しておきたいのは、超知能を作ることは、人間の脳を完全に解明し、それとまったく同じものを作ることではありません。現在この世の中に存在する、唯一のマスターアルゴリズムが人間の脳なのだから、それを真似するのは近道だろう、ということにすぎません。人間を真似ることが唯一の方法かというと、それはわかりません。

超知能を創るのは「現代のライト兄弟」

——それが、「空を飛ぶために、鳥を作る必要はない」ということですね。

松田　そうです。その昔、空を飛びたいと思った人々は、鳥の飛行を研究しました。その結果、空を飛ぶ機械としてできたのが、飛行機です。飛行機の翼の形は鳥と似ていますが、鳥のように羽ばたきません。鳥は羽ばたくことで、揚力と推進力を同時に発生させていますが、ライト兄弟は、揚力を担う翼と、推力を発生するプロペラを分離しました。それによって、効率よく飛ぶことができたわけです。

人工知能は、今はまだ鳥を研究している段階ですが、人間の脳のメカニズムが最適である保証はない、ということは常に心に留めておく必要があるでしょう。

ところで、流体物理学の大家ケルヴィン卿は、1896年に「空気より重いものは飛ばない」と断言しました。その7年後の1903年に、ライト兄弟は飛行に成功します。彼らはもともと自転車屋ですよね。流体物理学の大家ではなく素人の実験家。風洞を作って実際に実験をやってみた。それでケルヴィン卿の理論は間違っていると確信できたんです。

このエピソードが示唆するのは、超知能を創りだすのは、人工知能の専門家ではないかもしれない、ということです。超知能を実現するのは、マックス・テグマークのような、ある意味で素人ではないでしょうか。専門家は、できない理由をいくらでも思いつきます。知りすぎているからです。素人は、できない理由も知らないから、まずやってみる。そこから何かが産まれる可能性があります。ただ、何も知らない人が無茶苦茶やっても駄目ですよ。その分野の固定観念はもっていない天才的な人が必要です。ブレークスルーを起こすのは、現代のライト兄弟みたいな人でしょう。

小林　人工知能学者でも、人間と同等の、あるいは人間を超えるような人工知能の実現には否定的な人は少なくないですよね。

松田　著名な人工知能学者で言えば、たとえば、「グーグルの猫」で有名な、アンドリュー・エンや、「人工知能」という本を書いたスチュワート・ラッセルなどですね。エンは、機械学習分野ですばらしい実績があり、しかも若い研究者ですから、それなりに重みはあるでしょう。

小林　「人工知能は人間を超えられない」というひとつの根拠に、人工知能は与えた問いに対して回答はできるけど、意味は理解できていない、という主張がありますね。

松田　それに対しては、意味を理解している、ということを、あなたはどうやって証明できますか？と聴きたいですね。科学は証明する必要がありますから。これは、その機械が、意味がわからないと解けない問題を解くことができれば、すなわち「チューリングテスト」をパスすれば、意味がわかっていると定義するしかありません。機械なんかに意味がわかるはずがないという先入観は、科学ではなく人間中心主義の「ポエム」にすぎません。

怖いのは機械の「自律性」

——松田先生は、超知能には意識や感情は必要ない、という考え方ですね。

松田　最初に述べたとおり、僕のシンギュラリティの定義は「社会が大きく変わること」です。これは神戸大学の塚本昌彦教授の影響も大きいのですが、この定義に従うなら、超知能に意識はなくてもいい。

人々が恐れているのは、機械の自律性、すなわち、『ターミネーター』や『マトリックス』のように、機械が自分の意志で動きはじめることです。機械の意志が、自分たちの意志と違っていることが怖いのです。相手のほうが圧倒的に強いですからね。

意識を持つと意図を持つし、場合によっては悪意も持ちうる。だから自律の部分は、できるだけ人間がコントロールしたほうがいいと思います。意識はなくても自律性は持てますし。ただ、意識の部分を人間が担えば安心かと言うと、そんなこともないでしょう。悪意のある人間が意識を担う可能性もありますからね。

小林　たしかにAIの危険性のひとつは、悪意を持っている人たちの手にAIがわたって、悪事に利用されるというシナリオですね。ただ、多くの人が「AIが怖い」というのはそうではなく、やはり人工知能が、人間の意志に反して自律的に動くことですよね。

松田　そうですね。テグマークがもっとも恐れているのは自律兵器の危険性です。彼は「Life3.0」という、ものすごく先のことを語りながら、当面一番重要なのは自律兵器を禁止することだと言っています。

テクノロジーとしての人工知能は、原子力と非常によく似ているところがあります。原子力は巨大な力を持っていて、使い方によって人類にとって善にも悪にもなる。悪い使い方が原子爆弾で、良い使い方は、一応、原子力発電ですね。

著名な原子核物理学者、ラザフォードは1933年のスピーチで、原子核エネルギーを取り出すことは絶対にできないと述べました。それを聴いていたレオ・シラードは、ラザフォードのスピーチの16時間後に核連鎖反応の理論を思いつきます。その６年後には、ウランの核分裂が実証され、1942年にフェルミが原子炉を作り、1945年に日本に原子爆弾が落とされました。このように、技術革新は、いったん本質的な発見や発明が成されれば、急激に進展する可能性があります。その道の大家の言うことが、いかにあてにならないかという教訓でもありますね。

未来はディストピアか、ユートピアか？

——「シンギュラリティは来ない」と安心している方がむしろ危険だ、と。

松田　テグマークが言っているのは、まさにそこです。だから準備しておけと。

小林　ひところ、巷では「シンギュラリティが来る」という記事や発言が多く取り上げられて、一般の人は、将来仕事がなくなるんじゃないか、と不安になっていました。でも、最近は、「シンギュラリティは来ない」という意見も巻き返してきて、一般の人の大多数は「来ない派」になっている感覚があります。おそらく一般の人は、シンギュラリティは来てほしくない。だから、「シンギュラリティは来ないから安心しな」という専門家の声が聴こえると、「よかった」と安心してすがってしまっているのかなと。

松田　「シンギュラリティは来ない」という専門家は、現代のラザフォード、あるいは、ケルヴィン卿になってしまうかもしれませんよ。ずっと同じ分野にいると、天才的な人でもだめになってしまうんです。変革をおこせるのは、素人か若者です。

小林　私は格好で若さを振りまいてますが（笑）、シンギュラリティは、ほぼ間違いなく来るんじゃないかと思っています。その理由のひとつに、脳科学と人工知能がここ30年くらいで急速に進化している事実があります。この分野は、投資されるお金も研究者の情熱もとても大きくて、これでなにも出てこないわけがない、と。そのあたりを見ていない、気づいていない人が多いように思いますね。

松田　一般の人は気がつかなくてもいいのだけど、日本の指導層が気づかないのはだめですよね。習近平の書棚には「The Master Algorithm」という本があるし、プーチンも「AIを支配したら世界を支配できる」と言ってますよ。実際に中国は、国家の総力を挙げてシンギュラリティを追求しています。日本と比べると人員は10倍、予算は100倍です。日本は安閑としていていいのですか、と「シンギュラリティ来ない派の人」に言いたいです。

小林　国家の意思決定を担う部署に、テクノロジーを理解している人をもっとたくさん入れるべきですよね。

松田　僕はシンギュラリティが来ないとすれば、それは、人類が滅亡するか、経済が崩壊するか、どちらかしかないと思います。その方がいいんですか？と問いたい。

問題はシンギュラリティがいつ来るか、ですが、僕は21世紀内に社会の大変革が必ず訪れると思います。その時は、できるだけユートピアに近づけたいですね。人々が「働けない」社会はディストピアですが、人々が「働かなくてもいい」世界は悪くはない。ただ「働かなくてもいい社会」にも２種類あって、コンピューターゲームにはまり込む、いわゆる「ネトゲ廃人」社会はディストピアになりうる。もっとも、個人の幸福感さえあればいい、というのなら、それもユートピアとも言えますけどね。僕の希望するユートピアは、「１億総カルチャーセンター」社会。誰もがなにがしかの得意分野をもっていて、お互いに教え合う社会です。

小林　動物園にいる動物は、一見、かわいそうだなと思いますけど、何もしなくても餌が出てくるのだから、怠け放題で、ある意味ではユートピアかもしれませんね。大きな屋敷に住んでいる猫は、おそらく自分が不幸だと思ってないし、自分が主人のように思っているかもしれません。あれが理想的な生き方ですかね。

松田　アフリカのサヴァンナで、「生き生きと」自由に生きてライオンに食われるのがいいか、動物園に閉じ込められてはいるが、餌がもらえてライオンに食われないのがいいか、の選択ですね。「生き生き」と自由に生きたい、というなら、「では『生き生きとしたまま』食われてください」ということです。ライオンも、生き生きした肉は喜ぶでしょうからね。

松田卓也｜Takuya Matsuda
「シンギュラリティサロン」主宰。ブロードバンドタワーAI2オープンイノベーション研究所所長。1943年生まれ。宇宙物理学者・理学博士。神戸大学名誉教授、。NPO法人あいんしゅたいん副理事長。国立天文台客員教授、日本天文学会理事長などを歴任。疑似科学批判も活発に行い、Japan Skeptics会長。ハードSF研究所客員研究員でもある。著書に『これからの宇宙論宇宙・ブラックホール・知性』『人間原理の宇宙論人間は宇宙の中心か』『2045年問題コンピュータが人類を超える日』『人類を超えるＡＩは日本から生まれる』など。

小林秀章 (セーラー服おじさん)｜Hideaki Kobayashi
「シンギュラリティサロン」常連聴講者・運営外お手伝い。1962年生まれ。早稲田大理工学部数学科卒業、同大学院修了。某印刷会社で情報処理ソフトウェアエンジニアとして勤務するかたわら、人工知能・脳科学の専門家ではないが、意識の謎が気になって気になって、本や論文を読みあさったり、さまざまな人工知能コミュニティに参加して研究者に話を聞いたりしている。Photo by Hitoshi Iwakiri