使う人間のこれから。

そう遠くないうちに、人のいろんな分野をコンピューターは超えていくだろう。
今は少し無理のある議論も「技術がひゃくばいすすめば」クリアできる話が多い。
それだけテクノロジーが身近に迫っているということだ。

「絶対的に正しい知性」というのは、人間にとって正しいのか、それとも人間がいなくなっちゃっても「正しい」のか…そういうことを彼らは本の中でいっぱい書いています。

知性を使う人間が、知性自身について考える。
いくら人工知能が開発されても、今のところ「知性の意味」を考えるAIはなさそうだ。
ここらあたりが開発されだしたら、いよいよ人との見分けがなくなる時代になりそうだ。

「AIは人間を超える」なんて、本気で信じているんですか?
AIが人間を超える知性をもつ、AIで多くの人の仕事が奪われるーーそんな議論が盛んになって数年。空前の「AIブーム」は、どんな結末を迎えるのか? 一部の人が夢見る「シンギュラリティ」はやってくるのか?   こうした過熱に「待った」をかけるのは、情報学者の西垣通氏だ。元エンジニアでコンピュータに精通した氏は、なぜ「AIは人間を超えない」と考えるのか。そこにはカンタン・メイヤスー、マルクス・ガブリエルなど気鋭の哲学者が提唱する、最先端の哲学が関係していた。  今回、メイヤスーの主著『有限性の後で』の翻訳でも知られる、哲学者・立命館大学准教授の千葉雅也氏と西垣氏の対談が実現。科学者さえ気づいていない「AIの限界」を存分に語り尽くす。

AIブームは、これで3回目

千葉:西垣先生の新著『AI原論』では、「思弁的実在論」と銘打って、僕も訳者の一人であるメイヤスー1
の『有限性の後で』という本を、かなり大々的に議論の中に取り込んでくださっています。新しい哲学の動きを、現在のAIブームの状況を考えるためのガイドにして議論を立てていいたので、とても驚きました。 西垣:そうですか。私としては、その試みが絶対に必要だと感じていたんです。ですから、自然な流れでした。というのは、いったいこの本をなぜ書いたのかという話に繋がるんですよね。

千葉:ぜひ詳しくお聞かせください。

西垣:AIは今、すごいブームですよね。しかし実は、AIのブームというのはこれが3回目なんです。

第1次ブームは1950年代から60年代で、私も当時はまだ学生でした。それは日本にはあまり影響しなかったんですが、1980年代の第2次ブームは、日本も非常に盛り上がったんですね。

私はちょうどその頃スタンフォード大学にいたものですから、その渦中にまきこまれました。専門家の思考をシミュレーションする「エキスパートシステム」を考えた先生が、私がいた学部の学部長だったんですね。

日本では、その頃第五世代コンピュータ2
というものが出てきました。これは戦後日本のIT産業のなかで最大の国家プロジェクトで、私もスタンフォードから帰って一時期参加したこともあったんですが、見事に失敗したんです。技術的には成功したものの、実際の産業ではまったく応用されずに終わった。 当時の技術者たちは、「なぜダメだったんだろう」と悔しがったのですが、ご存知の通り、そのあと覇権を握った本当の「新世代コンピュータ」は、つまりパソコンとインターネットだったんですよ。

昔は「メインフレーム」と呼ばれる大型のコンピュータの中で計算をやっていましたが、第五世代コンピュータはその延長です。でも、本当にイノベーティブなシステムは、小型のパソコン群とそれをむすぶインターネットだった。それが90年代から2000年代に一気に広まって、現在に至るわけです。

千葉:大規模システムで集約的に計算するんじゃなくて、個人向けのコンピュータをネットワークでつなぐという発想が、結局は新しいパラダイムだったんですね。

西垣:どうしてそうなったのかを考えてみたいんです。私の周囲にも、第五世代プロジェクトに関わっていた技術者はたくさんいました。彼らとしては非常に心外ですよね。なぜ失敗したんだろう、っていう思いが当時ありました。大変な予算をかけてやったわけですし。

現在のAIブームは、はっきり言って米国の後追いですが、その第五世代コンピュータは、少なくとも日本オリジナルのものを作ろうとしたわけです。それが失敗した理由をちゃんと考えないといけないだろう、という思いが私にはまずありました。

第五世代コンピュータというのは、「知識命題」にもとづく自動的な推論操作を突き詰めて、高速化していくことに真正面から挑戦したプロジェクトだったんです。

知識命題というのは例えば、「こういう症状が出たら、この人はこの病気にかかっている」というふうに医者が結論を出したり、あるいは法律家が「こういう事件を起こした場合はこういう罪になる」と判断したりするような、そういう推論の基礎になる命題のことです。エキスパートの専門知識を、コンピュータの中で自動的に組み合わせて答えを出すという考え方ですね。

しかし、人間の専門家は単に純粋な論理処理をやっているだけじゃなくて、実はそこに総合的な判断とか直感とかを織り交ぜているわけです。医者も、こういう症状が出たら100%これだって言うわけじゃなくて、いろいろ試行錯誤しながら診断しますよね。全部を自動的に判断しても、出てくる答えが正しいとは限らないわけです。

                  • -

1) カンタン・メイヤスー(Quentin Meillassoux):1967年生まれのフランスの哲学者。パリ第一大学准教授。近年注目されている新しい哲学のムーブメント「思弁的実在論」の中心人物の一人とされる。2) 第五世代コンピュータ:1982年から1992年にかけて、当時の通産省が取り組んでいた人工知能開発の国家プロジェクトにおいて、開発目標とされたコンピュータのこと。プロジェクトには約570億円が投入され、機械翻訳システムなどの開発が目指されたが、目標を達成できなかった。

                  • -

ページ: 2
「機械は人間のように考えられる」のか?

 千葉:つまりその世代のシステムは、正しいエビデンスと正しい推論に基づいて、全て正しい論理の連鎖を組み立てて答えを出すシステムだったわけですね。

まさに、いくつかの患者さんのパラメータから病気の症状を導き出すといった試みは、現在の第3次AIブームでもやろうとしていることですよね。現在は論理処理だけでなく、より統計的なアプローチでそれをやろうとしている。

西垣:おっしゃるとおりです。80年代の第2次ブームのとき生まれたエキスパートシステムにも残っているものもある。「ある程度間違っていても、まあまあ合っていればいい」という応用分野にかぎっては、今も使われているんです。例えば「列車の運行速度を制御する」というものだと、多少の誤差があってもそれなりに動けばいい。

ただ、当時、出発点としては「AIとは絶対的な真理を自動的に実現する機械である」というパラダイムでしたから、それでブームがしぼんじゃったんです。一方で第3次ブームがなぜ成功しているかというと、今おっしゃった通り、統計誤差を容認するというアプローチを使っているからです。

千葉:それが大きな発想の違いですよね。

西垣:第2次ブームの時も、例えば自動翻訳は色々な試みがありました。私の周囲の技術者や専門家も、いろんな工夫をしていたんですが、なかなか上手くいかないんですね。というのも人間の翻訳家は、色んな要素を組み合わせながら総合的に訳すわけです。ある文をどう訳すのが正確かということは、全体的な文脈で決まりますから。そういうことを、昔はあまり考えなかったから失敗した。

しかし現在は「コーパス」、つまり用例ベースといって、日本語の文と英語の文の組み合わせがインターネット上に膨大にあるから、その用例をデータベース上で統計的に調べて、ある組み合わせの中で統計的な頻度をとって、一番確率が高いものを出してやれば当たるんじゃないか、という発想ですよね。

千葉:Googleが無料で提供している様々なサービスは、まさにそういう言葉の用例の対応関係を膨大な数、収集するためにあると言ってもいいわけですよね。

西垣:全くその通りです。「絶対に正しい答えを出す」という理想を捨てて、「まあまあ合っていればいい」と。実際に、医者も自分の経験に基づいて推測しているわけですから、そう考えると統計的な処理というのは必ずしも悪い戦略ではないんですよ。

千葉:むしろ人間が自然にやっていることを、すごくたくさんのデータについて高速でやる、という考え方でやっている。

西垣:今の第3次ブームのAIは完全にそうです。いわゆる「ディープ・ラーニング(深層学習)」も全くそうですね。統計的に世界を分類する。

しかし、ここからが本題なのですが、統計を活用するのはいいんだけど、それでもって「機械も人間のように思考できるんだ」「機械も正しい判断を下せるんだ」と言い出した人たちが少なからずいるんです。この言葉の妥当性については、やっぱりちゃんと考えなければいけない。

千葉:西垣先生の本はそういう、「AIが最も公正な判断をする」とか、下手をすると「世界のジャスティスを司る」とか、さらに「人間の知性を超える」というようないわゆる「シンギュラリティ仮説」3
――それで国の予算をとってくるような人たちもいるみたいですが――というものに対して、哲学と情報学をつなぎながら疑問を突きつける、という内容ですね。西垣:シンギュラリティを語る超人間主義者(トランス・ヒューマニスト)の代表はカーツワイル4
ですが、超人間主義者たちの本を読むと、人間の知能を代替するだけじゃなく、もっと何か深遠なものを機械が実現してくれるんだ、と考えているような節があるわけですよ。彼らのその夢って、いったいなんだろう、ということに興味があったわけです。それを探求してみたい。----------
3) シンギュラリティ仮説:「技術的特異点仮説」とも。指数関数的に進化を続けたAI・人工知能が、ある時点から「自分で自分を再帰的に改良・強化できる能力」を身につけた場合、そこから先は人類の知能を超えるばかりか、自らの能力を爆発的に進化させることも理論上は可能になると考えられる。そのような画期を、宇宙論における「特異点(通常の物理法則が通用しなくなる空間上の一地点)」になぞらえた呼び方。4) レイ・カーツワイル(Ray Kurzweil):1948年生まれの米国の発明家、未来学者。マサチューセッツ工科大学在学中にコンピュータ会社を設立、電子楽器開発などに携わる。2005年に著書の中でシンギュラリティ仮説について詳しく述べ、シンギュラリティ論の第一人者と目されるようになった。

                  • -

シンギュラリティって、普通に考えるとちょっとおかしいじゃないですか。だって、機械は身体を持っていないですよね。人間の知性というのは、やっぱり自分の感性や感情、身体といったものによって支えられていて、その一部に論理というものがある。それなのに、例えば脳を全てスキャンしてコンピュータの中に入れていけば…

千葉:人間ひとりの人格さえも複製できるというような。

西垣:コンピュータの中でずっと生きられる、と言うわけです。それはちょっとおかしいじゃないですか。直感的に考えても。

つまり彼らの論理は、私には、何かに取り憑かれているような感じがするんですね。「テクノロジー」という窓を通して宇宙の深遠さ、あるいは真理とか、そういう宗教的なものを追い求めたい、進歩していきたいというモティべーションが、彼らをドライブしているのではないかと思ったんです。

それを解き明かそうとすると、もちろん宗教学も必要なんだけど、やっぱり哲学です。近代哲学は何を考えてきたんだろうと。

カント5
は、人間がまずあって、人間は人間の枠組みというものを通して世界を認識しているんだ、だから人間が認識できるのは、「物自体」ではなくて「現象」なんだ、と言いますよね。 千葉:そうですね。人間の知性が世界をどう捉えているか、人間の知性のフレームがどうなっているかを問うのが、カントに始まる近代哲学の発想です。

ページ: 3
素朴実在論」を信じる人々

 西垣:ところが、今の超人間主義者たちの話を聞くと、どうもそこのところを、あんまり考えていない感じがする。

「絶対的に正しい知性」というのは、人間にとって正しいのか、それとも人間がいなくなっちゃっても「正しい」のか…そういうことを彼らは本の中でいっぱい書いています。「どこかに人間より優れた知性体がいる」といったことも語るわけですが、でも「人間より優れた知性体」って何なのか、そういうものを我々は認識できるのか、という疑問が出てくる。そうなるとやっぱり、カントの近代哲学まで戻ってちゃんと考えないといけない。そこで私としては、メイヤスーに着目したんですよ。

メイヤスーっていう哲学者は、千葉さんにちゃんとお話しいただいたほうがいいと思うんだけど、いくつぐらいですか? 40歳くらい?
 千葉:もっと上ですけど、中堅の学者ですね(1967年生まれ)。

西垣:彼は、もちろんカントの議論や近代哲学の流れを全部知った上で、「そういう近代哲学の前提に基づいてものを考えるだけじゃ、不十分じゃないか」と言い出したわけですね。

千葉:そうですね。いわゆる自然科学者というのは、何か物体について、あるいは宇宙というもののあり方について、「人間がどういう風に意味付けるか」という主観性の問題から完全に切り離して、単にその物の「真理」を客観的に言える、記述できるというふうに、普通は考えています。

これは「素朴実在論」という考え方ですが、しかし真剣にカント以後の哲学の展開を引き受けるとすれば、人間は言ってみれば「自分の考えているようにしか世界を考えていない」わけです。つまり「純粋な客観的認識」って、不可能なんですよ。

この「不可能ぶり」をちゃんと引き受けている人って、よほどの哲学好きの人以外にはいませんね。普通の生活をしている人や、科学者や技術者は、そういう近代に発見された「人間は人間の思考の中で思考している」という制約を深刻には引き受けていない。だから、人間がいろいろ計算した結果がそのまま実在のモノを記述している、という発想になる。

                  • -

5) イマヌエル・カント(Immanuel Kant):1724年−1804年。プロイセン王国(ドイツ)の哲学者。主著『純粋理性批判』で、「人間は対象(物自体)を直接認識することはできず、あくまでも現象を主観的に認識することができるだけである」と唱えた。

                  • -

ところが、カントを前提にすると、そんなことは言えない。じゃあそうなったときに、「客観的な科学」というのものは近代以後は不可能になってしまったのか、という疑問が出てくる。

メイヤスーはそれをちゃんと考えて、言ってみれば「一周回ってまた素朴実在論をやる」というか、改めて素朴実在論的とも言えるような、単に「モノそのもの」について記述するような自然科学を、どうすれば正当化できるかということを考えるんですよ。

ページ: 4

Photo by iStock

AIの「責任」や「主体性」とは?

 西垣:ほとんどの科学者や科学技術者がそうしたカント的なことを考えないのは、それで事実上は問題が起きないからです。例えば天文学とか、多くの物理的な現象の分析については、「人間が考えられる範囲がどうのこうの…」と考えなくても、通常の手続きを踏めばほとんど問題はない。

千葉:実際、実用に耐えるものができるわけですね。

西垣:天体がこういう軌道を描くだろう、といったことを予測するのは、素朴実在論に基づいて考えても、ちゃんと当たるわけです。

ところがAIというものは、例えば病気の診断とか法律とか、人間社会の問題を扱うのが目的じゃないですか。そうなってくると、人間の存在がやっぱり絡んでくる。純粋な論理だけでうまくいくのかどうか、という問題がどうしても出てきてしまう。

かつての第2次AI ブームの時、ハイデガー6
を研究しているドレイファス7
やサール8
といった哲学者は、AIに対して猛烈な批判の声を上げました。ハイデガー流に考えると、人間は世界というものの中に「投げ込まれて」、自分を「投企」9
しつつ生きているわけです。しかし、機械にはそうした生活世界がない。そんな機械が、どうやってものを考えられるのか、できないでしょう、という猛烈な反発があった。でもAI学者の側はあんまり気にしなかったんですね。 ただし、彼らは、「フレーム問題」とか「記号接地問題」と言われる問題を提起しました。例えば「水」という物体と「water」という言葉があるわけですが、AIは「water」という記号は処理できるけど、水の「実体」みたいなものと記号を結びつけることはできない、というのが記号接地問題です。そういうプラクティカルな問題で挫折していった。

千葉:しかし、フレーム問題や記号接地問題というのは、工学的にはそういう言い方をしているけれど、実はカント主義的な批判にまさしく対応する問題だったわけですね。そこを工学者たちは曖昧にスルーしてきた。

当時はコンピュータがパズルを解いたり、ごく限定された状況の中で回答を出すことが、限られた計算能力しかなかったこともあって目的とされていたわけです。

ところが、今日ではコンピュータの計算速度がはるかに上がってしまったために、ある種、擬似的な形で人間の質的な概念、例えば価値であるとか、あるいは責任意識や主体性を持っているような振る舞いをするチャットボットなどがそれなりに実現できるようになった。

そうすると、ますますそこで行われている推論や計算過程と、人間的概念との相関性というものを真剣に考えなければいけなくなったということですよね。(つづく)

                  • -

6) マルティン・ハイデガー(Martin Heidegger):1889年-1976年。ドイツの哲学者。フッサールに師事して現象学を学んだのち、存在論に関して多くの足跡を残した。7) ヒューバート・ドレイファス(Hubert Lederer Dreyfus):1929年-2017年。米国の哲学者。マサチューセッツ工科大学教授、カリフォルニア大学バークレー校教授、アメリカ哲学会会長などを歴任。メルロ=ポンティハイデガーといった現代ヨーロッパ哲学を専門とし、哲学の見地から人工知能を批判し続けた。
8) ジョン・サール(John Rogers Searle):1932年生まれの米国の哲学者。言語哲学心の哲学を専門とする。「中国語の部屋」などの思考実験を発案し、人工知能(チューリング・テスト)批判を展開した。
9) 投企:ハイデガーが提唱した哲学的概念。好むと好まざるとにかかわらず、人間は世界の中に否応なく「投げこまれている」存在であり、その上で自己の可能性を追い求めて生きているという考え方。

                  • -