*[ウェブ進化論]経験すら作れる時代。
日経より、羽生さん×学生さんのインタビュー。
アルファゼロは将棋、囲碁、チェスのすべてで人に勝ち越したという最強ソフトなのですが、人間の打ち方のデータで学習していません。基本的なルールを覚えさせたあとは、機械自身が対戦を繰り返すなかでどんどん強くなってしまった。
もうデータという"餌"を食べなくても、シミュレーションでそれすら作り出してしまう時代になっているらしい。
一方「人は感情で行動する」とよく言われるが、もちろん合理的にも行動する「ややこしさ」を持っている。
AIとの違いが出てくるのはこの辺りだろうか。それともその「感情」すら学習してゆくのかもしれない。
こうなると、最後は「なんでもAI任せ」にはできないかもしれない。
最後に残る人の感情は、特に「裁き」とか「思想・信条」の部分などを、他人や機械に委ねることはしないだろう。
もっともその時にまだ「人の制御する部分」が残っていればの話ですが。
AI時代、人はどう生きるか 羽生九段に東大生が聞く
2019/11/15
学生が様々な分野のトップランナーにインタビューする企画。今回は、平成の将棋界を引っ張ってきた羽生善治九段に、在学中に司法試験予備試験に合格した法律家の卵、小松詩織さん（東京大学4年）が話を聞いた。テーマは人工知能（AI）と法律、AI時代の人間の個性など多岐にわたった。
小松 私は中学3年生で冤罪（えんざい）の研究を始めました。冤罪を生み出す社会の理不尽さを、自らが弁護士としていつか変えたいと思っています。法曹界はAIどころかIT化も進んでおらず、新しい視点を取り入れることで、法曹界そのものを変えてみたいとも思っています。将棋界はAIと人がすでに上手に共存している気がします。きょうは色々とヒントを得たいと思っています。
羽生 実は将棋AIはもう30年くらい前から開発されていました。急激に強くなったのは、2010年ごろに画像認識のレベルが上がったのがきっかけです。将棋ソフトに盤面をひたすら覚え込ませたのです
小松 AIに覚えさせるデータは、羽生さんをはじめ将棋がすごく強い方々のデータだと思うのですが、あえて全然将棋ができない人のデータも入れたりするんですか。
羽生 それはすばらしい質問です。AIに何かを覚えさせるときは、どんなデータをどう学習させるかがプログラマーの腕の見せどころなんですよね。微妙なチューニングをしているようなものですね。ところが、「アルファゼロ」というソフトが出てきて、そういう常識が打ち破られました。アルファゼロは将棋、囲碁、チェスのすべてで人に勝ち越したという最強ソフトなのですが、人間の打ち方のデータで学習していません。基本的なルールを覚えさせたあとは、機械自身が対戦を繰り返すなかでどんどん強くなってしまった。今はAIに覚えさせるためのビッグデータが必要だといわれているけれど、もしかするとこの先はデータも必要なくなるのかもしれないですよ
小松 法曹界にAIが入ってきたら、人はどう思うのでしょうか。AIに裁かれるようなことになったら、拒否反応もあると思うんです。
羽生 米国には囚人の仮釈放の判断をAIにさせている州があるらしいですよね
小松 そうなんです。
羽生 ご存じですよね。ところが、何回申請しても仮釈放されない人がいた。この人に「実はAIが判断している」と伝えたところ、ひどく怒り出したというんです
小松 そういう問題が起きますよね。
AIを完璧だと思い込んでは危険
羽生 人間が相手なら許せるけれど、AIだと許せないということは確かにある。論理とは別の感情の問題です。裁判官、検察官、弁護士が全てAIだったらスピード決裁できるのでしょうけれど、それで本当に間違いがないのか、そしてみんなが納得するのか。正解はないですよね。もう一つ、AIって決して完璧ではないという点も忘れてはいけない。人間って不思議で、今はまだAIにアレルギーもありますけれど、ある程度AIが実用的に運用されるようになると、完璧なものと思い込んでしまうでしょう
小松 AIも機械ですから、ミスすることもある。確かにそうです。
羽生 人間よりは間違えないかもしれないけれど、ミスをする可能性もある。たとえばATMがミスしたら怒るでしょう？ でも、本当はATMだって間違えることはあるはず。人間はATMを受け入れたとたんに完全に信用してしまっているんです。これと同じで、AIだって完璧ではないんです。しかし「ミスするかもしれない」という技術は、世の中に普及しない。「完璧です」って言って普及させようとする。だからこそ、将来AIで何か深刻なトラブルが起きたときに収拾がつかなくなってしまうかもしれないなあと恐れています。
小松 AI将棋はどうでしょう。違和感を覚えることはありますか。
羽生 AI将棋はどこかおみくじを引いているようなところもあるんですよ。出てくる手がランダムなんです。例えば人間ならば、同じ人が時間の経過とともに「こう判断した」という部分が見えますが、AIはその時その時で点数が高い手を選んでいるから、方向性がありません。アルファゼロの棋譜も見ましたが、強いことはわかるんだけどどう強いのか説明がつかないんですよ。なんとなくブラックボックスだなあと思うこともあります。
小松 完璧じゃないとなると、AI時代も人間の出番は残ると思いますか。
羽生 AIが奪う職業に弁護士も挙がりますが、私は人間がやらなければいけないことがあると思っています。AIは問題を解かせたらすごいけれど、正しい問題設定ができるわけではありません。法曹の世界でいえば、法律相談には法律上はどうにもならない相談もきますよね。でも、「法律ではどうにもならなくても、そこをなんとかしてほしい」という人間の気持ちの問題も存在する。
知らないからこそ将棋の世界に飛び込めた
小松 そうなんです。判決文をデータとしてAIに覚えさせるのは簡単です。しかし、実際に裁判官が判決文を書くまでには、検察官が起訴した理由や裁判官の判断の経緯など、いろいろなことがあって判決文ができあがる。そういう経緯をAIは把握できないので、人間との差はまだ大きいと思っています。
羽生 人間かAIか、どちらかだけになるのではなく、AIと人間がうまく分担していく制度ができれば、片方ずつでやるより精度が上がるはずです。人間が苦手なところと、AIの死角とか盲点を、お互いに補完し合う社会になるといいんじゃないかと思っています。
羽生 将棋の世界でも、最後は一人ひとりの個性がカギを握るのかなと思うことがあります。いま将棋を学んでいる小学生の世代は、AI将棋を使って強くなっていっています。この子たちが10年後に棋士になってどんな将棋を指すのか、とても興味深いです。同じような環境で同じソフトを使って研究したら、結局同じことしか覚えられない。結局はその人の独自性や個性みたいなものが勝負の分かれ目になるのかな。
小松 今は弁護士志望ですが、以前は競泳に打ち込んでいました。小学5年のときにわずかの差でジュニアオリンピック出場を逃すという悔しい経験をして、6年生で競泳をやめてしまったんです。羽生さんは15歳でプロになって以来、将棋一筋ですが、どう心を決めたのですか。
羽生 2年前に引退なさった加藤一二三先生は現役生活が67年でした。私はそれと比較するとやっと折り返し地点にたどり着いたくらい。その果てしない道の長さを感じることはありますが、あまり考えないようにしているんです。トライアスロンに挑もうとするときに、「これからマラソン40キロメートル、次は自転車100キロメートル」とか言われたら嫌じゃないですか。急にやる気がなくなっちゃいますから。だから、目の前の1キロメートルをがんばろうかな、とか。そういうふうに考えていかないと、ずっと長く続けていくのは難しいです。
小松 長い道のりは覚悟なさっていましたか。
羽生 わからないままだったからこの世界に飛び込めたという面はあるように思います。谷川浩司九段にあこがれて将棋の世界に入ったのですが、最初に抱いた夢とかあこがれと、実際に入ってからの景色は全然違いました。1段ずつ階段を上がっていかなければいけない険しさとか大変さを、何も知りませんでした。当時はインターネットもなく、どれくらい大変なのか、どんな努力が必要なのか情報がなかったからです。今はいろいろ調べられる時代ですが、競争が大変そうだとか10年くらいかかるらしいなんてことを先に知ってしまうと、前に踏み出せないということはあるのではないかなと思いますね。若い人の強みは、リスクがありそうでも、大胆な選択にみえても、可能性を信じて前に進んでいけることだと思っています。
（文・構成 藤原仁美）
