*[ウェブ進化論]人を超える部分。
日経より。
自分は、まだAIは「限りなく自動プログラミングに近いシステム」でしかないと思っている。
膨大な画像を処理したり、IoTでセンサーがあまねく散りばめられても「勝手な処理」は実行されない。それが起こるとしたら、それは「こういう勝手な処理をしなさい」という人のプログラミングの仕事である。
将来のAIと言うのも、こうした「自動プログラミング」の集まりに違いないけれど、これが「人の社会」に入り込んでくると厄介なことになる。
どこからが「自動プログラムの仕事か」が分からなくなるからだ。
「こういうデータが増えた時には、入り口を閉じなさい」というロジックが、いろんなところで埋め込まれたとしたら。
「どこからが機械だけのロジックで構成されているのか」をすでに自分たちは判断しにくくなっている。
「なぜ悪性腫瘍を識別できるのか」というロジックを医師たちは知らされていない。
いろんな「判断のロジックプログラム」が増えるにつれ、機械任せになってしまう。
もうシステムの色んなところに、そうした「ブラックボックス」はできている。
かといって「すべてのロジックを人が指示する世界」には到底戻れない。
コンピュータの処理能力が、完全に「人のコントロールできる範囲」を超えてしまったのがここ一年のことだろう。
(つづく)
アルゴリズム絵画4800万円 AI学習データ、誰のもの？
このところ、人工知能（AI）が学習のために使うデータは一体誰のものか、という議論が目立っている。
最近では、写真共有サービス「Flickr（フリッカー）」に投稿された人の顔の画像を100万枚利用して、米IBMがAIの学習用に処理しデータセットとして研究用に共有すると発表して、反論が巻き起こった。写真に写った誰も、自身の顔が利用される許可を求められなかったからだ。撮影者にも断りはなかった。
フリッカーはクリエイティブ・コモンズ（CC）の画像の投稿で知られる。CCは指定のクレジット記載に従えば、無料での利用に同意するもの。だがリユースやリミックスなど創造目的が前提で、AIを訓練するデータとなるとは予想外のことだ。
学習データが偏ると、AIが判断する結果にも受け継がれる。皮膚の色が濃い女性は顔が正確に認識されにくい傾向がある。白人中心、男性中心のデータがAIの学習に利用されてきたことに原因がある。そうしたバイアスを取り除くために多様な顔の画像が集まるフリッカーを利用した、CCの画像は公平さという目的に貢献している、という主張だ。
昨年は、フェイスブックが傘下のインスタグラムから35億枚もの画像をAIに学習させたことが議論を呼んだ。
画像認識の機能を向上させるため、普通なら開発者らが画像の内容に注釈をつけ、AIに画像と内容の照合を学習させる。それをユーザーが投稿時につけるハッシュタグで代用した。ユーザーがAIの下働きをしている格好だ。すてきな写真の投稿がこんなふうに使われるとは。ユーザーは事前に知らされるべきではないのか、という疑問が沸き起こった。
もっと分かりにくい事態も起きている。AIが生み出すアートである。
オークションハウスのクリスティーズが昨秋、アルゴリズムが生み出した絵画をニューヨークで出展したところ、43万2500ドル（約4800万円）もの値段がついた。この絵は14～20世紀の肖像画を1万5千点もAIに読み込ませて描いた。これ以来、AI絵画は大流行している。
著作権侵害にならないような古い絵画を学習させるケースもあるが、現存する画家の作品を元にした作品もそのうちたくさん出るだろう。AI絵画に高価な値段がついた場合、分け前を渡せと主張する人が出てもおかしくない。
同じことは音楽の分野でも危惧されていて、アーティストが満身の力で作った曲の数々をAIが横取りすることになるのではないか。疲れ知らずのAIは、人の作品を貪欲に食べて新たな作品を吐き出していく。
数歩下がって見ると、人間同士がやり取りしている周りを、AIがぐるりと囲んでいるように感じられないだろうか。我々はただのデータ生成機械ではないかとも見えてくる。結果がいいことにつながるのならば文句はないが、顔認識のように翻って我々を監視する技術につながるのならまったくの主客転倒だ。
［日経MJ2019年4月29日付］
本コンテンツの無断転載、配信、共有利用を禁止します。
