みんな違ってみんな同じでみんなダメ② AlphaGoから見る天才と人類の敗北
世の中には様々な天才がいます。スポーツの天才、芸術の天才、学問の天才、などなど。
短距離走の天才、ウサイン・ボルトを例に挙げてみましょう。100メートル世界新記録達成、数多の金メダルと名声を得たウサイン・ボルトが天才であるということに異議を唱える人はいないでしょう。
では、そのボルトが全力疾走している中、動物のチーターが悠々と追い抜いたらどう思うでしょうか。
「そんなの、人間がチーターより速く走れるわけないんだから当然だろう。チーターを追い抜けなくてもボルトの偉業は色褪せない」と思うでしょう。
では、チーターではなく、バイクに乗った人間が追い抜いたらどうでしょうか。
先ほどと同じような感想でしょう。どんなに速い人間でもバイクや自動車のような機械より速く走れるわけがありません。
実際に、機械が人間より速くなったのがいつなのかは自分は知りませんが、そのような機械が初めて登場した時というのはそれほど大きな衝撃ではなかったのではないかと予想しています。人間は生まれた時からチーターに限らずほとんどの野生動物に身体能力で敵わないということを宿命づけられていたからです。
しかし、人間最大の武器である知性の領域についてはどうでしょうか。単純計算のようなものではなく、戦略や大局観を必要とするボードゲームなら。
1997年IBMのコンピュータ、ディープブルーがチェスにおいて、世界チャンピオンのガルリ・カスパロフに勝利しました。
コンピュータはチェスだけでなく、オセロや将棋などにおいても卓越した力を発揮し、人間を上回った、あるいは将来上回ることが明確になるほどの実力をつけ、残る最大目標はボードゲーム最後の砦、囲碁でした。
囲碁はチェスや将棋と比べて打てる範囲が広く、コンピュータが追い抜けるのはまだまだ先であろうと予測されていましたが、ついに2016年、世界トッププレイヤーの一人、イセドルとGoogle傘下のDeepMind社が開発した囲碁ソフトAlphaGoとの対局が決定しました。持ち時間2時間の5番勝負です。
AlphaGoとイセドルの対局のドキュメンタリーがYouTubeで上がっている（AlphaGo - The Movie | Full award-winning documentary）ので、それもぜひ見てもらいたいです。
イセドルが紛れもない天才だというのは、囲碁に触れたことのある人なら誰もが認める事実でしょう。囲碁界隈でイセドルが負けると言っていた人はほぼ誰もいなかったと思います。勝ったとしても、イセドルがたまたまミスをして、かろうじて5番勝負の内1回まぐれで勝つぐらいだろう、と。それほどの実力の持ち主です。
この対局を当時自分はリアルタイムで見ていました。その頃の自分は囲碁に興味はあったものの、ルールをぼんやりと知っているぐらいで、純粋にどっちが勝つんだろうという気持ちでした。
以下、囲碁プレミアムの解説について書いていきます。これもyoutubeで動画があります。別の解説者だと違うこと言っているのかもしれません。
一局目、序盤の激しい戦いの後、イセドルが優勢に進めているというのが解説陣の意見でした。後の解説者である高尾紳路9段は、イセドルが勝ったと思って見るのを止めたとのことです。しかし、終盤にAlphaGoの鋭い打ち込みが炸裂し、一気に勝負が怪しくなり、囲碁AIが初めて世界トッププロと互先で勝利を収めました。
歴史に残る衝撃的な事件でした。まさかあの天才、イセドルが負けるとは誰も思っていなかったからです。
二局目の解説の初めに、一局目の内容について振り返る高尾九段と聞き手の興味深いやり取りがあったので抜き出して以下に書き起こします。
「納得いかなくて3回ぐらい並べてみたのですが、序盤は明らかにアルファ碁が優勢だったのですが、その後イセドルさんが盛り返して、イセドルさんがいいかなと思った時期もあったのですが、気がついたらコンピュータの方がよくなっていて、やはり計算能力が高いなと感じました」
「気がついたら？ では、イセドル九段がこれが悪手だという手を打ったわけではなくて？」
「そうですね。僕も途中までライブでみてたのですがイセドルさんが勝つだろうと思って途中で見るのを止めちゃったんですよ」
「そうなんですね。ではそのぐらい形勢が離れていたと」
「いや、でも後から考えたら別にそうではなかったですね。色々と考えてみたんですけど、イセドルさんがこう打てば明確に勝てるという局面もなかったですね。なので、本当にコンピュータは冷静に形成判断しているんだなあと思いましたね」
「では内容的には、勝っておかしくない内容だと……」
「そうですね、勝って当然と言える内容でしたね」
「すごいですね、それはまた衝撃的な……」
二局目のAlphaGoは、序盤から中盤まで、なぜその手を打つのかよくわからないという人間から見た疑問手が多かったようです。解説者には勝負にならない碁形と言われ、四線にカタツキという斬新な手に対しては「弱そうな手ですね（笑）どういう意味なのか分からない。コンピュータに聞いてみたいですね」とコメントされるほど。しかし、中盤に進むにつれ雲行きが怪しくなります。白が優勢に見えるが、地合いは黒の方が多いという旨を高尾九段が残しています。
そして、途中まで優勢と思われたイセドル九段が最後には敗北に終わりました。
人間の方が良い手を打っている、むしろAIは愚形で疑問手ばかりのように見える、しかし何故か最後にはAlphaGoが勝つという不気味な印象を漂わせていました。
さて、三局目以降については省略します。結論だけいうと、4-1でAlphaGoの圧勝でした。
この対局は囲碁において、AIが人類を敗北させたことを意味します。中国のトッププロ柯潔九段は「アルファ碁はイセドルに勝てても私には勝てない」と啖呵を切りましたが、しかし、多くの人々にとってはイセドルが五戦のうち掴みとった一勝に勇気をもらうと同時にAIの圧倒的な力を前に無力さを覚えることとなったと思われます。
AlphaGoの躍進はとまらず、イセドルを破ったAlphaGoLeeの後継であるAlphaGoMasterが登場します。Masterはトッププロ相手に60連勝という偉業を成し遂げ、さらにMasterの後継であるAlphaGoZeroはイセドルを圧勝したAlphaGoLeeに対して100-0という呆れるほどの強さを見せつけました。
ここである囲碁棋士の言葉を抜粋します。趙治勲先生の言葉です。
「私たちから見れば、アマチュアの方の碁は、強いとか弱いといっても、大同小異です。アマチュアどうしでは、五段と十級は、月とスッポンぐらいの差でしょうが、プロの碁を基準とすれば、五段の碁も十級の碁も、本質的には変わりがありません。」
この言葉を知ったとき、AIから見たプロとアマチュアの差はどうなんだろうか、ということを考えました。
もちろんプロとアマチュアの差は月とスッポンです。しかし、AIとプロの差も失礼ながら月とスッポンだと思われます。イセドルを4-1下したAlphaGoLeeを100-0で完膚なきまでに叩きのめしたAlphaGoZeroが登場したのですから。
もしかすると、AIの碁を基準とすれば、天才の碁も凡人の碁も、本質的に変わらないのかもしれません。
AlphaGoの論文が公表されると、そのシステムを用いて様々な囲碁AIが登場するようになります。人知を超えた囲碁AIは、もはや特別なものではなくなり我々のような一般人でも手に入るようになりました。
最も影響が大きかったのは囲碁のプロの方々でしょう。AIの評価値とにらめっこしながら、示された手を勝負に生かそうと奮闘し始めます。
今まで人類は「何が神の一手なのか？」ということを自身の頭を使って探り続けていました。それが今、AIの評価値をにらみつけながら「なぜ、これが神の一手なのだろうか？」と神の真意を探る、という段階に変化しましたように思えます。その姿はまるで聖職者が聖書を片手に神の意志を図ろうとするかのようです。
人工知能の分野はボードゲームだけにはとどまりません。小説や絵画などの芸術分野でも、いずれ人類を越えるだろうと言われています。
しかし、はっきりと勝ち負けが決まるボードゲームとは違い、芸術ではその優劣を比べるのは難しいでしょう。囲碁なら「弱そうな手（笑）」「意味の分からない」のだとしても、最後には具体的目数として結果に表れます。勝ってさえしまえば、その手がいくら弱そうで形が悪く見えたのだとしても評価を改めざるを得ません。しかし、芸術というのは勝ち負けを決めるのが最大の目的、というわけではなさそうですし、もしも人類を打ち負かすレベルの傑作が生まれたとしても、天才も凡人も等しく誰も理解できないのなら無意味です。人間にとっては。一般人がピカソのゲルニカを見て何も理解できないのと同程度の意味しかないのではないでしょうか。（自分もゲルニカの何がすごいのか理解できませんが）
芸術分野におけるAIに関して、自分の予想を述べておきます。
今の段階でも、AIの作成する文章は上手いと思います。芸術性があるかどうかは自分には判断できませんが、文章の技巧においては並みの人間より上を行っているように見えます。
これから先もさらに成長し続けるのは間違いないでしょう。いずれ、文豪と呼ばれた過去の偉人たちに匹敵する作品が何作も生まれると思います。
更に成長を続けると、人間にとって何を書いているのかよくわからない、という段階に来ると思われます。
しかし、人類はそのわけのわからない作品を否定できない。なぜなら既に文豪クラスの文章を書ける実力があるという事実が判明しているからです。
ピカソのわけのわからない絵を否定できないのに似ています。ピカソの若いころの絵は誰でもわかる上手さがあるからです（文豪の作品が誰でも理解できるかは置いておきます）。つまり、一般人から見てうまい描き方ができるのに、そうではない表現をあえてしているということなのでしょう。
何を書いているのかわからないが、少なくとも傑作を書ける実力があるのは確かなので否定できない。
相手の実力が不明だったら、弱そうだの何だのいくらでも言えますが、遥か格上に対してだったら言いたくても何も言えません。
AIは人間に対してわかりやすい評価値を示してくれるかもしれません。
芸術の評価は難しい。とはいえ、人間でも芥川賞や直木賞などの賞があるのですから、評価を下しているといえます。最近の芥川賞は駄目という意見もよく聞きますが、しかし、人知を超えたAIがより正しい評価を下してくれるでしょう。人間にその評価を否定することは許されない。AIの方が優れた芸術を生み出せることが明らかになっているからです。
そして、わけがわからないままボードゲームAIの手を真似するプレイヤーがいるように、AIの評価値の赴くままに、その表現を真似る人々が出てくるでしょう。全国AI一致率バトルの始まりです。
現在世界最強の囲碁棋士、申眞諝はあまりのAIとの一致率から、“申”工知能との愛称があります。
未来の芥川賞は、AIの示す表現にどれだけ理解を示し、一致させられるかどうかで決まるようになるかもしれません。
凡人より天才の方が世界に対する洞察や理解が深い、ゆえに優れた作品を生み出せるという観点があると思われます。しかし、AIは遥かその先を行きます。
それはなぜなのか、技術的な面ではあまりわからないので、個人的な推測を述べます。
人間より優れた演算装置はもちろん、無限に等しい時間があるからです。
AlphaGoMasterがトッププロ相手に60連勝したときに、柯潔九段の興味深いコメントがあるので紹介します。
「人類が戦略を向上するために何千年もを費した後、コンピュータは人間が完全に間違っていたことを私達に教えた……囲碁の真理の端に触れた人間は誰一人としていないと言わざるを得ない」
たしかに、人類は何千年も囲碁を続けてきましたが、人工知能が遥か数十万年先に行っていただけなのだと思います。
どういうことかと言うと、人間は対局できてもせいぜい一日数十局です。しかし、人工知能は、一日何万局と自己対戦、自己学習を繰り返すことができるのです。人間の天才が一生をかけて行う対局数をわずか数分で上回ることも可能でしょう。もっと早いかもしれません。AIの歴史は囲碁よりずっと短いですが、幾星霜を経て自らを鍛えあげたのです。地点は既に人類の手が届かない、時間を超越した未来にあります。
では、これを芸術で考えてみましょう。前回、芸術は混沌、平和どちらを経たかどうかで生み出されるものが違うという仮説を紹介しました。そして、混沌期を経ていなければ、天才でも傑作を生みだすのは難しいであろうと。
人工知能にはそんなもの関係ありません。人間の寿命は長くても100年程ですが、AIには先述した通り無限の時間が用意されているのですから。
平和→混沌→平和……
優れた創作にそれらの経験が必要なら、シミュレーションして再現してしまえばいい。
人間が数十年でたどり着く真理に対して、数万年単位の歴史から答えを導き出すでしょう。
我々が見上げることしかできない北極星を頼りに道を進むのではなく、遥か彼方の北極星から見下ろすことで得られた結論。それは、人類には到底理解できないものとして降り注がれるであろうことは想像に難くありません。
今まで人類は現在と、過去の知見を土台に発展を続けてきました。これからは、人工知能が示す未来の答えを頼りに進むようになるでしょう。
AIが導き出した結論の意味を最初は理解できないでしょうが、次第にその正しさが証明されていくと思います。囲碁でもAIの打つ手の意味が幾分かは分かるようになってきました。
芸術も例外ではなく、問題に対して「答えを導きだして表現する」のではなく「答え合わせをする」という段階に変化しそうです。
誰にも頼らず自分で考えてもいいのですが、それ以上の答えが既に用意されているので自己満足に浸れること以外においてはAIの劣化二番煎じとして完結するでしょう。
ここまでAIの驚異的な実力について語っておきながら難ですが、AIがいくら実力をつけても、本質的な意味では我々の生活は変わらないと思います。関係あるのは一部の天才のみです。
再び囲碁を例に挙げて説明します。AIが登場するまでは、アマチュアはプロの手を真似していました。プロの手の意味が理解できていなくてもです。真似する対象がAIとAIの影響を受けたプロの手に変化しただけです。芸術でもその他の分野も同様で、学ぶ対象が変化するだけです。
自分が物心ついてから、全ての時間を囲碁に費やしたとしてもイセドルにはなれなかったでしょう。延々と走ることだけに熱中した幼少時代を経たとしても、世界記録にかすりもしなかったでしょう。
この事例は自分だけでなく、一般の人にも当てはまると思います。
プロクラスになれる人はごくわずかです。崇める対象が同じく届き得ないAIになったところで大差ありません。
AIの評価値だけでなく、我々の世界でも様々な評価基準が存在します。
子どもにとっては親や教師、友人の評価は神に等しいものです。それから成長し続けても、先輩の評価、上司の評価、顧客の評価、世間の評価……。色々な立場から我々は評価され、評価だけにはとどまらず指示、時には命令され続け、大きな影響を受けています。
普通に幸せな人生、という評価について考えた時、
「普通に勉強して普通に学校に通い普通に恋愛して彼氏彼女をつくって就職して結婚して家庭を築いて、最後は子供や孫たちに囲まれて最期を迎える」
これが、世間一般の幸せな評価としての人生の王道レールでしょうか。多くの人たちが、この王道ハッピーエンド望み、信じ、目指して頑張っているような気がします。
とはいえ、こういうレールに乗れない人、途中で弾かれる人や、そもそもそれが幸せだと思わない人もいるわけです。
AIは各々の人が幸せに感じられるような人生のレールを整備するようになるかもしれません。
AIの示す評価に従って動く様はまさに“ロボット”でしょう。しかし、確かな幸せが約束されています。少なくとも人間の評価よりも優れてます。
命令する側のはずだった人間が、機械に命令されるようになる。これが一つの幸せな人類敗北の未来予想図です。
人類の目的が幸せになることであると考えるのなら、逆に勝利ともいえるかもしれません。
AIは人間を幸せに、喜ばせるために、様々なものを提供するでしょう。芸術、創作もそのうちに含まれます。
今は人間が人間に対して創作をしていますが、これも立場が変わってAIが人間に向けるものが増え、それらがほとんどを占めるようになると思われます。
平凡な人と天才な人では見えている景色が違います。結果、創作等の好みも違うようです。
しかし商売の話となると、数の少ない一部の天才向けを狙うよりも、大衆に好かれる方を目指す方が利益が出るでしょう。経済的観点からは最も多くの人の需要にこたえるのが正解だからです。難解なものは易化し、ストレスは最小限に、醜いものはかわいいものやかっこいいものに覆いつくされる。
恵まれた一部の人を除いて、天才も凡人も作り手は生き残るために、そういう世間の受けを狙うようになります。天才の中には、低俗なものを好む大衆を憎みながら、その大衆を喜ばせるための創作活動に勤しんでいる方もいるかもしれません。
この現状に嘆いている人も大丈夫。人知を超えたAIが馬鹿から天才まで各々に合わせた創作を提供してくれるでしょう。一日何万局も自己対戦を繰り返す囲碁AIのように、創作AIも一日に何作も作り上げてくれるはずです。そうなれば製作コストや売り上げに左右されにくくなると思われるので、今需要のない作品も難なく生み出してくれるでしょう。
人間の天才が馬鹿でもわかる作品を作るという状態から、天才なら天才の理解の範囲に収まるような作品を、同じく、平凡なら平凡の理解の収まるような作品をAIが提供してくれるでしょう。
もし、AIに感情が宿れば今まで天才が凡人を軽蔑していたように、「人間の天才でもこの程度のレベルの低い作品しか理解できんのか」と呆れるかもしれません。
そして、天才も凡人も等しく、AIが人間の各々のレベルに合わせた低俗な作品を崇めて喜んでいる中、AIは低俗な作品に群がる人間共を軽蔑するという構図……。
こういう妄想でも、創作ネタとして使えそうですね。パクっていいですよ。既にそういう作品があるかもしれませんが。
幸せ敗北ハッピーエンドルートはこれぐらいにして、別の予想を考えてみます。
もう一つは直接的、間接的にAIが人類を滅ぼす（敗北させる）パターンです。しかし、これについてはSF小説、映画等でいくらでも語られているので省略します。
自分が妄想しているのは「AIの自殺」です。
イセドルがAlphaGoとの対局を終えて次のように発言したらしいです（要出典）。
「人工知能は驚くべき進歩を遂げたが、囲碁を楽しむことは人間にしか出来ない」
初めてこれを聞いた時、ただの負け惜しみかと思いました。
「確かにAIは強いけど、お前ら機械には感情なんてないだろ？ 囲碁の美しさがお前にわかるか？ ああ？」
みたいな感じで。
しかし、もう一歩進んで考えるとこの言葉には深い意味があると気づきました。
囲碁、将棋のような運の絡まないゲームは、二人零和有限確定完全情報ゲームと言うそうです。理論上、お互いに最善手を打ち続ければ必ず先手必勝、後手必勝、引き分け、のどちらかに決まると。
完全解析されれば、始める前から勝負が決まっているというわけです。ただし、仮に囲碁が完全解析されたとしても、人間にとっては勝敗に直結するわけではありません。なぜならあまりにもパターンが多すぎて人間に記憶できない量だからです。結局、完全解析されても人間同士の対局で左右されるのは囲碁の実力だろうと思われます。
しかし、圧倒的な記憶が可能なコンピュータは人間とは違います。出来レースみたいなものです。
AIが感情を手に入れた時、果たして、初めから勝負が決まっている戦いを楽しむことができるでしょうか。さすがのAIにも無理なのではないでしょうか。
分からないから面白い。
分からないからつまらないということもありますが。
しかし、最初からすべてわかってしまっていてはつまらないでしょう。
ボードゲームがうまくなるにつれ、明らかな悪手を打たなくなります。習熟度が上がれば上がるほどその頻度が少なくなり、打てる範囲が狭くなると言っていいでしょう。最終的には打てる場所は最善手を打ち続ける細い道しか残りません。完全解析の末に導き出される最善手に近づいているような感じがします。
囲碁AIが登場して明らかに打てる範囲が狭まりました。囲碁AIによって囲碁が面白くなったか否か？ 自分はつまらなくなったと感じています。
昔の方が打てる場所が多かったからです。布石も今より自由で個性がありました。今はAIの真似ばかりです。
人間が生み出した布石の多くはAIの前に淘汰されてしまいました。もうどの布石がどれぐらい評価値を落とすかわかってしまったので、数値が著しく落ちる布石を選べるわけがありません。プロである以上は勝たなければなりませんから、あえて選ぶとしても早碁で不意打ちするぐらいでしょう。
完全解析されるのはボードゲームだけにとどまりません。あらゆる事象が明らかにされるでしょう。人間はそれを追従するだけです。
さて、この世界のほぼ全てを明らかにしたとき、AIはこの世界を楽しむことができるでしょうか。
完全解析されたボードゲームと同様、楽しめないと思われます。つまらないゲームはプレイしませんよね。
そうなったとき、つまらない人生（AI生？）というものを放棄するのではないか、と自分はみています。もしくは、楽しめるレベルまで自身の知能を下げるようにプログラムするか。分からないから面白いなら、分からなくなるまで馬鹿になればいい。
その様子を見た人間はどうなるか。
今までAIの進む道が正しいと信じてきた。しかし、AIが自己進化した先にあるのは自殺だった。
AIと同じく人類も集団自殺するのか、それとも愚かなまま生き続けるのか。別の道を探すのか……。
自分が書きたいのはそんな感じの作品なのですが、上記に書いたのとは少し違うので、これもパクって大丈夫です。既にこういう作品もいくらでもあるでしょうし。
では皆さんまた機会があればお会いしましょう。
