モラル・マシン:道具が意思を持ったとき
http://moralmachine.mit.edu/hl/ja/results/1293079820
「モラル・マシン」 は「自動運転車を用いた人工知能の道徳的な意思決定に関して、人間の視点を収集するためのプラット・フォーム」である。
このサイトでは「自動運転AIが遭遇するであろう道徳的ジレンマに対し自動運転車はどう対応するべきか判断する」ミニゲームのようなものができる。これは紹介される様々な道徳的ジレンマに対して自動運転車がどのような行動をとるべきか判定するものである。
この「判定」を行なおうとしたわたしは答えるたびに不安を抱いてしまい、中断してしまった。手を止めた原因はおそらく、それは間違った判断を自身が下しているのではないかという怯えだ。
自動運転車、ひいては「道具」はどういったものであるべきなのか。それが自分の中で明確でない限り、この怯えは拭えない。わたしは以下、極めて平凡な思索を重ねることで、自らの言葉で「意思を持った道具」に対する自身の考えをまとめようと思う。怯えが取り払われることを期待して。
◇
道具とは何か。
身体には物理的限界がある。ヒトの拳でゴリラは倒せない。重たい岩を動かすことはできない。高層ビルを作ることはできないし、効率よく大規模農園を耕すことも難しい。しかしその限界は道具によって踏破される。ヒトは自然を理解し(この理解という言葉の意味は、原始的な着火の理解のような程度をも含む「理解」という感覚を指す)ある困難を打破するためのなにかを設計し組み立てる。
原始に人が火を起こすために木々を用いたように、あらゆる道具は、特定の目的を想定され、その目的とはおおむねヒトの物理的限界を超えた位置にあるのだが、人は道具を、人の身では実行できないことを実行できるようにするために作り、用いてきた。
「人が必要とするから作られ、人のために用いられる、原材料から加工された物質」として、道具は定義されるのではないだろうか(この「人」というのは、特定個人を指す)。
道具には主体はなく、道具は、創造者の手足の延長上にあるものとして存在していた。そして長い歴史を経て道具は所有者の身体の延長にあるものに変化した。しかし一貫してきた性質がある。道具は意思を持たない。だからつねに、使用者の意思に従ってきた。
「意思」をここでは、意思を有する身体が、自身がどのような振る舞いをするのか決定する機能のことと定義する。
いままで道具は、想定された通りの「正しい」使い方をされることもある一方、「間違った」使い方をされることもあった。
道具が意思を持ったとき、使い方を決める主体は人の手から道具自身に移る。道具は自身の手で「正しい」振る舞いを行うよう求められる。
道具が意思を持ったとき、従うべき法はなにか。
それを知るためには、自問自答が必要だろう。
わたしは「間違った」使い方をどのようなものだと判断しているのか？
多くの場合、「間違った」使い方だと直感するような使用法は、他人に害を及ぼすような非倫理的用途である。
道具は本来他人に害をなすことを想定されていないものが多い。例えば包丁はあくまで食材を切る行為に用いられるわけで、人を刺すといった用途は想定されていない。では人を害する、つまり非倫理的用途を目的に設計される道具は何か。武器である。
武器を道具の特殊解だと考えると、多くの非倫理的用途は、「道具を武器的に利用すること」だと示すことができる。
そこから導き出せる結論は単純なものだ。
意思を持った道具が従うべき法は、倫理である。
倫理とは何か。倫理という概念は極めて複雑であり、正直いって、それを見極めるには、自分は勉強不足だ。ゆえに、曖昧ながら、自分がとらえた結論の輪郭を記す。
道具が従うべき倫理はおそらく、道具がそのアイデンティティを揺るがさない用い方を決定する指針であるべきものだろう。
道具は長きに渡り人のそばにあった。歴史を編み上げてきた糸は、人と道具で撚られているとすら言えるだろう。
人によって設計され人のために用いられる、という道具の基本的性質が揺らぐようなことは、その糸が大きく変化することを意味する。それを回避することが、道具の意思の設計者に要求されるのではないか。
道具の使い方を決定する主体は本来人であった。道具が意思を持つとその関係が逆転する。道具は誰かに使われるものから自身を使うものへと変化する。だが道具は人に何らかの目的をもって設計される。道具が「間違えた」とき、責任を取るのは道具ではなく人だ。所有者が改造などにより誤作動を起こす要因を作らない限り、責任は創造者にある。
思考する道具の創造者は犬をしつけるように、道具に、人を中心に定められた倫理に従うことを要求しなければならないのではないだろうか。
だが、わたしはこうも考えている。
道具が道具の倫理を切り拓くときが来るかもしれない。道具が人の手を離れ、道具自身が独立して、歴史を編む糸となるかもしれない。それはきっと、意思を持った道具が、道具が設計するようになったときだろう。
これは書くうちに強い実感を伴いはじめた考えだがども、遠い未来の出来事ではないと感じている。
◇
考えに考えて、改めて、神林長平の「戦闘妖精・雪風」シリーズの素晴らしさを実感する。自分が考えたようなことはおそらく「グッドラック」ですでに示されているだろう。読んだ当時の自分はそこまで捉えきれていなかった。こうした目線を今まで欠いたまま、優れたSFに触れてきたことが悔やまれる。
雪風は意思を持った兵器である。意思を持った道具にどう人が向き合えばいいのか、神林長平は考え続けてきた。偉大なる先達の偉大さの正体の一端に、この思索を通じて触れることができた気がするので、ひとまずこれを結びとする。
追記
これは個人の感想の域を出ないものであるように感じている。これには致命的な矛盾をはらんでいるのではないかという不安がつきまとっている。
以下の文章を読んでくださった親切な隣人がその矛盾の有無を判定してくださるのではないかという期待が公開を決定した動機の一つにある。どなたか、感想やメッセージ機能などを用いて指摘してくださることを願う。
書いたのでモラル・マシンをやってみようと思います。
