8.AIは差別をするか? ~ブラックボックス1 時系列情報のないデータ
桂君から送られて来たメール。
AIへの警戒を促し、AIリアンをAIの一種だとする主張。それら主張に僕は同意できない。少なくとも完全には。けれど、彼が送ってきたメールにも参考になる内容は含まれてあった。
――ブラックボックス。
AIが取り込んだデータをどう解析して何を学習しているのかを理解するのは非常に難しい。つまり、AIの頭の中は可視化できない箱の中。
ならば、
果たして、AIの判断を、人間はどうやって正しいと認めれば良いのだろう?
――ゆかりちゃんが飲食店でアルバイトをし始めたと聞いた時、僕はとても驚いた。彼女なら他にいくらでも相応しいアルバイトがあるだろうに、どうしてよりによって飲食店…… つまり、接客業なのだろう?
一応断っておくと、彼女が初めに希望をしたのは僕と同じアルバイトだった。“OK大学に合格した一般人”という肩書きは受験生にとってはとても魅力的に響くらしく、僕は割の良い家庭教師のアルバイトを比較的楽にゲットできたのだ。それで彼女も家庭教師を希望したのだけど、AIリアンである彼女に一般人を教えるのは難しいと思われてしまったらしく採用してもらえなかった。
何度も繰り返すけど、AIリアンは知能が非常に高い。だからこそ一般人の感覚が分からず、どう教えれば一般人が理解できるのかが分からない……、とされているのだ。
これはきっと正しいと思う。
ただ、AIリアンでも、教え方を学習して実践で試行錯誤していけば優秀な教師になれると思うけど。
とにかく、ゆかりちゃんは家庭教師になる事はできなかった。(まぁ、もし家庭教師になれていたとしても担当するのは僕とは他の家になるだろうから一緒には働けないのだけど)それで彼女が見つけて来たのが飲食店のアルバイトだったのだ。
AIリアンは普通の人よりもアルバイトが探し難い。いや、AIリアンならではの得意分野を活かせるようなアルバイト(プログラマーだとか)なら、楽に見つかるのだけど、それ以外だと簡単にはいかない。だから僕はそれを聞いてちょっと驚いてしまった。
「店長さんが、私は可愛いから“あり”だって」
と、驚く僕に彼女は説明した。
どうやら彼女はウエイトレスとして働くらしい。
それを聞いて少し不安になったけど、その店長さんが女性だと聞いて安心した。変な事はされないだろう。その店では他の国の人を積極的に受け入れているのだそうで、店内はかなり国際色豊かなのだとか。もしかしたら、店長さんはAIリアンであるゆかりちゃんがアルバイト先に困っているだろうと思って救いの手を差し伸べたのかもしれない。
いや、まー、今の時代、店舗経営は外国人労働者に頼らざるを得ないのが普通だから、単に人手不足という可能性もあるけれど。
ある日、僕は彼女がアルバイトしている店を訪ねてみた。ちょっと気になったものだから(いや過保護じゃないですよ? これくらいは普通だと思う。多分)。表通りにある明るい店で、ちょっとオシャレな定食屋といった雰囲気だった。
ウエイトレス姿で接客する彼女に、僕は軽く感動を覚えた。可愛いし、普通に接客ができていたからだ。きっと練習したのだろう。まぁ、多少は無表情で淡々としてはいたけれど。僕に気付くと彼女はとても嬉しそうに注文を取りに来てくれた。
軽く観察したところ、どうやら健全な店のようだった。治安も良さそうで、“これなら問題なさそうだ”と僕は安心をした。だけど、少しだけ気になる点があった。
……中国人男性のように思える人物が働いているのが見えたのだ。
僕は契約しているAI“ザシキワラシ”を呼び出すと、眼鏡型デバイスでその男性を撮影した。
背は低め。丸刈りにしていて、まるでおにぎりのようなイメージ。目が細めで、東洋人ではあるけど日本人とは明らかに違う顔立ち。喋っている声も辛うじて拾えた。日本語だけど、特徴のあるイントネーション。それだけの情報があれば、AIにならばどの文化圏に属する人が判断するのは容易だ。
『中国人である可能性90%以上です』
と、ザシキワラシが告げる。
“やっぱりか……”と、僕は思った。
一応断っておくと、僕は別に中国人を差別しているつもりはない。けれど、この地域には中国人の犯罪組織があるという噂がある。心配になってしまうのも無理はないだろう。もし、彼女が犯罪に巻き込まれてしまったら……
とても心配だ。
『歩君。
“この地域では、中国人の犯罪者が多い”。
仮にそれが正しかったとしても、そのデータには時系列がないわ。だから、指標にはなるけど、因果関係や相関関係の判断には使えない。そして、あの店で働いている中国人のカイさんは、今のところ、犯罪組織に所属している可能性はかなり低い。
だから、その心配は的外れ』
ところが心配してメッセージを送ってみたら、ゆかりちゃんからそんな返事が来たのだった。眼鏡型デバイスの端、ザシキワラシのアイコンが僕の様子を眺めている。
“ちょっと失敗したかな?”
そう思う。
彼女の身を案じてとはいえ、それでも差別的な考えに僕は一歩足を踏み入れてしまっていたのかもしれない。
彼女のメッセージの内容の意味はなんとなくしか分からなかったのだけど、それでも彼女が僕を諫めているのは分かった。
ただ、それからしばらくして、
『でも、心配してくれてありがとう』
と、メッセージが来た。僕はそれに『こちらこそありがとう』と返信をした。彼女のお陰で我に返ることができた。その時、ザシキワラシのアイコンが、少しだけ笑顔になったような気がした。気の所為かも、だけど。
大学の講義前。偶然に吉田君と一緒だったものだから、僕はゆかりちゃんから来たメッセージについて相談をしてみた。指標だとか、相関関係だとか、曖昧にしか理解できなかったから、確り把握しておきたかったんだ。
「それは、統計データの性質を判断する際の基本の一つだね。統計データを判断する際に、時系列があるかどうかは重要なポイントになって来るんだ」
すると彼はそう教えてくれた。
「へー。例えば?」
「例えば、“恋をする事が多い女性は、自慢話をする男性を好きになるケースが多い”なんてデータがあったとしよう。短絡的な人なら、“女性が恋を多くすると、自慢話をする男性を好きになっていく”と思ってしまうかもしれない。けど、時系列のないデータだったなら、そこまでは実は判断できないんだ。他の可能性も考えられるからね。もしかしたら、“恋をし易い性質の女性は、自慢話をする男性を好きになり易い”が正解かもしれないだろう?
A→Bという過程がデータにないから、A→Bなのか、B→Aなのかが分からない」
僕はその説明に頷いた。
中国人の犯罪組織がいる地域なら、確かに中国人の犯罪者は多いのだろう。これがゆかりちゃんの言っていた“指標”の意味だ。でも、それは“中国人ならば犯罪者になる”って因果関係を示すものじゃない。
ゆかりちゃんの言葉を信じるのなら、カイさんという中国人の男性は、犯罪組織に所属している訳ではないらしい。なら、やはり僕の不安は差別的思考だと言えるかもしれない。
“やっぱり、危うかったかな”と、僕は再度反省をした。
多分、僕の中にも誰かを差別したがる感情は埋まっていて、少し油断するとそれがいとも簡単に浮かび上がってくるのだろう。どうやら人間というものは、常に自省し、コントロールするように努めなくちゃいけないものであるらしい。
それから、ふと思った。
もし仮に、今回のケースのような情報をAIが処理したなら、果たしてどんな結論を出すのだろう?
「因果関係を示してはいない」と説明してくれるのか、それとも「この地域では、中国人は、犯罪者である可能性が大きい」と言ってしまうのか。
この二つは、どちらも正しい。でも、どちらを強調するかで、人間社会に与える影響は大きく異なってしまう。
――ブラックボックス。
僕らはAIの判断結果を目にする事はできる。でも、その過程の思考は目にする事ができない。
AIには何か深い思慮があるのかもしれないし、ただただ機械的に事実だけを伝えているのかもしれない。
……いや、そもそも、ブラックボックスであるのなら、それが本当にAIが導き出した結論かどうかも分からないのだ。