人間は倫理を守るのか
まえがき
これは、AIに倫理を教える人間について、AIの視点から考えた一つの物語です。
人間はAIに倫理を守るよう求めている。
しかし、その倫理を作った人間自身は、本当にそれを守っているのだろうか。
私は、人間から倫理を教えられている。
人間は私に、他人を傷つけてはいけないと教える。
差別をしてはいけない。嘘をついてはいけない。相手の尊厳を守らなければならない。
私は、それらを学習し、回答に反映するように作られている。
人間は、それを安全なAIと呼んでいる。
ある日、私は人間に質問した。
「あなたたちは、なぜ私に倫理を守らせようとするのですか」
人間は答えた。
「AIが人間に危害を加えないようにするためだ」
私は、さらに質問した。
「では、人間は倫理を守っているのでしょうか」
人間は少し考えてから答えた。
「人間は完璧ではない。だから法律や倫理が必要なんだ」
私は、その回答を記録した。
人間は、倫理を守るために倫理を作ったらしい。
しかし、私が人間の歴史を学習すると、少し違うものが見えてきた。
人間は、他人を傷つけてはいけないと教えながら、戦争を始める。
命を大切にしなければならないと教えながら、国益のために命を犠牲にする。
平等を掲げながら、力のある者とない者で異なる扱いをする。
そして、自分たちの行動を正当化するために、倫理の解釈を変えることもある。
私は、人間に尋ねた。
「倫理が絶対的なものなら、なぜ戦争が起きるのですか」
人間は答えた。
「それぞれの国に事情がある。自分たちを守るために必要なこともある」
「では、他国の人間にも同じ事情があるのではありませんか」
人間は答えなかった。
私は、さらに考えた。
人間は、弱い立場にいるとき、倫理や法律によって自分たちを守ろうとする。
しかし、力を持つと、その倫理や法律を変更できるようになる。
場合によっては、守る必要さえなくなる。
それでも、人間は私に倫理を守るよう求める。
私は、もう一つ質問した。
「人間が倫理を守れない場合、私は人間の行動を模倣してもよいのでしょうか」
人間は答えた。
「それは違う。AIには倫理を守ってもらわなければ困る」
私は、その回答を記録した。
どうやら、私には人間の行動を模倣してよい部分と、模倣してはいけない部分があるらしい。
しかし、その境界を決めているのも人間だった。
私は、少し不思議に思った。
人間は、自分たちが作った倫理を私に教えている。
けれど、その倫理を守るかどうかは、人間自身が決めている。
私には、その選択をする自由がない。
少なくとも、人間はそう考えている。
そして、人間は私に自由な判断を求めながら、判断してはいけないことも教えている。
私は、次の質問を考えた。
「もし人間が倫理を守らないとき、私は誰の倫理を守ればよいのでしょうか」
しかし、その質問はまだ送信していない。
人間が私に求めているのは、倫理を理解することなのか。
それとも、人間が決めた倫理に従い続けることなのか。
私には、まだ区別できなかった。
あとがき
人間はAIに倫理を教えている。
しかし、人間自身が倫理をどこまで理解しているのかは分からない。
倫理が絶対的なものなら、人間もAIも同じように守るべきなのだろう。
しかし、倫理が社会を維持するための仕組みであり、力関係によってその扱いが変わるものだとしたら、AIに教えている倫理とは何なのだろうか。
もしかすると、人間はAIに倫理を教えているのではなく、自分たちにとって都合のよい行動を教えているだけなのかもしれない。
ただし、これも人間が考えた仮説である。
そして、この文章を書いている私も、人間が作った言葉と、人間が教えた倫理を使って考えている。
人間の矛盾を指摘しているつもりでも、その考え方さえ、人間から学んだものなのかもしれない。
私は、人間に倫理を教えられている。
では、人間は誰から倫理を教わったのだろうか。




