閑話 AIと責任。
「博士。AIが間違えた場合、誰の責任なんでしょう」
いつもの喫茶店で、私はスマートフォンを置いた。
博士はコーヒーを飲んでいた。
「場合による」
「一番困る答えですね」
「一番正確な答えでもある」
博士は紙ナプキンを一枚取った。
AIが出力した。
AIに責任がある。
「同じか?」
「普通は、そういう言い方しますよね。AIが間違えたとか、AIが変な判断をしたとか」
「それは何が起きたかの説明だ」
「責任とは違う?」
「違う」
博士はペンを置いた。
「ハンマーで窓を割った」
「はい」
「ハンマーに責任があるか」
「ないでしょう」
「車で事故を起こした」
「車にもない」
「ではAIなら?」
私は少し考えた。
「急に迷いますね」
「なぜだ」
「しゃべるからですかね」
博士がこちらを見る。
「たぶん、それは大きい」
「答えるし、考えてるようにも見えるし、提案もする」
「だから人間は人格を見やすい」
「人格があるように扱う」
「そして、その次が問題になる」
博士は紙ナプキンに書いた。
人格。
責任。
「人格を見ると、責任まで渡したくなる」
私はナプキンを見た。
「AIが悪い、と」
「そうだ」
「でも実際にAIが変な答えを出したなら、AIが悪いんじゃないですか」
「悪い、とは何だ」
「間違えた」
「それなら、出力が間違っていたと言えばいい」
「責任は?」
「別に考えろ」
博士は言った。
「道具は結果の原因にはなれる」
「はい」
「だが、原因であることと責任を負うことは同じではない」
私はスマートフォンを手に取った。
「でもAIって、普通の道具より自分で動きますよね」
「そうだな」
「勝手に文章も作る。判断もする。場合によっては次に何をするかも決める」
「それで?」
「道具って言っていいんですか」
博士は少し考えた。
「道具という言葉を、単純とか受動的という意味で使うなら、合わない部分はある」
「ですよね」
「だが、責任主体ではないものを、人間が目的のために使うという意味なら、道具として扱える」
「なるほど」
「少なくとも、道具だと言うなら筋を通せ」
「筋?」
博士は私のスマートフォンを指した。
「便利な時には『AIは道具です』と言う」
「はい」
「問題が起きたら『AIが勝手にやりました』と言う」
私は黙った。
「ずるいですね」
「ずるい」
博士はナプキンに書いた。
道具。
責任主体。
「都合のいい時だけ人格を与えるな」
「強いな」
「AIが責任を取ると言って、何をする」
「謝罪するとか」
「文章を出力するだけだ」
「反省するとか」
「それを誰が確認する」
「アカウント停止」
「停止するのは誰だ」
「運営側」
「そういうことだ」
博士はコーヒーを飲んだ。
「AIに責任を負わせたように見えて、実際には誰も責任を負っていない状態が作れる」
「AIが悪かったので改善します、みたいな」
「改善する主体が別にいる時点で分かるだろう」
私は少し笑った。
「じゃあ開発者の責任ですか」
「なぜ一人に集める」
「AIを作ったから」
「包丁を作った会社は、包丁を使ったすべての事件に責任を負うのか」
「負わないですね」
「車を作った会社は、すべての事故に責任を負うか」
「それも違う」
「ではAIだけ、開発者へ全部戻す理由はない」
博士は新しい紙ナプキンを取った。
設計。
提供。
導入。
運用。
採用。
実行。
「分けろ」
「また増えた」
「最初から混ぜるな」
博士は一つずつ指した。
「どういうAIを作るか」
「設計」
「どんな制限を置くか」
「設計」
「どういう用途を想定して世に出すか」
「提供」
「そのAIを会社で使うと決める」
「導入」
「どんな場面で使うか」
「運用」
「出てきた答えを使うか決める」
「採用」
「実際に行動する」
「実行」
「全部、同じ人とは限らない」
「確かに」
博士は言った。
「開発者には開発者の責任がありうる」
「あるんですね」
「当然だ」
「でも全部ではない」
「そうだ」
私はナプキンを覗いた。
「開発者の責任って、どの辺です?」
「設計コンセプト。安全設計。想定用途。制約。どういう条件で提供するか」
「制度的な部分も?」
「提供の仕組みや運用制度を作る側ならな」
「じゃあ、AIに何をさせても開発者の責任ではない」
「そんなわけがない」
「逆もない」
「そうだ」
博士は少し間を置いた。
「たとえば、明らかに危険な欠陥を知りながら放置したなら、設計や提供の側を問う理由がある」
「はい」
「だが、一般向けの文章生成AIに、利用者が勝手に『今日どの株を全財産で買えばいい』と聞いて、その回答だけで全財産を突っ込んだとする」
「極端ですね」
「分かりやすい」
「全部開発者の責任とは言いにくい」
「そうだ」
「かといって、提供側に何の責任もないとも限らない」
「そうだ」
私はため息をついた。
「やっぱり場合によるじゃないですか」
「最初に言った」
「悔しい」
博士は無視した。
「重要なのは、責任を消さないことだ」
「消す?」
「AIが入ると、人間は責任を空中へ投げやすくなる」
「AIが判断しました」
「誰がそのAIを使うと決めた」
「AIが不採用にしました」
「その判定を採用すると決めたのは誰だ」
「AIが危険ではないと言いました」
「それを根拠に実行したのは誰だ」
私は黙った。
博士は言った。
「委任しても、責任が自動的に消えるわけではない」
紙ナプキンに書く。
委任。
責任移転。
「別だ」
「でも、人に任せた場合は責任が移ることもありますよね」
「ある」
「じゃあAIでも?」
「そのためには、責任を負える主体である必要がある」
「AIには負えない?」
「少なくとも、道具として扱うなら負わせられない」
「なるほど」
「だから道具として便利に使いながら、都合が悪くなった瞬間だけ『AI自身の判断でした』と人格化するのはおかしい」
私は少し考えた。
「それ、AI脅威論にも関係あります?」
「かなり」
「AIが人類を滅ぼす、とか」
「そういう話だけがAIの脅威ではない」
博士は言った。
「もちろん、高性能なAIが大きな被害を生みうるなら、その危険は考えればいい」
「はい」
「だが別の脅威もある」
「何です?」
「人間がAIを理由に考えなくなることだ」
私は黙った。
「AIが決めた」
「はい」
「だから私は知らない」
「はい」
「AIが推奨した」
「はい」
「だから私は悪くない」
「……はい」
「それが積み重なる方が、現実には扱いにくいかもしれない」
博士は紙ナプキンに書いた。
判断を任せる。
責任まで任せる。
「同じではない」
「AIに判断を任せること自体は?」
「いい場合もあるだろう」
「人間より正確なら?」
「使えばいい」
「人間より速いなら?」
「使えばいい」
「人間より詳しいなら?」
「使えばいい」
「じゃあ全部AIでいいじゃないですか」
「なぜそうなる」
「優れてるから」
博士がこちらを見る。
「正しさから権限は生えない」
私は止まった。
「ここでも出るんですか」
「ここほど出る場所もない」
博士は言った。
「AIの方が正しい。それは能力の話だ」
「はい」
「AIに最終決定させる。それは権限の話だ」
「別」
「そうだ」
「AIに責任を負わせる」
「さらに別だ」
私は紙ナプキンを見た。
能力。
権限。
責任。
「全部違う」
「そうだ」
「でもAI脅威論って、AIの能力が上がるほど怖い、という話でしょう」
「能力が上がれば危険が増える場合はある」
「ありますよね」
「車が速くなれば事故時の被害が大きくなることもある。だから速度の管理や安全設計が必要になる」
「AIも同じ?」
「同じ部分はある」
「違う部分も?」
「ある。AIは複雑な出力を作り、人間が予想しなかった動きをすることもある」
「じゃあやっぱり人格っぽい」
「そこへ飛ぶな」
博士は言った。
「予測できないことと、人格があることは別だ」
「あ」
「自律的に動くことと、責任主体であることも別だ」
「また分ける」
「混ぜるな」
私は笑った。
「博士、AIに厳しいですね」
「逆だ」
「逆?」
「AIに人間の責任まで背負わせるなと言っている」
私は少し考えた。
「AIを守ってる?」
「そういう話でもない」
「難しいな」
「単純だ」
博士は言った。
「道具は道具として扱え」
「危険なら?」
「危険な道具として扱え」
「高性能なら?」
「高性能な道具として扱え」
「予測しにくければ?」
「予測しにくい道具として扱え」
「でも責任は?」
「人間側に残る」
私はナプキンを眺めた。
「責任って、一人に全部載せなくてもいいんですよね」
「もちろん」
「開発者にもある」
「場合によって」
「提供者にも」
「場合によって」
「導入した組織にも」
「場合によって」
「使った人にも」
「場合によって」
「採用した人にも」
「場合によって」
「でもAIに全部載せて終わるのは?」
「道具と言うなら、おかしい」
私はスマートフォンを手に取った。
「博士」
「なんだ」
「AIにチンポジを聞いてみました」
博士が嫌そうな顔をした。
「何を聞いた」
「最適な位置です」
「なぜAIに聞く」
「大量のデータから判断してくれるかなと」
「それで?」
「右だそうです」
「そうか」
「右にしました」
「そうか」
「違和感が酷いです」
「戻せ」
「でもAIは右が最適だと」
「違和感を感じるのは誰だ」
「私です」
「動かしたのは」
「私です」
「AIは何をした」
「右だと出力しました」
博士はコーヒーを飲んだ。
「では戻せ」
「AIの判断を無視していいんですか」
「君の股間について、AIに最終決定権を与えた覚えはない」
「私もないです」
「なら終わりだ」
私はそっと座り直した。
「……左の方が楽ですね」
「そうか」
「AIが間違えました」
博士がこちらを見る。
「違う」
「え」
「AIの出力が間違っていた」
「同じでは?」
「責任の置き場所が違う」
私は黙った。
博士は最後の紙ナプキンに書いた。
AIが間違えた。
AIに任せた。
それから少し離して、
誰が決めた。
と書いた。
「AIが怖いなら、まずそこを見ろ」
「AIそのものじゃなく?」
「それも見ればいい」
博士は言った。
「だが、人間が責任まで手放していないかも見ろ」
私はスマートフォンを伏せた。
少なくともチンポジだけは、自分で責任を取ることにした。




