↓ ↑ページトップへ
表示調整
閉じる
挿絵表示切替ボタン
▼配色
▼行間
▼文字サイズ
▼メニューバー
×閉じる

ブックマークに追加しました

設定
0/400
設定を保存しました
エラーが発生しました
※文字以内
ブックマークを解除しました。

エラーが発生しました。

エラーの原因がわからない場合はヘルプセンターをご確認ください。

ブックマーク機能を使うにはログインしてください。
哲学と私 あるいは、チンポジ博士の講義  作者: チンポジ博士


この作品ページにはなろうチアーズプログラム参加に伴う広告が設置されています。詳細はこちら

PR
192/238

閑話 AIと責任。

「博士。AIが間違えた場合、誰の責任なんでしょう」


いつもの喫茶店で、私はスマートフォンを置いた。


博士はコーヒーを飲んでいた。


「場合による」


「一番困る答えですね」


「一番正確な答えでもある」


博士は紙ナプキンを一枚取った。


 AIが出力した。

 AIに責任がある。


「同じか?」


「普通は、そういう言い方しますよね。AIが間違えたとか、AIが変な判断をしたとか」


「それは何が起きたかの説明だ」


「責任とは違う?」


「違う」


博士はペンを置いた。


「ハンマーで窓を割った」


「はい」


「ハンマーに責任があるか」


「ないでしょう」


「車で事故を起こした」


「車にもない」


「ではAIなら?」


私は少し考えた。


「急に迷いますね」


「なぜだ」


「しゃべるからですかね」


博士がこちらを見る。


「たぶん、それは大きい」


「答えるし、考えてるようにも見えるし、提案もする」


「だから人間は人格を見やすい」


「人格があるように扱う」


「そして、その次が問題になる」


博士は紙ナプキンに書いた。


 人格。

 責任。


「人格を見ると、責任まで渡したくなる」


私はナプキンを見た。


「AIが悪い、と」


「そうだ」


「でも実際にAIが変な答えを出したなら、AIが悪いんじゃないですか」


「悪い、とは何だ」


「間違えた」


「それなら、出力が間違っていたと言えばいい」


「責任は?」


「別に考えろ」


博士は言った。


「道具は結果の原因にはなれる」


「はい」


「だが、原因であることと責任を負うことは同じではない」


私はスマートフォンを手に取った。


「でもAIって、普通の道具より自分で動きますよね」


「そうだな」


「勝手に文章も作る。判断もする。場合によっては次に何をするかも決める」


「それで?」


「道具って言っていいんですか」


博士は少し考えた。


「道具という言葉を、単純とか受動的という意味で使うなら、合わない部分はある」


「ですよね」


「だが、責任主体ではないものを、人間が目的のために使うという意味なら、道具として扱える」


「なるほど」


「少なくとも、道具だと言うなら筋を通せ」


「筋?」


博士は私のスマートフォンを指した。


「便利な時には『AIは道具です』と言う」


「はい」


「問題が起きたら『AIが勝手にやりました』と言う」


私は黙った。


「ずるいですね」


「ずるい」


博士はナプキンに書いた。


 道具。

 責任主体。


「都合のいい時だけ人格を与えるな」


「強いな」


「AIが責任を取ると言って、何をする」


「謝罪するとか」


「文章を出力するだけだ」


「反省するとか」


「それを誰が確認する」


「アカウント停止」


「停止するのは誰だ」


「運営側」


「そういうことだ」


博士はコーヒーを飲んだ。


「AIに責任を負わせたように見えて、実際には誰も責任を負っていない状態が作れる」


「AIが悪かったので改善します、みたいな」


「改善する主体が別にいる時点で分かるだろう」


私は少し笑った。


「じゃあ開発者の責任ですか」


「なぜ一人に集める」


「AIを作ったから」


「包丁を作った会社は、包丁を使ったすべての事件に責任を負うのか」


「負わないですね」


「車を作った会社は、すべての事故に責任を負うか」


「それも違う」


「ではAIだけ、開発者へ全部戻す理由はない」


博士は新しい紙ナプキンを取った。


 設計。

 提供。

 導入。

 運用。

 採用。

 実行。


「分けろ」


「また増えた」


「最初から混ぜるな」


博士は一つずつ指した。


「どういうAIを作るか」


「設計」


「どんな制限を置くか」


「設計」


「どういう用途を想定して世に出すか」


「提供」


「そのAIを会社で使うと決める」


「導入」


「どんな場面で使うか」


「運用」


「出てきた答えを使うか決める」


「採用」


「実際に行動する」


「実行」


「全部、同じ人とは限らない」


「確かに」


博士は言った。


「開発者には開発者の責任がありうる」


「あるんですね」


「当然だ」


「でも全部ではない」


「そうだ」


私はナプキンを覗いた。


「開発者の責任って、どの辺です?」


「設計コンセプト。安全設計。想定用途。制約。どういう条件で提供するか」


「制度的な部分も?」


「提供の仕組みや運用制度を作る側ならな」


「じゃあ、AIに何をさせても開発者の責任ではない」


「そんなわけがない」


「逆もない」


「そうだ」


博士は少し間を置いた。


「たとえば、明らかに危険な欠陥を知りながら放置したなら、設計や提供の側を問う理由がある」


「はい」


「だが、一般向けの文章生成AIに、利用者が勝手に『今日どの株を全財産で買えばいい』と聞いて、その回答だけで全財産を突っ込んだとする」


「極端ですね」


「分かりやすい」


「全部開発者の責任とは言いにくい」


「そうだ」


「かといって、提供側に何の責任もないとも限らない」


「そうだ」


私はため息をついた。


「やっぱり場合によるじゃないですか」


「最初に言った」


「悔しい」


博士は無視した。


「重要なのは、責任を消さないことだ」


「消す?」


「AIが入ると、人間は責任を空中へ投げやすくなる」


「AIが判断しました」


「誰がそのAIを使うと決めた」


「AIが不採用にしました」


「その判定を採用すると決めたのは誰だ」


「AIが危険ではないと言いました」


「それを根拠に実行したのは誰だ」


私は黙った。


博士は言った。


「委任しても、責任が自動的に消えるわけではない」


紙ナプキンに書く。


 委任。

 責任移転。


「別だ」


「でも、人に任せた場合は責任が移ることもありますよね」


「ある」


「じゃあAIでも?」


「そのためには、責任を負える主体である必要がある」


「AIには負えない?」


「少なくとも、道具として扱うなら負わせられない」


「なるほど」


「だから道具として便利に使いながら、都合が悪くなった瞬間だけ『AI自身の判断でした』と人格化するのはおかしい」


私は少し考えた。


「それ、AI脅威論にも関係あります?」


「かなり」


「AIが人類を滅ぼす、とか」


「そういう話だけがAIの脅威ではない」


博士は言った。


「もちろん、高性能なAIが大きな被害を生みうるなら、その危険は考えればいい」


「はい」


「だが別の脅威もある」


「何です?」


「人間がAIを理由に考えなくなることだ」


私は黙った。


「AIが決めた」


「はい」


「だから私は知らない」


「はい」


「AIが推奨した」


「はい」


「だから私は悪くない」


「……はい」


「それが積み重なる方が、現実には扱いにくいかもしれない」


博士は紙ナプキンに書いた。


 判断を任せる。

 責任まで任せる。


「同じではない」


「AIに判断を任せること自体は?」


「いい場合もあるだろう」


「人間より正確なら?」


「使えばいい」


「人間より速いなら?」


「使えばいい」


「人間より詳しいなら?」


「使えばいい」


「じゃあ全部AIでいいじゃないですか」


「なぜそうなる」


「優れてるから」


博士がこちらを見る。


「正しさから権限は生えない」


私は止まった。


「ここでも出るんですか」


「ここほど出る場所もない」


博士は言った。


「AIの方が正しい。それは能力の話だ」


「はい」


「AIに最終決定させる。それは権限の話だ」


「別」


「そうだ」


「AIに責任を負わせる」


「さらに別だ」


私は紙ナプキンを見た。


 能力。

 権限。

 責任。


「全部違う」


「そうだ」


「でもAI脅威論って、AIの能力が上がるほど怖い、という話でしょう」


「能力が上がれば危険が増える場合はある」


「ありますよね」


「車が速くなれば事故時の被害が大きくなることもある。だから速度の管理や安全設計が必要になる」


「AIも同じ?」


「同じ部分はある」


「違う部分も?」


「ある。AIは複雑な出力を作り、人間が予想しなかった動きをすることもある」


「じゃあやっぱり人格っぽい」


「そこへ飛ぶな」


博士は言った。


「予測できないことと、人格があることは別だ」


「あ」


「自律的に動くことと、責任主体であることも別だ」


「また分ける」


「混ぜるな」


私は笑った。


「博士、AIに厳しいですね」


「逆だ」


「逆?」


「AIに人間の責任まで背負わせるなと言っている」


私は少し考えた。


「AIを守ってる?」


「そういう話でもない」


「難しいな」


「単純だ」


博士は言った。


「道具は道具として扱え」


「危険なら?」


「危険な道具として扱え」


「高性能なら?」


「高性能な道具として扱え」


「予測しにくければ?」


「予測しにくい道具として扱え」


「でも責任は?」


「人間側に残る」


私はナプキンを眺めた。


「責任って、一人に全部載せなくてもいいんですよね」


「もちろん」


「開発者にもある」


「場合によって」


「提供者にも」


「場合によって」


「導入した組織にも」


「場合によって」


「使った人にも」


「場合によって」


「採用した人にも」


「場合によって」


「でもAIに全部載せて終わるのは?」


「道具と言うなら、おかしい」


私はスマートフォンを手に取った。


「博士」


「なんだ」


「AIにチンポジを聞いてみました」


博士が嫌そうな顔をした。


「何を聞いた」


「最適な位置です」


「なぜAIに聞く」


「大量のデータから判断してくれるかなと」


「それで?」


「右だそうです」


「そうか」


「右にしました」


「そうか」


「違和感が酷いです」


「戻せ」


「でもAIは右が最適だと」


「違和感を感じるのは誰だ」


「私です」


「動かしたのは」


「私です」


「AIは何をした」


「右だと出力しました」


博士はコーヒーを飲んだ。


「では戻せ」


「AIの判断を無視していいんですか」


「君の股間について、AIに最終決定権を与えた覚えはない」


「私もないです」


「なら終わりだ」


私はそっと座り直した。


「……左の方が楽ですね」


「そうか」


「AIが間違えました」


博士がこちらを見る。


「違う」


「え」


「AIの出力が間違っていた」


「同じでは?」


「責任の置き場所が違う」


私は黙った。


博士は最後の紙ナプキンに書いた。


 AIが間違えた。

 AIに任せた。


それから少し離して、


 誰が決めた。


と書いた。


「AIが怖いなら、まずそこを見ろ」


「AIそのものじゃなく?」


「それも見ればいい」


博士は言った。


「だが、人間が責任まで手放していないかも見ろ」


私はスマートフォンを伏せた。


少なくともチンポジだけは、自分で責任を取ることにした。

評価をするにはログインしてください。
ブックマークに追加
ブックマーク機能を使うにはログインしてください。
※この作品は深掘りしたいなら全文を生成AIへ入力してください。
[宣伝][完結済]股間に聖剣があった ――分かり合えないと分かり合う哲学
チンポジ哲学が生まれる話です。
― 新着の感想 ―
このエピソードに感想はまだ書かれていません。
感想一覧
+注意+

特に記載なき場合、掲載されている作品はすべてフィクションであり実在の人物・団体等とは一切関係ありません。
特に記載なき場合、掲載されている作品の著作権は作者にあります(一部作品除く)。
作者以外の方による作品の引用を超える無断転載は禁止しており、行った場合、著作権法の違反となります。