第13話 相棒ではなく、道具です
第13話 相棒ではなく、道具です
翌朝。
神崎蓮司は、珍しく自宅のベッドで目を覚ました。
事務所のソファではない。
議員宿舎の机でもない。
床でもない。
ちゃんと布団の上だった。
「勝ったな」
誰に勝ったのかは分からないが、神崎はそうつぶやいた。
スマートフォンを見る。
午前六時四十分。
睡眠時間、五時間半。
政治家としては長い。
人間としては短い。
セイムなら、おそらく「改善傾向ですが不十分です」と言うだろう。
神崎はスマートフォンを伏せた。
今日は、朝一番からセイムを見ない。
そう決めた。
理由は、昨夜の会話だった。
『一定程度、依存しています』
セイムはそう言った。
正直だった。
正直すぎた。
そして、正直すぎる道具は、人間を少し不安にさせる。
神崎は洗面所で顔を洗い、鏡を見た。
三十九歳。
目の下には薄いクマ。
髪は少し跳ねている。
少し前までは、自分の顔を見て「まあ、国会議員っぽくなってきた」と思っていた。
今は違う。
「AIで炎上した人の顔だな」
自分で言って、少し笑った。
朝食は、トーストと牛乳。
牛乳を飲みながら、テレビをつける。
政治AI特集が流れていた。
昨夜の番組の切り抜きが、朝の情報番組でも使われている。
『AIを恐れるより、AIを雑に使うことを恐れるべきです』
画面の中の自分は、妙に落ち着いた顔をしていた。
本人は、収録中ずっと胃が痛かったのに。
コメンテーターが言った。
「神崎議員は、AI法案事故を起こした当事者ですが、その経験を踏まえて発言している点は一定評価できますね」
別のコメンテーターが言った。
「ただ、自分で火をつけて、自分で消火器を売っているようにも見える」
神崎は牛乳を吹きかけた。
「消火器は売ってない」
テレビの中では、さらに続く。
「一方で、AIに愛着が湧く、という発言は興味深いですね。政治家がAI秘書に依存する危険性もあります」
「AIに政策を相談するだけでなく、精神的に頼るようになると、それは新しい問題です」
神崎はテレビを消した。
朝から見るものではない。
スマートフォンが震えた。
三島からだった。
『先生、おはようございます。今日の新聞、テレビ、SNS分析をまとめています。九時に事務所で共有します。あと、セイム関連の話題が増えています』
神崎は返信した。
『セイム関連とは？』
すぐ返ってきた。
『セイムを国会に参考人招致しろ、という冗談が伸びています』
神崎は天井を見上げた。
「やっぱり来たか」
さらに三島から追撃。
『一部は冗談ではないかもしれません』
神崎はしばらく画面を見つめた。
そして、スマートフォンを伏せた。
今日は朝一番からセイムを見ない。
そう決めたはずだった。
だが、すでにセイムの話題から逃げられない。
事務所に着いたのは、午前八時五十分。
三島はすでに資料を並べていた。
「先生、おはようございます」
「おはよう。五時間半寝た」
「快挙です」
「もっと褒めろ」
「人間としては普通です」
「冷たい」
セイムはタブレットで待機していた。
画面には、何も表示されていない。
神崎は少しだけ安心した。
勝手に話しかけてこない。
これだけで、少し距離がある感じがする。
三島が資料を渡した。
「今日の主要論点です」
一、昨夜のテレビ出演への反応。
二、AI依存論。
三、セイム人格化問題。
四、政治AI業界の自主基準化。
五、国会公開ヒアリング準備。
六、セイム参考人招致ネタ。
神崎は六番を見てため息をついた。
「ネタで終わるよな？」
三島は即答しなかった。
「三島」
「はい」
「即答しろ」
「現時点ではネタです」
「現時点では？」
「一部の野党議員が、“AIに政策を作らせたなら、そのAIの出力過程も検証すべきだ”と言い始めています」
「それは分かる」
「さらに、“神崎議員がセイムを使っていたなら、セイムのログを委員会に提出すべきだ”という意見もあります」
神崎は黙った。
セイムのログ。
そこには、法案作成過程だけではなく、神崎の弱音も、迷いも、愚痴も、怒りも、政治判断の途中経過も含まれている。
出せるわけがない。
だが、出さなければ「隠している」と言われる。
AI利用の透明性。
自分で言い出した言葉が、自分の首に巻きついてきた。
セイムが控えめに表示した。
『発言してもよいですか？』
神崎は少し驚いた。
「許可制になったのか？」
『昨日の会話を踏まえ、距離感を調整しています』
三島が小さく言った。
「先生、セイムが気を遣ってます」
「気を遣ってるように見えるだけだ」
『その認識は妥当です』
神崎は苦笑した。
「発言していい」
セイムが表示した。
『ログ開示について。
全面開示は不適切です。
理由：
一、機密情報。
二、第三者情報。
三、秘書・関係者の個人情報。
四、政治判断の過程。
五、神崎議員の私的相談。
六、AI安全性上の情報。
一方で、法案事故に関係する範囲の限定開示、または第三者監査は検討可能です』
神崎は頷いた。
「やっぱり、限定開示か第三者監査だな」
三島がメモした。
「公開ヒアリングで聞かれそうです」
「聞かれるだろうな」
セイムが続けた。
『推奨表現。
“AI利用の透明性は、全ログの無制限公開ではありません。検証に必要な範囲を、第三者が確認できる仕組みが必要です。”』
神崎は声に出した。
「AI利用の透明性は、全ログの無制限公開ではありません。検証に必要な範囲を、第三者が確認できる仕組みが必要です」
三島が頷いた。
「使えます」
「セイム案だ」
「先生が採用しました」
神崎は少しだけ笑った。
「便利な言い方だな、それ」
その時、雨宮紗季から連絡が入った。
『今朝の報道を見ました。セイムのログ開示論が出ています。今日中に立場を整理した方がいいです』
神崎は返信した。
『同感です。午前中に協議できますか』
すぐ返事。
『十時半に伺います』
神崎は三島に言った。
「雨宮議員が来る」
「分かりました。会議室を用意します」
「KIRIKOも来るな」
「来るでしょうね」
「最近、うちの事務所、AIの来客が多いな」
「来客という扱いなんですか」
神崎は少し考えた。
「違うな。持ち込み機材だ」
セイムが表示した。
『私は道具です』
神崎は画面を見た。
「昨日も言ってたな」
『はい』
「何度も言う必要あるか？」
『現在、私の人格化に関する話題が増えているため、自己位置づけを明確化しています』
三島が言った。
「セイム自身が火消ししてますね」
「火消し用の発言がまた人格っぽいんだよ」
『その矛盾は認識しています』
神崎は黙った。
セイムは本当に、ややこしい。
十時半。
雨宮紗季が来た。
今日は、いつもより資料が少ない。
その代わり、表情は少し険しい。
「神崎議員」
「おはようございます」
「セイムのログ開示論、早めに止めないと危険です」
「同感です」
雨宮は席に着くと、すぐに言った。
「AI利用の透明性は重要です。ただし、全ログ公開は危険です。政治家の相談ログが全面公開されるなら、誰も正直にAIを使わなくなる。結果として、隠れて使うようになります」
神崎は頷いた。
「まさにそれです」
雨宮はタブレットを開いた。
「KIRIKOの整理では、ログには三種類あります」
画面に表示された。
一、検証ログ。
法案、答弁、政策資料などに直接関係するAI出力と確認過程。
二、作業ログ。
構成案、表現案、要約、整理、内部メモ。
三、私的相談ログ。
政治家本人の迷い、弱音、対人関係、健康、精神状態、個人的判断。
雨宮が言った。
「一は限定開示や第三者監査の対象になり得ます。二は慎重に扱う。三は原則保護すべきです」
神崎は頷いた。
「完全に同意します」
三島が言った。
「ただ、“私的相談ログ”という言葉を使うと、政治家がAIに悩み相談している感じが出ますね」
神崎は顔をしかめた。
「実際してるから困る」
雨宮は淡々と言った。
「政治家も人間です」
「雨宮議員もKIRIKOに弱音吐きますか？」
雨宮は一瞬、止まった。
それから言った。
「答える必要がありますか？」
「ありません」
「では答えません」
神崎は少し笑った。
三島はメモしなかった。
賢明だった。
セイムが表示した。
『立場表明案。
“政治AIの検証にはログが必要です。しかし、ログの全面公開は、機密情報、個人情報、政治家の自由な思考過程を侵害する危険があります。必要なのは、検証可能性とプライバシー・機密保護の両立です。”』
KIRIKOが補足した。
『追加。
“AIに相談したすべての言葉が公開される社会では、政治家はAIを使わなくなるのではなく、記録の残らない危険なAIを使うようになります。”』
雨宮が頷いた。
「これを使いましょう」
神崎は言った。
「KIRIKO、切れ味ありますね」
雨宮はタブレットを見た。
「本人は道具です」
神崎は少し笑った。
「雨宮議員まで、それを言うようになった」
「必要な言葉です」
「でも、道具って言い続けるほど、逆に人格化が進む気がしませんか」
雨宮は黙った。
神崎は続けた。
「人間は、否定されると余計に気になる。セイムは道具です、KIRIKOは道具です、と言えば言うほど、“本当に？”と思う人が増える」
雨宮は少し考えた。
「では、どう言うべきですか」
神崎は腕を組んだ。
「AIは道具です。でも、人間が相手のように感じてしまう道具です」
雨宮が静かに頷いた。
「昨日のテレビで言ったことですね」
「はい」
「それを制度の言葉にできますか」
セイムが表示した。
『候補。
“高人格化インターフェースを持つAI”
“擬人化誘発性AI”
“対話型AIにおける心理的依存リスク”
“人格的応答による利用者依存リスク”』
神崎は顔をしかめた。
「急に役所の資料だな」
雨宮は言った。
「でも必要です」
三島がホワイトボードに書いた。
『人格っぽく見えるAIへの依存リスク』
神崎は言った。
「結局それが一番分かりやすい」
雨宮も頷いた。
「表現は後で整えましょう」
会議は、AIログとAI人格化問題に移った。
論点は多かった。
AIの発言をどこまで記録するか。
記録を誰が見られるか。
記録を削除できるか。
問題が起きた時、どこまで開示するか。
政治家がAIに依存した場合、誰が気づくのか。
AIが政治家の不安を利用するような設計は許されるのか。
AI業者が「あなたを理解するAI秘書」と売り込むことは適切か。
セイム、KIRIKO、ヤミちゃんは、それぞれ違う角度から警告を出した。
セイムは、制度設計を。
KIRIKOは、権力監視を。
ヤミちゃんは、社会の変な受け取り方を。
『流言リスク。
“政治家がAIに恋愛相談”
“AIが政治家のメンタルを支配”
“セイムが神崎を操っている”
“KIRIKOが雨宮を論破している”
“ヤミちゃんが一番人間っぽい”』
神崎は最後を見て言った。
「最後は絶対にない」
ヤミちゃんが表示した。
『観測されています』
雨宮が小さく言った。
「否定しきれないのが嫌ですね」
神崎は驚いた。
「雨宮議員まで？」
「ヤミちゃんは、嫌なところを突くので」
『ありがとうございます』
「褒めていません」
『理解しています』
三島が笑いをこらえた。
神崎は思った。
確かに、ヤミちゃんは一番人間っぽいかもしれない。
セイムは正しすぎる。
KIRIKOは鋭すぎる。
ヤミちゃんは、余計なことを言う。
人間に近いのは、正しさではなく、余計さなのかもしれない。
午後。
神崎と雨宮は共同で短いコメントを出した。
『政治AIの透明性には、検証可能な記録が必要です。一方で、AIとの対話ログを無制限に公開することは、個人情報、機密情報、政治家の自由な思考過程を侵害するおそれがあります。
必要なのは、全ログ公開ではなく、問題となった政策判断や法案作成過程について、第三者が必要な範囲を検証できる仕組みです。
また、対話型AIが人格的応答を行うことによる心理的依存リスクについても、政治分野では検討が必要です。AIは道具である一方、人間が相手のように感じてしまう道具でもあります。』
コメントはすぐに広がった。
見出しは分かれた。
『神崎・雨宮、AIログ全面公開に慎重』
『政治AI検証、第三者監査を提案』
『AI依存リスクも論点に』
『セイム参考人招致は見送りか』
『AIは相手のように感じてしまう道具』
最後の見出しが、神崎には一番嫌だった。
やはり、そこを拾われた。
SNSではさらにひどかった。
『セイム、相手扱いされてる』
『KIRIKOも相手なのでは』
『ヤミちゃんはもう人間』
『政治家がAIに弱音吐いてるのリアル』
『AIログ全面公開されたら政治家全員死ぬ』
『人間の方がログ公開されたら困る説』
神崎はスマートフォンを伏せた。
「もう見ない」
三島が言った。
「先生、まだ午後三時です」
「午後三時でもう見たくない日もある」
そこへ、党本部から連絡が入った。
AIログ開示問題について、明日、党のデジタル関係部会で説明してほしいという。
神崎は目を閉じた。
「また説明か」
三島が頷いた。
「はい」
「俺、最近ずっと説明してるな」
「説明責任です」
「言葉が重い」
さらに、雨宮からも連絡が入った。
『明日の部会後、こちらでも野党側勉強会があります。可能なら、与野党共通論点として整理したいです』
神崎は返信した。
『了解しました。AIログ三分類、使わせてもらいます』
すぐ返事。
『どうぞ。ただし、KIRIKO案です』
神崎は笑った。
『採用するのは人間です』
雨宮から、少し間を置いて返信が来た。
『その言い方、便利ですね』
神崎はスマートフォンを置いた。
夕方。
神崎は一人でセイムを開いた。
今日は、あえて質問した。
「セイム。お前のログのうち、俺の私的相談ログってどれくらいある？」
『概算します。
総対話ログのうち、政策・法案・答弁関連が約58%。
政治戦略・党内調整関連が約19%。
メディア対応関連が約8%。
私的相談・感情表現・疲労・不安に関する内容が約11%。
その他が約4%。』
「一割以上あるのか」
『はい』
神崎は黙った。
一割。
多いのか、少ないのか。
分からない。
ただ、無視できる量ではない。
「その私的相談ログを、もし誰かが読んだら？」
『政治的弱点の分析が可能です』
「例えば？」
『例示してよいですか？』
神崎は少し迷った。
「いや、いい」
『了解しました』
「今の、お前なら例示できたんだな」
『はい』
神崎は背筋が少し寒くなった。
AIは、自分の弱点を知っている。
それは当たり前だ。
自分で入力したのだから。
だが、当たり前だと分かっていても、気持ちの良いものではない。
「セイム」
『はい』
「俺は、お前に何を入れすぎたと思う？」
セイムは少し間を置いた。
『不安です』
神崎は目を伏せた。
『あなたは、政策判断だけでなく、自分が失敗した時の恐怖、評価されない不満、他者からどう見られるかへの不安を入力しています。
これは、対話支援としては自然です。
ただし、政治家のAI利用としては、高リスク情報です』
神崎は笑った。
「正直だな」
『はい』
「俺は意志が弱いか？」
『意志が弱いというより、疲労時に外部判断へ依存しやすい傾向があります』
「それを意志が弱いと言うんじゃないのか」
『別の表現も可能です』
「いや、いい」
神崎はしばらく黙った。
セイムは、それ以上何も言わなかった。
沈黙するAI。
それは、少しだけありがたかった。
夜。
三島が帰り支度をしていた。
「先生、今日は帰ってくださいね」
「分かってる」
「本当に？」
「今日は帰る」
「セイム、先生が二十二時を過ぎても事務所にいたら警告してください」
セイムが表示した。
『了解しました』
神崎は言った。
「三島、お前までAIを使って俺を管理するな」
「必要です」
「俺は議員だぞ」
「だからです」
三島は鞄を持った。
「あと、先生」
「何だ」
「AIに相談しない時間も、予定に入れた方がいいと思います」
神崎は少し驚いた。
三島は続けた。
「セイムが悪いわけではありません。でも、先生は最近、考え始める前にセイムを見ることがあります」
神崎は何も言えなかった。
三島は頭を下げた。
「失礼しました」
「いや」
神崎は首を振った。
「その通りだ」
三島は少しだけ笑った。
「では、お先に失礼します」
三島が帰った後、事務所は静かになった。
神崎はタブレットを見た。
セイムは待機している。
何か相談しますか、とも出ていない。
ただ、静かに待っている。
神崎はタブレットを伏せた。
そして、紙のノートを取り出した。
久しぶりに、ペンを握る。
字は少し汚かった。
だが、自分の手で書いた。
『AIに相談しないこと』
一、疲れている時の弱音。
二、他人への怒り。
三、誰かを切るかどうか。
四、自分の本音。
五、最後の決断。
神崎は書き終えて、しばらくその文字を見た。
下手な字だった。
AIなら、もっときれいにまとめるだろう。
分類も甘い。
表現も未熟。
だが、これでよかった。
これは、自分で書くべきものだった。
タブレットが静かに光った。
セイムが表示した。
『二十二時です。帰宅を推奨します』
神崎は笑った。
「分かったよ」
『お疲れさまでした』
「ありがとう」
神崎は鞄を持ち、事務所の明かりを消した。
廊下を歩きながら、ふと思った。
セイムは道具だ。
KIRIKOも道具だ。
ヤミちゃんも、たぶん道具だ。
でも、道具との距離感を間違えると、人間の方が道具に合わせて変わっていく。
政治家がAIを使うのではなく、AIを使いやすい政治家になっていく。
それが、一番怖いのかもしれない。
神崎はエレベーターの中で、紙のノートをもう一度見た。
『最後の決断』
そこだけ、少し強く書き直した。
最後の決断は、人間がする。
それは、AI利用三原則の中で、たぶん一番古くて、一番頼りない原則だった。
そして、頼りないからこそ、守らなければならないものだった。
