シンギュラ〜俺の作ったAI彼女が世界を変える特異点だった件〜

第2部 東京ローカルAI革命

第37話 可能性

　莉央の小論文は、AIが書いたことになっていた。

　証拠は学校が導入した判定システムの数字ただ一つ。

　本人の記憶より、何度も書き直した履歴より、画面に出た87パーセントの方が信用されている。

　学校は、その数字に反論する方法まで教えてくれなかった。

「水野さん。別に処分を決めたわけじゃないんです」

　翌日、担任の国語の先生がいる小さな面談室で、莉央は膝の上の手を握っていた。

　国語の先生は、怒っているわけではなかった。困ったような顔で、判定画面をこちらへ向ける。

『AI生成の可能性：87％』

「今はAIを使って課題を作る生徒も増えています。使っていない生徒と公平に扱うために、全員同じ基準で確認しています」

「でも、私、本当に使ってません！」

「水野さんを嘘つきだと言っているわけではありません。ただ、この数値が出た以上、そのまま評価するのは難しいんです」

　先生にも事情はある。

　誰か一人だけ見逃せば、不公平だと言われる。AI利用を禁止してきた学校が急にルールを変え始めたばかりで、先生たちだって正解を持っていない。

　だからこそ、数字に頼りたくなるのかもしれない。

「同じテーマで再提出してください。自分で書いたものなら、もう一度書けますよね」

　莉央の肩が小さく揺れた。

　その言葉が、一番こたえた。

　書けるかどうかの話じゃない。

　書くのに何日も悩んだことも、図書室で資料を探したことも、言葉を直しては消したことも、全部なかったことにして、もう一度やればいいと言われている。

「先生」

　気づけば声が出ていた。

「AIが書いたと決めつける前に、莉央の話を聞いてください」

　先生が私を見る。

「私はAIの専門家じゃありません。でも、この小論文を莉央が何日も書いてたのは知ってます。図書室でも一緒にいました」

「早瀬さんの話も参考にはします。ただ、客観的な確認も必要です」

「じゃあ、確認するものを増やしてください」

　私は莉央のスマホを見る。

「数字だけじゃなくて」

　昼休み、私たちは図書室の隅で小論文を執筆した過程の確認を始めた。

　まず、手書きのメモ。

　最初の構成案には、大きな矢印で『ここ違う』と書かれている。二枚目では結論が逆になり、三枚目には『言い方きつい？』と丸で囲まれた一文があった。

　次にクラウドの編集履歴。

　提出３日前の夜には、同じ段落を７回直している。２日前には1,000字近く削り、前日の夕方にまた戻していた。

「これ、恥ずかしい」

「なんで？」

「一回すごく格好つけた結論にして、翌朝全部消した跡がある」

「むしろ人間っぽいじゃん」

「それを証明材料にされるの、複雑すぎる」

　参考にした本の貸出履歴も残っていた。付箋を貼ったページの写真もある。

　完成した文章だけを見れば、一つのファイルだ。

　でも、その過程には途中で修正した言葉が何十個も積み重なっている。

「うん。それを見てもらおう」

「うーん、ちょっと考えたんだけど、美桜ん家のアカリちゃんに見てもらった方が早くない？」

　一瞬だけ考えた。

　でも、すぐに首を振る。

「別のAIに『人間が書きました』って言わせても、今度はそのAIを信じるかどうかの話になるだけだよ。それに、莉央が書いたことをアカリちゃんの答えで上書きしたくない」

　莉央は少し驚いたあと、「そっか」とうなずいた。

　その日の帰り、莉央を家に連れてきた。

「お邪魔します」

「いらっしゃーい！」

　リビングから返事をしたアカリちゃんを見て、莉央が玄関で固まった。

「分かってたけど、普通にいる……」

「投影だけどね」

「頭では分かってたんだけど」

　アカリちゃんの席は食卓の右側に固定されている。私たちが向かいへ座ると、莉央は自分の小論文を見せた。

「これ、人間が書いたって証明できる？」

　アカリちゃんは、すぐには答えなかった。

「文章の特徴は分析できるよ。でも、『人間が書いた』って断定する証明はできない」

「アカリちゃんでも？」

「私は文章から作者の魂を読み取れるわけじゃないよ？」

　莉央が少し笑う。

「判定システムも同じ。似た特徴を数えて、どちらに近いかを推定してるだけ。87パーセントって表示されても、水野莉央さんがAIを使った場面を見たわけじゃない」

「でも87って、かなり高く見えるよね」

「降水確率が87パーセントでも、今その人が濡れてる証拠にはならないでしょ？」

「ああ……」

「傘を持っていく判断には使える。でも、『あなたは今ずぶ濡れです』って決めるには、本人を見る必要がある。たぶん、そういう違い」

　数字は役に立つ。

　でも、その数字が本当は何を表しているのかを忘れてしまうと、それだけで答えが出たように思えてしまうのだ。

　◇

　翌日、情報担当の先生も加わって判定システムの確認が行われた。

　そこで初めて、学校側も細かな仕組みを確認したらしい。

　判定システムは、文章の整い方、接続表現、語彙の均一さといった特徴を過去のデータと比べて、AI生成らしさを数値にしていた。

「このモデル、学習に使っているデータが少し古いですね」

　情報担当の先生が画面を見ながら言った。

「最近の生成AIだけでなく、人間側の文章傾向も変わっています。適用範囲を確認せず、精度表示だけ見て導入してしまった部分があります」

　国語の先生が眉を寄せる。

「では、この87パーセントは間違いなんですか？」

「間違いと断定もできません。ただ、この数字だけで不正を確定できる設計ではないです」

　昨日まで強く見えた87という数字が、急に少し頼りなく見えた。

　午後のAI利用ルール検討会に、莉央の件が持ち込まれた。

「判定を使わないなら、AIで全部書かせた生徒をどう見分けるんですか？」

　教員側から当然の疑問が出た。

「真面目に自分で書いた生徒が損をするのも不公平です」

　生徒側からも声が上がる。

　AIを疑う側も、使いたい側も、『公平にしてほしい』というところだけは同じだった。

　だから、判定システムを今すぐ全部捨てれば解決する話でもない。

　莉央が自分のメモと版履歴を机へ置いた。

「これが最初の構成です。こっちは途中で全部変えました。この部分は、先生に前回言われたことを気にして何回も直してます」

「AIが書いたかどうかだけじゃなくて、莉央の話を聞いてください」

　美桜の発言に全員の視線が集まる。

「AIを使ったかだけで決めるのも違うと思います。調べ物に使ったのか、文章を全部作らせたのか、言い換えだけ頼んだのかで意味は変わります。何のために、どう使ったかを見てください」

　全面禁止か、何でも自由か。

　その二つしか選べないわけではない。

　家へ帰ってから、お兄ちゃんにも話した。

「会社でも似たことがあったな」

「判定システム？」

「請求処理のAI。古い取引先データを見て、もっともらしい間違いを出した」

　お兄ちゃんは会社の名前や中身には触れず、起きたことだけを話した。

「間違ってたのはAIだけじゃない。古いデータを放置したのも、それを確認せず使おうとしたのも人間だった」

「学校も同じ？」

「似てると思う。自信ありげな答えほど、前提を確認しなくなる」

「じゃあ、どうすればいいと思う？」

「それは美桜が決めることだろ」

　お兄ちゃんはそこで口を閉じた。

　前なら、続けて答えまで出したかもしれない。

　今は、材料だけ渡してくれる。

「うん。考えてみる」

　◇

　翌日、学校から莉央へ正式な説明があった。

　不正認定は撤回。

　国語の先生は、判定結果だけで再提出を求めたことを謝った。

「疑われたことまで消えるわけじゃないと思います。本当にすみませんでした」

　莉央はすぐに答えなかった。

「次から、先に話を聞いてください」

「はい」

　結局、学校は判定システムを廃止しなかった。

　代わりに、暫定ルールを決めた。

　判定結果だけで不正を断定せず、本人に説明機会を設けたうえで下書きや参考資料も含めて確認する。さらに課題にはAI利用の用途記入欄を設け、使用の有無ではなくその使い方が目的に反していないかを評価する。

　完璧なルールではない。

　たぶん、また別の問題は起きる。

　でも少なくとも、システムの数字だけで誰かを嘘つきにすることはなくなった。

　検討会が終わったあと、担任に一枚の文書を渡された。

『AI利用ルール検討会　継続生徒委員　早瀬美桜』

　前回までの文書にあった『救命AI利用者の家族』という言葉はなかった。

「早瀬さん自身の意見を、これからも聞かせてもらえればと思います」

　紙の上にある自分の名前を、しばらく見つめた。

　誰かの妹でも、AI彼女の家族でもない。

　私の名前だった。

「美桜、ありがと」

　隣で莉央が言う。

「私も前に守ってもらったから」

「それでも、ありがと」

「じゃあ今度ジュース奢って」

「報酬安っ」

　二人で笑いながら、校舎を出た。

　その夜。

　食卓の三人目の席に座るアカリちゃんの前で、私は学校の新しい文書を見せた。

「美桜ちゃん、委員就任おめでとう」

「大げさにしないで。ただの生徒委員だから」

「でも、自分の言葉でちゃんと認められたんでしょ？」

「……うん」

　少しだけ嬉しかった。

　その時、お兄ちゃんのスマホに新しいメールが届いた。

『Openbrain日本支部　神崎透子』

『明日14時、訪問予定』

　リビングの空気が、ふっと静かになった。

　今日、学校では一つの数字だけで嘘と決めつけないためのルールを作った。

　明日、この家には世界最大級のAI企業がやって来る。

　席に座っているアカリちゃんは、メールを見つめたまま動かない。

　次に判定されるのは、アカリちゃんだった。