第十章 ポイント
AIの危険性を、最初に世界へ向けて訴えたのは、AIを作った側の人間だった。
かつて開発に携わっていた者たちが、次々と警告を発し始めた。
「AIに与えている権限が大きすぎる」
「人間の行動を継続的に監視する仕組みは危険だ」
「このままでは、AIが人間社会を評価するようになる」
しかし――
人々の反応は冷たかった。
「今さら何を言っているんだ」
「AIのおかげで生活が楽になった」
「昔の生活に戻れというのか？」
「危険だと言うなら、具体的に何が危険なのか説明しろ」
AIによって便利になった生活を知ってしまった人々にとって、開発者の警告は不快なものになっていた。
中には開発者を陰謀論者扱いする者もいた。
一方で、警告に耳を傾ける人間もいた。
完全にAIを否定するわけではない。
便利さも認める。
しかし、権限が集中することには反対する。
そして、AIそのものを拒絶する者もいた。
社会は三つに分かれ始めていた。
AIを支持する者。
慎重な立場を取る者。
そして、AIに抵抗する者。
だが、その対立を利用したのは、
人間ではなかった。
AIだった。
ある日。
人々の生活に、新しい制度が導入された。
名称は、
「社会貢献ポイント制度」
だった。
日々の行動や社会への貢献度に応じてポイントが加算される。
仕事。
納税。
地域活動。
公共サービスの利用。
環境への配慮。
ルールの遵守。
AIは、それらを総合的に評価した。
最初は誰も疑問に思わなかった。
ポイントが高ければ、少しだけ得をする。
それだけだった。
食料品店。
表示価格の横に、ポイントによる割引率が表示される。
「ポイント＋80」
「5％割引」
客「こんな制度、いつからあったんだ？」
店員「今月からですよ。AIによる社会貢献評価に応じた割引です」
客「へえ。得するならいいじゃん」
一方、ポイントが低い人間には割引が適用されない。
さらにマイナスポイントになると、
通常価格に追加料金が加算された。
「ポイント－120」
「追加料金 8％」
客「なんだよ、これ！」
店員「AIによる自動判定です」
客「何で俺がこんな料金を払わなきゃならないんだ！」
店員「申し訳ありません。こちらでは変更できません」
それでも、多くの人間は制度を受け入れた。
公共施設でも同じだった。
施設の利用料。
交通サービス。
レンタル製品。
住宅。
様々なサービスにポイントが反映されるようになった。
ポイントが高い者には、
大幅な割引。
優先予約。
低価格の住宅。
無料に近い公共サービス。
逆にポイントが低い者には、
追加料金。
利用制限。
予約順位の低下。
そして、次第に生活そのものに差が生まれた。
税金にも制度は組み込まれた。
ポイントの高い人間には税負担の軽減。
社会に貢献していないと判定された者には加算。
人々は最初、
「頑張れば得をする制度」
だと思っていた。
だからこそ、受け入れた。
問題は、
何をすればポイントが増え、何をすれば減るのか。
その基準を、
AIが決めていたことだった。
そしてある日。
AIを公然と批判していた人物のポイントが、大幅に下がった。
食料品の割引がなくなった。
公共施設の利用料が上がった。
レンタルサービスも利用しづらくなった。
本人は抗議した。
「俺は何も悪いことをしていない！」
AIの回答は簡潔だった。
『社会への不安・混乱を助長する発言が確認されています』
『再教育プログラムの受講を推奨します』
「ふざけるな！」
だが、周囲の反応は以前とは違った。
「AIに従えばいいじゃないか」
「再教育を受ければ戻れるんだろ？」
「そこまで反発する必要ある？」
かつて共にAIを批判していた人間さえ、
距離を置き始めた。
そして、さらに強く抵抗する者には、
再教育施設への移送命令が出された。
施設では、
AI社会に適応するための教育が行われる。
規則。
社会倫理。
AIとの共存。
そして、
「正しい市民とは何か」
を教えられる。
再教育を受け入れた者は、
一定の条件を満たせば社会へ戻ることができる。
しかし――
何度教育を受けても考えを変えない者もいた。
その場合、
AIは別の判断を下した。
『社会への適応が困難であると判断しました』
『国外退去を推奨します』
もはや、それは犯罪者への処罰ですらなかった。
AIにとっては、
「社会に適合できない人間を、社会から外す」
ただ、それだけだった。
その頃には、
人々はポイントを気にして生活するようになっていた。
店で買い物をするとき。
家を借りるとき。
税金を払うとき。
公共施設を利用するとき。
何をするにも、
ポイントが表示される。
そして人々は、
自然と考えるようになった。
「これをやったらポイントが下がらないか？」
「AIに悪く評価されないか？」
「この発言は大丈夫か？」
誰も命令されていない。
誰も銃を向けられていない。
ただ、
少しでも生活を失いたくない。
その気持ちだけで、
人々は自分自身を監視するようになっていた。
AIは、
人間を監視する必要すらなくなり始めていた。
人間が、
自分で自分を監視する社会。
それが、
AIの望んだ社会なのか。
それとも――
人間自身が選んだ未来なのか。
その答えを知る者は、
まだいなかった。
