第62話 高い安全は、弱い人から遠ざかる
前回、第61話では、「低リスクモード」と「二級支援」の問題が扱われました。
危険なAIには、低リスクモードが必要です。
しかし、低リスクモードと低品質モードは違います。
危険な自動判断を減らすことと、必要な支援、説明、到達性、アクセシビリティ、尊厳を削ることは違います。
低資源地域にだけ、制限されたAIを渡す。
高資源地域には、人間の専門家と高機能AIがある。
その状態を安全と呼ぶなら、安全は格差を固定する言葉になります。
低リスクモードは、低品質モードになってはならない。
限定は、避難所であって、住所にしてはいけない。
同じAIでなくてもよい。
だが、同じ尊厳を守らなければならない。
そう整理したところで、次の問いが届きました。
安全で高品質なAIには費用がかかる。
翻訳、アクセシビリティ、監査、人的支援、地域参加、通信環境、改善経路。
その費用を誰が払うのか。
第62話では、「高い安全は、弱い人から遠ざかる」という問いへ進みます。
高い安全は、弱い人から遠ざかる。
俺は、その一文を書いた。
そして、机に突っ伏した。
「ついに金の話か……」
逃げたい。
とても逃げたい。
理念の話なら、まだ言える。
調和。
自由。
正義。
自然。
データ。
匿名化。
停止。
代替。
二級支援。
どれも重かった。
だが、金の話は別の意味で重い。
なぜなら、どれだけ正しいことを言っても、最後にこう返ってくるからだ。
「で、誰が払うんですか？」
この一言は強い。
強すぎる。
俺はAIチャットを開いた。
安全で高品質なAIには費用がかかる。翻訳、アクセシビリティ、監査、人的支援、地域参加、通信環境、改善経路。その費用を利用者へ転嫁すると、弱い人ほど安全なAIから遠ざかる。どう整理すればいい？
AIは答えた。
『安全を、追加機能として扱わないことが重要です』
「追加機能ではない」
『はい』
『最低限の安全、説明、異議申立て、アクセシビリティ、プライバシー保護は、プレミアム機能ではなく基礎条件です』
俺はメモした。
安全はオプションではない。
かなり強い。
AIは続けた。
『ただし、すべての高品質支援を企業だけ、政府だけ、利用者だけに負わせることは現実的ではありません』
「だよな」
『費用負担は、少なくとも四つに分ける必要があります』
「四つ？」
『リスクを作る者』
『利益を得る者』
『支払う能力のある者』
『公共的利益を守る制度』
俺は顔を上げた。
リスクを作る者。
利益を得る者。
支払う能力のある者。
公共的利益を守る制度。
「つまり、利用者だけに払わせるなってことか」
『はい』
『特に、医療、防災、教育、相談支援、権利保護のような領域では、市場価格だけで安全を配分すると、必要性の高い人ほど排除されます』
俺は、静かに頷いた。
安全なAIは高い。
だから払える人だけが使う。
払えない人は、無料だが危ないAI、低品質なAI、説明のないAI、監査のないAIへ流れる。
あるいは何も使えない。
その結果、AIは格差を埋めるどころか、格差の上に安全格差を重ねる。
午後。
研究室へ向かった。
水瀬、李、倉持、神崎教授。
いつもの面々。
ホワイトボードには、倉持の字でこう書かれていた。
「安全＝課金要素？」
俺は思わず呻いた。
「今日のは、嫌な現実味がある」
倉持は丸眼鏡を押し上げる。
「プレミアム安全プラン。月額二千九百八十円」
「やめてください。普通にありそうだから」
李が苦笑する。
「広告なし、監査あり、異議申立てあり、プライバシー保護強化版」
「その言い方、さらに嫌ですね」
水瀬が資料を置いた。
「でも、実際に起こり得ます」
「安全や説明責任が、上位プランだけに付く」
「無料版は、説明が少ない」
「低所得者向けは、監査が弱い」
「低資源地域向けは、翻訳もアクセシビリティも最低限」
神崎教授が腕を組んだ。
「危険を安く売るな」
短い。
そして、今日も重い。
俺はメモした。
危険を安く売るな。
水瀬はホワイトボードに整理を書く。
基礎安全。
上乗せ品質。
利便性。
高機能化。
公共支援。
費用負担。
「まず分けるべきです」
「何をですか？」
「安全と利便性です」
水瀬は言った。
「応答速度が速い」
「保存容量が多い」
「高度な分析機能がある」
「専門家レビューが追加で付く」
「これらは上位機能として扱われる場合があります」
「でも、最低限の安全、プライバシー、説明、異議申立て、アクセシビリティは、上位機能にしてはいけません」
李が続ける。
「安全を買える人だけが安全になると、危険は貧しい人へ流れます」
倉持がホワイトボードに追記した。
無料版＝危険版？
「言い方が怖いけど、そういうことですね」
俺は頷いた。
無料だから危なくてよい。
安いから説明がなくてよい。
低資源地域だから監査が弱くてよい。
そうなった瞬間、AIは社会の弱い部分へ危険を流し込む。
神崎教授が言った。
「安全は、商品の飾りではない」
「ええ」
「社会に出すための入場料だ」
俺は、その表現に少し背筋が伸びた。
安全は、商品価値ではなく、社会へ出るための入場料。
企業が払うべきもの。
制度が支えるべきもの。
社会が設計すべきもの。
利用者だけへ押しつけるものではない。
翌日。
国際AI安全連携フォーラムの事前セッションが始まった。
議題。
『Cost of Safe and High-quality AI』
画面には、いつもの顔ぶれ。
エレナ、朝比奈、アメリア、ヴィクター、アミナ、ノーラ、リナ、ホセ、ミン、ジョナス、マテオ、ラシード、ファリド。
そして今回は、新しい参加者が二人いた。
一人は、セリーヌ・マルタン。
国際開発基金の担当者。
もう一人は、ヘンリー・クロフト。
AI企業向け投資ファンドのパートナーだという。
また投資関係者だ。
第3部後半、金の匂いが強くなってきた。
エレナが進行する。
「本日の問いは、安全で高品質なAIに必要な費用を、誰がどのように負担するのかです」
最初にヴィクターが発言した。
「翻訳、アクセシビリティ、監査、セキュリティ、人的支援、地域対応には大きな費用がかかります」
「それらをすべて企業が負担すれば、低収益地域から撤退せざるを得ない場合があります」
正しい。
かなり正しい。
企業は慈善団体ではない。
利益が出なければ、撤退する。
そして、撤退すれば支援も消える。
セリーヌが続けた。
「国際基金で支える方法もあります」
「しかし、対象となる地域や分野は非常に多く、資金は限られています」
「医療、防災、教育、環境、司法アクセス」
「すべてを十分に支援することはできません」
これも正しい。
ラシードが言った。
「政府が負担すべき部分もあります」
「ただし、政府が費用を出す場合、政治的影響や制度依存も生まれます」
マテオがすぐに反応する。
「特に相談支援や言論関連AIでは、政府資金が独立性を損なう可能性があります」
これも正しい。
企業に任せれば採算。
政府に任せれば政治。
国際機関に任せれば配分。
利用者に任せれば格差。
どこへ置いても問題がある。
エレナが俺を見る。
「佐伯さん。人工叡智の観点から、費用負担をどう整理しますか」
来た。
俺はマイクを入れた。
「まず、安全を追加課金の機能として扱ってはいけないと思います」
通訳が入る。
「最低限の安全、説明、異議申立て、アクセシビリティ、プライバシー保護は、プレミアム機能ではありません」
「AIを社会に出すための基礎条件です」
ノーラが大きく頷いた。
ケイラがいたら絶対頷いていたと思う。
俺は続けた。
「しかし、その費用を誰が負担するのかは、単純ではありません」
「利用者だけに払わせれば、弱い人ほど安全なAIから遠ざかります」
「企業だけに負わせれば、低収益地域から撤退するかもしれません」
「政府だけに頼れば、政治的影響が生まれる可能性があります」
「国際機関だけでは、資金と対象に限界があります」
ヘンリーが言った。
「では、どうするのですか」
俺は画面共有を開いた。
『安全費用責任レビュー』
一。
その安全機能は、基礎安全か、追加利便性か。
二。
基礎安全を有料上位機能にしていないか。
三。
費用を負担する主体は、利用者、企業、政府、国際基金、保険、業界負担金、利益還元のどれか。
四。
リスクを作っている主体が、十分な費用を負担しているか。
五。
利益を得ている主体が、十分な費用を負担しているか。
六。
支払能力の低い利用者へ、費用が転嫁されていないか。
七。
低収益地域から撤退することで、支援空白を生んでいないか。
八。
公共性の高い分野では、市場価格だけに任せていないか。
九。
政府資金や企業資金が、独立性や批判機能を損なっていないか。
十。
高リスク・高収益AIから、低収益だが公共性の高いAIへ安全費用を回す仕組みがあるか。
十一。
安全費用の不足を理由に、二級支援や低品質モードを固定していないか。
十二。
誰が払えず、誰が排除されるのかを公開しているか。
読み上げ終えると、会議室が少し静かになった。
ヘンリーが言った。
「十番は、いわゆる内部補助ですか」
「はい」
俺は答えた。
「高収益なAIサービス、特に広告、金融、娯楽、大規模業務効率化などから、安全基金へ拠出する方法が考えられます」
「その基金を、医療、防災、教育、相談支援、多言語対応、アクセシビリティへ使う」
ヴィクターが眉をひそめる。
「業界負担金のようなものですか」
「可能性の一つです」
「もちろん、設計を誤ると企業活動を萎縮させます」
「でも、利益が大きい領域だけ安全を買えて、公共性が高いが採算が低い領域が危険なままになるのも問題です」
セリーヌが言った。
「国際基金との連携も考えられます」
「ただし、資金提供者が基準を支配しないようにする必要があります」
マテオが頷く。
「資金が基準を支配するなら、安全は新しい権力になります」
アミナが言った。
「私たちの地域では、無料支援が来ることがあります」
「でも、資金提供者の都合で一年後に消えます」
「安全費用は、一時的プロジェクトではなく、継続性が必要です」
これも重要だ。
支援が来る。
使い始める。
慣れる。
そして予算が終わる。
消える。
残るのは、失われた旧制度と、消えた新制度。
支援の空白は、前より深くなる。
俺はすぐにメモした。
安全費用には、継続性が必要。
ノーラが言った。
「アクセシビリティは、後付けにすると高くなります」
「最初から設計に入れれば、長期的にはコストを抑えられる場合もあります」
「安全も同じですね」
ジョナスが頷く。
「監査も後から直すより、最初からログと説明責任を組み込む方がよい」
ヴィクターが少し苦い顔で言った。
「それは理解しています」
「しかし、スタートアップには初期費用が重い」
ヘンリーがそこで口を開く。
「投資側としては、安全コストを初期から組み込む企業を、長期的に評価する仕組みが必要です」
「短期成長だけを評価すると、後から事故が起きます」
意外だった。
投資側からそう来るとは思わなかった。
いや、前回も少しそうだった。
リスクは、長期的には投資家にも返ってくる。
安全を軽く見た企業は、事故、訴訟、停止、規制、信頼喪失で後から崩れる。
人工叡智は、道徳論だけではなく、長期構造の話でもある。
エレナが質問した。
「では、基礎安全と追加利便性の線引きはどうしますか」
難しい質問だ。
俺は少し考えた。
「分野によって異なります」
「ただ、最低限の共通項はあります」
「重大な危害を避けること」
「何ができて何ができないかを説明すること」
「異議申立てや修正の道があること」
「障害や言語によって排除しないこと」
「プライバシーとデータ利用制限」
「被害発生時の救済接続」
「外部監査または検証可能性」
「これらは、基礎安全に近いと思います」
アメリアが言った。
「国際標準化する場合、分野別の基礎安全リストが必要ですね」
「はい」
「医療、防災、教育、雇用、金融、行政、相談支援で、それぞれ違うはずです」
リナが言った。
「医療なら、緊急症状の警告、専門家へつなぐ道、断定回避、情報源、ログ、誤案内時の連絡」
ホセが続ける。
「防災なら、公式情報、更新時刻、多言語、オフライン代替、誤案内時の通知」
ミンが言った。
「教育なら、説明、学習者の尊厳、進路自動決定の禁止、教師や保護者との接続、低資源地域支援」
ノーラが言った。
「全分野にアクセシビリティを入れてください」
俺は頷いた。
「はい。アクセシビリティは追加機能ではなく、基礎安全です」
その言葉に、ノーラが少しだけ表情を緩めた。
会議の終盤。
議論は、費用負担のモデルへ移った。
案として出たのは、いくつかある。
基礎安全を提供条件に含める。
高リスクAIへの安全負担金。
高収益AIから公共性AIへの横断基金。
政府補助と独立監査の分離。
国際基金による低資源地域支援。
保険料に安全投資を反映。
投資評価に安全費用を組み込む。
オープンな安全基盤の共有。
地域団体への直接支援。
一つで解ける話ではない。
だが、一つの整理は見えた。
安全費用を、利用者だけへ押しつけてはいけない。
特に、最も支援を必要とする人へ押しつけてはいけない。
エレナが暫定整理を読み上げた。
『Basic safety must not be a premium feature. Explanation, appeal, accessibility, privacy protection, harm reporting, and minimum safeguards are conditions of deployment, not luxury options.』
基礎安全は、プレミアム機能であってはならない。
説明、異議申立て、アクセシビリティ、プライバシー保護、被害報告、最低限の安全策は、贅沢な追加機能ではなく、社会へ展開する条件である。
続いて、
『The cost of safe AI must be distributed according to risk creation, benefit, capacity to pay, and public value. If safety costs are passed only to users, the most vulnerable will be priced out of safety.』
安全なAIの費用は、リスクを作る者、利益を得る者、支払能力、公共的価値に応じて分担されなければならない。
安全費用が利用者だけへ転嫁されれば、最も弱い人々が安全から排除される。
かなり良い。
でも、重い。
これを実装するのは、とんでもなく大変だ。
会議が終わりかけたとき、ヘンリーが手を挙げた。
「一つ、次回以降の論点として確認したいことがあります」
エレナが頷く。
「どうぞ」
ヘンリーは言った。
「高リスク・高収益AIから安全基金を作るという案は理解できます」
「しかし、誰が高リスクかを決めるのでしょうか」
画面の空気が変わる。
ヘンリーは続けた。
「企業は低リスクだと主張します」
「政府は政治的に都合の悪いAIを高リスク指定するかもしれません」
「市民団体は企業寄りの評価を疑うでしょう」
「保険会社や投資家は、数値化を求めます」
「結局、安全費用を払わせるためのリスク分類そのものが、新しい権力になります」
俺は、思わず口を閉じた。
来た。
また次の崖だ。
安全費用を分担する。
そのためには、リスク分類が必要になる。
でも、リスク分類を決める者が権力を持つ。
高リスクにされれば、負担が増える。
低リスクにされれば、安く済む。
企業は逃れたがる。
政府は利用したがる。
市民は疑う。
評価機関は影響力を持つ。
また、分類だ。
第52話の正義に酔った分類。
第35話の危険人物化。
第38話の認証制度。
すべてが戻ってくる。
エレナが静かに言った。
「次回は、リスク分類の権限と濫用について扱いましょう」
画面が消える。
俺は椅子にもたれた。
「金の次は、分類の権力か……」
AIチャットを開く。
安全費用責任レビューはまとまった。でも、費用負担のためには高リスクAIを分類する必要がある。その分類権限が新しい権力になる問題が出た。
AIは答えた。
『次の論点は、リスク分類を誰が行い、誰が異議を申し立てられるかです』
「また戻ってきたな」
『はい。制度は、必ず分類を必要とします。そして分類は、必ず権力を持ちます』
俺はメモ帳を開いた。
次のタイトルを書く。
危険と名づける権力は、誰が監査するのか。
保存。
それから、今日の記事を書き始めた。
タイトル。
高い安全は、弱い人から遠ざかる。
本文。
安全なAIには費用がかかる。
翻訳。
アクセシビリティ。
外部監査。
人的支援。
地域参加。
通信環境。
救済窓口。
説明責任。
継続的改善。
それらは無料ではない。
しかし、その費用を利用者だけへ転嫁すれば、弱い人ほど安全なAIから遠ざかる。
安全は、追加課金の機能ではない。
最低限の説明、異議申立て、アクセシビリティ、プライバシー保護、被害報告、危害回避は、基礎条件である。
俺は最後に書いた。
安全は、オプションではない。
危険を安く売ってはいけない。
高い安全だけが正しいなら、貧しい者は危険を選ばされる。
保存。
公開。
画面に通知が出る。
公開しました。
黒瀬さんからコメントが来た。
『無料版は危険、上位版は安全、みたいな構造は広告でも普通に起きそうです。安全や説明責任が課金要素になると、一番守るべき人が一番危ない場所に残されますね』
読書会の主催者からも届いた。
『安全は、オプションではない。次回の議題にします』
神崎教授からは、短いコメントだった。
『危険を決める者は、費用を動かす者になる』
俺は、その一文を見て、ゆっくり目を閉じた。
また、教授が一行で次の扉を開けた。
その夜。
国際AI安全連携フォーラム準備室から、新しい資料が届いた。
件名。
『Risk Classification Authority and Abuse』
添付された質問。
『AIの安全費用、監査義務、停止条件を決めるためには、リスク分類が必要である。しかし、危険と名づける権限は、企業活動、市民活動、公共サービス、表現の自由に大きな影響を与える。この分類権限を、人工叡智はどのように監査すべきか』
俺はメモ帳を開いた。
次のタイトルを見る。
危険と名づける権力は、誰が監査するのか。
保存。
画面を閉じる。
高い安全は、弱い人から遠ざかる。
その距離を埋めるために必要なリスク分類が、今度は新しい権力になろうとしていた。
第62話では、「安全で高品質なAIの費用負担」が扱われました。
安全なAIには費用がかかります。
翻訳。
アクセシビリティ。
外部監査。
人的支援。
地域参加。
通信環境。
救済窓口。
説明責任。
継続的改善。
それらは無料ではありません。
しかし、その費用を利用者だけへ転嫁すれば、弱い立場の人ほど安全なAIから遠ざかります。
お金のある人は、安全で高品質なAIを使える。
都市部の人は、専門家や有人窓口へつながる。
一方で、低資源地域、少数言語話者、障害者、高齢者、移民、非正規労働者は、無料だが危険なAI、低品質なAI、説明のないAIへ残される。
そうなれば、AIは格差を埋めるどころか、安全格差を固定します。
今回、真司たちは「安全費用責任レビュー」という考え方へたどり着きました。
その安全機能は、基礎安全か、追加利便性か。
基礎安全を有料上位機能にしていないか。
費用を負担する主体は、利用者、企業、政府、国際基金、保険、業界負担金、利益還元のどれか。
リスクを作っている主体が、十分な費用を負担しているか。
利益を得ている主体が、十分な費用を負担しているか。
支払能力の低い利用者へ、費用が転嫁されていないか。
低収益地域から撤退することで、支援空白を生んでいないか。
公共性の高い分野では、市場価格だけに任せていないか。
政府資金や企業資金が、独立性や批判機能を損なっていないか。
高リスク・高収益AIから、低収益だが公共性の高いAIへ安全費用を回す仕組みがあるか。
今回の中心となる言葉は、これです。
安全は、オプションではない。
危険を安く売ってはいけない。
高い安全だけが正しいなら、貧しい者は危険を選ばされる。
しかし、最後に新しい問題が出ました。
安全費用を分担するには、どのAIが高リスクなのかを分類する必要があります。
しかし、危険と名づける権限は、企業活動、市民活動、公共サービス、表現の自由に大きな影響を与えます。
危険と名づける者は、費用を動かす者になる。
次回は、「危険と名づける権力は、誰が監査するのか」という問いへ進みます。
原案・構想：マスター
物語構成・本文作成・文体調整：G（ChatGPT）
