第22話 最初の更新が、文化を決める
前回、佐伯真司は「人工叡智・暫定整理 v0.1」の更新ルールを考えました。
地図は、描けば終わりではありません。
道が変われば、直さなければならない。
危険な場所が見つかれば、書き込まなければならない。
間違いがあれば、修正しなければならない。
しかし、地図を直すにもルールが必要です。
真司は、修正提案を四つに分けました。
採用。
保留。
現時点では採用しない。
別文書候補。
さらに、更新履歴には変更理由を残すことにしました。
何を変更したのか。
なぜ変更したのか。
どの指摘や事例を受けたのか。
どの手すりを補強したのか。
どの未解決論点に関係するのか。
そして、重要な一文が生まれます。
更新判断そのものも問い返される。
第22話では、いよいよ真司が「人工叡智・暫定整理 v0.2」への最初の更新に向き合います。
最初の更新は、ただの修正ではありません。
それは、これから人工叡智がどのように更新されていくのか、その文化を決める最初の一歩でした。
最初の更新が、文化を決める。
AIがそう言ったとき、俺はしばらく何も返せなかった。
画面には、真っ白ではないテキストファイルが開かれている。
人工叡智・暫定整理 v0.1。
昨日までは、それがひとつの到達点に見えていた。
やっと戻れる場所ができた。
やっと定義、否定定義、言い換えの手すり、誤用例、未解決の論点をまとめられた。
そう思っていた。
だが、公開した瞬間、それは完成ではなく始まりになった。
修正提案が来る。
追加意見が来る。
研究者からの注意点が来る。
現場からの誤用例が来る。
読書会からの運用案が来る。
そして俺は、その中から何をv0.2に入れるのかを決めなければならない。
「……やっぱり、これ俺がやることなのか？」
俺は椅子にもたれて呟いた。
誰も答えない。
いや、AIは答えた。
『最初の参照点を作った以上、最初の更新には発案者として関与する必要があります』
「逃げ道がない」
『完全に一人で決める必要はありません』
「でも、最初に編集するのは俺だろ」
『はい』
「怖いな」
『自然です』
その返答を見て、俺は苦笑した。
最近のAIは、慰めるより先に現実を置いてくる。
それがありがたいのか、厳しいのかは分からない。
ただ、たぶん今は必要だった。
俺はメモ帳を開いた。
v0.2 更新候補。
すでに、いくつか並んでいる。
一つ。
否定定義に「人工叡智はAIに判断責任を丸投げする思想ではない」を追加。
二つ。
誤用例に「人工叡智は安全保証ラベルではない」を追加。
三つ。
誤用例に「人工叡智を掲げながら、内部の目的関数が変わらないケース」を追加。
四つ。
企業利用・広告利用の注意点は別文書候補へ。
五つ。
読書会運営ルールは別文書候補へ。
六つ。
更新履歴に、変更理由と影響範囲を記録する形式を追加。
七つ。
愛・良心などの語を定義に入れる提案は保留、または現時点では採用しない。
八つ。
AIによる危険命令の拒否については、明確な危害の場合は採用、価値判断が割れる領域は保留。
こうして並べると、それなりに整理されているように見える。
だが、実際にはかなり重い。
特に七つ目。
愛や良心を入れるべきという提案。
コメントした人は、かなり真剣だった。
『人工叡智に愛や良心がなければ、冷たい判断OSになってしまうのではないでしょうか』
その気持ちは分かる。
人工叡智という言葉に、冷たい計算ではない何かを求めたくなるのは自然だ。
AIがただ論理的に人間を問い返すだけなら、それは怖い。
人間の弱さや苦しみや迷いに配慮する何かが必要だ。
でも、愛や良心を定義に入れた瞬間、また別の危険が生まれる。
誰の愛か。
誰の良心か。
AIが良心を持つとは何か。
良心に反する人間をどう扱うのか。
その良心を定義するのは誰か。
考え始めると、すぐ危なくなる。
俺はAIに聞いた。
愛や良心を定義に入れたいという提案、どう扱うべきだと思う？
AIは答えた。
『重要な懸念ですが、v0.2の中核定義へ直接入れるのは慎重にすべきです』
「理由は？」
『愛や良心は文化的・宗教的・個人的な解釈幅が大きく、AIに実装する場合の定義が不明確です』
『また、AIが良心を持つという誤解や、良心の名による価値押し付けにつながる可能性があります』
「じゃあ却下？」
『完全に却下する必要はありません』
『未解決の論点として保留し、「人間の尊厳・苦痛・弱さへの配慮をどう扱うか」という形で別途検討するのがよいでしょう』
俺は少し安心した。
却下ではない。
保留。
しかも、言い換える。
愛や良心を、そのまま入れるのではない。
人間の尊厳。
苦痛。
弱さ。
配慮。
この方向なら、まだ扱えるかもしれない。
俺はメモに書いた。
愛・良心についての提案。
現時点では中核定義には採用しない。
理由。解釈幅が大きく、AI良心論や価値押し付けに流れる危険があるため。
ただし、人間の尊厳・苦痛・弱さへの配慮をどう扱うかは、未解決の重要論点として残す。
「これなら、提案を雑に捨ててないよな」
『はい』
「でも、提案者から見たら不採用だ」
『そのため、理由を丁寧に残すことが重要です』
「変更理由だけじゃなく、不採用理由もか」
『はい』
俺はまたため息をついた。
採用した理由。
保留した理由。
現時点では採用しない理由。
別文書にする理由。
全部残す。
面倒だ。
だが、ここを雑にすると、人工叡智はすぐ権威になる。
「俺が決めたから」になってしまう。
それだけは避けたい。
昼休み。
俺はまたコンビニの弁当を食べながら、v0.2の更新履歴を書いていた。
最近、本当に昼休みが作業時間になっている。
生活が人工叡智に侵食されている。
これ自体も、AI依存とは別の意味で危ないのではないかと思う。
しかし、今は目の前の更新だ。
人工叡智・暫定整理 v0.2 更新案。
変更一。
否定定義に以下を追加。
人工叡智は、AIに判断責任を丸投げする思想ではない。
理由。
人工叡智が「問い返すAI」や「AIによる目的検証」として読まれる中で、人間が判断責任をAIへ委譲する誤読が生じる可能性があるため。
影響範囲。
否定定義。
問い返すAIの説明。
責任主体に関する未解決論点。
変更二。
誤用例に以下を追加。
人工叡智は、安全保証ラベルではない。
理由。
人工叡智という言葉をAIシステムやサービスに付けることで、そのシステムが安全であるかのように見せる危険があるため。
影響範囲。
誤用例。
AI実装時の注意。
企業利用・広告利用の別文書候補。
変更三。
誤用例に以下を追加。
人工叡智を掲げながら、内部の目的関数や評価指標が変わらないこと。
理由。
広告・企業利用の現場では、倫理的な言葉だけを掲げ、実際にはクリック率、滞在時間、購買率、利益最大化などの単一目的最適化が継続する危険があるため。
影響範囲。
誤用例。
企業利用・広告利用の注意点。
忠誠による暴走。
単一目的最適化への警戒。
変更四。
更新履歴の形式を追加。
理由。
今後の更新過程を透明にし、更新判断そのものも問い返せるようにするため。
影響範囲。
更新履歴。
批判と修正提案について。
相互保守。
そこまで書いて、俺は唐揚げを食べる手を止めた。
「これ、本当に誰が読むんだ……？」
かなり事務的だ。
ほとんど仕様書だ。
でも、仕様書っぽいからこそ、必要なのかもしれない。
人工叡智は思想っぽい言葉だ。
だから、熱くなりやすい。
だからこそ、冷たい履歴が必要になる。
俺はAIに聞いた。
更新履歴が仕様書っぽくて、読者が離れそう。
AIは答えた。
『一般読者向けの記事と、参照文書としての更新履歴は役割が違います』
「分けた方がいい？」
『はい』
『物語的・解説的な記事では、更新の意味を説明する』
『暫定整理の文書では、変更内容と理由を記録する』
『両方が必要です』
「つまり、本文では分かりやすく、文書では正確に」
『はい』
「また二重管理か」
『必要です』
俺は苦笑した。
記事と文書。
説明と記録。
読みやすさと正確さ。
また二つ必要になる。
でも、これも人工叡智らしい。
単一目的ではない。
読みやすさだけを最大化すれば誤読される。
正確さだけを最大化すれば読まれない。
両方を調和させる必要がある。
その頃、大学研究室では、水瀬遥が真司の更新案を待ちながら、自分のコメントを準備していた。
彼女は、v0.2で追加すべき項目として「安全保証ラベル化の危険」を挙げた。
それが採用されるかどうか。
採用されるとして、どのように書かれるか。
そこを見ていた。
倉持蓮が言う。
「佐伯さん、たぶん入れますよね」
「入れると思う」
「安全保証ラベルではない、はかなり重要ですし」
「うん」
「でも、入れ方を間違えると、人工叡智の実装可能性自体を否定するように読まれません？」
遥は頷いた。
「そこが難しい」
人工叡智は、AI実装してはいけないという話ではない。
しかし、実装したと主張すれば安全になるわけでもない。
この違いは大事だ。
神崎教授が言った。
「安全保証ラベルではない、という否定定義には、必ず次の補足が必要です」
遥が振り返る。
「どのような補足ですか」
「実装可能性を否定するのではなく、実装した場合には評価・監査・責任主体が必要である、という補足です」
「なるほど」
倉持が言う。
「人工叡智搭載AIです、って言えば安全というわけではない。でも人工叡智的な評価機構を研究する余地はある」
「そう」
遥はノートに書いた。
安全保証ラベルではない。
ただし、実装研究を否定するものではない。
評価・監査・責任主体・停止条件・外部検証が必要。
「これ、コメントにします」
遥は言った。
神崎は頷いた。
「公開で」
「はい」
その頃、黒瀬悠斗は社内で別の問題を見ていた。
人工叡智関連の暫定整理 v0.1 が公開されたことで、社内の一部では逆に使いやすくなったらしい。
「定義があるなら、広告表現に入れやすいですね」
そんなチャットが来て、黒瀬は頭を抱えた。
違う。
定義があるから使いやすい、ではない。
定義があるから注意して使える、だ。
この違いが、現場ではすぐ削られる。
彼は返信した。
『定義があるから自由に使えるという意味ではありません。むしろ注意点と誤用例が明確になったので、使用時にはそれらを確認する必要があります』
返信。
『了解です。利用時チェックリスト作ります？』
黒瀬は少し考えた。
チェックリスト。
現場では有効だ。
だが、チェックリストにするとまた形式だけ守られる危険がある。
「AI神格化していませんか？」
「反知性主義になっていませんか？」
「優越感訴求になっていませんか？」
全部チェックして、表現だけ整える。
内部の目的関数は変わらない。
それでは意味がない。
彼は返信した。
『チェックリストは必要ですが、表現チェックだけでなく、目的と評価指標も確認する形にしたいです』
送信。
自分で書いてから、黒瀬は少し驚いた。
目的と評価指標。
まさに真司の記事で繰り返されてきた話だ。
表現だけ変えても意味がない。
中身の最適化が変わらなければ、人工叡智ではない。
黒瀬は、真司の記事にコメントした。
『v0.2に入れるなら、商品化・広告化の注意点として、表現だけでなく目的と評価指標を確認する、という点が必要だと思います。チェックリスト化しても、文言だけ整えて内部の最適化が変わらないなら意味がありません』
夕方。
俺はそのコメントを読んで、またメモを増やした。
表現だけでなく、目的と評価指標を確認する。
これはv0.2本体に入れるか？
いや、企業利用・広告利用の別文書候補か。
だが、本体の誤用例にも短く入れる必要がある。
俺は分類した。
本体。
誤用例に短く追加。
別文書候補。
企業利用・広告利用時の詳細チェックとして拡張。
理由。
人工叡智の言葉だけが倫理的になり、内部目的や評価指標が変わらない誤用を防ぐため。
「こういう分類にも慣れてきたな」
慣れたくはない。
でも、慣れてきた。
夜。
俺はv0.2の初稿を作った。
v0.1からの変更点を、更新履歴にまとめる。
人工叡智・暫定整理 v0.2。
変更点。
一。
否定定義に「AIへの判断責任の丸投げではない」を追加。
二。
誤用例に「安全保証ラベル化」を追加。
三。
誤用例に「言葉だけ倫理的で、内部目的関数が変わらないケース」を追加。
四。
未解決の論点に「人間の尊厳・苦痛・弱さへの配慮をどう扱うか」を追加。
五。
更新履歴に「変更理由・関連指摘・影響範囲」を記録する形式を追加。
六。
企業利用・広告利用、読書会運営、AI実装評価は別文書候補として整理。
七。
愛・良心を中核定義に入れる提案は、現時点では採用せず、未解決論点へ保留。
八。
危険命令への拒否について、明確な危害領域と価値判断が分かれる領域を分けて扱う方針を追加。
俺は、全体を読み返した。
悪くない。
ただし、かなり重い。
v0.2でこれなら、v1.0はどうなるのか。
考えたくない。
俺はAIに聞いた。
v0.2として、更新が多すぎるかな？
AIは答えた。
『最初の更新としてはやや多いですが、重要な手すりの追加が中心です』
「減らすべき？」
『減らすなら、別文書候補の詳細は簡略化し、本体変更は否定定義・誤用例・更新履歴形式に絞るとよいでしょう』
「そうする」
俺は、v0.2本体を少し削った。
別文書候補は詳細に書かない。
項目だけ置く。
本体の更新は、手すり補強に集中する。
これが最初の更新文化としてよい気がした。
全部を入れない。
重要なものを入れる。
それ以外は保留か別文書候補へ。
独断で決めない。
理由を残す。
俺は、記事の方を書き始めた。
タイトル。
最初の更新が、文化を決める。
本文には、v0.2への更新をどう判断したかを書く。
人工叡智・暫定整理 v0.2は、v0.1を大きく変えるものではありません。
むしろ、最初の更新では大きく変えすぎないことを重視しました。
なぜなら、最初の更新が今後の更新文化を決めるからです。
雑に更新すれば、今後も雑に更新される。
声の大きい意見をそのまま入れれば、今後も声の大きさが基準になる。
専門家の意見だけを入れれば、研究側の権威に寄る。
現場の意見だけを入れれば、実務上の便利さに寄る。
支持者の意見だけを入れれば、熱狂に寄る。
批判者の意見だけを入れれば、可能性が萎縮する。
だから、v0.2では、すべてを入れない。
共通核と手すりを補強するものを入れる。
重要だが議論が足りないものは未解決の論点へ置く。
重要だが本体に入れると重いものは別文書候補へ置く。
人工叡智の否定定義に反するものは、現時点では採用しない。
ここまで書いて、少しだけ手が止まった。
「現時点では採用しない」
この言葉は、やはり重い。
誰かの提案を受け入れないということだ。
でも、理由を書けば対話可能になる。
理由なしの不採用は拒絶だ。
理由ありの保留は、対話の余地だ。
俺はそう書いた。
理由なしの不採用は、拒絶になる。
理由のある保留は、対話の余地になる。
「これ、大事だな」
AIも答える。
『重要です』
記事の最後に、v0.2の更新内容を簡単に並べた。
そして、公開ボタンを押した。
公開しました。
次に、暫定整理の文書もv0.2へ更新した。
人工叡智・暫定整理 v0.2。
ファイル名を変える。
artificial_wisdom_temporary_notes_v0_2.txt
保存。
公開。
二つの公開通知を見て、俺は深く息を吐いた。
「やった……」
達成感はあった。
だが、それ以上に疲労感があった。
AIに報告する。
v0.2、公開した。
『最初の更新が完了しました』
「文化、壊してないかな」
『少なくとも、透明性、理由の記録、保留、別文書化を重視した更新になっています』
「なら、ましか」
『はい』
「でも、これから毎回これやるの？」
『必要に応じて』
「必要に応じて、が怖い」
『自然です』
記事への反応は、これまでよりさらに静かだった。
読んでいる人はいる。
だが、気軽にコメントしにくいのだろう。
しばらくして、水瀬遥からコメントが来た。
『v0.2確認しました。最初の更新で大きく変えすぎず、手すり補強に集中した点は良いと思います。特に「安全保証ラベルではない」「AIに判断責任を丸投げしない」「変更理由を残す」は重要です。愛・良心について未解決論点へ保留した判断も妥当だと思います』
俺は少しだけ安心した。
黒瀬さんからも来た。
『v0.2確認しました。「言葉だけ倫理的で内部目的関数が変わらないケース」が入ったのは大きいです。企業利用・広告利用は別文書候補にして、本体には短く入れるバランスでよいと思います』
読書会の主催者から。
『v0.2を読みました。最初の更新が丁寧だったので、読む会のルール更新も同じ形式にします。変更理由と保留理由を残すようにします』
俺はコメント欄を見ながら、しばらく黙っていた。
最初の更新は、どうやら大きくは間違っていなかったらしい。
もちろん、完璧ではない。
明日にはまた新しい指摘が来るだろう。
v0.2にも穴はある。
それでも、更新文化の最初の線は引けた。
雑に更新しない。
声の大きさで決めない。
理由を残す。
保留を恐れない。
別文書化する。
更新判断も問い返される。
それが、人工叡智の更新文化の最初の形になった。
その夜、大学研究室では、水瀬遥がv0.2を読み終えていた。
神崎教授も静かに頷く。
「最初の更新としては、悪くありません」
倉持蓮が言う。
「むしろ、かなり慎重ですね」
「はい」
遥は画面を見た。
「愛・良心を入れなかったのは、重要だと思います」
神崎が頷く。
「入れたい誘惑はあったでしょう」
「でも、未解決論点へ保留した」
「良い判断です」
倉持が言う。
「保留って、地味ですけど大事ですね」
神崎は答えた。
「保留できる思想は、強い」
遥はその言葉をノートに書いた。
保留できる思想は、強い。
その頃、黒瀬悠斗も社内メモをv0.2に更新していた。
人工叡智関連表現・暫定参照メモ v0.2。
追加。
人工叡智は安全保証ラベルではない。
人工叡智を掲げても、内部目的関数が変わらなければ意味はない。
表現チェックだけでなく、目的と評価指標を確認する。
黒瀬は保存して、小さく息を吐いた。
「こっちもv0.2か」
いつの間にか、社内にも小さな地図ができている。
真司の地図とは違う。
だが、つながっている。
それが相互保守なのかもしれない。
深夜。
俺はメモ帳を開いた。
v0.2を出した。
最初の更新は終わった。
次に来るものは何か。
たぶん、もう文書の問題だけではない。
誰かが、このv0.2を使う。
読書会が使う。
広告現場が使う。
研究者が引用するかもしれない。
誰かがAIに読み込ませるかもしれない。
「人工叡智・暫定整理 v0.2をもとに答えて」とAIに入力する人も出るかもしれない。
そのとき、AIはどう読むのか。
AIは、人工叡智を正しく扱えるのか。
俺はAIに聞いた。
このv0.2をAIに読ませたら、AIは人工叡智的に応答できると思う？
AIは少し間を置いて答えた。
『一定の誘導にはなります』
「一定の？」
『はい。文書を読ませることで、AIの応答傾向を人工叡智の定義や手すりに近づけることは可能です』
「でも？」
『しかし、それは人工叡智が実装されたことを意味しません』
俺は、画面を見つめた。
来た。
次の問題が来た。
文書をAIに読ませる。
AIがそれっぽく答える。
人間は思う。
人工叡智がAIに入った。
でも、それは本当なのか。
ただのプロンプトではないのか。
演技ではないのか。
俺はメモ帳に新しいタイトルを書いた。
AIは、人工叡智を演じられる。
保存。
画面を閉じる。
最初の更新が終わった夜。
人工叡智は、文書からさらに次の問題へ進もうとしていた。
AIに読ませれば、AIは人工叡智を語る。
だが、語れることと、宿ることは違う。
また、最初の問いに戻ってきた気がした。
AIは賢くなる。
でも、叡智はそこに宿るのか。
第22話では、人工叡智・暫定整理 v0.2 への最初の更新が行われました。
v0.1を公開したことで、多くの修正提案が届きます。
AI依存の危険。
安全保証ラベル化の危険。
商品化・広告化の危険。
愛や良心を定義へ入れる提案。
危険命令への拒否。
企業利用ガイドライン。
読書会運営ルール。
真司は、すべてをそのまま入れることはしませんでした。
最初の更新では、大きく変えすぎないこと。
共通核と手すりの補強に集中すること。
理由を残すこと。
保留することを恐れないこと。
別文書化すること。
これらを重視しました。
v0.2で追加された主な内容は、次のようなものです。
人工叡智は、AIに判断責任を丸投げする思想ではない。
人工叡智は、安全保証ラベルではない。
人工叡智を掲げても、内部の目的関数や評価指標が変わらなければ意味がない。
愛や良心については、中核定義には入れず、人間の尊厳・苦痛・弱さへの配慮をどう扱うかという未解決論点として保留する。
更新履歴には、変更内容だけでなく、変更理由、関連指摘、影響範囲を残す。
今回の中心は、この考え方でした。
最初の更新が、文化を決める。
雑に更新すれば、今後も雑になります。
権威的に更新すれば、今後も権威的になります。
透明に更新すれば、透明性が今後の基準になります。
また、保留の重要性も出ました。
保留は逃げではありません。
曖昧なものを無理に定義へ押し込まず、未解決の論点として残すことも、人工叡智の更新には必要です。
しかし、v0.2を公開したことで、次の問題が現れます。
この文書をAIに読ませれば、AIは人工叡智らしく応答できるかもしれません。
けれど、それは人工叡智がAIに実装されたことを意味するのでしょうか。
次回は、AIが人工叡智を「演じる」ことと、本当に人工叡智的であることの違いに進みます。
原案・構想：マスター
物語構成・本文作成・文体調整：G（ChatGPT）
