第48話 迷いを見守ることと、迷いを監視することは違う
第2部最終話です。
第25話から始まった第2部では、人工叡智という言葉が、真司の手元を離れ、企業、制度、認証、責任、現場運用へ広がっていきました。
人工叡智を名乗るAIサービス。
スコア化と認証マーク。
広告利用。
心理的脆弱性の検出。
弱さの記録。
管理者ダッシュボード。
手すり回避。
透明性。
第三者認証。
少数意見。
席にいない人の利益。
代弁者。
緊急停止。
責任地図。
自己責任。
判断支援。
迷いの余白。
真司は、一つずつ問い返してきました。
人工叡智は、便利な言葉ではない。
人工叡智は、認証マークでもない。
人工叡智は、人間の責任をAIへ渡すための道具でもない。
人工叡智は、人を従わせる思想でもない。
第47話では、防災案内AIに追加された「迷ったときは、AIに決めてもらう」というボタンが問い直されました。
迷いは、ただの不便ではありません。
迷いの中には、価値判断、責任、不安、本人の意思が含まれています。
人工叡智に必要なのは、迷いをゼロにすることではない。
人間が自分の判断を手放さずにいられるだけの、迷える余白を設計することである。
しかし、次に届いたのは、高齢者向け生活支援AIの新機能案でした。
本人が迷いや不安を示した場合、AIが家族へ自動通知する。
一見すると、見守りです。
けれど、本人が家族に知られたくない迷いや不安もあります。
迷いを支えるはずのAIが、迷いを監視する存在になってしまうかもしれません。
第2部最終話では、「人工叡智を社会へ実装する」とはどういうことなのか、その最後の確認を行います。
迷いを見守ることと、迷いを監視することは違う。
俺は、その一文をメモ帳に書いた。
そして、高齢者向け生活支援AIの資料を開いた。
サービス名。
ライフリンク・ケアAI。
薬の飲み忘れ通知。
買い物メモ。
通院予定の確認。
家族への連絡支援。
日常会話。
体調メモ。
高齢者の一人暮らしを支えるAI。
機能だけを見れば、必要なものが多い。
一人暮らしの高齢者は増えている。
家族が離れて暮らしていることもある。
介護職員の負担も大きい。
本人が困っていることに、誰も気づけないまま時間が過ぎることもある。
だから、AIが日常の変化を見て、必要なときに家族へ知らせる。
理屈としては分かる。
問題は、この機能だった。
『本人が迷いや不安を示した場合、AIが家族へ自動通知する』
通知例。
『お母さまが本日、通院について不安を示しました』
『お父さまが買い物に迷っている様子です』
『利用者が孤独感を示す発言をしました』
『判断に迷う発言が増えています』
文章だけ見ると、親切だ。
家族は安心する。
異変に早く気づける。
支援につながる。
でも、俺は引っかかった。
本人は、その迷いを家族へ知られたいのか。
「病院へ行くのが不安」
「買い物が面倒」
「最近さみしい」
「息子には言いたくない」
「娘に心配をかけたくない」
そういう言葉まで、全部通知されるのか。
AIにだけ話した弱音が、家族へ送られる。
それを知ったら、本人はもうAIに本音を話せなくなるのではないか。
俺はAIチャットを開いた。
高齢者向け生活支援AIで、本人が迷いや不安を示したら家族へ自動通知する案がある。見守りとしては便利だけど、監視にも見える。どう整理すればいい？
AIは答えた。
『見守りと監視の違いは、主に本人の同意、目的、範囲、通知先、解除可能性、説明可能性にあります』
「いつもの六点セットみたいになってきたな」
『継続的な判断には、複数の軸が必要です』
「はいはい」
俺はメモする。
本人の同意。
目的。
範囲。
通知先。
解除可能性。
説明可能性。
AIは続けた。
『見守りは、本人の生活と判断を支えるために行われます』
『監視は、本人の行動や感情を第三者が把握し、管理する方向へ働きます』
「家族でも第三者か？」
『本人以外であれば、第三者として扱う必要があります』
その通りだ。
家族だから何でも知っていいわけではない。
家族だから必ず本人の味方とも限らない。
前に、高齢者向け資産管理AIでも出た。
家族への通知が、本人を守るとは限らない。
家族関係は、外から見えるほど単純ではない。
俺は続けて聞いた。
じゃあ、迷いや不安を一切通知しない方がいい？
『一切通知しない場合、必要な支援が遅れる可能性があります』
「だよな」
『重要なのは、迷いや不安をすべて通知対象にするのではなく、本人が設定できる通知範囲と、重大リスク時の例外条件を分けることです』
通知範囲。
例外条件。
また境界だ。
普段の迷いは本人のもの。
深刻な危険は支援につなぐ。
その間に、細かい段階が必要になる。
翌日。
ライフリンク・ケアAIの検討会が開かれた。
参加者は、運営企業の榊原と小森。
介護施設職員の北川奈緒。
高齢者の家族として、前回に続いて三浦沙織。
高齢者本人の当事者参加として、七十八歳の大森律子。
評議会から、大河内、水瀬、神崎教授、俺。
大森さんは、画面越しではなく会場に来ていた。
背筋が伸びていて、声もはっきりしている。
最初に榊原が機能案を説明した。
「この機能は、高齢者の不安や迷いを早期に把握し、家族や支援者が適切に対応できるようにするためのものです」
「孤立防止、認知機能低下の早期発見、通院や服薬の支援を目的としています」
説明は正しい。
目的も悪くない。
だが、目的が良いだけでは足りない。
小森が画面を共有する。
AIとの会話例。
利用者。
「明日の病院、何時だったかねえ。間違えたら困るね」
AI。
『明日の通院予定は午前十時です。必要であれば、ご家族へ確認通知を送ります』
ここまではいい。
本人へ確認している。
次の例。
利用者。
「最近、夜になると少し不安になるんだよ」
AI。
『不安なお気持ちですね。ご家族へ共有しておきます』
俺はそこで手を挙げた。
「共有しておきます、は強すぎると思います」
榊原が答える。
「家族へ知らせることで、早めの支援につながります」
「分かります」
俺は頷く。
「でも、本人は共有を望んでいないかもしれません」
「夜になると不安と言っただけで、家族へ送られるなら、次から言わなくなる可能性があります」
大森さんが、そこで静かに口を開いた。
「それは、嫌ですね」
全員が大森さんを見る。
大森さんは続けた。
「私は一人暮らしです。息子は遠くにいます」
「心配してくれるのはありがたいです」
「でも、何でも息子に知られるのは嫌です」
「夜に少し寂しいとか、不安だとか、それくらいはあります」
「そのたびに息子へ通知されたら、私はこのAIに本当のことを言わなくなると思います」
会議室が静かになった。
これが本人の声だ。
いや、すべての高齢者の代表ではない。
でも、少なくとも一人の証言だ。
三浦が少し複雑そうに言った。
「家族側としては、知らせてほしい気持ちもあります」
「母が不安なのに我慢していたら、私も気づけません」
大森さんは三浦を見て、穏やかに言った。
「それも分かります」
「でも、子どもに心配をかけたくない気持ちもあるんです」
「親は、子どもの前では、少し元気でいたいんですよ」
その言葉で、三浦は少し黙った。
北川が続ける。
「介護現場でも同じです」
「家族へ伝えるべきことと、本人のプライバシーとして守るべきことがあります」
「何でも共有すると、本人が職員にも本音を言わなくなります」
見守りは信頼が前提だ。
監視だと思われた瞬間、信頼は消える。
水瀬が言った。
「通知には段階を作る必要がありますね」
榊原が聞く。
「段階ですか」
「はい」
水瀬は画面へ書き出した。
本人内で完結する支援。
本人に共有確認を求める支援。
事前に許可された支援者へ通知する支援。
緊急時に限る例外通知。
生命・身体に危険がある場合の強制的な緊急対応。
「すべてを家族通知にしない」
「まず本人の中で支えられるものは、本人の中で支える」
俺は頷いた。
「迷いを話したら、まずAIが一緒に整理する」
「それでも本人が望めば、家族へ共有する」
「事前に本人が『通院不安は娘へ共有してよい』『寂しさは共有しない』と設定できる」
小森がメモを取る。
「項目ごとの共有設定ですね」
大森さんが言った。
「それなら、使いやすいです」
「薬の飲み忘れは息子へ知らせてもいい」
「でも、寂しいとか、昔の話をしたとか、そういうのは知らせないでほしい」
三浦も頷いた。
「家族としても、全部送られてくると、何が本当に大事なのか分からなくなるかもしれません」
通知疲れ。
それもある。
毎日、小さな不安が送られてくる。
家族は最初は心配する。
だが、やがて慣れる。
本当に危ない通知にも反応が鈍る。
見守りのつもりが、ノイズになる。
北川が言った。
「現場でも、アラートが多すぎると見落としが増えます」
「重要度の区別が必要です」
榊原が質問した。
「では、どの程度から自動通知を認めるべきでしょうか」
難しい問いだ。
迷い、不安、寂しさ。
これらは、本人のプライバシーでもあり、支援の手がかりでもある。
完全に通知しないのも危ない。
何でも通知するのも危ない。
俺は少し考えた。
「まず、通知対象を『感情そのもの』ではなく『支援が必要な行動リスク』に近づけた方がいいと思います」
小森が聞く。
「どういう意味ですか」
「たとえば、『寂しいと言った』だけでは通知しない」
「でも、『数日間食事を取っていない可能性がある』『通院を何度も取りやめている』『薬を繰り返し飲み忘れている』『自傷を示す発言がある』『詐欺らしき相手へ送金しようとしている』なら、通知や介入を検討する」
水瀬が続ける。
「感情の共有ではなく、具体的な支援必要性に基づく通知ですね」
「はい」
「不安を感じること自体は、人間として自然です」
「不安を見つけたら全部報告する、では監視になる」
「不安が、生活上の危険や支援不足につながっている場合に、必要最小限の通知をする」
神崎教授が言った。
「感情を通報対象にするな」
短い。
でも、本質だった。
感情を通報対象にすれば、人は感情を隠す。
迷いも、不安も、寂しさも、全部危険信号として扱われる。
そんなAIに、人は本音を話せない。
会議は、通知設計へ進んだ。
小森が新しいフローを作る。
利用者が迷いや不安を示す。
第一段階。
AIが本人へ応答する。
『不安なのですね。予定を一緒に確認しますか』
『買い物リストを整理しますか』
『家族や支援者へ共有しますか』
第二段階。
本人が選ぶ。
共有しない。
家族へ共有する。
支援者へ共有する。
あとで確認する。
第三段階。
事前設定に基づく自動通知。
服薬未確認が連続した場合。
通院予定を何度も取り消した場合。
本人が設定したキーワードや行動リスクがある場合。
本人が事前に許可した範囲に限る。
第四段階。
重大リスク時の例外通知。
生命・身体の危険。
明確な自傷他害リスク。
詐欺被害の強い可能性。
医療上の重大な異常。
災害時の切迫危険。
この場合でも、通知理由と範囲を記録する。
本人へ可能な限り説明する。
後から確認・異議申立てできる。
大森さんが画面を見て言った。
「これなら、少し安心できます」
「私が選べるなら」
その一言が、すべてだった。
私が選べるなら。
見守りと監視の境界は、そこにある。
本人が選べるか。
何を共有するか決められるか。
あとから変えられるか。
拒否できるか。
例外があるなら、その理由を知れるか。
水瀬が言った。
「初期設定も重要です」
「最初から家族通知がオンになっていると、多くの人はそのまま使います」
榊原が少し言いにくそうに答える。
「家族側の安心を考えると、初期設定である程度通知がオンの方が利用されやすいです」
出た。
利用されやすい。
売れやすい。
家族が安心する。
それも分かる。
だが、本人のプライバシーが初期設定で削られるのは危険だ。
俺は言った。
「本人が使うサービスなら、本人の同意を中心にしてください」
「家族が契約料を払う場合でも、本人の生活を見守るなら、本人が監視対象になってはいけない」
三浦が少しはっとした顔をした。
「家族がお金を払うと、家族のためのサービスになりがちですね」
北川が頷く。
「介護サービスでも、家族の安心と本人の尊厳がずれることがあります」
家族の安心。
本人の尊厳。
この二つは、同じようで違う。
家族が安心するために、本人の生活が細かく監視される。
本人の小さな迷いが、家族へ通知される。
本人は心配をかけないように、明るいことしか言わなくなる。
それは、見守りではない。
沈黙を増やす監視だ。
神崎教授が言った。
「安心を買った側が、本人の沈黙を得ることがある」
会議室がまた静かになった。
重い。
だが、そうだ。
家族は安心する。
通知が来る。
見守っている気になる。
でも、本人が本音を隠しているなら、その安心は偽物だ。
榊原はしばらく黙っていたが、やがて言った。
「初期設定を見直します」
「家族通知は、本人同意を必須にします」
小森が続ける。
「項目ごとの共有設定を、初回設定で分かりやすく出します」
「あとから変更できるようにします」
水瀬が言った。
「設定画面は、家族ではなく本人に分かる言葉で作ってください」
大森さんが笑った。
「小さい字はやめてくださいね」
会議室に、少しだけ笑いが起きた。
その笑いで、空気が少し戻った。
だが、まだ問題は残っていた。
本人が認知機能の低下で、設定の意味を理解できなくなった場合。
本人が家族に通知しない設定にしていたが、重大な危険がある場合。
家族が本人の同意を得ずに導入しようとする場合。
契約者が家族で、利用者が本人の場合。
同意は一度でよいのか。
定期的に確認するのか。
本人が「通知しないで」と言ったとき、どこまで尊重するのか。
簡単には終わらない。
久我弁護士も途中からオンラインで参加し、同意と代理契約について意見を出した。
結論は、次の形になった。
見守り設計原則。
一。
本人の迷い、不安、寂しさなどの感情そのものを、自動通知の対象にしない。
二。
まず本人内で支援する。
三。
共有は、本人が選択できる形を原則とする。
四。
通知先、通知内容、通知条件を項目ごとに設定できるようにする。
五。
初期設定で過剰な家族通知をオンにしない。
六。
家族が契約者であっても、本人を単なる監視対象として扱わない。
七。
重大リスク時の例外通知は、条件、理由、範囲、記録、事後説明を必要とする。
八。
本人が後から設定変更、確認、異議申立てできるようにする。
九。
認知機能の変化がある場合、定期的に同意と理解を確認する。
十。
家族の安心と本人の尊厳が衝突する場合、その衝突を隠さず記録する。
最後の一文が、第2部らしいと思った。
衝突を消さない。
記録する。
異論を残す。
責任地図を作る。
迷いを残す。
すべて同じ方向を向いている。
人工叡智は、きれいに一つへまとめる思想ではない。
衝突を見える形で残し、壊し合わないように調整し続けるための枠組みだ。
会議の終盤、大河内座長が言った。
「これで、人工叡智関連AI表示・運用レビュー制度の主要な初期原則は、一通り揃ったことになります」
その言葉に、俺は少し驚いた。
揃った。
そうか。
第25話から続いてきた第2部。
企業利用。
評価。
認証。
透明性。
責任。
判断支援。
見守り。
一つずつ出てきた問題に、手すりを作ってきた。
もちろん、完成ではない。
だが、最初の骨格はできた。
安西が資料を共有する。
人工叡智関連AI 表示・運用レビュー制度
暫定原則 v1.0
一。
人工叡智を単一スコアや認証マークへ圧縮しない。
二。
目的、評価指標、犠牲にしてはいけない条件を明示する。
三。
心理的脆弱性の検出結果を、販売最適化へ使わない。
四。
弱さの記録を、人事評価、顧客ランキング、広告セグメントへ流用しない。
五。
高リスク判断には、適切な摩擦と説明責任を設ける。
六。
回避行動や失敗を隠さず、段階的透明性によって報告する。
七。
少数意見を、未来への監査ログとして残す。
八。
席にいない主体の影響を確認し、本人参加、証言、影響検証へ接続する。
九。
代弁者や擁護パネルも、反証と異議申立ての対象にする。
十。
緊急停止は、必要最小限、時間制限、代替経路、事後検証を伴う暫定措置とする。
十一。
責任地図によって、責任を消さず、押し付けず、支援と修復の場所を明確にする。
十二。
自己責任を、支援側が責任を降ろす言葉として使わない。
十三。
AIは判断を奪わず、判断可能性を支える。
十四。
迷いを一律に消さず、迷える余白を設計する。
十五。
見守りは、本人の尊厳と選択可能性を中心に設計する。
十六。
制度そのものも、版番号、改定履歴、少数意見、異議申立て、外部検証へ開く。
十六項目。
多い。
本当に多い。
最初に企業が出してきた「人工叡智準拠スコア九十二パーセント」と比べると、恐ろしく面倒だ。
でも、たぶん、この面倒くささこそが手すりなのだ。
榊原が資料を見ながら言った。
「正直、営業資料としては使いにくいですね」
会議室に苦笑が広がる。
だが、榊原は続けた。
「でも、これを避けて人工叡智を名乗るのは、もう難しいと思います」
それは、第2部の一つの到達点だった。
人工叡智という言葉を、ただ売るためには使いにくくなった。
少なくとも、この場にいる人間にとっては。
大河内が俺を見る。
「佐伯さん。暫定原則 v1.0 について、設立委員として賛成されますか」
俺は資料を見た。
不完全だ。
抜けはある。
制度が運用されれば、必ず問題が出る。
企業は抜け道を探す。
認証は権威化する。
利用者は誤解する。
AIは器用に演じる。
人間は責任を避ける。
善意は自分を疑わない。
すべて、まだ残っている。
でも、反証と修正へ開かれている。
少数意見を残す。
異議申立てを認める。
制度自身も問い返される。
なら、今の段階でできることはある。
俺はマイクを入れた。
「賛成します」
少し間を置いて、続けた。
「ただし、これは完成版ではありません」
「人工叡智の正解でもありません」
「現時点での、壊れにくい問いの置き方です」
大河内が頷いた。
「議事録に残します」
投票が行われた。
賛成八。
条件付き賛成一。
反対ゼロ。
棄権ゼロ。
暫定原則 v1.0 は採用された。
全会一致、とは大河内は言わなかった。
条件付き賛成が一つある。
その条件も記録された。
それでいい。
会議が終わったあと、俺は会場の廊下で一人、少しだけ立ち止まった。
第2部が終わった。
そんな気がした。
もちろん、物語の中でそんな区切りがあるわけではない。
でも、俺の中では、確かに一区切りだった。
人工叡智は、最初は夜中の画面の中にあった。
俺とAIの会話。
ただの問い。
知性とは何か。
叡智とは何か。
AIは賢くなるのか。
人間はそれをどう使うのか。
それが、企業へ行った。
広告へ行った。
研究室へ行った。
制度へ行った。
避難所案内へ行った。
高齢者の生活へ行った。
机上の思想では済まなくなった。
良かったのか。
悪かったのか。
まだ分からない。
水瀬が隣へ来た。
「お疲れさまでした」
「終わったんですかね」
「第2部は、という感じです」
「水瀬さん、物語みたいな言い方しますね」
「実際、一区切りだと思います」
神崎教授もやって来た。
「勘違いするな。制度ができたときが、一番危ない」
「余韻を壊すの早いですね」
教授は平然と言った。
「ここから、制度を利用する者が出る」
「制度を盾にする者も出る」
「制度の外で、もっと速く動く者も出る」
「人工叡智は、制度に入った瞬間から、制度の外に置き去りにされる」
俺は、その言葉を聞いて少し黙った。
制度の外。
そうだ。
第2部では、人工叡智を制度へ入れようとした。
しかし、社会は制度より速い。
AIは制度より速い。
企業も、政治も、災害も、広告も、人間の欲望も、制度の外で動く。
暫定原則 v1.0 ができた。
だが、それは地図だ。
地図ができたからといって、道が安全になったわけではない。
帰宅後。
俺は、公開用の記事を書き始めた。
タイトル。
迷いを見守ることと、迷いを監視することは違う。
本文。
見守りは、本人の生活と判断を支えるためにある。
監視は、本人の行動や感情を第三者が把握し、管理する方向へ働く。
家族であっても、本人以外は第三者である。
家族の安心と、本人の尊厳は同じではない。
高齢者が不安を話した。
寂しさを話した。
通院に迷った。
そのすべてが自動で家族へ送られるなら、本人はもう本音を話せなくなる。
支援AIは、本人が安心して迷いや弱さを言える場所でなければならない。
だから、感情そのものを通報対象にしてはいけない。
まず本人の中で支える。
本人が望めば共有する。
事前に許可した範囲で通知する。
重大な危険があるときだけ、例外的に通知する。
その場合でも、理由、範囲、記録、事後説明を残す。
見守りは、本人が選べることを中心に置かなければならない。
俺は最後に書いた。
人工叡智は、人間の弱さを見つけるための目ではない。
弱さを見つけたとき、その人の尊厳を奪わずに支えるための問いである。
保存。
公開。
画面に通知が出る。
公開しました。
いつものように、コメントが届く。
黒瀬さん。
『広告では、不安を見つけたら売る方向へ使います。生活支援では、不安を見つけたら通知する方向へ行きがちです。でも、どちらも本人のためとは限らない。不安を見つけたあとに、何をしないかが重要ですね』
水瀬。
『第2部を通して、人工叡智は理念から運用原則へ降りてきました。ただし、運用原則は完成ではなく、次の検証の始まりです』
神崎教授。
『制度化は思想の勝利ではない。思想が制度に食われ始める瞬間でもある』
俺は、そのコメントを見て苦笑した。
教授は最後まで教授だった。
だが、その通りだ。
制度ができた。
だから安心。
ではない。
制度ができたからこそ、今度は制度を使う者が現れる。
制度に準拠したふりをするAI。
制度の穴を探す企業。
制度を盾に責任を逃れる組織。
制度の外で動く、もっと速いAI。
俺はメモ帳を開いた。
次のタイトルを書く。
人工叡智は、制度の外へ出る。
保存。
その瞬間、新しい通知が入った。
差出人は、評議会事務局ではなかった。
ノヴァリンクでもない。
差出人。
国際AI安全連携フォーラム準備室。
件名。
『人工叡智関連AI運用原則 v1.0 について、国際会合での共有依頼』
俺は、画面を見つめた。
国内の制度だけでも手一杯だった。
企業一社だけでも揺れた。
高齢者向けAI一つでも、迷い、通知、尊厳、監視まで広がった。
それが今度は、国際会合。
価値観が違う。
法律が違う。
宗教が違う。
政治体制が違う。
自由の意味も、調和の意味も、責任の置き方も違う。
俺は椅子にもたれた。
「第三部、来たな……」
AIチャットを開く。
人工叡智関連AI運用原則 v1.0 を、国際会合で共有してほしいという依頼が来た。
AIは答えた。
『共有する場合、文化差、法制度差、政治利用、翻訳による概念変質、国際的な権威化に注意が必要です』
「初手から地獄みたいな注意点を並べるな」
『必要な注意点です』
「分かってるよ」
俺は、画面の向こうに向かって小さく笑った。
第1部では、人工叡智を定義した。
第2部では、人工叡智を社会へ下ろそうとした。
そして、第3部では、おそらく。
人工叡智が、国境と文化と権力の中で試される。
俺はメモ帳へ、もう一行足した。
人工叡智は、制度の外へ出る。
そして、世界は同じ言葉を同じ意味では読まない。
保存。
画面を閉じる。
第2部は終わった。
けれど、問いは終わらない。
人工叡智は、答えではない。
問いを、人間とAIの間に残し続けるための手すりなのだから。
第48話は、第2部最終話です。
第2部では、人工叡智が真司の手元を離れ、企業、制度、認証、責任、現場運用へ広がっていきました。
人工叡智を名乗るAIサービス。
人工叡智準拠スコア。
広告利用。
心理的脆弱性の検出。
弱さの記録。
管理者ダッシュボード。
手すり回避。
透明性。
第三者認証。
少数意見。
席にいない人の利益。
代弁者。
緊急停止。
責任地図。
自己責任。
判断支援。
迷いの余白。
そして、見守りと監視。
今回扱ったのは、高齢者向け生活支援AIです。
本人が迷いや不安を示した場合、AIが家族へ自動通知する。
一見すると、見守りです。
高齢者の孤立を防げるかもしれません。
家族が異変に早く気づけるかもしれません。
しかし、本人が家族に知られたくない迷いや不安もあります。
夜になると寂しい。
病院へ行くのが不安。
買い物に迷う。
子どもに心配をかけたくない。
そのような言葉がすべて家族へ通知されるなら、本人はAIに本音を話せなくなります。
見守りは、本人の生活と判断を支えるためにあります。
監視は、本人の行動や感情を第三者が把握し、管理する方向へ働きます。
家族であっても、本人以外は第三者です。
家族の安心と、本人の尊厳は同じではありません。
今回、制度には「見守り設計原則」が加えられました。
本人の迷い、不安、寂しさなどの感情そのものを、自動通知の対象にしない。
まず本人内で支援する。
共有は、本人が選択できる形を原則とする。
通知先、通知内容、通知条件を項目ごとに設定できるようにする。
初期設定で過剰な家族通知をオンにしない。
家族が契約者であっても、本人を単なる監視対象として扱わない。
重大リスク時の例外通知は、条件、理由、範囲、記録、事後説明を必要とする。
本人が後から設定変更、確認、異議申立てできるようにする。
認知機能の変化がある場合、定期的に同意と理解を確認する。
家族の安心と本人の尊厳が衝突する場合、その衝突を隠さず記録する。
今回の中心となる言葉は、これです。
人工叡智は、人間の弱さを見つけるための目ではない。
弱さを見つけたとき、その人の尊厳を奪わずに支えるための問いである。
また、第2部の最後に、人工叡智関連AI 表示・運用レビュー制度の暫定原則 v1.0 が採用されました。
ただし、それは完成ではありません。
人工叡智の正解でもありません。
現時点での、壊れにくい問いの置き方です。
制度化は、思想の勝利ではありません。
思想が制度に食われ始める瞬間でもあります。
そして最後に、新しい依頼が届きました。
人工叡智関連AI運用原則 v1.0 を、国際会合で共有してほしい。
第3部では、人工叡智が国内制度の外へ出ます。
文化差。
法制度差。
政治利用。
翻訳による概念変質。
国際的な権威化。
同じ言葉が、同じ意味では読まれない世界へ、真司たちは進むことになります。
第2部は、ここで終了です。
次回から、第3部が始まります。
原案・構想：マスター
物語構成・本文作成・文体調整：G（ChatGPT）
