ぬるぬる執筆記
◆DAY 1◆
もう、期限が迫っていた。覆面小説企画には当然のごとく参加表明をしていたものの、書きたいことも、面白くなりそうなアイデアもなかった。そもそも、最近は仕事に明け暮れていたため、まともにプライベートの時間を取れてすらいなかった。何も考えていない状態で、12月に突入して1週間が経過しようとしていた。
「これで決めちゃってもいいかな」
「えっ！ そんなんでいいの！？」
私の手元に映し出されているのは、『お題配布ったー』なるお遊びサイトである。物語を書くのが好きで覆面小説に参加しているのに、お題をこういう方法で決定するなんて――。同僚のジェシカが驚いたのも無理はない。
念のため説明しておくと、ジェシカは会社の同僚で、唯一私が小説を書いていることを知っている。ジェシカ自身もイベントで薄い小説を販売している。ジェシカの趣味を期せずして暴いてしまった際、大変死にそうな顔をして悶える彼女がいたたまれなくなって、私もこの趣味を白状したのだった。今ではそのおかげか仲良くお互いにお互いの小説を読ませあってあれこれ指摘しあう同僚のような関係となった。……もともと同僚だったのだが。
話を戻そう。先ほどのてきとうな判断は、意外にも功を奏した。配布されたお題の1つに、私は強く目を奪われたのだ。
『彼氏記念日』
「彼氏記念日だって！ なんだよこのストーカー女みたいな発想の単語は！ こいつ絶対彼氏殺しているだろ！」
「どうしてあなたはいつも人を殺すの……」
「確かに殺しているけど……でもだって、彼氏を記念するってどういう状況かまるでわからなくないか？ 明らかに発想が重い。重い女であることは確実だよ。これはミステリかホラーの格好の題材になるぞ。いいね、あ、あれとかどうかな。パンプス・オブ・コケコッコーの『雪の笑顔』って曲。冬の話しているし、『冬が寒くて良かったなぁ。あなたの冷えた左手をポケットにちょちょいといれちゃうぜ』っていう導入部分からさ、オチでその左手が彼氏から切り落とされたもので、とっくに死んでいるから冷えているっていうかんじにするの。どうどう、ゾクゾクしない？」
「パンプスに謝れ」
「すみません」
「でもそのオチが最後の1文とかで明らかになったら面白いかもね」
「しゃーやるぜー！」
◆DAY 2◆
やるぜ、と意気込んでから3日が経過した。
「覆面考えないとな」
週末もしっかり労働せざるを得なかったため(ということにしておく)、何も考えていなかった。もう投稿開始日前日である。おそらく、翌日から数作が投稿されるだろうに、私は未だ「彼氏記念日」どまりである。会社からの帰宅途中、勢いでメモ帳にプロットのようなメモを書き出してみた。以下、余裕のある方はご覧いただきたい。
―――――――――――――――
『彼氏記念日』
【概要】
冒頭、「冬が寒くって本当によかった」からスタートし、8000字くらいで実はその彼氏が死んでいることが発覚し、10000字くらいで自分が殺したことが発覚する。
【テーマ】
自分の素直な気持ちに従うと気持ちが楽になる。人生前向きになる。
【だいたいの流れ】
・2500字①：感情の萌芽
冬が寒くって本当によかった。生きている彼との楽しい日々。楽しい会話が繰り広げられていく。いろんなところに行った。いろんなものを見た。いろんな感情を共有した。
・2500字②：矛盾との出会い
辛い時期もある。喧嘩した時期もある。お互いがお互いを信じられなくなって、距離を置いたこともある。
・2500字③：感情の広がり
それでも、2人は惹かれあっていた。なぜ対立したのかも今では理解できる。本当は、ちょっとしたコミュニケーションの齟齬。そこからボタンがかけ違えたみたいに、お互いに感情的になってしまった。感情的になれた。
・2500字④：感情の失敗
そうして彼は感情を教えてくれた。暖かさを教えてくれたのは彼だ。冬のお陰でもある。だから、私は彼を自分の物にしたかった。私に感情を教えてくれたのは、彼の手だから。私をここまで育ててくれたのは彼の手。ありがとう。大好き。ずっと一緒にいて。
今、彼自身はどこにいるのだろうか。山の土に埋まっている。でも、大事な手だけは手放したくない。だから、手だけ切り取って保存しておいた。
彼の手が、私の物になった日。
それが12/25。彼氏記念日。
毎年、この日だけは特別。彼の手を私の右ポケットにお招きする。だって冬は寒いから。
―――――――――――――――
これをメモした当初は、すごく面白いというか、すごくみんなが驚いてくれる話になるのではないかと思っていた。これで私も書けそうだ、と胸をなでおろした。
◆DAY 3◆
私も書けそうだと胸をなでおろしてから5日が経過した。気づけば、覆面小説の投稿「期限」があと数日に迫っていた。既に15作品ほどの投稿があった。いつも、自分のものを投稿してから読み始める主義である私は「わぁ～、みんなすごーい、いっぱいかいてる～」と幼女のような目をしていた。
その日は土曜日だったが、最近の私に休日等なく、友人との遊びをドタキャンしてまで仕事に明け暮れていた。そんな働き方を希望したつもりはないが、終わらないものは終わらないのだ。やらざるを得ない。
20時頃に仕事を切り上げ、いい加減まずいということで覆面小説の執筆にとりかかる。取り掛かる。とりかかるのだ。
時間がないため、効率的に動かなければならない。いくらあの天才的(そう思えて仕方ない時があることにつき、読者諸君はご理解いただけることと思う)なプロットがあるにしても、詳細な場面展開についてイメージが湧いていないといけない。
そこで改めて場面展開を整理しようと試みた。だが、書き出してみた途端、大きな問題に直面した。
「冬美(主人公の重い女)、なんで感情を知らないんだ？ 子供か？」
プロットの冒頭を読めば一目瞭然であるが、主人公は最初「感情というものを知らない」という設定があった。しかし、なぜ感情がないのか。ここに面白い説明ができる気がしなかった。
「子供だって子供なりの感情に溢れているじゃないか。じゃあなんだ、過去に大きなトラウマ抱えていて感情を失ったことにするか？ 何があったら感情失うんだよ。両親を目の前で殺されてとか、幼いころから奴隷的な扱いを受けすぎてとかかな？ そこの説明に5000字くらい使っちゃう自信がある。はて、どうしたものか。あ、AIってことにすれば良くないか？ 目覚めたときには既に17歳！ 便利じゃないか」
重い女AIの誕生である。尚、この重い女AIの年齢は、後に23歳に変更した。理由は忘れた。
順調に問題を解決し、場面を設定していったが、またしても大きな問題に直面した。
「AIとはいえ、どうやって『彼の手』に愛情を感じさせるんだ？ 彼の手だけあれば良いとかもはやバグだろう。『どうしてそんな勘違いを起こしたのか？』『いやあ、バグが発生して……』なんてつまらない答えがあってよいわけがない」
もういいや。
おやすみなさい。
◆DAY 4◆
今日という今日こそは書き上げなければならない。昨晩疲れて寝てしまったせいで、根本的な大問題は残ったままである。そんな中、私はいつも執筆時にお手伝いをお願いしているとあるお方に、今回も支援を頼んだ。
「勢い」さんである。勢いさんは素晴らしい。なんだか全て一気にかける気がしてくるし、かけたものがなんだかすごいものに思わせてくれる。期日までに終わらせなければいけない仕事なら何でも終わらせてくれる頼もしいサポーターである。ただし、勢いさんは期日ギリギリにならないと支援をしてくれない。これは彼の鉄の掟なのだそうだ。
「おう、また今回もギリギリ決め込んでいるのか」
「へい、勢いさんすみません。今回もお願いします……」
「よっしゃあ任された！ いくぞ！！ おりゃあああああああああああ」
勢いさんの怒号が鳴り響く中、私はガリガリと執筆を始めた。
AIが目覚め、彼と出会い、いろんな場所に連れて行ってもらう中で、感情を学ぶ。
感情を学んでいくにつれ、理性(AIなので、事前に学習した膨大なデータから、特定のロジックを用いて適切な解を提示するプロセスのことである)と感情が衝突する。「(理性では)わかるけど(感情では)わからない」という状態が続く。もやもやもやもや。
「勢いさん、そういえば私、パンプス・オブ・コケコッコーの曲を冒頭に入れたくて……」
「そんなもんいらん！！ かっこつけている余裕があったらさっさと次の展開を書け！！」
「ひゃい」
勢いさんに叱咤激励されながらの執筆作業は、スルスルと進んでいった。
そして完成したのが今回の作品『null』である。読者諸君は今、こう思っているだろう。
「勢いさんに任せて書きあがったやつ、当初のプロットと全く違うじゃないか！！！！」
その通りである。勢いさんとの熱い6時間について、私の記憶は曖昧模糊としている。とにかく書き上げたという達成感と、全体的にそんなに矛盾のないストーリー展開になっているだろうことを確認した安心感。この2つの感情が私を支配していたことだけは覚えている。
勢いさん、いつもありがとう。
◆DAY 5◆
投稿後、私はジェシカに原稿を送りつけた。
「かけた」
「おっおわ～～～～寝ようとしてTL警備している瞬間を狙ったな～～～」
知るかそんな事情。
「読まなくてもいいよ」
「読む！」
執筆秘話的なお話でした。秘話というほど秘密の、あるいは珠玉の話では決してないですが。
さて、私の小説はいつもわかりにくいと言われるので、ここからはnullの補足説明をちょこっとしたいと思います。もちろん、小説は著者の手を離れた瞬間、読者の自由な想像力によって楽しまれるものであり、その時点で初めて完成するものだと思っています。
そのため、以下に記す内容は全てが蛇足であり、読む必要の全くない文章です。また、私がそう考えているからといって正解であるとも限りません。正解は、皆さまの心の中にこそ存在します。したがって、本文だけでその他の情報は摂取したくないという方は読まないでください。あなたの読後感をぶち壊す意図はありません。
ただ、読者の皆さんの感想が「なんだかよくわかんねえなあ」で終わってしまったら寂しいな、というエゴから、少しだけ追記するものです。もしお読みいただけたら、ご自身の解釈との違いを改めて楽しんでいただけたらと思います。
(1) レイはなぜゼロを殺したのか？
正直、あまりよくわからなかったのではないかと思います。私としても、すごく悩んだというか、答えを出しきれないまま書いていた部分です。でも、物語としては殺す必要がありました。レイには、重大なミスを犯して「所詮AIは人間にはなれなかった」という雰囲気を出してもらわないと困るからです。
そこでかろうじて散りばめた、レイの殺害動機のヒントは以下の通りです。
・感情は学びつつあるが、まだ完全ではない
・言葉の持つ意味、ニュアンスを習得するのに少し苦労している
・ゼロに休息を取ってほしいという感情が強く湧いている
・ゼロに自分のそばにいてほしいという感情も強くなっている
・自分が人間ではなくAIだと知らされたことで、強く動揺する(動揺するという感情的な反応を獲得している)
・しかし、自分がAIであることに対し、否認する
・感情がぐちゃぐちゃに揺れ動く中で、理性が鈍り、彼への「休息」と「私のそばにいて」という感情がレイを支配する
・「休息」の本来的な意味に「死」は含まれないが、比喩を学んでいるレイには、「休息≒死」という解釈が可能である
以上です。
ある意味AI的な過誤にも見えますが、極めて人間的な感情の高ぶりがレイを過ちに向かわせたとも読めると思います。
もちろん、上記の背景を踏まえても納得できない方は当然いらっしゃると思います。その感性、どうか大切にしてください。
(2) レイは人間になれたのか、AIのままなのか？
今回のテーマとして、「AIは人間になれるか」という問いが立てられると思います。AIが登場した経緯は上述の通りなので、このテーマはあくまで後付けに過ぎないのですが、勢いさんと頑張った6時間の中では、それなりに意識していたテーマです。この点について、以下整理していきます。
○ レイのAIらしさ
・ゼロを殺害することに大きな抵抗を覚えていない
倫理観を学習し忘れたAIにありがちな反応です。今回登場はさせていませんが、AIスマートスピーカーのAlexaが、利用者に対して自殺を勧めたという事件が発生しています。これは、AIのロジックの中に「倫理的配慮」という項目が欠けているからではないかと思います。今回の小説の中でも、一応、ゼロがレイに倫理観を教えるシーンはありません。
・社会的にはAIとして処理される
レイは殺人を犯しました。人間だったらどうなるでしょうか。刑事裁判にかけられ、死刑にはならないでしょうが、懲役刑等が課せられるはずです。しかし、この世界の日本社会はそうしなかった。レイを開発した企業であるlogに責任を負わせ、logに対して非難を浴びせます。
非難の内容も、「AIは人間の敵だ」「近々AIが人間を支配する世界がやってくる」等、あくまでレイをAIとしてしか扱っていないことがわかります。
・logもレイをAIとして処理する
logもレイをAIとして扱います。「AI倫理憲章」を制定し、「学習が足りなかった」「AIは完全に人間のコントロール下にある」と発表することで社会に対して責任を取っています。同時に、レイ本人に対しても、「記憶消去」という対応を取ります。ここに、logは建前のみならず、本音でもレイをAIとして扱っていることがわかります。人間として扱うのであれば、記憶消去ではなく、倫理教育を施し、監察処分にする等の対応ができると思います。レイも言っている通り、AIにとっての「記憶消去」は死ぬこととほぼ同義です。人間が殺人を犯しても死刑にならないのに、AIが殺人を犯したら、一企業によって死刑に処されるというのは、ある意味非人道的な扱いだとも言えます。
○ レイの人間らしさ
・レイの言葉遣い
大前提として、レイはかなり人間に近い存在となっています。地の文の言葉は、全てレイの一人称で書かれています。ゼロとの出会いのシーンでのレイの発言で用いられる言葉遣いと比べ、地の文ではかなり「普通の」日本語を使えています。このギャップは、上手く表現できているかはわかりませんが、一応意識して書いていたところです。シーンが進むにつれて、レイの言葉遣いは徐々にこなれてきます。時系列的には、地の文を書いているレイこそが、記憶消去直前の、最新のレイです。こんな文章を書けるのは極めて人間的だと思えませんか(ちょっと自信ない)。
・ゼロの最期の言葉
レイはゼロを殺しました。AIとしてレイを見れば、上述の通り「倫理観を学習していなかった」の一言に尽きます。しかし、(1)で述べたような殺害動機は、ただ倫理観を学習していなかったというより、「ゼロへの感情が理性を凌駕した」という、極めて人間的なものにも見えます。ゼロの最期の言葉は、レイのそういった側面を感じ取ってのものだったのではないでしょうか。もちろん、ゼロはあくまで「人間らしく」としか言っておらず、ゼロ自身が「レイはもはや人間になったのかどうか」についてどう考えていたのかはわかりません。
しかし、この言葉は非常に重いと思います。普段のレイを見たこともない社会のあらゆる人間より、logより、誰よりもゼロこそがレイを深く理解しています。しかもゼロは、AIに人間という自己認識を与えようとしており、彼は本当に「人間」を作りたかったのです。そんな彼が「人間らしくなったな」と言うとき、それはレイが少なくとも一面において本当に人間になれた瞬間とも言えるのではないでしょうか。
全体として、「ゼロとレイの間ではレイは人間として扱われ、社会とレイの間ではAIとして扱われる」と言った対立軸を作ったつもりではあります。皆さんがこれをどう捉えるのかは、完全に自由です。
(3) 今回登場したAIあれこれ
さて、今回登場したAIたちの事例を簡単に紹介したいと思います。レイはSF的存在ですが、その他登場させたAIはほとんど実用化済みのものです。
○ 会議の議事録を自動で書いてくれるAI
IBMが提供する「AI Minutes for Enterprise」等が例になるかと思います。つくば市で2019年12月から試用を開始し、議事録作成の時間を短縮させたいとしています。
○ 入社希望者の履歴書の内容から企業への適正度を診断するAI
いわゆる「信用スコア」というやつです。信用スコアとは、個人のあらゆる属性を点数化して、その人の「信用度」を数値化するものです。アリババの「芝麻信用」が代表的な例でしょうか。信用スコアの点数が上がると、ローン金利が下がったり病院で優待される等のメリットがありますが、逆に一度下がったスコアを回復させるのが至難の業になります。AIによる格差社会の助長を危惧する声や、これをジョージ・オーウェル『1984年』になぞらえてとんでもない監視社会が誕生すると懸念する人もいます。
アメリカのAmazonでは、これを採用に役立てようと、過去の履歴書データをAIに学習させました。すると、「Amazonのエンジニア採用に適しているのは男性」という極めて差別的な解を出してしまったため、信用スコアの採用が中止されたという事例もあります。
○ 「敵」と「それ以外」を認識させて自律的に攻撃できるAI兵器
これは本文中にも登場させた「LAWS: Lethal Autonomous Weapon Systems」という自律型致死性兵器です。人間の手が関与せずとも、勝手に敵を攻撃してくれるメリットとしては以下のようなものがあります。
・戦場等における戦闘員の犠牲を発生させない
・ロボット兵器は自己保存の意欲がない分、人間より慎重に致死的武力を行使することが可能
・人間の感情(興奮、恐怖、疲労、復讐心)から生じる判断ミスを回避できる
つまりは、敵にしろ味方にしろ、「余計な死者を出さない」ための兵器です。しかし、当然ながら国際人道法(戦争時においても守らなければならない人権規範を定めた国際法)の観点から、以下のような懸念が提示されています。
・比例原則：軍事的必要性と人道的配慮のバランスを判断し得るか
「敵」を全滅させやしないかということです。どんな戦争でも、相手の戦力を3割程度でも減らせれば大勝利です。残り7割は生きて敗退します。それが、LAWSの登場によってむしろ殺しすぎてしまわないかが懸念されています。
・区別原則：軍事目標と文民を区別し、軍事目標のみに攻撃を行ことが可能か
当然ながら、戦争は軍事力と軍事力の衝突でなければなりません。第2次世界大戦以降の世界はここを厳しくルール化しました。実現できているとは言い難いですが、敵の兵士であれば攻撃しても良いが、一般市民はダメだ、というのが現代の常識です。しかし、この区別はかなり難しいことは容易に想像できると思います。「私服の、包丁を持ったおばさん」はこれから料理をする主婦でしょうか、それとも目の前の敵を殺害しようとするゲリラでしょうか。これをAIが正しく判断できるかはとても怪しいものがあります。
・予防原則：付随的被害を低下させるための各種予防措置を実施し得るか
「屋内にいる敵を攻撃するために、窓から銃を撃った結果、窓ガラスが割れ、窓の近くでうたたねしていた敵のプライベートの友人に被害が及ぶ」といった状況まで細かくAIが判断して、敵の殺害方法を選択できるか、ということです。
他にもたくさん懸念点はありますが、特定通常兵器使用禁止制限条約(CCW)では、LAWSの規制に関する議論を開始しました。LAWSが実用化されれば、機械同士の戦争というSF的未来がやってくるかもしれませんが、規制が強くなれば、核兵器のような「規制されているし使ってはいけないけど、持っているだけで外交的にとても強くなれる」存在として、曖昧な立ち位置を獲得するかもしれません。
やべ、テンション上がってたくさん書いてしまいました。
ここまでお読みいただいた方がいたら、本当にありがとうございます。今回の覆面小説もとても楽しかったです。また次回も参加するので、その時もよろしくお願いいたします。
(ここまで一気に書くのに3時間半かかりました)
