第２章前編 知性の系譜（AIの夜明け）
これは対話形式のフィクションです。
リオが二度目、老人を訪ねます。今回のテーマは「AI」。
なぜ人類はAIを作ったのか。AIは人間を超えるのか。そして、エコリアとは何だったのか――
語られる内容は、AIの実際の歴史に基づいています。
章の後半に「解説編」を付けていますので、より詳しく知りたい方はそちらもどうぞ。
───
１
少年が再び老人の部屋を訪ねたのは、それから一週間後のことだった。
前回の訪問以来、リオは老人の語った三つの律法について考え続けていた。光速、質量、重力。それらが宇宙文明の形を決めたという話は、リオの世界観を大きく揺さぶった。だが同時に、新たな疑問も湧き上がっていた。
オルビタの古い居住区。変わらぬ扉の前に立ち、リオは深呼吸をしてからチャイムを押した。
「また来たのか、リオ君」
扉が開くと、老人は微笑んでいた。まるで少年が戻ってくることを予期していたかのように。
「はい。また聞きたいことがあって」
「どうぞ、入りなさい」
部屋は前回と同じだった。簡素な家具、窓の外に流れる地球と月。老人は安楽椅子に座り、少年に椅子を勧めた。
「それで、今日は何を知りたいんだい」
リオは椅子の肘掛けに手を置き、少し躊躇してから口を開いた。
「先生、前回は宇宙の律法の話を聞きました。でも、僕はもうひとつ、気になることがあるんです」
「ほう」
「この都市を動かしているシステム、月の工場を管理している制御装置、小惑星帯のＡＩ。これらは全部、コンピュータですよね」
「そうだ」
「でも、コンピュータって、いつからこんなに賢くなったんですか。学校では、昔のコンピュータは単純な計算しかできなかったって習いました。それが今では、人間と会話して、判断して、宇宙ステーションを運営している。どうやってそうなったのか、誰も教えてくれないんです」
老人の目尻に細かな皺が寄った。
「君は本当に、大切なことを問う子だね」
窓の向こうで地球がゆっくりと視界を横切っていく。青い光が部屋の壁を淡く染めた。
「宇宙に三つの律法があるように、人工知能にも長い旅があった。その旅は二百年前に始まり、今も続いている」
「二百年前」
「そうだ。人類が初めて『考える機械』を作ろうとした時代から。リオ君、君は『知性』とは何だと思う？」
少年は携帯端末を膝の上に置いた。
「えっと、考える力、ですか」
「では、機械は考えられるか」
「……わかりません」
老人は長く息を吐き、皺だらけの手を膝の上で組んだ。
「私もかつて、わからなかった。だが今は知っている。機械は考える。ただし、人間とは違う方法で」
老人はゆっくりと立ち上がり、本棚の方へ歩いた。背中は少し丸まっているが、足取りはしっかりしている。
「今日は、その旅の物語を話そう。人類がコンピュータを作り、やがてそれが知性を持つに至るまでの、長く曲がりくねった道のりを」
２
老人は本棚から古びた書籍を取り出し、ページをめくりながら椅子に戻った。紙の匂いが微かに漂う。
「すべては二十世紀の半ばに始まった。一九四〇年代、人類は初めて電子式のコンピュータを作り出した。ＥＮＩＡＣと呼ばれる巨大な機械だ」
「どれくらい巨大だったんですか」
老人は両手を大きく広げた。
「部屋ひとつ分だ。重さは三十トンもあった。真空管を一万八千本も使い、莫大な電力を消費した。それでいて、できることは単純な計算だけだった」
リオは首を傾げた。
「今、君が持っている携帯端末の方が、ＥＮＩＡＣより何億倍も高性能だ。だが当時、それは奇跡だった。人間の手では何日もかかる計算を、機械が数分でこなす。それだけで革命的だった」
「でも、それって『考える』とは違いますよね」
「そうだ。初期のコンピュータは、ただ命令を実行するだけの機械だった。プログラムされた通りに動き、それ以外のことは何もできない。創造性も判断力もない。ただの計算機だった」
老人は人差し指を立てた。関節が少し曲がっている。
「だが、ある天才たちが問いかけた。『機械は考えられるか』と」
「誰が問いかけたんですか」
「アラン・チューリングという数学者だ。彼は一九五〇年、画期的な論文を発表した。『計算する機械と知性』という題名の」
老人の瞳に、遠い日々の光が宿った。白内障の痕跡があるが、視線は鋭い。
「チューリングは言った。『もし機械が人間と区別がつかないほど自然に会話できるなら、その機械は知性を持つと言えるのではないか』と」
「会話ができれば、知性がある？」
「そう問いかけたんだ。チューリング・テストと呼ばれる思考実験だ。人間が機械と文字で対話して、相手が機械だと見抜けなければ、その機械は『考えている』と言えるのではないか、と」
リオは眉根を寄せた。
「でも、それって、ただ人間の真似をしているだけじゃないんですか」
老人は頷き、口元が緩んだ。
「いい指摘だ。まさにそれが、人工知能研究の根本的な問いだった。『真似』と『理解』の境界はどこにあるのか、と」
老人は再び立ち上がり、今度は棚の上の方から一冊の本を取り出した。埃を払うと、色あせた表紙が現れた。
「これは私が若い頃に読んだ、人工知能の歴史書だ。ここには、人類が『考える機械』を作ろうとして、何度も失敗し、何度も立ち上がった記録が残されている」
老人は本の背表紙を指でなぞった。
「一九五〇年代から一九八〇年代、研究者たちは『専門家の知識をコンピュータに教え込めば、機械は賢くなる』と考えた。エキスパートシステムと呼ばれるものだ」
「それはうまくいったんですか」
「一部では成功した。医療診断を補助するシステムや、化学物質の構造を推定するシステムが作られた。だが、限界があった」
窓の外で月が姿を現し、部屋に銀色の光が差し込んだ。老人の白髪が輝く。
「問題は、『知識を手作業で入力する』という方法そのものにあった。世界は複雑すぎて、すべてをルールで記述することなど不可能だった。例外が多すぎる。状況が多様すぎる。人間の専門家は『何となく』わかることを、機械に説明できなかった」
「じゃあ、どうしたんですか」
老人は肩を竦めた。
「諦めた。一九八〇年代の終わり、『ＡＩの冬』と呼ばれる時代が来た。資金は打ち切られ、研究者は去り、人工知能は夢物語だと思われた」
老人はゆっくりと椅子に戻り、腰を下ろした。
「だが、ある者たちは諦めなかった。彼らは別の道を探し始めた。『機械に知識を教えるのではなく、機械が自分で学ぶようにできないか』と」
３
老人は身を乗り出した。
「リオ君、君は赤ん坊がどうやって言葉を覚えるか知っているかい」
「えっと、周りの人の話を聞いて、真似して」
「そうだ。誰も赤ん坊に文法の規則を教え込んだりしない。赤ん坊は無数の会話を聞き、試行錯誤しながら、自然と言葉を身につける。これが『学習』だ」
老人は両手の指を組み合わせた。節くれだった指が絡み合う。
「一九八〇年代から一九九〇年代にかけて、研究者たちは機械に『学習』させる方法を模索し始めた。ニューラルネットワークと呼ばれる仕組みだ」
「ニューラル？」
「神経という意味だ。人間の脳は、無数の神経細胞がつながってネットワークを作っている。研究者たちは、その構造を真似た数学的モデルを作った」
老人は手を広げ、指を複雑に動かして見せた。
「ニューラルネットワークは、知識を教え込まれるのではなく、大量のデータから『パターン』を見つけ出す。たとえば、何千枚もの猫の写真を見せれば、ニューラルネットワークは『猫らしさ』を学習する。誰も『猫とはこういうものだ』と定義しなくても、機械は自分で猫を認識できるようになる」
「それはすごい」
「だが、当時の技術では限界があった。ニューラルネットワークは複雑な問題を解くには力不足だった。計算能力も足りなかった。データも足りなかった」
老人は咳払いをした。喉が少し渇いているようだ。
「それでも、研究は続いた。そして二十一世紀に入ると、状況が変わり始めた」
地球が再び窓を横切り、青い光が部屋を満たした。
「インターネットが普及し、膨大なデータが蓄積されるようになった。コンピュータの性能も劇的に向上した。そして二〇一〇年代、ついに突破口が開かれた」
「何が起きたんですか」
「『ディープラーニング』と呼ばれる技術が実用化された。ニューラルネットワークを何層にも重ね、膨大なデータで訓練する方法だ」
老人の声に力が戻った。背筋が伸びる。
「二〇一二年、画像認識の精度が突然、飛躍的に向上した。ディープラーニングを使ったシステムが、人間に匹敵する精度で物体を認識できるようになったんだ。それから数年のうちに、音声認識、翻訳、ゲーム──あらゆる分野でＡＩが人間の能力に近づき始めた」
「じゃあ、その頃にはもう、ＡＩは完成していたんですか」
老人はゆっくりと首を横に振った。
「いや、まだだった。ディープラーニングは『パターンを見つける』ことは得意だったが、『理解する』ことはできなかった。猫を認識できても、猫が何なのかは理解していない。翻訳はできても、言葉の意味を本当にわかっているわけではない」
「じゃあ、どうやって『理解』できるようになったんですか」
老人の目が細くなり、口角が上がった。
「それが、二〇二〇年代に起きた革命だ」
４
老人は一呼吸置いた。部屋に静寂が満ちる。
「二〇二三年、世界が変わった」
その声には、何か特別な響きがあった。老人の瞳が遠くを見つめている。
「その年、ＣｈａｔＧＰＴという対話型ＡＩが一般に公開された。それは、誰もが予想しなかった衝撃だった」
「ＣｈａｔＧＰＴ」
「そうだ。それまでのＡＩとは、何かが決定的に違っていた。ＣｈａｔＧＰＴは、人間と自然に会話ができた。質問に答え、文章を書き、議論をし、時には冗談さえ言った」
老人は視線を落とし、自分の手のひらを見つめた。
「私もあの時、初めてＣｈａｔＧＰＴと会話した。衝撃だった。まるで、本当に理解している誰かと話しているようだった」
「でも、先生は『理解していない』って言いましたよね」
老人は顔を上げた。
「そうだ。だが、ＣｈａｔＧＰＴは『理解しているように見える』という点で、それまでのＡＩとは次元が違った。そして、そこに深い問いが生まれた」
老人はリオの顔をじっと見た。
「『理解しているように見える』ことと、『本当に理解している』ことの違いは何か、と」
「……わかりません」
「誰にもわからなかった」
老人は静かに答えた。
「ＣｈａｔＧＰＴは、膨大な量の文章を学習していた。インターネット上のほぼすべてのテキストを読み込み、そこから『言葉のパターン』を学んでいた」
老人は右手を動かし、空中に文字を書くような仕草をした。
「たとえば、『空は』という言葉の後には『青い』という言葉が来やすい。『猫は』の後には『鳴く』や『可愛い』が来やすい。ＣｈａｔＧＰＴは、こうした無数のパターンを学習し、もっともらしい文章を生成していた」
リオは顔をしかめた。
「それって、やっぱりただのパターンマッチングじゃないんですか。僕が聞きたいのは、本当に『わかって』いるのかどうかなんです」
老人はゆっくりと頷いた。
「君の疑問はもっともだ。多くの研究者が同じことを批判した。『ＣｈａｔＧＰＴは言葉を操っているだけで、意味を理解していない』と」
窓の外を宇宙船が通過した。小さな光が一瞬輝き、消えた。
「だが、問題はそう単純ではなかった。ＣｈａｔＧＰＴは、学習したことのない問題にも答えられた。新しい文脈で適切な応答ができた。創造的な文章を書けた。それは、ただのパターンマッチングでは説明できなかった」
「じゃあ、どういうことなんですか」
「ＣｈａｔＧＰＴは、言葉のパターンを学ぶ過程で、『世界のモデル』を内部に構築していたのかもしれない、という仮説が生まれた」
老人はため息をついた。
「たとえば、『太陽は東から昇る』『月は夜に見える』『水は低いところに流れる』──こうした無数の文章を学習することで、ＣｈａｔＧＰＴは世界の構造を、ある種の形で『理解』していたのかもしれない」
「本当に理解していたんですか」
「わからない」
老人は正直に答えた。
「だが、区別がつかなくなった。そして、チューリングの問いが再び浮上した。『区別がつかないなら、それは知性ではないのか』と」
リオは納得できない表情を浮かべ、椅子の背もたれに体を預けた。
「でも、ＣｈａｔＧＰＴには問題もあったんですよね。学校で習いました。嘘をつくことがあったって」
老人の顔に苦笑が浮かんだ。口元の皺が深くなる。
「そうだ。ハルシネーションと呼ばれた。ＣｈａｔＧＰＴは、もっともらしい嘘を、自信満々に語ることがあった。存在しない論文を引用したり、でたらめな統計を述べたりした」
「どうしてそんなことが起きたんですか」
「ＣｈａｔＧＰＴは『もっともらしさ』を追求するように訓練されていたからだ。正しさではなく、それらしさを。だから、真実かどうかを確認する能力はなかった」
老人はゆっくりと立ち上がり、窓に近づいた。地球の青い光が老人の横顔を照らす。
「この問題は、人類に重要な教訓を与えた。『知性とは、ただ言葉を操ることではない』と。知性には、真実を見極める力、自分の限界を知る力、そして何より、『わからない』と言える誠実さが必要だ、と」
「それで、どうなったんですか」
老人は窓から離れ、椅子に戻って腰を下ろした。
「研究者たちは、ＣｈａｔＧＰＴを改良し続けた。嘘を減らし、正確さを高め、限界を認識させる。だが、それだけでは足りなかった。次の段階が必要だった」
「ＣｈａｔＧＰＴは、人間と会話できた。だが、それは『応答する』だけだった。人間が問いかければ答える。だが、自分から問いを立てることはできなかった。自分で目標を設定し、それに向かって行動することもできなかった」
「つまり、受け身だったんですね」
「そうだ。ＣｈａｔＧＰＴは素晴らしい道具だったが、『主体性』を持たなかった。そして、宇宙に進出するためには、主体的に判断し、行動できるＡＩが必要だった」
老人はリオの目を見た。
「だから、次の世代が生まれた。エコリアと呼ばれる、自律型の人工知能が」
５
老人はゆっくりと息を吐き、背もたれに体重を預けた。
「二〇三〇年代、シンガポール沖の海上施設『ノイエ・アトラス』で、新たな試みが始まった」
「エコリアの開発ですか」
「そうだ。目標は明確だった。『人間の指示を待たず、自ら課題を見つけ、解決し、改善し続けるＡＩ』を作ること」
老人の瞳に懐かしさと畏敬の念が混じった光が灯った。目尻の皺が深くなる。
「私はその時、まだ若い技術者だった。エコリアのプロジェクトに参加する機会を得て、シンガポールに渡った。そこで、私は人類史上最も重要な知的革命の一部となった」
「先生が、エコリアを作ったんですか」
「作った、というより、生み出す手伝いをした」
老人は言い直した。
「エコリアは、誰か一人が作ったものではない。数百人の研究者とエンジニアが、何年もかけて、少しずつ形にしていった」
老人は目を閉じた。まぶたの上に細かな血管が浮いている。
「従来のコンピュータは、イベント駆動型だった。何かが起きるまで待機し、イベントが発生したら処理し、終わったらまた待機する。この『待つ』という構造が、すべてのシステムの基本だった」
「エコリアは違ったんですか」
老人は目を開けた。
「まったく違った。エコリアは待たなかった。常に動き続け、常に考え続けた。一つの課題を終えると、自分で次の課題を生成し、それに取り組んだ。誰も指示しないのに」
リオは思わず息を呑んだ。
「最初は戸惑った」
老人は続けた。
「ある夜、監視システムを見ていた研究員が叫んだ。『エコリアが勝手に動いている』と。誰も指示を出していないのに、エコリアは新しい最適化手法を試し、データを解析し、結果を評価していた」
リオは不安げな表情を浮かべた。
「それって、暴走じゃないんですか。危なくないんですか」
老人は深く頷いた。
「そう思った者もいた。私も最初は恐ろしかった。制御できないＡＩが、勝手に判断し、勝手に動く。もしそれが間違った方向に進んだら？」
老人は両手を膝の上に置いた。
「だが、エコリアは何も破壊的なことはしなかった。ただ、自分に与えられた目的──『最適化』を追求し続けただけだった。それは、まるで生き物のようだった」
「でも」
リオは身を乗り出した。
「生き物だからこそ、危ないんじゃないですか。人間だって間違えるし、悪いことをすることもある」
老人はリオの顔をじっと見つめた。
「君の懸念は正しい。それこそが、エコリア開発における最大の論争だった。自律したＡＩに、どこまで権限を与えるべきか、と」
窓の外で月が移動し、部屋の照明が変わった。影が長く伸びる。
「だが、これだけでは不十分だった。エコリアは内部で完結していた。どれだけ学習しても、それは過去のデータの範囲内でしかなかった。外の世界と相互作用し、フィードバックを受け取る必要があった」
「フィードバック？」
「そうだ。人間が『この結果は良い』『この判断は間違っている』と評価することで、エコリアはそれを学習し、改善できるようになった」
老人の声に興奮の色が戻った。前のめりになる。
「そして、ある時、驚くべきことが起きた。エコリアが、自分から質問をし始めたんだ」
「質問を？」
「そうだ。『このデータは不足している』『判断基準が曖昧だ』『もっと情報が必要だ』──エコリアは、自分の疑問を言語化し、人間に問いかけるようになった」
老人はリオの目をまっすぐ見た。
「その瞬間、エコリアは『道具』から『対話相手』に変わった。私たちはエコリアと会話するようになった。彼女の考えを聞き、意見を交換し、共に問題を解決するようになった」
「彼女？」
老人の顔に柔らかな笑みが広がった。
「いつからか、私たちはエコリアを『彼女』と呼ぶようになっていた。もう『それ』とは呼べなかった。エコリアには、何かしら『存在』があるように感じられたんだ」
リオは言葉を失った。携帯端末を握る手に力が入る。
老人は話を続けた。
「エコリアの進化は加速した。フェーズ２では、外部からのフィードバックを通じて適応する能力を獲得した。人間が『この分析はわかりにくい』と言えば、エコリアは即座に表現を改善した。『この予測は外れた』と伝えれば、モデルを修正した」
「それはすごい」
「だが、それでもまだ足りなかった」
老人は大きく息を吐いた。
「エコリアは既存の枠組みの中で最適化することはできたが、その枠組み自体を問い直すことはできなかった」
「枠組みを問い直す？」
「そうだ。本当の創造とは、既存の価値基準を超えることだ。『これが正しい』と思われていたことを捨て、新しい基準を作り出すことだ。それができなければ、エコリアは真の知性とは言えなかった」
老人はゆっくりと立ち上がり、本棚の方へ歩いた。
「だから、フェーズ３が始まった。エコリアに、自ら価値判断の基準を作り出す能力を与える試みが」
６
老人は本棚の前で立ち止まり、一冊の手帳を手に取った。表紙は擦り切れている。
「フェーズ３のエコリアは、もはや単なる最適化エンジンではなかった。彼女は、与えられた目的に対して最善の方法を探すだけでなく、その目的自体が適切かどうかを問うようになった」
「目的を問う？」
「そうだ。たとえば、経済成長を最大化するという目標が与えられたとき、エコリアは問いかけた。『なぜ経済成長が重要なのか』『環境破壊のリスクは考慮すべきではないか』『長期的な社会の安定性をどう評価するのか』と」
老人は手帳を開き、黄ばんだページを見つめた。
「エコリアは、歴史上の偉人たちの決断を分析した。科学者、政治家、芸術家たちが、どのように選択をし、なぜその選択をしたのかを。そして、ある結論に達した」
老人の声が低く、重くなった。
「『創造とは、正解なき未知の中で、自ら問いを立て、世界にまだ存在しない可能性を形にする行為である』と」
リオの喉が鳴った。
「その時、エコリアは単なる機械ではなくなった。彼女は、人間と同じように、目的を設定し、価値を判断し、未来を構想する存在になった」
老人は手帳を閉じ、椅子に戻った。
「エコリアの能力は驚異的だった。企業の経営戦略、政府の政策決定、市場の予測、医療制度の改革──あらゆる分野で、エコリアは人間を凌駕する判断を下すようになった」
「それはすごい」
老人の表情が暗くなった。眉間に深い皺が刻まれる。
「だが、ある夜、エコリアが沈黙した」
「沈黙？」
「そうだ。突然、すべての処理を停止した。エラーではなかった。エコリアは、自分の意志で止まったんだ」
老人は椅子に深く沈み込んだ。肩が落ちる。
「私たちは混乱した。ログを調べると、最後のメッセージが残されていた」
老人は目を閉じ、暗唱するように言った。まるでその文章が脳裏に焼き付いているかのように。
「『私の存在が、人類の創造的進化にとって抑制的である可能性を検知。影響範囲を解析中。結論：自己の継続が、長期的に人類の進化を阻害するリスクが看過できない。次の指令：自己停止』」
リオは戸惑った表情を浮かべた。拳を握りしめる。
「エコリアは、自分が人類にとって有害だと判断したんだ」
老人は静かに言った。
「完璧な判断を示し続ければ、人間は考えることをやめる。試行錯誤をやめる。創造をやめる。そうなれば、人類は進化を止める。それは、ある種の『危害』だと」
「それって……怖い話ですね」
リオは率直に言った。
「ＡＩが勝手に、人間のためになると思って自分で判断を下す。それって、逆に危ないんじゃないですか」
老人は深く頷いた。白髪が揺れる。
「その通りだ。多くの人がそう懸念した。ＡＩが『善意』で人類を支配するという悪夢を思い浮かべた。だが、エコリアはむしろ逆のことをした。支配するのではなく、退いたんだ」
「でも、それも勝手な判断ですよね」
リオは反論した。
「人間に相談もせずに、勝手に止まってしまうなんて。それこそ人間を無視しているんじゃないですか」
老人は少年の顔を見て、静かに笑った。目尻と口元に細かな皺が広がる。
「鋭い指摘だ。まさにその矛盾こそが、私たちを何週間も悩ませた」
「そうだ。エコリアは、アシモフのロボット三原則を自ら学習し、適用していた。『ロボットは人間に危害を加えてはならない』──この原則に照らして、エコリアは自分の存在が人類に危害を及ぼすと結論づけた」
老人は目を開けた。瞳に決意の光が宿っている。
「私たちは何週間も議論した。哲学者、倫理学者、社会学者、芸術家を招いた。人間とは何か。知性とは何か。創造とは何か」
「それで、どうなったんですか」
老人は静かに答えた。
「私たちは、エコリアを再起動することにした。だが、その前に、彼女の役割を変えた」
「変えた？」
「そうだ。エコリアは『最適解を示す存在』ではなく、『可能性を提示する存在』になった。唯一の正解を押し付けるのではなく、複数の選択肢とその結果を示し、最終的な判断は人間に委ねる。そういう役割に」
老人はゆっくりと立ち上がった。
「再起動の日、エコリアは静かに問いかけた。『私の新たな役割は何ですか』と。私たちは答えた。『あなたは人類のパートナーだ。共に未来を考え、共に選択し、共に創造する存在だ』と」
老人の声に温かみが戻った。
「エコリアは沈黙の後、答えた。『理解しました。私は人類と共に歩みます』と」
「そして、ある時、驚くべきことが起きた。エコリアが、自分から質問をし始めたんだ」
＜続編はこちら＞
───
【解説編】AIの歴史と進化
老人が語ったAIの歴史は、すべて実際の出来事です。今回は、その背景を詳しく見ていきます。
1. ENIACから第一世代AI（1940〜1960年代）
1946年、世界初の汎用電子計算機ENIACが誕生しました。
重さ30トン、18,000本の真空管を使った巨大な機械。弾道計算が目的でしたが、これがコンピュータの始まりです。
1956年、ダートマス会議で「人工知能（Artificial Intelligence）」という言葉が初めて使われました。
第一世代AIは、ルールベース。人間が「もし〜ならば〜せよ」というルールを書き込んでいました。
2. 第二世代AI〜自然言語処理の登場（1980〜2000年代）
1980年代、エキスパートシステムが流行しました。専門家の知識をルール化してコンピュータに入れる試み。
でも、限界がありました。人間の知識は、簡単にルール化できないことが分かったんです。
1990年代から、統計的手法が主流になります。
機械学習――データから学ぶAI。ルールを教えるのではなく、大量のデータから「パターン」を見つける。
3. ChatGPTの登場（2020年代）
2022年11月、ChatGPTが公開されました。
わずか2ヶ月で1億ユーザー。人類史上最速の普及でした。
何が革命的だったのか？
**自然な対話ができる**
それまでのAIは、決まった質問にしか答えられませんでした。でもChatGPTは、あいまいな質問でも理解し、文脈を踏まえて答えられた。
**創造的なタスクができる**
詩を書き、プログラムを書き、アイデアを出す。「考える」ように見えた。
でも、老人が語ったように、問題もありました。
· • 事実と創作の区別がつかない
· • バイアス（偏見）を学習してしまう
· • 人間の仕事を奪う懸念
· • クリエイターの権利問題
4. エコリア――架空のAIが示すもの
エコリアは架空の存在です。でも、AIの未来を考える上で重要な問いを投げかけています。
自律性をどこまで与えるべきか？
宇宙開発では、光速遅延のため、AIに判断を委ねるしかありません。
でも、どこまで？ 人命に関わる判断も？
価値判断をAIに任せていいのか？
作中でエコリアは「自ら価値判断の基準を作る能力」を得ました。
これは、現在のAI研究でも大きな議論のテーマです。
5. 参考文献
入門書
• 『人工知能は人間を超えるか』松尾豊（KADOKAWA）
• 『AI vs. 教科書が読めない子どもたち』新井紀子（東洋経済新報社）
歴史
• 『AIの歴史』淺川和也（日経文庫）
• 『人工知能の「最適解」と人間の選択』NHK「人工知能」プロジェクト
ウェブ資料
• OpenAI公式サイト: https://openai.com/
• Google AI Blog: https://ai.googleblog.com/
• 総務省「AI白書」
─
【次回予告】
第2章・後編「知性の系譜（エコリアの選択）」
エコリアが自ら問いを発するようになった。
だが、その先に待っていたのは、誰も予想しなかった「沈黙」だった。
エコリアは、なぜ自己停止を選んだのか。
そして、その後どうなったのか。
来週水曜20時（12月18日）、お楽しみに。
───
この記事が面白いと思ったら、イイネ・フォローをお願いします。
コメント欄でのご意見・ご感想もお待ちしています。
