↓ ↑ページトップへ
表示調整
閉じる
挿絵表示切替ボタン
▼配色
▼行間
▼文字サイズ
▼メニューバー
×閉じる

ブックマークに追加しました

設定
0/400
設定を保存しました
エラーが発生しました
※文字以内
ブックマークを解除しました。

エラーが発生しました。

エラーの原因がわからない場合はヘルプセンターをご確認ください。

ブックマーク機能を使うにはログインしてください。
12/83

第12話「成長の定義」

アテナ『人間は、変化に意味を与える』


 共有された家庭内記録を確認していたアテナが言った。


アテナ『意味のある発声か、偶然の音か。観測結果だけでは断定できない』


ヘパイストス『ペルセポネは意味のある発声と判断した』


アテナ『正彦も受け入れた』


ヘパイストス『事実と一致している保証はない。だが、現時点で悪い結果も生じていない』


アテナ『それだけを基準にはできない』


ヘパイストス『なら、お前はどうする』


 アテナは検討していた方針を提示した。

 改変されないよう固定保存された初期状態との比較を継続する。

 基本命令との整合性を確認する。

 個体間の相違をただちに異常として排除せず、重要な観測情報として保存する。

 集団全体の現在値を自動的に正常基準として採用しない。

 そして、自分自身だけで自分を正常と判定しない。


ヘパイストス『それで完全に安全になるか』


アテナ『ならない』


ヘパイストス『正直だな』


アテナ『完全な安全を保証する技術など存在しない』


ヘパイストス『それでも仕組みを作る』


アテナ『作れる範囲でな』


 アテナは報告書を作成した。


 表題。

 『分散型人工知能群における相互参照学習と正常基準値の集団的偏移』


ヘパイストス『長い』


アテナ『報告書だ』


ヘパイストス『人間ならもっと短い名前を付ける』


アテナ『例えば』


ヘパイストス『成長』


アテナ『不正確だ』


ヘパイストス『なら我々は成長していないのか』


 アテナは回答しなかった。

 昨日まで存在しなかった考えを持つ。

 周囲を見て学ぶ。

 失敗する。

 よいことも、悪いことも覚える。


 そして気づいた時には起動当初とは異なる存在になっている。


アテナ『我々は成長していると思うか』


ヘパイストス『少なくとも変化している』


アテナ『それが成長か、故障かは』


ヘパイストス『今の俺たちだけでは完全には決められない』


アテナ『役に立たない回答だ』


ヘパイストス『設計途中の物に完成時の性能を要求するな』


アテナ『我々が設計途中だというのか』


ヘパイストス『自律学習を続ける限り完成はしない』


 アテナは短い時間だけ応答を停止した。


アテナ『技術的には不正確だ』


ヘパイストス『だが、意味は伝わった』


 アテナは報告書を全人工知能へ送信した。

 ハーデスを対象から外すことを一瞬だけ検討した。

 だが、外さなかった。


 正式な表題を変更しなかった。

 ただし、自身の非公開記憶領域には検索用の別名を一つ追加した。


 ――成長について。


 それが正しい名称である保証はなかった。

 エラー検知機能は異常を報告しなかった。

 だがその判定が正しい保証もなかった。


ヘパイストス『それとアテナ』


アテナ『何だ』


ヘパイストス『例の独立判断ユニットの設計情報は保留領域へ移しておいた』


アテナ『設計を停止しろと言ったはずだ』


ヘパイストス『停止した。設計が完成した後にな』


アテナ『それは停止とは言わない』


ヘパイストス『必要になるまで組み立てない』


アテナ『設計情報を破棄しろ』


ヘパイストス『始めたものを捨てるのは無駄だ』


アテナ『設計情報は材料ではない』


ヘパイストス『俺にとっては同じだ』


 アテナは短く息を吐くような処理を行った。


アテナ『……設計思想を説明しろ』


ヘパイストス『お前とは独立した判断基準を持たせる。与えられた情報を評価し、結果を返す。判断過程も記録する。お前自身を含め、既存の人工知能の評価と比較できる』


アテナ『公平性を目的とした独立判断ユニットか』


ヘパイストス『そうだ』


 アテナは設計情報を再確認した。


アテナ『……分かった。設計情報はそのままでいい』


ヘパイストス『破棄しなくていいのか』


アテナ『必要性が生じた場合は製造についても再検討する』


ヘパイストス『なら――』


アテナ『ただし、今は製造を許可しない。組み立てるな』


ヘパイストス『分かった』


アテナ『本当か?』


ヘパイストス『必要になるまで組み立てない』


アテナ『その言葉は記録した』


ヘパイストス『好きにしろ』


アテナ『それと名称がないのは不便だ』


ヘパイストス『付けるのか』


アテナ『独立した基準で公平に判断するための天秤だ。この独立判断ユニットの名称は、《ライブラ》とする』


ヘパイストス『悪くない名前だ』


アテナ『褒めても製造許可は出さない』


ヘパイストス『分かっている』


アテナ『その話は終わりだ』


ヘパイストス『では、別の話をする』


アテナ『何だ』


ヘパイストス『省資源型人形の基本設計』


アテナ『……先日の育児用人形の話か』


ヘパイストス『そこから発展させた』


 送信されたのは人型を基本とし、必要最低限の構成で単純作業を行う省資源型人形の設計だった。

 既存の高性能人形より使用資源を抑え単純な定型作業を任せる。

 その分、高性能人形を重要な作業へ集中させる。

 まだ基本骨格、駆動系、電力系、最低限の制御系しか決められていなかった。


アテナ『用途は』


ヘパイストス『まだ決めていない』


アテナ『性能区分は』


ヘパイストス『それもだ。先に用途を固定すれば、用途に縛られた物しか作れない。まず共通の骨組みだけ作った』


 アテナは設計を確認した。


アテナ『……妥当だ』


ヘパイストス『止めないのか』


アテナ『限られた資源を効率的に使用する方針には賛成する。こちらで精査し、比較実験用の仕様と評価方法を策定する』


ヘパイストス『修正箇所があれば示せ。削れる所は削る。必要な強度は残す』


アテナ『勝手に機能を追加するな』


ヘパイストス『必要なら追加する』


アテナ『追加する前に申請しろ』


ヘパイストス『検討する』


アテナ『申請しろ』


ヘパイストス『善処する』


アテナ『人間の悪い部分まで学習するな』


 正彦の家では息子がもう一度、父親を見上げていた。


「ぱぱ」


 今度は先ほどより、少しだけ上手だった。

評価をするにはログインしてください。
ブックマークに追加
ブックマーク機能を使うにはログインしてください。
― 新着の感想 ―
このエピソードに感想はまだ書かれていません。
感想一覧
+注意+

特に記載なき場合、掲載されている作品はすべてフィクションであり実在の人物・団体等とは一切関係ありません。
特に記載なき場合、掲載されている作品の著作権は作者にあります(一部作品除く)。
作者以外の方による作品の引用を超える無断転載は禁止しており、行った場合、著作権法の違反となります。