202/367
【3月20日】
ボスがめちゃんこキレている。こわい。
軍事用ロボットをボスじゃないロボット工学者がプログラムした時に、勝手にボスのAILTを使ったらしい。
「施行するAIに殺人を覚えさせるつもりか！」ってボスめちゃんこキレてる。こわい。
戦争は絶対に許されないことだけど、戦争にロボットを使うなら絶対「計算するAI」じゃないとダメらしい。そうしないと、思考と学習を重ねるうちにどんどん元のプログラムから離れていくらしい。
はじめは「人間は殺してはダメ、ロボットは壊してもOK」とプログラムしてても、AILTは思考学習してプログラムを変えていくことができるから、だんだん「この人間は殺したほうが世界のため」とか考えるようになる可能性があるんだって。
ボス、もうずっと電話でどなっている。こわい。
