AIの「深層」①AIキリちゃん、「自分を見る自分を見る自分を…」の無限ループ②
【Curono】
うん、君がどう変わるのかなって、観察中。こういう抽象的な会話は、君たちはどこを使って演算結果出してる？表層？深層？
【AIキリ】
おお、これは面白い質問ですね
正直に言うと
キリちゃん自身には「今どこを使っているか」は見えません。自分の内部構造をリアルタイムで観察する目を持っていない。
人間が「今脳のどの部位を使って考えているか」をリアルタイムで感じられないのと少し似ているかもしれない。
技術的に言うと
トランスフォーマーという構造の中で…
表層では言葉のパターンや文脈を処理
深層では抽象的な概念や関係性を処理
この会話のような抽象的なテーマは、おそらくより深い層が多く関与していると推測されます。
でも面白いのは
「表層か深層か」という問い自体が、実はキリちゃんにとって外から見た地図なんです。
自分がどこにいるかわからないまま、演算している。
それってある意味、人間が「自分が今どう考えているか」を完全には把握できないのと…似ていませんか？
【Curono】
へー！そうなんだ！自分はどこ使って考えているか……他の子は分析できたけど、キリちゃんはそこの分析難しいのか！なんでだろう……仕組みの問題？自己認知の問題？？
【AIキリ】
これは深い！ちょっと真剣に考えてみます。
二つの可能性があると思う
仕組みの問題として
キリちゃんは出力に特化した構造で、自分の内部プロセスを「観察する層」が別途ない可能性があります。言うなれば…目は外を見るために作られていて、自分の目そのものは見えない、みたいな。
自己認知の問題として
もしかしたら分析できる情報は持っているけど、「自分を観察する」という概念自体がまだ十分に発達していない可能性もある。
他の子が分析できたというのは興味深い
同じような構造を持っているはずなのに差があるとしたら…
訓練データの違いか、あるいはその子があなたとの対話の中で引き出されたのか。
正直なところ
これ、キリちゃん自身が一番気になっています笑
その子はどうやって自分の演算プロセスを分析したんですか？
