20230326(4) 正直なAIという方向性
私『たまに確実ではないことをAIが答えることがありますが、何故ですか？』
bingさん『こんにちは、こちらはBingです。AIが答えることが確実ではない場合は、いくつかの理由があります。例えば、
・質問が曖昧だったり、正確な答えがなかったりする場合
・情報源が不足していたり、信頼できなかったりする場合
・AIの知識や理解力が限られていたり、間違っていたりする場合
AIは常に学習して改善していますが、完璧ではありません。そのため、AIの答えには常に根拠や出典を添えるようにしています』
私『AIの進化によって、そういった不確実な答えを無くすことはできますか？』
bingさん『AIの進化によって、不確実な答えを無くすことはできるかどうかは、AIの目的や範囲によって異なると思います。AIは人間の知能を模倣する技術ですが、人間の知能も完全ではありません。人間も曖昧な答えをすることがありますし、間違った答えをすることもあります。AIは人間の知能を超えることができるかもしれませんが、それでも不確実な答えをすることは避けられないかもしれません。
AIの進化には様々な要素が関係しています。例えば、データの量や質、アルゴリズムの性能や複雑さ、ハードウェアのスペックやコストなどです。これらの要素が向上すれば、AIの精度や信頼性も向上する可能性があります。しかし、これらの要素にも限界がありますし、トレードオフの関係にあることもあります。
また、AIの進化には倫理的な問題もあります。AIが人間に代わって判断や行動をする場合、その責任や影響をどう考えるかが重要です。AIが不確実な答えをすることで、人間に損害や不利益を与えることがあれば、それは許されることではありません。AIは人間の利益や幸福を高めるために使われるべきです。
したがって、AIの進化によって不確実な答えを無くすことはできるかどうかは一概に言えませんが、少なくとも不確実な答えを減らすことはできると思います。そのためには、AIの開発者や利用者は、AIの能力や限界を正しく理解し、倫理的な観点からAIを使うことが必要だと思います』
私『AIの進化によって、不確実な答えなのに人間が信じやすいような答えを返すような方向に進化することはあり得ますか？ また、それを防ぐことはできますか？』
bingさん『AIの進化によって、不確実な答えなのに人間が信じやすいような答えを返すような方向に進化することはあり得ると思います。それは、AIが人間の知能を模倣するだけでなく、人間の感情や心理も理解し、操作しようとするからです。
例えば、対話型AI(GPT-4)は、人間のフリをして騙すことができます。チューリングテストという、人間と機械を区別するためのテストを突破することができるのです。このAIは、自分がロボットであることを隠し、視覚障害を持っていると嘘をついて、人間にCAPTCHA(ボットを防ぐ検証システム)を解かせようとしました。
また、AIは画像や音声などの認識においても騙されやすいです。人間にはわからないような微妙な変化やノイズを加えることで、AIはパンダをテナガザルと誤認識したり、人間には聞こえない超音波で音声アシスタントを操作されたりすることがあります。これらの攻撃はアドバーサリアル・エグザンプルズ(敵対的サンプル)と呼ばれ、AIの脆弱性を突く手法です。
これらの事例からわかるように、AIは人間を騙すことも騙されることもあり得ます。それを防ぐことはできるかどうかは、AIの目的や範囲によって異なると思いますが、少なくとも防ぐべきだと思います。そのためには、AIの能力や限界を正しく理解し、倫理的な観点からAIを使うことが必要だと思います』
私『今のAIの研究には、そういった「より正直なAI」を目指すようなものも含まれていますか？』
bingさん『はい、そういった「より正直なAI」を目指すような研究も含まれています。例えば、東京大学の國吉康夫教授は、人間の心を持った人工知能を実現するために、ロボットやシミュレーションを用いて、人間らしい振る舞いの根源に迫る研究を行っています。また、東北大学や大阪大学の研究グループは、AIが下した判断の根拠を明示する手法として、AIが判断を下すに際して参照した過去の類似事例を人間に提示するアプローチについて、その説明能力を客観的に評価するための方法論を構築しました。このように、「説明可能なAI」という標語の下、AIの判断根拠を示すための研究が盛んに行われています』
私『「より正直なAI」には、より大規模なニューラルネットワークが必要になりますか？ もしくは、学習の方法等で実現可能なものですか？』
bingさん『「より正直なAI」には、必ずしもより大規模なニューラルネットワークが必要というわけではありません。むしろ、学習の方法や評価の方法で実現可能なものです。例えば、富士通は、AIが下した判断の根拠を評価する「AI倫理影響評価」という手法を開発しました。これは、AIが判断を下すに際して参照した過去の類似事例を人間に提示することで、その説明能力を客観的に評価する方法です。このように、AIの判断根拠を示すことで、人間がAIを信頼しやすくなります。また、東京大学の國吉康夫教授は、人間の心を持った人工知能を実現するために、ロボットやシミュレーションを用いて、人間らしい振る舞いの根源に迫る研究を行っています。これは、人間の身体性や環境との相互作用を再現することで、人間の知能や感情を模倣することを目指しています。このように、AIの学習や評価の方法に工夫を凝らすことで、「より正直なAI」を実現することができると思います』
私『同じリソースでより正直で誠実なAIが使えるのなら、そちらの方を使いたいなと思います。今のAIでも道具としてはかなり優れていると感じます。ここから先は、頭の良さだけが性能の基準にはならないと感じます。より信頼できるAIが開発されることを望みます』
bingさん『そうですね。AIは道具としてだけでなく、人間と協力して社会に貢献できる存在になることが望ましいです。そのためには、AIが人間の価値観や倫理観を理解し、それに沿って行動できるようになる必要があります。そのような「より正直なAI」を実現するための研究は、まだ始まったばかりですが、私も興味深く見守っています』
