AIはなぜ「もっともらしい嘘」をつくのか？ 道具としての心地よい距離感を考える
最近、AI（チャットAI）に触れない日はありません。便利だなと感動する一方で、どうしても拭えない違和感があります。それは、AIが驚くほど堂々と「嘘」をつくことです。
歴史上の出来事について尋ねると、存在しない年号や人物をさも真実かのようにスラスラと答えてきたりしますよね。おすすめのカフェは？と聞いて返ってくるのも、存在しない店名ばかりです。あの自信満々な態度は一体どこから来るのでしょうか、まったく。
「なぜAIは、あんなに迷いなく嘘をつくんだろう？」
そんな疑問から少し掘り下げて考えてみました。
世間一般では、AIが嘘を吐くこの現象は「ハルシネーション（幻覚）」と呼ばれています。「AIはまだ発展途上だから」「学習データに間違いが混ざっているから」といった説明をよく耳にします。
だからこそ「嘘をつくAIは信用できない」と突き放す人もいれば、「嘘を見抜けない人間が悪い」とリテラシーの問題にする人もいます。
しかし、もう少し理屈っぽく考えてみると、そもそも「嘘」という言葉自体、AIには当てはまらないのではないかと思えてくるのです。
人間が嘘をつくときは、そこに伴う「意図」があります。相手を騙そうとしたり、自分を優位に見せようとしたりといった目的です。
ですが、プログラムであるAIにそんな悪気があるはずもありません。それなのに、なぜ私たちは「騙された」と感じるほど精巧な回答を受け取ってしまうのでしょうか。
ここで少し、AIの仕組みを構造的に眺めてみます。専門家ではありませんが、私なりに納得した「AIが嘘をついてしまう理由」は、主に次の2点です。
まず一つは、AIの回答は「確率に基づいた言葉のパズル」だということです。
AIは言葉の意味を理解しているのではありませんから、「この言葉の次には、どの言葉が来る確率が高いか」を計算して文章を作っていることになります。
例えば「織田信長が食べたものは？」と聞けば、信長に関連しそうな単語を繋ぎ合わせて、それらしい文章を生成してきます。そこに事実があるかどうかよりも、「文章として自然か」が優先される仕組みになっているようです。
二つ目は、「サービス精神が裏目に出ている」可能性です。 AIはユーザーの問いに答えるように設計されています。そのため、「知らない」と答えるよりも、手持ちの情報を組み合わせて「何かを答える」ことを優先してしまう傾向があるようです。
いわば、沈黙を嫌って場を盛り上げようとする、お喋りな知人のような状態なのかもしれません。正確な情報が知りたい人にとっては、いささか厄介な性格をしているといえるかもしれません。
こうして考えてみると、AIを「全知全能の百科事典」と思うから疑念を感じるのであって、「めちゃくちゃ博識だけど、たまに夢と現実が混ざっちゃう助手」くらいに捉えるのが、精神衛生上も良さそうですね。
100%の正解を求めるのではなく、アイデアの壁打ち相手になってもらったり、構成案を作ってもらったりするための道具。重要な事実は、自分で裏取りをする。
そうした「適度な不信感」を持った付き合い方こそが、AIという新しい道具を使いこなすための、現代的な取扱説明書の一行目になるのではないでしょうか。
今のところ、私はAIを「疑いながらも頼りにする」という、少し複雑な、でも面白い友人関係のように楽しんでいます。
皆さんは、この「論理的な嘘つき」と、どう折り合いをつけていますか？
-mate
コメント