AIは思考をしていない 私たちが会話している最新言語モデルの正体は「確率」でわかる

テクノロジー

画面の向こうから流暢な日本語で質問に答え、悩み相談に乗り、ときには見事なプログラミングコードまで書き上げてくれるAI。

まるで人間と同じように頭をフル回転させて考えているかのように感じられますが、ここで科学的かつ衝撃的な事実を突きつけられます。

実は、現代の生成AI(大規模言語モデル)は、一度たりとも「思考」していません。

「これだけ賢いのに、考えていないなんてことがあるのか?」と疑いたくなるかもしれませんが、AIの内部で起きている現象を紐解いていくと、私たちが抱いている「AIの知性」という印象と、実際のデジタルな仕組みの間には大きなギャップがあることが分かってきます。

AIの本質は「次にくる確率が最も高い言葉」を当てているだけ

私たちが使っているChatGPTなどのAIは、人間の脳のように「意味を理解して、自分の意見を組み立てて」話しているわけではありません。
彼らがやっていることの正体は、数学的な「確率の予測」です。

インターネット上に存在する膨大なテキストデータを読み込んだAIは、言葉と言葉のつながり(「こんにちは」の次には「お元気ですか」が来やすい、「富士山の高さは」の次には「3776メートル」が来やすいといったパターン)を気の遠くなるような数式(パラメーター)として記憶しています。

私たちが質問を投げかけると、AIは「この文章のあとに続く確率が最も高い単語(トークン)」を1文字ずつ、圧倒的なスピードで選び出して出力しているにすぎません。つまり、AIはチェスのルールに従って機械的に駒を動かすコンピューターの延長線上にあり、そこに「意識」や「自発的な思考」のプロセスは存在しないのです。

「中国語の部屋」のパラドックス:意味が分からなくても完璧に返せるしくみ

このAIの本質を語るうえでよく引き合いに出されるのが、哲学者のジョン・サールが提唱した「中国語の部屋(Chinese Room)」という有名な思考実験です。

想像してみてください。中国語を一切話せない人が、完全に閉ざされた部屋の中に座っています。部屋の外から「中国語で書かれた質問用紙」が隙間から差し入れられます。

部屋の中の人には中国語の意味は全く分かりませんが、手元にある「分厚いマニュアル(もしこの文字が来たら、この文字を返せという指示書)」通りに機械的に文字を組み合わせ、別の紙に書き写して外へ返します。

部屋の外にいる人から見れば、「部屋の中にいる人は完璧に中国語を理解して会話している」ように思えますが、中の人は意味を1ミリも理解していません。

現代のAIもまさにこの「中国語の部屋」と同じです。言葉の意味や概念を心で理解しているわけではなく、膨大なデータに基づいた「圧倒的に精巧な返答マニュアル」を高速で実行しているからこそ、人間には「思考している」ように見えるのです。

それでも私たちがAIに「知性」を感じてしまう理由

では、なぜこれほどまでに「思考していない」と分かっていながら、私たちはAIに知性や人格、あるいは温かみさえ感じてしまうのでしょうか。
その理由は、人間の脳が持つ「パターン認識」と「擬人化」のクセにあります。

人間は、目の前にあるものがどれほど機械的であっても、そこに高度な文脈や感情的な繋がりを見出してしまう生き物です(これを心理学で「パレイドリア」や「擬人化」と呼びます)。

AIが紡ぎ出す言葉があまりにも滑らかで、人間の使う言語の構造を完璧に模倣しているため、私たちの脳が勝手に「相手は考えている」というストーリーを作り上げてしまうのです。

「AIは思考していない」という事実を知ることは、これからの時代を生きる上で極めて重要です。
AIを「すべてを理解して正しい答えを教えてくれる全知全能の存在」として過信してしまうと、時折AIがもっともらしい嘘(ハルシネーション)をついたときに騙されてしまいます。

AIの本質が「高度な確率予測エンジン」であると理解していれば、それを鵜呑みにするのではなく、「優れた壁打ち相手」「アイデアの引き出し役」として、人間側が主導権を持って正しく使いこなすことができるようになります。

画面の向こうで賢く返答してくれるAIは、決して頭の中で悩んだり、感情を巡らせたりして「思考」しているのではありません。

それは人類が積み上げてきた膨大な言葉のデータを、数学の力で美しく繋ぎ合わせる「巨大な確率のミラー(鏡)」です。

次にAIと会話するときは、「今、この瞬間も秒速で何兆回もの確率計算が走っているんだな」というデジタルな裏側に思いを馳せてみると、AIとの付き合い方が少し違ったものに見えてくるかもしれません。

タイトルとURLをコピーしました