本記事は、連載「AIの歴史」(全11回)の第1回です。


「機械は考えることができるか。」

この問いは、AIをめぐる議論のなかで、いまも繰り返し姿を変えて現れます。生成AIとの対話がどれほど自然に感じられても、それは「考えている」と言えるのでしょうか。多くの人が一度は抱くこの疑問に、最初に正面から取り組んだのは誰だったのでしょうか。

そのおよそ70年前の答えは、いまの感覚からすると意外なものでした。数学者アラン・チューリングは、1950年に発表した論文「Computing Machinery and Intelligence」で、この問いに答えませんでした。答える代わりに、問いそのものを別の形に置き換えたのです。

「思考」を定義せずに、思考を問う

チューリングは論文の冒頭で、「機械」と「考える」という言葉の意味を厳密に定めようとすると、この問いは水掛け論に終わると述べています。そこで彼が提案したのが、「模倣ゲーム」と呼ばれる思考実験です。

原型となるゲームは、もともと男女の判別を扱うものでした。別室にいる男性Aと女性Bが、質問者Cからの文字だけのやり取りに答え、Cはどちらが男性でどちらが女性かを言い当てようとします。Aは、Cの判定を誤らせる(Aを女性と思わせる)ことを目指します。

チューリングはここで問いを差し替えます。「このゲームでAの役割を機械が務めたら、何が起こるか」。質問者が、相手が人間か機械かを対話だけから判別できなくなったとき、その機械は「考えている」と見なしてよいのではないでしょうか。これが、いまチューリングテストと呼ばれる発想の骨子です。

内面や意識を覗き込むことをあきらめ、外から観察できる振る舞いだけを基準にする。この切り替えによって、チューリングは答えようのない問いを、少なくとも検証可能な問いに置き換えてみせました。

暗号解読者が見ていた計算機の限界と可能性

この提案は、思いつきの発想ではありません。チューリングは1936年の論文で、後に「チューリングマシン」と呼ばれる計算のモデルを示し、何が計算可能で何が計算不可能かという問題に取り組んでいました。第二次世界大戦中はブレッチリー・パークでドイツ軍の暗号エニグマの解読に従事し、戦後は国立物理学研究所やマンチェスター大学で、実際に動く計算機の設計に関わっています。

つまり「Computing Machinery and Intelligence」を書いたチューリングは、計算の理論的な限界と、当時実現しつつあった計算機の実物の両方を知る、数少ない人物でした。哲学的な思考実験でありながら、この論文が机上の空論に留まらないのは、その実務的な土台があったからだと考えられます。

模倣ゲームのルールと、九つの反論

論文の後半でチューリングは、自ら提示した九つの反論に一つずつ答えていきます。「機械に魂は宿らない」という神学的反論、ゲーデルの不完全性定理を根拠にした数学的反論、「機械はソネットを書けても、それは感情から書いたのではない」という意識に基づく反論(当時の脳外科医ジェファーソンの講演を引用しています)、「機械には創造性がなく、命じられたことしかできない」というラブレス伯爵夫人の反論など、内容は多岐にわたります。

いずれの反論に対しても、チューリングは断定的に退けるのではなく、その前提を一つずつ検討し、多くの場合「それは人間についても同じように言えるのではないか」と問い返しています。

論文の終盤では、あらかじめ完成した「考える機械」を作ろうとするのではなく、子どもの脳のような未完成の機械を用意し、それを教育によって育てるという発想にも触れています。これは、後の機械学習という考え方を先取りしたものと見ることができます。

そのうえでチューリングは、西暦2000年頃には、10の9乗ビット(現在の感覚では100メガバイト程度)の記憶容量を持つ機械が模倣ゲームに参加すれば、5分間の質問のあとに判定者の判断を誤らせる確率がおよそ3割に達するだろうと予測しました。

“I believe that in about fifty years’ time it will be possible to programme computers, with a storage capacity of about 109, to make them play the imitation game so well that an average interrogator will not have more than 70 per cent. chance of making the right identification after five minutes of questioning.”

「ふりをする」ことと「理解する」ことの境界線

この模倣ゲームという発想は、その後のAIをめぐる議論に長く影響を与え続けています。

1966年、ジョセフ・ワイゼンバウムが作った対話プログラムELIZAは、単純なパターンマッチングに過ぎなかったにもかかわらず、一部の利用者に「理解されている」という感覚を与えました。1980年には哲学者ジョン・サールが「中国語の部屋」という思考実験を発表し、規則に従って記号を操作するだけでは、たとえ外から見て受け答えが完璧でも、そこに理解は存在しないと論じ、模倣ゲームの発想そのものに異議を唱えています。

現在の大規模言語モデルをめぐる議論にも、同じ構図が繰り返し現れます。流暢な受け答えができることと、意味を理解していることは同じなのでしょうか。近年のAI評価が、単純な会話の自然さではなく、推論や知識を問う体系的なベンチマークを重視するようになった背景にも、「振る舞いだけでは判定として不十分ではないか」という、チューリングの時代から続く緊張があります。

分からないままにしていること

チューリングの功績は、「機械は考えることができるか」という問いに答えを出したことではありません。その問いを、扱いやすい形に置き換える方法を示したことにあります。

裏を返せば、模倣ゲームは「考えている」ことの証明にはなりません。振る舞いが人間と区別できないことと、内側で何が起きているかは、依然として別の問題として残ったままです。チューリング自身も、この置き換えが完全な答えだとは主張していません。70年以上を経たいまも、この境界線をどう引くべきかについて、研究者のあいだで一致した見解はありません。

行動から評価するという発想は、どこかで見た

筆者はサイバーセキュリティと欧州のデジタル関連規制に関わる仕事をしています。その立場でこの論文を読むと、既視感を覚える箇所があります。

セキュリティの世界では、あるシステムが「安全か」を判定するとき、内部の設計思想や開発者の意図を問うのではなく、実際にどう振る舞うか、どのような攻撃に耐えるかという、観察可能な挙動を基準にすることが多くあります。内側を完全に理解できない、あるいは理解する必要がない前提で、外から検証可能な条件に問いを置き換える。これは、模倣ゲームの発想と近いものです。

欧州のAI規制がAIシステムを定義する際にも、内部構造そのものではなく、入力からどのような出力を導くかという機能的な振る舞いを基準にしています。「何であるか」を問うのが難しいものを扱うとき、人は「何をするか」に問いを置き換えます。チューリングが70年前に取った方法は、いまも形を変えて、AIを扱うさまざまな現場で使われ続けているように見えます。

もっとも、これは筆者個人の見立てであり、チューリングの意図をそのまま現代の規制論に重ねられるという主張ではありません。ただ、正面から答えられない問いに出会ったとき、問いの立て方自体を作り替えるという構えは、分野を超えて有効であり続けているのではないかと思います。

それでは、次回の記事でお会いしましょう。

出典・参考文献