2019年3月13日、AI研究者のリチャード・サットン（Richard Sutton）は、「The Bitter Lesson」と題する短い文章を公開しました。わずか2ページほどの文章です。しかし、そこで語られているのは、サットンがAI研究の約70年の歴史から読み取った、非常に大きなパターンです。
その「苦い教訓（Bitter Lesson）」を一言で表すなら、「AI開発においては、人間の知識をAIに作り込む方法より、より多くの計算資源を活用する方法の方が、長期的には大きな成果を上げてきた」というものです。
この文章が書かれたのは2019年。ChatGPTが登場するよりも3年以上前です。それから大規模言語モデルが急速に発展した現在、「The Bitter Lesson」を読み返すと、その主張は一段と興味深く見えてきます。ただし、後世から見て「サットンは生成AIの未来を予言していた」と単純化するのも適切ではないでしょう。
まずは、サットンが実際に何を主張したのか。その内容から読んでいきます。
サットンのいう「苦い教訓」とは何か
ここからしばらくは、筆者自身の評価ではなく、『The Bitter Lesson』でサットンが提示している議論を整理します。
サットンは文章の冒頭で、AI研究70年の歴史から読み取れる最大の教訓として、計算資源を活用する汎用的な手法の強さを挙げます。しかも彼は、それが僅差の勝利ではなく、大きな差をつけた勝利だったと書いています。
“general methods that leverage computation are ultimately the most effective”
Rich Sutton, “The Bitter Lesson”, 2019
（計算を活用する汎用的な手法が、最終的には最も効果的である）
その背景として彼が指摘するのが、計算コストの長期的な低下です。ムーアの法則に代表されるように、同じ金額で買える計算能力は、指数関数的に増え続けてきました。サットンの議論は、この「計算が安くなり続ける」という前提の上に立っています。
ここからサットンは、研究者が置かれている状況を、短期と長期に分けて説明します。
ある研究プロジェクトだけを見れば、利用できるコンピューターの能力はほぼ一定に見えます。その条件で性能を高めようとすれば、人間が持っている専門知識をシステムに組み込むのは、唯一といってよいほど合理的な選択です。しかもそれは、論文の締め切りまでに成果が出る。
しかし、より長い時間軸で見ると事情が変わります。
コンピューターで利用できる計算能力は大幅に増えていく。すると、特定の領域について人間が考えた知識を作り込んだ手法よりも、増えた計算能力そのものを利用して性能を伸ばせる方法の方が有利になっていく。
これがサットンの議論の出発点です。
重要なのは、サットンが「人間の知識を使うこと」と「計算を使うこと」は論理的に両立しない、と言っているわけではないことです。
彼自身、この二つは必ずしも対立する必要はないとしています。
ただ実際の研究では、限られた時間をどこに費やすかという問題があります。さらにサットンが指摘するのは、人間の知識を精巧に作り込むほど、手法そのものが複雑になり、計算量を投入して伸ばすやり方になじまない形へ固まってしまうという点です。人間の知識は、多くの場合、単に効果がないのではなく、スケールする方法への乗り換えを難しくする方向に働く。そこに緊張関係がある、というのがサットンの見方です。
では、本当にそのようなことがAI研究で繰り返されてきたのでしょうか。
サットンは、いくつかの歴史を例に挙げます。
The Bitter Lessonで語られている歴史
チェス
最初の例がコンピューターチェスです。
1997年、IBMのDeep Blueは当時の世界王者ガルリ・カスパロフを破りました。サットンがここで注目するのは、Deep Blueが巨大な探索能力を利用したことです。
それ以前には、人間のチェス理解をコンピューターに反映し、より賢く局面を理解させようとする研究が行われていました。しかし実際に世界王者を破ったシステムでは、大量の局面を高速に調べる探索が大きな力を発揮しました。IBMによれば、Deep Blueは毎秒2億局面を評価できました。
サットンが「苦い」という言葉を選んだ理由は、このときの研究者たちの反応に表れています。人間のチェス理解に賭けていた研究者たちは、敗北を素直な敗北としては受け取りませんでした。
「大量探索による勝利は力任せの例外であって、人間がチェスを指すやり方とは違う。だから本当の意味で知能に近づいたわけではない。」
そんな受け止め方が語られたのです。
サットンは、この「負けたが、これは本質ではない」という反応そのものを、繰り返し現れるパターンとして記録しています。
囲碁
次にサットンが取り上げるのが囲碁です。
囲碁はチェスより探索空間がはるかに大きく、単純に大量の手を読む方法だけでは難しいと長く考えられていました。
ここでも当初は、囲碁というゲームについて人間が持っている知識を利用して、探索しなければならない範囲を減らそうとする研究が行われました。
サットンによれば、そうした努力は成果を上げなかったどころか、大規模な探索が有効に使えるようになった段階ではむしろ足かせになったといいます。チェスのときと同じ構図が、20年ほど遅れて囲碁で反復された、というのが彼の整理です。
そしてサットンは、その後の進歩を決定づけたものとして、探索と学習を挙げます。特に、自分自身との対局から学習するself-playを重要視しています。
その象徴がAlphaGoです。
2016年に発表されたAlphaGoは、深層ニューラルネットワークと木探索を組み合わせ、さらに人間の棋譜からの学習と自己対局による強化学習を利用していました。さらに2017年のAlphaGo Zeroでは、人間の棋譜を学習に使わず、ゲームのルールから自己対局を重ねることで、従来のAlphaGoを上回る性能に到達しました。
サットンは、search（探索）とlearning（学習）こそ、大量の計算を利用するための特に重要な二つの方法だと位置づけています。この二つは、扱う問題が難しくなっても、投入できる計算が増えた分だけ性能を伸ばし続けられる。だから彼はこれを、単なる手法ではなく「計算にスケールする」性質を持った例外的な二本柱として扱います。
音声認識
サットンが挙げる三つ目の例が音声認識です。
彼は1970年代のDARPA（アメリカ国防総省の国防高等研究計画局）による音声認識研究を取り上げています。一方には、単語、音素、人間の発声器官などについての知識を利用するシステムがありました。もう一方には、Hidden Markov Model（HMM）などを使った、より統計的で計算量の大きい方法がありました。
もちろん、勝ったのは統計的手法の側でした。そしてここでも、研究コミュニティはその結果をすぐには受け入れませんでした。人間の言語知識を使わない手法が勝つという事実は、当時の常識に反していたからです。
しかし、その後は数十年をかけて、自然言語処理の分野全体が統計と計算の側へ移っていきます。サットンは、その到達点として深層学習による音声認識を位置づけ、これを一貫した方向の、ごく最近の一歩にすぎないと表現しています。
画像認識
サットンは、画像認識についても同じパターンを見ています。
かつての画像認識では、図形の特徴を人間が考えて利用するアプローチが大きな役割を持っていました。サットンは、こうした発想が今日ではすべて捨て去られた、とかなり強い言い方をしています。
もっとも、ここでも「人間が何も設計していない」という意味ではありません。サットン自身も、現代のニューラルネットワークに畳み込みや一定の不変性といった考え方が組み込まれていることを認めています。
重要なのはゼロか100かではなく、問題について人間が細かな特徴を指定する部分を減らし、学習そのものに任せる範囲が広がってきたという方向性でしょう。
なぜ「Bitter＝苦い」のか
ここまでの例を踏まえ、サットンは「苦い教訓」を四つの段階に整理しています。
- AI研究者は、人間が持っている知識をシステムに組み込もうとする
- それは短期的には性能を改善し、研究者自身にも満足をもたらす
- しかし長期的には伸びが止まり、ときにはその後の進歩を妨げる
- 最終的には、探索や学習によって計算量をスケールさせる別のアプローチから大きな進歩が生まれる
というパターンです。
では、なぜこれが「苦い」のでしょうか。
人間の研究者にとって、自分が長年かけて理解した知識をシステムに与えることは魅力的です。チェスならチェスの知識、言語なら言語の知識、視覚なら視覚についての知識。「知能とはこのように働いているはずだ」と理解し、その知識をコードとして表現する。それこそが知能を作ることだと考えるのは自然です。
ところが歴史上、その精巧な知識よりも、巨大な計算によって探索し、学習する方法が勝ってしまう。
そしてサットンが強調するのは、この教訓が一度学べば済むものではない、という点です。同じ失敗が、チェスで、囲碁で、音声認識で、画像認識で、分野を変えながら何度も繰り返されてきた。教訓が苦いのは、敗北が痛いからというより、同じ敗北を何度も繰り返してしまうからだ、というのがサットンの見立てです。
本当に重要なのは「計算量を増やせ」だけではない
『The Bitter Lesson』の終盤で、サットンは「この歴史から学ぶべきことは二つある」と述べます。
一つ目は、「計算量が増加するにつれてスケールし続ける汎用的な手法（特に「探索」と「学習」）は、非常に強力である」ということ。
二つ目は、「人間の心や世界は極めて複雑であるため、人間の知識や考え方を直接システムに組み込むべきではない」ということ、です。この二つ目については、「システム自らがその複雑さを発見し捉えることができるメタ手法のみを組み込むべきである」とも提案しています。
サットンは、人間の心が扱っている内容そのものが、途方もなく複雑なのではないかと考えます。しかもその複雑さは、いずれ整理されて単純になるようなものではなく、救いようがないほど複雑なのだ、と。
空間、物体、他者、対称性など、世界について人間が発見してきた概念を一つずつAIに書き込もうとしても、現実世界の複雑さには終わりがありません。そして、それらを「心の中身を説明する単純な法則」として定式化しようとする試みは、そもそも筋が悪い。
だからAIに組み込むべきなのは、人間がすでに発見した個々の知識そのものではなく、複雑な世界の中から有用なものを発見できる方法（メタ手法）なのだ、とサットンは論じます。任意の複雑さを捉えられる仕組みさえ作れば、中身は機械が見つけてくればよい。
これは『The Bitter Lesson』を「とにかく計算量を増やせ」という文章として読むだけでは見落としてしまう部分です。
彼が最終的に求めているのは、人間の発見を保存した機械ではありません。
自ら発見できる機械です。
私たちが発見したものを内蔵しているAIではなく、私たちと同じように発見できるAIを作るべきだ。文章の結びで、サットンはそう書いています。
ここまでが、筆者なりに整理した『The Bitter Lesson』の中心的な内容です。
原文は英語で2ページ弱、サットン自身のサイトで無料公開されています。本稿で骨格はつかめるはずですが、彼の断定的な筆致そのものは短い要約では再現しきれないので、興味を持った方はぜひ原文にあたってみてください。
生成AIの時代は「Bitter Lesson」の続きなのか
ここからは、サットン自身が『The Bitter Lesson』で述べた内容ではなく、2019年以降のAIの発展を踏まえた筆者の考察です。
現在から読み返すと、『The Bitter Lesson』は大規模言語モデルの発展と強く響き合って見えます。現在のLLMは、人間が文法や常識、翻訳や要約のルールを一つずつプログラムしたものではありません。大量のデータと計算資源を使った学習によって、ひとつの汎用的なモデルが多様な能力を獲得しています。2020年には言語モデルの性能とモデルサイズ・データ量・計算量の関係を示すスケーリング則が報告され、その後も大規模な計算を有効に使う方向でAIは発展してきました。
その意味では、2019年以降にもサットンが指摘した歴史的パターンが繰り返された、と見ることはできそうです。ただし、「サットンが生成AIを予言した」とまで言うのは適切ではないでしょう。現在のAIの発展には、計算量だけでなく、Transformerのようなアーキテクチャ、データ、学習手法など多くの要素が関わっています。『The Bitter Lesson』は未来予測というより、AIの歴史を読み解くための一つの強力な視点として捉えるのがよさそうです。
また、この文章は「人間の知識は不要だ」と主張しているわけでもありません。現在のAIも、アーキテクチャや学習方法そのものは人間が設計しています。問題は、人間の知識を入れるか入れないかではなく、人間がどこまで答えを作り込み、どこから先を機械自身の探索や学習に委ねるのかという境界にあります。
そう考えると、『The Bitter Lesson』の核心は「とにかく計算量を増やせ」ということよりも、人間が発見した答えを機械に教えるのではなく、機械自身が答えを発見できる仕組みを作れという点にあるように思います。
2019年にサットンが振り返ったAI研究の歴史は、その後も続いています。いま私たちが当たり前だと思っているAIの設計も、将来振り返れば、また新しい「苦い教訓」の一部になっているのかもしれません。
参考文献
- Rich Sutton, “The Bitter Lesson”, 2019
原文：http://www.incompleteideas.net/IncIdeas/BitterLesson.html
PDF版：https://www.cs.utexas.edu/~eunsol/courses/data/bitter_lesson.pdf