本記事は、連載「AIの歴史」(全11回)の第10回です。

前回の記事はこちら

前回、2020年のGPT-3が、桁違いの規模によって、特別な追加訓練なしに新しい課題をこなす能力を示したことを取り上げました。しかし、GPT-3が世に出てから2年ほどのあいだ、生成AIは、まだ研究者や開発者の話題にとどまっていました。それを、多くの人が日常的に使う道具に変えた出来事から、今回は始めます。

目次 [ close ]
  1. 「賢い」ことと「使える」ことの違い
  2. RLHFという橋渡し
  3. 2022年11月30日
  4. なぜ「これ」だったのか
  5. その後の急速な広がり
  6. 1956年の推測が、いま日常に届いている
  7. 何が重要で、何がまだ分からないのか
  8. 対話という回路が、開いたもの
  9. 出典・参考文献

「賢い」ことと「使える」ことの違い

GPT-3は、与えられた文章の続きを、統計的にもっともらしい形で生成するように訓練されたモデルでした。これは、質問に的確に答えたり、指示に従ったりすることとは、微妙に、しかし決定的に異なります。指示文に対して、期待どおりの受け答えをするとは限らず、不適切な内容や、文脈から外れた続きを生成してしまうことも珍しくありませんでした。利用するにも、プログラムを書いてAPIを呼び出す必要があり、実際に触れられるのは、限られた技術者だけでした。

RLHFという橋渡し

2022年、OpenAIは「InstructGPT」という論文を発表します。ここで採用されたのが、人間の評価をもとにモデルを調整する「人間のフィードバックからの強化学習(RLHF)」という手法でした。人間の評価者が、モデルの出力に順位をつけ、その評価をもとに「報酬モデル」を訓練し、さらにその報酬モデルを使って、もとの言語モデルを、より役に立ち、より正直で、より安全な応答を返す方向に調整していきます。

論文では、わずか13億パラメータのInstructGPTの出力が、それよりはるかに大きい1750億パラメータのGPT-3の出力よりも、人間の評価者に好まれたと報告されています。規模だけでなく、人間の意図にどれだけ沿っているかが、実際の使い心地を大きく左右することを、この結果は示していました。

2022年11月30日

このInstructGPTの技術を土台に、対話に特化した調整を加えたモデルとして、2022年11月30日、OpenAIは「ChatGPT」を無料の研究プレビューとして公開します。OpenAI自身の発表によれば、ChatGPTはInstructGPTの「兄弟モデル」であり、対話形式によって、追加の質問に答えたり、誤りを認めたり、誤った前提に異議を唱えたりできるとされていました。

反応は、それまでのどの生成AIとも違うものでした。公開から5日で100万人が登録し、翌年1月には、月間アクティブ利用者数がおよそ1億人に達したと、UBSの分析は報じています(Similarwebのデータに基づく)。同じ規模に達するまでに、TikTokはおよそ9か月、Instagramは2年半を要したとされ、消費者向けインターネットサービスとして記録的な速さだったと評価されました。

なぜ「これ」だったのか

GPT-3の能力自体は、2020年の時点ですでに世に出ていました。それにもかかわらず、生成AIが一般に広く知られる存在になったのは、2022年11月のことでした。

技術的な力そのものよりも、無料で、ブラウザを開くだけで対話できるという間口の広さと、RLHFによって「対話相手として自然に振る舞う」ように調整されていたことが、この違いを生んだように見えます。強力であることと、誰もが使えることは、別の課題であり、両方がそろって初めて、社会に広く行き渡る技術になる。前回・前々回で見てきた「複数の要素が重なって初めて飛躍が起きる」というパターンが、ここでも繰り返されています。

その後の急速な広がり

ChatGPTの公開以降、この分野は急速に多様化していきます。2023年には、画像も扱えるようになったGPT-4が登場し、Google、Anthropic、Metaをはじめとする各社が、独自の大規模言語モデルを相次いで発表しました。重みを公開する「オープンモデル」の流れも広がり、2024年以降は、より深く「考える」ことに重点を置いた推論モデルや、自律的に作業を進めるAIエージェントへと、関心の中心が移りつつあります。

これらの最新の動きは、本シリーズが今後扱う「AIの現在地」というカテゴリーで、あらためて取り上げていきます。

1956年の推測が、いま日常に届いている

連載第2回で紹介した、1956年のダートマス会議の提案書は、「知能のあらゆる特徴は、原理的に精密に記述できる」という推測から出発していました。その推測を確かめる作業は、記号主義とコネクショニズムという二つの道筋、二度のAIの冬、そして規模の急速な拡大を経て、いま、日常的に人と対話するChatGPTのような存在にたどり着いています。

連載第1回で紹介したチューリングの模倣ゲームも、思考実験としてではなく、毎日何億人もの人が実際に行う経験として、いま初めて現実のものになったといえます。

何が重要で、何がまだ分からないのか

ChatGPTが多くの人にとって役立つ道具になったことは事実です。しかし、それは連載を通じて繰り返し触れてきた問いー流暢な受け答えと、実際の理解は同じなのか、規模の拡大はどこまで有効なのかーに、答えを出したことを意味しません。むしろ、これらの問いに触れる人の数が、この一つの出来事によって、一気に何億人という規模に広がったというべきでしょう。

対話という回路が、開いたもの

筆者がバイブコーディングによって「知性の来歴」を始めるに至った経緯は、立ち上げの記事で触れたとおりです。いま振り返ると、その経験を可能にしたのは、AIの能力そのものだけではなく、対話するだけでその能力に触れられるという回路だったと思います。

GPT-3がどれほど高性能であっても、それがプログラムを書ける人だけの道具にとどまっていたなら、非エンジニアである筆者には縁のない技術のままだったはずです。ChatGPTが切り拓いたのは、能力の中身そのものというより、その能力に「誰でも対話するだけでアクセスできる」という間口でした。この記事を書きながら使っている対話型のツールも、突き詰めれば、この2022年11月の出来事の延長線上にあります。技術の歴史をたどることは、いま自分が使っている道具の来歴をたどることでもあるのだと、あらためて感じます。

出典・参考文献