本記事は、連載「AIの原理」(全11回)の第10回です。

前回の記事はこちら


AI企業の経営者や研究者の発言を追っていると、「AGI」「ASI」「シンギュラリティ」という言葉に、ほぼ必ず出会います。「数年以内にAGIが実現する」「ASIは人類にとって最大の課題だ」といった発言も珍しくありません。しかし、これらの言葉が指している中身は、発言する人によって、かなり違っているように見えます。今回は、この三つの言葉を、特定の立場に肩入れせずに整理します。

AGI・ASI・シンギュラリティとは何か

AGI(汎用人工知能)は、特定の課題だけに秀でているのではなく、人間が行うような幅広い知的作業を、広く柔軟にこなせるAIを指す言葉です。ASI(超知能)は、そこからさらに進んで、あらゆる、あるいはほとんどの領域で、人間の能力をはっきりと上回るAIを指します。そしてシンギュラリティ(技術的特異点)は、こうした知能の急速な向上が、ある時点から先、人間には予測も制御もできないほどの速さで進んでいくという考え方、あるいはその転換点そのものを指す言葉です。

大まかにはこの三つの輪郭で説明できますが、問題は、それぞれの言葉の「境界線」をどこに引くかについて、共通の合意がないことです。

AGIの定義はなぜ曖昧なのか

AGIという言葉が扱いにくいのは、「幅広く」「柔軟に」といった形容が、具体的にどこまでを満たせば達成と言えるのか、人によって、あるいは組織によって、線の引き方が違うためです。

2023年、Google DeepMindの研究者らが発表した論文は、この問題に正面から取り組みました。論文は、これまでAGIをめぐる議論で使われてきた定義の仕方が、大きく分かれていることを整理しています。ある定義は、人間ができる経済的に価値のある仕事の多くをこなせるかどうかという、実務上の基準に着目します。別の定義は、特定の課題への強さではなく、どれだけ幅広い種類の課題に対応できるかという、汎用性の広さに着目します。さらに別の定義は、人間の認知能力そのものにどれだけ近いか、あるいはそれを上回るかに着目します。この論文自体は、性能の「深さ」と汎用性の「広さ」という二つの軸を組み合わせ、達成度を段階的に測る枠組みを提案していますが、そうした枠組みが新たに必要になること自体が、これまで単一の合意された定義が存在しなかったことを物語っています。

つまり、「AGIが実現した」「AGIまであと数年」という発言を聞いたとき、その発言者が、経済的な有用性を基準にしているのか、課題の幅広さを基準にしているのか、人間の認知能力との近さを基準にしているのかによって、同じ言葉が指している中身は、実はかなり違う可能性があります。

知能爆発と再帰的自己改善(RSI)

ASI、そしてシンギュラリティという発想の起源は、AIという分野がまだ若かった1965年にまで遡ります。統計学者アーヴィング・ジョン・グッドは、「最初の超知能機械に関する考察」と題した論文で、「超知能機械」を、どれほど賢い人間の知的活動も、はるかに凌駕できる機械と定義しました。

グッドの議論の核心は、次の一点にあります。機械の設計自体も知的活動の一つである以上、超知能機械は、自分自身よりもさらに優れた機械を設計できるはずだ。だとすれば、そこには疑いようもなく「知能爆発」が起こり、人間の知能ははるかに置き去りにされるだろう。グッドはそう論じ、最初の超知能機械は、人間が行う必要のある最後の発明になるとまで述べています。この、AIが自分自身の性能を再帰的に高めていくという発想は、今日「再帰的自己改善(RSI)」と呼ばれています。ASIという概念、そしてこのあと見るシンギュラリティという考え方は、いずれもこの「知能爆発」というアイデアを源流の一つとしています。

シンギュラリティ—技術的特異点

「シンギュラリティ」という言葉を、いまの意味で広く知らしめたのは、数学者ヴァーナー・ヴィンジが1993年に発表した「来たるべき技術的特異点」という論文です。

ヴィンジは、人工知能、コンピュータネットワーク、人間とコンピュータの融合、あるいは生物学的な能力の向上など、いずれかの道筋を通じて、30年以内に人間を超える知能が生み出される可能性が高いと論じました。そして、いったん人間を超える知能が生まれれば、その知能自身が、さらに知的な存在を生み出す「進歩」に関わるようになる。これは、グッドが指摘した知能爆発と同じ構造です。ヴィンジは、この転換点を境に、人類の歴史はそれ以前の延長線上では捉えられなくなると論じ、この転換点を、数学や物理学で使われる「特異点」という言葉を借りて、技術的特異点と呼びました。数式やモデルが、ある地点を境に意味をなさなくなるように、人間の予測や制御が、この転換点を境に効かなくなる、というたとえです。

AGI論争がいまも続く理由

ここまで見てきた三つの言葉は、いずれも数十年前から存在する古い発想を土台にしていますが、いまも活発に論じられ続けています。その理由の一つは、AGIをめぐる定義の曖昧さがそのまま残っているためです。AGIの定義が定まらなければ、その先にあるASIや、その先に想定されるシンギュラリティが、どれくらい近いのか、あるいは現実味があるのかについても、当然、見方が分かれることになります。

規模の拡大がどこまで有効かという第7回のスケーリング則の議論、世界のモデルが必要かどうかという前回のワールドモデルの議論、そして推論モデルが「考える力」をどこまで伸ばせるかという第8回の議論は、いずれも、この「AGIやASIにどれだけ近づいているのか」という問いに対する、異なる角度からの材料になっています。

AGIはいつ実現するのか

AGI、ASI、シンギュラリティという言葉が指し示そうとしている現象そのもの—幅広い知的作業をこなす機械、人間を超える知能、制御や予測が困難になるほどの急速な変化—は、多くの研究者や経営者にとって、真剣に検討する価値のある問いだと考えられています。

しかし、それぞれの言葉の境界線をどこに引くべきかについては、一致した見解がありません。AGIがいつ実現するか、あるいはすでに実現しているかという問いに、明確な答えを出せないのは、知的な限界というより、そもそも何をもってAGIとするかの合意がないことに、大きな原因があります。知能爆発やシンギュラリティという考え方についても、それが現実に起こりうる具体的な道筋だと見る研究者もいれば、実現には数多くの現実的な障壁があり、単純な速度の議論では捉えきれないと見る研究者もいます。

次回、連載最終回では、AIエージェントとマルチモーダルAIという、現在進行形で広がりつつある応用の姿を取り上げます。

出典・参考文献