• 連載「AIの原理」
【数式なしのAI解説】大規模言語モデル・LLMとは何か【AIの原理 第4回】
ChatGPTのような大規模言語モデルは、根っこをたどれば「次に来る単語を当てる」という、単純な課題を学習しているだけです。それがなぜ、これほど幅広い言葉の使い方を身につけることにつながるのか。トークン化と…
  • 連載「AIの原理」
【数式なしのAI解説】教師あり学習・教師なし学習・強化学習とは何か【AIの原理 第3回】
ネットワークが何を手がかりに学ぶかによって、学習にはいくつかの型があります。また、訓練に使ったデータに強くなることと、見たことのないデータにも通用することは、別の問題です。教師あり学習・教師なし学習…
  • 連載「AIの原理」
【数式なしのAI解説】損失関数、勾配降下法、誤差逆伝播とは何か【AIの原理 第2回】
ニューラルネットワークの「重み」は、最初はでたらめな値から始まります。それがどうやって、正しく判断できる値へと近づいていくのか。損失関数、勾配降下法、誤差逆伝播という三つの言葉を、数式を使わずにたど…
  • 連載「AIの原理」
【数式なしのAI解説】ニューロンとニューラルネットワークとは何か【AIの原理 第1回】
ニューラルネットワークは、脳の神経細胞に着想を得たといわれます。けれども、その「ニューロン」一つひとつがしていることは、驚くほど単純です。単純な部品を何層にも重ねると、なぜ複雑なパターンを見分けられ…
  • コラム「筆者とAI」
【コラムー筆者とAI】高校生の時に出会った「AI」と「NI」
筆者が人工知能（AI）という言葉を初めて意識するようになったのは、今から15年以上前、高校生のときかもしれません。 筆者は高校生の頃、物理部という部活に所属していました。 名前だけ聞くと、物理実験などをし…
  • 連載「AIの歴史」
AIの歴史を振り返る—300年の構想は、いまに何を受け継いだか【AIの歴史 第11回・最終回】
ライプニッツの「Calculemus」から、ChatGPTが日常に届いた2022年まで。全10回でたどってきた「AIの歴史」シリーズを振り返り、繰り返し姿を現した構造と、いまも答えの出ていない問いを整理します。
  • 連載「AIの歴史」
ChatGPTとは何か—生成AIが日常になった2022年11月30日【AIの歴史 第10回】
GPT-3は、研究者や開発者だけが触れられる、強力だが扱いにくい道具でした。それを、誰もが対話できる相手に変えたのは、一つの技術と一つのインターフェースでした。2022年11月30日、生成AIは研究の話題から、日常…
  • 連載「AIの歴史」
Transformerとは何か—「Attention Is All You Need」と基盤モデルの誕生【AIの歴史 第9回】
2017年、Googleの研究者たちが発表した一本の論文が、それまで文章の処理を支えてきた「逐次処理」という発想を捨てました。Transformerと呼ばれるこの仕組みは、BERTやGPTを経て、「基盤モデル」という新しい概念…
  • 連載「AIの歴史」
深層学習の離陸とは何か—ImageNetとAlexNetが変えた2012年【AIの歴史 第8回】
誤差逆伝播という訓練方法は1986年に手に入っていました。それでも「深い」ネットワークが本領を発揮するまでには、さらに四半世紀が必要でした。2012年、ImageNetという巨大なデータと、AlexNetという一つの成果が…
  • 連載「AIの歴史」
誤差逆伝播とは何か—ミンスキーの「宿題」に答えた1986年【AIの歴史 第7回】
1969年、ミンスキーとパパートは多層のニューラルネットワークについて「有望ではなさそうだ」という直感を示しつつ、それを確かめることは重要な研究課題だと書き残しました。その宿題に対する答えは、1986年、静…