同じ会社の、似たようなAIサービスのはずなのに、答え方も、できることも違う—そう感じたことはないでしょうか。
AIサービスの体験は、実は、AIモデルの性能だけで決まっているわけではありません。この記事では、モデルの周りに、具体的にどんな部品が組み合わさっているのかを見ていきます。
モデルは「頭脳」の部分でしかない
AIサービスの中心には、たしかにモデルがあります。文章を読み、次にくる言葉を予測することで、答えを組み立てる部分です。
ただ、モデルはサービスの一部分にすぎません。同じGPTというモデルが、OpenAI自身のChatGPTでも、Microsoftの別のサービスでも使われることがあるように、モデルの周りには、サービスごとに違う部品が組み合わさっています。以下では、その部品を見ていきますが、ここに挙げるものすべてを、どのサービスも備えているわけではありません。何を、どう組み合わせるかは、サービスによって異なります。
システムの指示・コンテキスト・メモリという三つの記憶のしくみ
多くのAIサービスには、私たちに見えないところで、あらかじめ「こう振る舞ってください」という指示が与えられています。丁寧に答える、特定の話題には深入りしない、決まった形式で出力する、といった調整です。同じモデルでも、この指示のかけ方次第で、答え方の印象はかなり変わります。
また、AIサービスは、今回の会話でやり取りした内容を、ある範囲までさかのぼって参照しながら答えています。この、一度に参照できる範囲を「コンテキスト」と呼びます。長い会話を続けていると、途中から前の内容を忘れたように感じることがありますが、これは参照できる範囲を超えてしまったために起きることがあります。
これとは別に、以前の会話で話した内容を、後の会話でも覚えている「メモリ」という機能を持つサービスもあります。コンテキストが「今回の会話の中での記憶」だとすれば、メモリは「会話をまたいだ記憶」です。ChatGPTやGeminiには、こうした形で過去のやり取りを覚えておく機能が備わっています。ただし、すべての会話をいつまでも覚えているわけではなく、どこまで、何を覚えておくかは、サービスごとに設計が異なります。
検索(RAG)と外部ツールで、モデルの外の情報とつながる
モデルは、学習した時点までの情報をもとに答えます。そのため、最新の出来事や、学習データに含まれていない情報については、そのままでは答えられません。これを補うために、質問に応じてweb上の情報を調べ、その内容をもとに答えを作る機能を備えたサービスもあります。専門的には「検索拡張生成(RAG)」と呼ばれるしくみです。
ChatGPTやGemini、Copilotには、こうした形でweb検索を行い、その結果をもとに答える機能が備わっています。検索結果を使わずモデルの知識だけで答える場合と比べて、出典つきで最新の情報を返せるようになる一方、検索にかかる時間の分だけ、答えが返ってくるまで少し待つこともあります。
同じように、モデル自身は、正確な計算や、実際にプログラムを動かすことをあまり得意としていません。そこで、必要に応じて電卓やプログラムの実行環境といった、外部の道具を呼び出し、その結果を確認したうえで答えを作るサービスもあります。
UI・ワークフローの設計と、安全対策・権限管理のしくみ
どんな画面で、どんな手順でやり取りするかという設計も、サービスごとの体験を大きく左右します。一つの質問に一つの答えを返すだけの対話に加えて、複数の作業を順番に自動でこなしていく「エージェント」的な使い方を前面に出したサービスもあります。同じモデルを使っていても、こうした画面や手順の設計によって、得意な作業の種類がまったく違って見えることがあります。
また、不適切な内容を出力しないための対策や、利用状況の監視、誰が何を使えるかを管理するしくみも、モデルの外側に用意されています。とくにMicrosoft 365 Copilotのような企業向けのサービスでは、社内の誰がどの文書にアクセスできるかといった権限管理が、個人向けのチャットサービス以上に重要な役割を持ちます。
こうして見ていくと、AIサービスの体験は、モデルという一つの部品だけでなく、指示、コンテキスト、メモリ、検索、外部の道具、画面の設計、安全対策といった、いくつもの部品の組み合わせで決まっていることが分かります。「モデルの性能」という一つの物差しだけで、サービスの良し悪しを測るのは、実はかなり乱暴な話なのかもしれません。