ChatGPTやClaude、Geminiは、インターネットの向こうにあるサーバーで動いているモデルを、ブラウザやアプリを通じて使っています。ところがAIモデルには、こうしたクラウド経由ではなく、自分のパソコンの中だけで動かすという使い方もあります。「ローカルLLM」と呼ばれるものです。名前を聞いたことがない人も多いかもしれませんが、この記事では、これが具体的に何をしていることなのかを見ていきます。
「ローカル」は、モデルの種類ではなく実行場所の話
ローカルLLMというと、何か特別な種類のモデルを指しているように聞こえますが、そうではありません。ローカルとは、モデルをどこで動かすか、という実行場所の話です。
ChatGPTやClaude、Geminiのようなクラウド型のサービスでは、モデルは、各社が管理する大きなコンピュータの上で動いています。私たちは、そこに向けて質問を送り、返ってきた答えを受け取っているだけです。一方ローカルLLMは、モデルを、自分の手元にあるパソコンの中で、直接動かすという選択肢です。実際、ローカル実行のためのアプリとして知られるOllamaも、モデルによってはクラウド上で動かす選択肢を用意しています。ローカルかどうかは、アプリの種類そのものではなく、実行のさせ方によって決まるのです。
Ollama・LM Studioが担う、推論エンジンと操作アプリの役割
自分のパソコンでモデルを動かすには、三つの部品が必要です。一つは、モデルのデータそのもの。もう一つは、そのデータを実際に計算して動かす「推論エンジン」と呼ばれるしくみ。そして、それを人が使いやすい形で操作するためのアプリです。
OllamaやLM Studioは、あまり聞いたことがないという方も多いかもしれませんが、この推論エンジンと操作用アプリの役割を担っているソフトです。たとえばLM Studioは、llama.cppやMLXといった推論エンジンを内部で使いながら、利用者に対しては、チャット画面のような分かりやすい形でモデルを操作できるようにしています。モデルのデータ自体は、これらのアプリとは別に、LlamaやGemma、Qwenといった、公開されているものをダウンロードして使います。料理にたとえるなら、モデルが食材、推論エンジンが調理器具、操作用アプリが盛り付けや配膳にあたります。どれか一つだけでは、実際に「使える」状態にはなりません。
プライバシーやオフライン利用という利点と、ハードウェアという負担
ローカルでモデルを動かすことには、いくつかの利点があります。やり取りする内容が自分のパソコンの外に送られないため、プライバシーを保ちやすくなります。インターネットに接続していなくても使えますし、クラウドサービスの利用料を継続的に払う必要もありません。
一方で、負担も小さくありません。ある程度のモデルを動かすには、それなりの性能を持つパソコンが必要になりますし、導入や更新は自分で行う必要があります。クラウド型のサービスと比べて、動作が遅くなることもあります。セキュリティの対策や管理も、自分で担うことになります。
ローカルLLMとオープンソースは、同じ意味ではない
ここで注意しておきたいのは、「ローカルで動く」ことと「オープンソースである」ことは、同じ意味ではないという点です。ローカルLLMとして使われるモデルの多くは、重みが公開されているモデルですが、公開されている範囲や、利用に認められている権利は、モデルによって異なります。
ローカルLLMは、特別な種類のモデルではなく、モデルをどこで、どう動かすかという選択肢の一つです。プライバシーや自分での制御を重視するのか、手間をかけずに使える快適さを重視するのかによって、クラウド型とローカル型のどちらが向いているかは変わってきます。