本文へ移動
  1. トップ
  2. 用語集
  3. ベースモデル(土台の AI のモデル)
用語集

ベースモデル(土台の AI のモデル)とは

要点よみ: べーすもでる

大量の文章で学習しただけで、まだ人の指示に従うように仕上げていない、土台の AI のモデル。

ベースモデルは、大量の文章を読み、次に来る言葉を予測するように学習しただけの AI のモデル(LLM)です。言葉や知識は身に付けていますが、質問に答える、頼まれた作業をする、といった振る舞いはまだ教わっていません。「お礼のメールを書いて」と入力しても、メールを書かずに、入力の続きらしい文章を書き足すことがあります。

対話で使う AI の多くは、土台のモデルに、指示と望ましい答えの見本などを追加で学ばせ、指示に従うように仕上げています。重みが公開されたモデルでは、両方の版が配られていることがあります。Google の Gemma では、仕上げる前の版を pre-trained、仕上げた版を instruction-tuned と呼んでいます。

会社の仕事で使うのは、ふつうは指示に従うよう仕上げた版の方です。モデルを取り込んで試すときは、配られている版がどちらかを先に確かめます。ベースモデルを選ぶのは、自社の文章を学ばせて土台から手を入れたいときなど、限られた場面です。

土台のモデルに手を入れる方法は、大きく 2 つあります。見本を学ばせて答え方を調整するファインチューニングと、大量の文章を読ませて知識そのものを足す継続事前学習です。どちらも費用と手間がかかるので、中小企業では、資料を探して AI に渡す仕組み(RAG)で足りるかを先に試します。