言語モデルはあなたの言葉をどう答えに変えるのか
テキスト、トークン、ベクトル、Transformer、そして 1 トークンずつ。処理の流れ全体をやさしい言葉で。
「The cat sat on the」(猫が〜の上に座った)と入力すると、チャットボットが 「mat」(マット)と続きを提案します。モデルが文を読み、考えて、答えたように感じられます。 実際に起きているのは、テキストを数値に変え、その数値で計算をし、結果をテキストに戻す、という決まった単純なステップの連鎖です。 この記事では、その連鎖を最初から最後まで一度たどります。数学の予備知識は必要ありません。
言語モデルとは、テキストの続きを書くように学習させたプログラムです。大規模言語モデル(LLM)は同じ考え方を巨大な規模で行うもので、 何十億もの調整可能な数値を持ち、人が書いてきたテキストのかなりの部分で学習しています。以下の内容は、ChatGPT、Claude、Gemini、Llama の背後にあるモデルすべてに当てはまります。
LLM の処理全体をざっくりと
まずはプロンプトから。
この記事の残りでは、これらのステップを 1 つずつ見ていきます。
1. テキストがトークンになる
モデルは文字をそのまま扱えないので、最初のステップはトークナイザーです。これはテキストをトークンと呼ばれる断片に切り分ける、独立したプログラムです。 トークンは、よく使われる単語まるごとであることが多く、ときには単語の一部、句読点、空白であることもあります。珍しい単語は、いくつかの小さな断片を組み合わせて表されます。
なぜ文字や単語まるごとではなく断片なのかは、それだけで 1 つの話になります。モデルが文字でも単語でもなくトークンを読む理由と、 断片を選ぶアルゴリズムについてはトークナイザーの作り方をご覧ください。
2. トークンが ID 番号になる
どのトークナイザーにも決まった語彙があります。知っている断片すべてに番号を振ったリストです。o200k_base の場合、このリストには約 200,000 項目あります。 各トークンは、リスト内の番号、つまりトークン ID に置き換えられます。例文は 976 9059 10139 402 290 になります。
これらの番号はリスト内の位置にすぎず、座席番号のようなものです。トークン 9059(·cat)が、トークン 402(·on)より意味のある形で「大きい」わけではありません。 モデルには、もっと情報量のある表現が必要です。
3. ID がベクトルになる
モデルの中には、語彙の項目ごとに 1 行ある巨大な表があります。各行はベクトル、つまり数値のリストで、大きなモデルでは通常数千個の数値が並びます。 トークンの行を引くと、そのトークンの埋め込みが得られます。これらの数値を人が手で書くことはありません。最初はランダムで、学習の中で調整され、 似た使われ方をするトークンが似た行になるまで変わっていきます。
行 = トークン ID · 列 = ベクトル内の数値
意味を数値の空間内の位置として表すというこの考え方は、埋め込みとは何かの核心です。 その空間の方向が何を捉えられるかは潜在空間で探ります。
4. Transformer:トークン同士が互いを見る
この時点では、各ベクトルはそのトークン単体のことしか表していません。「bank」という単語は、「river bank」(川岸)でも「bank account」(銀行口座)でも同じ初期ベクトルを持ちます。 モデルの本体である Transformer がこれを解決します。Transformer は見た目が同じ層を積み重ねたもので、大きなモデルでは数十層あります。
各層は 2 つのことをします。まずアテンションです。各トークンが自分より前のトークンを振り返り、どれが自分にとって重要かを決め、そこから情報を混ぜ込みます。 次に、小さなニューラルネットワークが各ベクトルを個別に更新します。多くの層を経ると、各ベクトルはそのトークンを文脈の中で表すようになります。
I sat by the river bank
I opened a bank account
アテンションは、現代の言語モデルがこれほどうまく働くようになった鍵となるアイデアです。詳しくはアテンションと Transformer をゼロから解説で一歩ずつ説明しています。
5. 予測するのは最後の位置だけ
最後の層の後も、トークンごとに 1 つのベクトルが残っています。次のトークンを選ぶとき、モデルが使うのは最後の位置のベクトルだけで、この例では ·the のものです。 アテンションによってそれより前のすべてのトークンから情報を集めているので、この 1 つのベクトルには、モデルが文全体について読み取った内容が詰まっています。
6. すべてのトークンにスコア:ロジット
最後のベクトルを語彙のすべての項目と照らし合わせ、トークンごとに 1 つ、合計約 200,000 個のスコアを出します。 この生のスコアをロジットと呼びます。ロジットが高いほど、モデルはそのトークンを続きとして適していると評価しています。ロジットはそのままでは読み取りにくく、 負の値にもなりますし、合計が特定の値になるわけでもありません。
7. スコアが確率になる:ソフトマックス
ソフトマックスという関数が、ロジットを確率に変えます。すべての値を正にし、合計が 100% になるように調整します。 ソフトマックスは各スコアを指数関数にかけるので、大きなロジットほどはるかに大きな割合を得ます。ロジットが 2 高いと、確率はおよそ 7 倍になります。
| 次のトークン | ロジット | 確率 |
|---|---|---|
| ·mat | 9.0 | 38% |
| ·floor | 8.2 | 17% |
| ·bed | 7.5 | 8% |
| ·couch | 7.2 | 6% |
| ·rug | 6.8 | 4% |
| その他すべて | より低い | 27% |
8. トークンを 1 つ選ぶ
これでモデルはすべてのトークンの確率を手にしましたが、何かが 1 つを選ばなければなりません。いちばん単純なルールである貪欲法(グリーディ・デコーディング)は、常に最上位のものを取ります。 多くのチャットシステムは代わりにサンプリングを行います。確率で重み付けしてランダムに引くので、同じプロンプトでも異なる答えが返ることがあります。
この引き方は設定で調整できます。top-k サンプリングは、可能性の高い上位 k 個のトークンだけを残し、合計が 100% になるように調整してから引くので、極端にありえないトークンは決して出てきません。温度は確率の分布を鋭くしたり平らにしたりします。最後のベクトルから次の単語へでは、それぞれをインタラクティブな例で紹介しています。
9. 追加して繰り返す
選ばれたトークン ·mat(ID 2450)がテキストの末尾に追加されます。そして、長くなったテキストに対して処理の流れ全体がもう一度実行され、その次のトークンが選ばれます。 さらにその後も同じです。300 トークンの返答は 300 回の処理です。答えが画面に一語ずつ現れるのは、このループのためです。
実際のシステムでは、すでに処理したトークンの途中結果を保存しておくことで、毎回すべてをやり直す手間を省いています。それでも仕組みは同じで、 1 回の処理で 1 つの新しいトークンです。
数値はどこから来るのか
埋め込みの表、アテンションの層、最後のスコア付けなど、モデルが使う数値はすべて、学習で得られたパラメータです。 学習では、モデルに膨大な量のテキストを見せて次のトークンを一つひとつ予測させ、正しい次のトークンが少しだけ出やすくなるように、すべてのパラメータをわずかに調整します。 これを何兆ものトークンにわたって繰り返すと、そのわずかな調整が積み重なって、テキストをうまく続けられるモデルになります。チャットアシスタントは、その続きが役に立つ回答として読めるように、会話でさらに学習しています。
よくある誤解
- 「答え全体を一度に書いている」 そうではありません。トークンを 1 つ予測して追加し、また実行します。 完成した答えが待っているわけではなく、各トークンはそれまでのテキストだけをもとに選ばれます。
- 「答えを調べている」 内部に質問と答えのデータベースはありません。あるのは学習で決まったパラメータの集合だけで、 答えは毎回そこから新しく計算されます。モデルが誤ったことを自信満々に述べることがあるのもそのためで、結果を情報源と照らし合わせる仕組みがないのです。
- 「人と同じように理解している」 モデルが持っているのはテキストから学んだ統計的なパターンで、文法や事実、ある程度の推論を捉えられるほど豊かなものです。 それを理解と呼べるかどうかは議論が分かれています。確かなのは、モデルがテキストから学んだのであって、世界を見たり触れたり、そこで暮らしたりして学んだのではないということです。
次に読むもの
上の各ステップには、それぞれ専用の記事があります:トークン、トークナイザー、 埋め込み、潜在空間、 アテンション、次のトークンの選び方。 このサイトでは、トークナイザーで自分のテキストを分割したり、埋め込みエクスプローラーで単語ベクトルを探索したりできます。
よくある質問
大規模言語モデルはどうやって文章を生成するのですか?
テキストをトークンに分割し、各トークン ID をベクトルに変え、そのベクトルを Transformer に通します。最後の位置の出力が、語彙のすべてのトークンに対するスコアになります。ソフトマックスがスコアを確率に変え、トークンが 1 つ選ばれてテキストに追加され、答えが終わるまでこのループが繰り返されます。
ChatGPT は自分の言っていることを理解しているのですか?
人と同じように読んだり考えたりしているわけではありません。膨大なテキストから、どのトークンの後にどのトークンが来やすいかを学んでおり、そのパターンは文法や事実、推論の多くを捉えています。それを理解と呼べるかは議論がありますが、仕組みとしては、どの返答も予測したトークンを 1 つずつ積み上げて作られています。
AI が同じ質問に違う答えを返すのはなぜですか?
モデルは各ステップで 1 つの決まった答えではなく確率を出し、多くのチャットアプリは常に最上位のトークンを取るのではなく、その確率からサンプリングします。温度や top-p といった設定で、どれだけランダムさを許すかを調整します。サンプリングをオフにすれば、同じモデルと同じプロンプトからは同じ出力が得られます。
言語モデルの知識はどこから来るのですか?
学習からです。モデルは非常に大量のテキストを読み、次のトークンをうまく予測できるように、パラメータと呼ばれる何十億もの数値を調整します。事実はその数値の中に暗黙的に蓄えられます。周りのアプリが検索や情報取得のステップを加えない限り、回答中に何かを調べることはありません。
参考資料
- But what is a GPT? Visual intro to transformers3Blue1Brown, YouTube · この処理の流れ全体を図解した最高の解説動画(現在のタイトルは「Transformers, the tech behind LLMs」、英語)
- The Illustrated GPT-2Jay Alammar · 同じ処理の流れを一段深く、一歩ずつ図にしたもの(英語)
- LLM VisualizationBrendan Bycroft · 小さな実在の GPT のすべての数値を 3D でたどれる
