生成AI入門コース
～第2話 いままでのAIとLLMは何が違うのか～
第1話では、ChatGPTの登場をきっかけに生成AIが身近な道具になったことを学んだ。生成AIとは文章・画像・音声・コードなどを新しく作り出すAIの総称であり、ChatGPTはその代表的なサービスの一つ。文章を生成する多くのサービスはLLM（大規模言語モデル）という技術がベースになっている。今回は、「では従来からあったAIと、いま話題のLLMでは何が違うのか」という疑問から学習がスタートする。
神谷の疑問
【シーン】まるやまマート本部の事務スペース、神谷のデスク。午前中。 【人物】神谷悠馬（27歳、男性、オフィスカジュアル、誠実な顔つき）と西園寺遥（30歳、女性、きちんとしたジャケット）の2名。神谷はデスク椅子に座り、西園寺は隣のキャスター椅子に座って一緒にノートを覗き込んでいる。 【構図】斜め前からのバストアップ。神谷は前回の学習ノートのページを指でなぞり、西園寺は穏やかに微笑みながら相槌を打つ。 【小物】A4ノート（左ページに「ChatGPT」「LLM」「生成AI」のメモ）、ノートPC、マグカップ2つ、観葉植物（パキラ）、付箋少々。 【ロケーション整合】03_honbu_office：約8×10mの開放オフィス、4島のデスククラスター、デュアルモニター、ベージュのカーペットタイル、白い壁、温白色LED、グレーのスチール家具。神谷のデスクには資料の山と付箋。 【色調】温白色LEDで明るい昼のオフィス、彩度はやや低め。神谷は少し首を傾げるような表情で「疑問」を、西園寺は伴走者らしい穏やかな表情。 【避ける】読める実テキスト、実在ロゴ、実在ブランド、他人物の描画、散らかった私物。
第2回の学習が始まった。前回の学習メモを見返していた神谷は、ふと気になっていたことを切り出した。
従来型AIの得意なこと
【種類】概念図。人物は描かない。 【構図】中央に「従来型AI（特化型AI）」とラベルが付いた箱。そこから4方向に矢印が伸び、それぞれ専用カードに接続する。 ・上：分類（メールの仕分けアイコン） ・右：予測（折れ線グラフが右肩上がりのアイコン） ・下：検出（写真の中の顔をフレームで囲むアイコン） ・左：推薦（商品候補がカード状に並ぶアイコン） 【補足ラベル】4枚のカードの下に「まるやまマート例」を1つずつ添える（分類→迷惑メール判定／予測→売上予測／検出→防犯カメラの異常検知／推薦→ECサイトのおすすめ商品）。 【小物】各カードを「専用ボックス」として線で囲み、互いに行き来できないことを示す細い遮断線を入れる。 【ロケーション整合】なし（概念図）。 【色調】白背景、indigo→violetのグラデーション、紙のような質感、フラットイラスト調。 【避ける】人物、商標、写真風の質感、読める実テキスト（要素名のみ）。
西園寺はまず、ChatGPTが登場する前から使われていたAIについて説明を始めた。
神谷は少しずつ理解が進んだ。従来型のAIは、分類、予測、検出、推薦といった特定のタスクに強い。しかし、それぞれのAIは自分の専門以外のことには対応できない。スパム判定AIに「商品説明を書いて」と頼んでも、何もできない。
LLMは何が違うのか
【種類】概念図。人物は描かない。 【構図】中央に大きめの円形ノードで「LLM（大規模言語モデル）」を配置。左から「自然言語の指示」（吹き出しアイコン）が入力としてLLMに入り、右側に5つのカードが扇形に並ぶ。 ・カード1：文章生成（ペンと原稿のアイコン） ・カード2：要約（長文を短い箇条書きに圧縮するアイコン） ・カード3：翻訳（日本語⇄英語の双方向矢印） ・カード4：質問応答（？マークと電球） ・カード5：アイデア出し（複数の電球が広がる図） 【補足ラベル】各カードの下にまるやまマートでの利用イメージを1行ずつ添える（例：商品説明の下書き／長文クレームの要点整理／海外向けの簡単な翻訳／お客様問い合わせへの下書き／フェア企画のアイデア）。 【ロケーション整合】なし（概念図）。 【色調】白背景、indigo→violetのグラデーション、フラットイラスト調、紙のような質感。 【避ける】人物、商標、写真風の質感、読める実テキスト（要素名のみ）。
神谷は驚いた。従来型AIが「一つの仕事を正確にこなす専門職」だとすれば、LLMは「いろいろな仕事のたたき台を作れる万能アシスタント」のようなものだ。ただし、西園寺はすぐに補足を加えた。
トークンとコンテキストの基本
【種類】概念図。人物は描かない。 【構図】上下2段構成。上段に日本語の例文を入れた長い帯（実テキストは描かず、文字の代わりに四角プレースホルダで擬似的に文を示唆）。その帯の下に縦線で区切られた「トークン分割線」を引き、漢字1文字が複数の小ブロックに分かれる箇所と、ひらがな数文字がひとつのブロックにまとまる箇所を対比させる。 下段に「LLM内部の処理」を示す箱を置き、上段のトークン列が箱の入力スロットに順番に流れ込む矢印を描く。箱の出力側からは次のトークン候補を選んでいる様子を、確率らしき高さの違うバー3〜4本で表現する。 【補足ラベル】右側に「1文字＝1トークンとは限らない」「サービスやモデルごとに分け方が変わる（トークナイザ）」の2つの注釈ボックスを配置。 【ロケーション整合】なし（概念図）。 【色調】白背景、indigo→violet系のグラデーション、トークンブロックは薄い紫の塗り、紙のような質感。 【避ける】人物、商標、読める実テキスト（注釈ラベル以外）、写真風の質感。
ここで西園寺は、LLMを理解するうえで知っておくとよい基本的な概念をいくつか紹介し始めた。
神谷は、ようやくChatGPTとの会話が「前の発言を覚えてくれている」ように見える理由が分かってきた。LLM自身が記憶しているのではなく、会話に登場したトークンの並びを「文脈」としてもう一度LLMに渡しているから、続きの応答ができるという仕組みらしい。
コンテキストウィンドウの挙動
【種類】概念図。人物は描かない。 【構図】縦に3段、時間経過を表現したスライド図。各段は左から右に流れる長い会話列を表す。 ・1段目（会話初期）：左端から「発言1」「発言2」「発言3」のトークンブロックが並び、太い枠の「コンテキストウィンドウ」がそれをすべて覆っている。 ・2段目（会話中盤）：右側に「発言4」「発言5」が追加され、ウィンドウ枠は1段目より少し右にスライド。左端の「発言1」がウィンドウのフチに差しかかっている。 ・3段目（会話終盤）：「発言6」「発言7」が追加され、ウィンドウ枠はさらに右へスライド。左端の「発言1」「発言2」はウィンドウの外（薄いグレーアウト）になり、点線の「もう参照されない」エリアに押し出されている。 【補足ラベル】右側に縦書き気味の説明ボックスで「ウィンドウ＝LLMが一度に参照できる範囲」「上限を超えると古い発言は『窓の外』へ＝AIが忘れる」を配置。窓のフレーム上には「コンテキストウィンドウ（最大トークン数）」のラベル。 【小物】各発言ブロックの中はトークンを示す小さな縦線をいくつか描き、トークン量の概念を視覚化する。 【ロケーション整合】なし（概念図）。 【色調】白背景、ウィンドウ枠はindigoの太めの実線、窓外エリアは薄いグレーで「忘れられる」ことを示す。紙のような質感、フラットイラスト調。 【避ける】人物、商標、読める実テキスト（ラベル以外）、写真風の質感。
神谷は、社内で「ChatGPTに長い資料を貼り付けたら、途中の指示が無視された」と話していた同僚の話を思い出した。あれはウィンドウの上限を超えて、最初の指示が窓の外に出てしまったのかもしれない。
最後に西園寺は、「モデル」という言葉にも触れた。モデルとは、大量のデータを学習して作られた知識の塊のようなもので、サービスごとに異なるモデルが使われている。同じサービスでも、モデルのバージョンが上がるとコンテキストウィンドウの上限や応答の質が変わることがある、と説明した。
📌 覚えるポイント
- 従来型AIは分類・予測・検出など特定タスクに特化しており、用途ごとに別のAIが必要だった
- LLMは自然言語で指示でき、一つのモデルで文章生成・要約・翻訳・アイデア出しなど幅広い作業に対応できる
- LLMの出力は「たたき台」であり、人間が確認・修正して仕上げる前提で使うことが重要
- トークンはLLMが文章を処理する最小単位。日本語では1文字＝1トークンとは限らない
- コンテキストウィンドウは『LLMが一度に参照できる範囲の窓』であり、会話が進むと窓は右へスライドし、古い発言は窓の外に出て参照されなくなる
- 長い会話では、要点をまとめ直して再度入れる／大事な前提を繰り返すことで、窓の中身を意識的に整える
📖 覚える用語
- 従来型AI（特化型AI）
- 分類、予測、検出、推薦など、特定のタスクに最適化されたAI。一つの仕事を正確にこなすが、別のタスクには対応できない。
- LLM（大規模言語モデル）
- Large Language Modelの略。膨大なテキストを学習し、自然言語での指示に対して文章生成・要約・翻訳など幅広い言語タスクに対応できるAIモデル。
- トークン
- LLMが文章を処理する際の最小単位。日本語では1文字＝1トークンとは限らず、漢字1文字が複数トークンに分かれたり、ひらがな数文字が1トークンにまとまったりする。サービスやモデルごとのトークナイザによって分け方が変わる。入出力のトークン数によって処理コストや上限が決まる。
- トークナイザ
- 文章をトークンという小さな単位に分割する仕組み。サービスやモデルごとに分け方が異なり、同じ日本語でも分割結果や使うトークン数が変わるため、料金や入力上限の見積もりに影響する。
- コンテキスト（文脈）
- LLMが会話や入力の流れを参照できる範囲のこと。LLM自身が記憶しているのではなく、会話のトークン列が毎回まとめてLLMに渡されることで、前の発言を踏まえた応答が成立する。
- コンテキストウィンドウ
- LLMが一度に参照できるトークン数の上限。これまでの会話やプロンプトといった入力と、LLMが生成する出力の合計でカウントされる。会話が進むと窓は右にスライドし、上限を超えた古い部分は窓の外に出てLLMからは見えなくなる。モデルやプランごとに上限が決まっており、上限が大きくても途中の情報を見落としやすくなる弱点があるため、要点を整理して入れ直す使い方が重要になる。
- モデル
- 大量のデータを学習して構築されたAIの知識の塊。サービス名（ChatGPTなど）とモデル名（GPT-4などの世代名）は異なる概念で、同じサービスでもモデルが更新されるとコンテキストウィンドウの上限や応答の質が変わる。
- メモリ機能（記憶機能）
- ユーザーの名前や好みなどを、チャットを跨いで保持するための機能。コンテキストウィンドウとは別の仕組みで、明示的に保存された情報だけが別の会話でも参照される。サービスによってオン／オフや保存内容の確認・削除ができる。原則『別の会話はゼロから』のうえに乗る例外的な仕組み、と整理しておくと混乱しにくい。
- 今日学んだこと
- 従来のAIは特定タスク向けで、用途ごとに別のAIが必要だった。LLMは自然言語で指示でき、一つで幅広い言語作業に対応できる。ただし出力は「たたき台」として使う。
- まるやまマートとの関係
- うちのECサイトの「おすすめ機能」は従来型AIの一種。商品説明やメール文の下書きにはLLMが向いていそう。使い方が違うことを意識する。
- 新しく覚えた用語
- トークン（文章の処理単位）、コンテキスト（文脈）、コンテキストウィンドウ（一度に参照できる窓の大きさ。古い発言は外に出る）、モデル（学習された知識の塊）。
- 使い方のコツ
- 長い会話では、要点を整理して入れ直す。大事な前提は途中でも繰り返す。LLMは『窓の外』までは見えない、と覚えておく。
まとめ
従来のAIとLLMは、道具としての性質が違う。LLMには「窓」があり、その窓の中身を整えるのが私たちの役割。違いと仕組みを知ることが、正しく使い分ける第一歩になる。