AI Log

新着 › AIの基本 › 大規模言語モデルの仕組み

AIの基本 ／ 大規模言語モデルの仕組み

考えてから答えるモデル（推論モデル・思考の連鎖）：答えの前に途中の筋道を重ねる

出典を確かめた日 2026年10月1日（木） ／ 約8分で読めます

一言で

推論モデルは、返事を書く前に、指示を分けたり答え方を比べたりする「考える」段階を持つ AI のモデルです（OpenAI の説明）。このページで一緒に扱う「思考の連鎖」は、答えに至るまでの途中の筋道を、ふつうの文章で順に書いたものを指します。

このページで分かること

先に知っておく言葉

思考の連鎖（chain of thought）

この方法を示したのは、Google Research の Jason Wei らの論文（arXiv:2201.11903、初版は2022年1月28日、NeurIPS 2022 で発表）です。論文は、途中の推論の段階を自然な文章で並べたものを「思考の連鎖」と呼び、それを書かせる指示の仕方を「chain-of-thought prompting」と名付けました。

論文の方法は、モデルを作り直さず、指示の中に「問題・途中の筋道・答え」の3つがそろった例を数個入れておく、というものです。論文の図1では、答えだけを示した例を渡されたモデルは、食堂のりんごの数を問う算数の文章題に「27」と誤って答えました。途中の計算まで書いた例を渡されたモデルは、自分も「23−20＝3、3＋6＝9」と順に書き、正しく「9」と答えています。

論文が示した結果と、論文自身が書いた限界は次のとおりです。

Google の機械学習の用語集は、少し違う形で説明しています。用語集では、大規模言語モデルに筋道を一歩ずつ説明させる指示の書き方で、例は、車の加速の問題に「関係する計算をすべて示して」と一文を添えるものです。計算を全部たどらせるので答えがより正しくなる可能性があり、使う人が途中の段階を見て答えの筋を確かめられる、としています。

論文は「例を見せて筋道を書かせる」形、用語集は「指示の一文で筋道を求める」形を中心に説明しています。

推論モデル：答えの前の「考える」段階

情報通信白書 令和7年版は、大規模言語モデルの最近の大きな動きの1つに「推論モデルの登場」を挙げています。

OpenAI は「推論モデル」というモデルの種類として、Anthropic は「考える」という機能として説明しています。

考える量・見え方・料金

ニュースでの出方

Claude の新しいモデルの記事で、考える量の設定が出てきました。

関連する言葉

出典

  1. Jason Wei ほか「Chain-of-Thought Prompting Elicits Reasoning in Large Language Models」arXiv:2201.11903、2022年1月28日（初版） arxiv.org ↗
  2. Google for Developers「Machine Learning Glossary」の chain-of-thought prompting の項 developers.google.com ↗
  3. OpenAI「Reasoning models」 developers.openai.com ↗
  4. Anthropic「Thinking」 platform.claude.com ↗
  5. 総務省「令和7年版 情報通信白書」第Ⅰ部第1章第2節「AI の爆発的な進展の動向」 soumu.go.jp ↗

確認メモ：2026年10月1日に、上の5つの出典の原文を開いて確かめました。論文は arXiv の PDF（第6版、2023年1月10日）の文字を取り出し、要旨・第1〜3章・第6章の限界の段落と図1・図2を読みました。「およそ1000億パラメータ」は第3.2節の記述で、図2の正答率の数字は図の中の値のため載せていません。Google の用語集は chain-of-thought prompting の項を、OpenAI は推論モデルの説明ページの「How reasoning works」「Reasoning effort」「Controlling costs」「Reasoning summaries」を、Anthropic は考える機能の説明ページの冒頭・仕組み・表示・effort の節を読みました。白書は「（ア）推論モデルの登場」と、DeepSeek-R1 を扱う「（イ）」の段落を読み、o1 の数字は白書が OpenAI の発表を引いた記述にもとづきます。各社の設定の名前の細かな段階や、モデルごとの初期設定の一覧は、モデルごとに違うため載せていません。「推論モデル」と「思考の連鎖」が同じものかどうか、どちらがどちらの元になったかは、確かめた出典に書かれていなかったため書いていません。「パラメータ」「API」「エージェント」の言い換えは、ふつうの意味を一言で添えたものです。国の文書は公共データ利用規約にもとづき、内容を言い換えて使っています（出典：総務省「令和7年版 情報通信白書」を加工して作成）。「ニュースでの出方」は、AIログの記事を読んでこのサイトがまとめたものです。

同じ段の言葉（大規模言語モデルの仕組み）

  1. 大規模言語モデル（LLM）とは：文章の続きを予測する、とても大きな言語モデル

    大規模言語モデル（LLM、Large Language Model）は、大量の文章で学習し、文章の続きにくるトークンを予測することで、文章を作ったり質問に答えたりするモデルです。

  2. トークン：AI が文章を区切って数える単位

    トークンは、言葉を扱う AI のモデルが、文章を読み書きするときの最小の単位です。

  3. Transformer と注意（アテンション）：言葉どうしの関わりを重みで見る仕組み

    Transformer（トランスフォーマー）は、2017年に Google の研究者たちが論文で発表したニューラルネットワークの作りです。

  4. パラメータとモデルの大きさ：学習で決まる数値と、その数

    パラメータは、AI のモデルが学習を通して決めていく数値です。

  5. 学習（事前学習）と推論：モデルを作る段階と、使う段階

    学習は、データを読ませてモデルの中の数値（パラメータ）を整えていく段階で、推論は、学習を終えたモデルに入力を渡して答えを出させる段階です。

  6. ファインチューニング：学習を終えたモデルを、目的に合わせて追加で学習させること

    ファインチューニング（fine-tuning）は、大量のデータでひととおり学習を終えたモデルに、特定の仕事や分野に合わせたデータを使って、もう一段の学習をさせることです。

  7. 人の評価で調整する（RLHF・Constitutional AI）：返事の良し悪しの評価をもとに、モデルを好ましい方へ寄せる学習

    RLHF（Reinforcement Learning from Human Feedback）は、人がモデルの返事を比べて評価し、その評価をもとに、好まれる返事を出しやすいようモデルを学習させる方法です。

  8. コンテキストウィンドウ：AI が一度に見られる量

    コンテキストウィンドウは、言葉を扱う AI のモデルが、返事を作るときに一度に参照できる文章の量のことです。

  9. プロンプトとシステムプロンプト：AI に渡す入力と、ふるまいの前提になる指示

    プロンプトは、言葉を扱う AI のモデルに入力する文章のことです。

  10. マルチモーダル：文章・画像・音声など、種類の違うデータを1つのモデルで扱う

    マルチモーダルは、文章・画像・音声・動画のように種類の違うデータを、1つの AI のモデルで扱うことです。

  11. 埋め込み（ベクトル）：データを、似ているほど近くなる数の並びで表したもの

    埋め込みは、文章・単語・品物などのデータを、いくつもの数を並べたもの（ベクトル）で表したものです。

  12. RAG（検索拡張生成）：外の資料を探して、それも踏まえて答えを作らせる仕組み

    RAG は、AI のモデルに答えを作らせるときに、先に外の資料やデータベースから関係のある情報を探し出し、その結果も踏まえて答えを作らせる仕組みです。

  13. エージェントとツールの使用：AI が道具を呼び出し、手順を自分で決めて作業を進める仕組み

    AI エージェントは、目標に向けて自分で手順を決め、検索やプログラムなどの道具（ツール）を使いながら作業を進める AI の仕組みです。

  14. MCP（Model Context Protocol）：AI のアプリを外のデータや道具につなぐための共通の決まり

    MCP は、AI を使ったアプリと、ファイル・データベース・検索などの外の仕組みを、同じやり方でつなぐための公開された決まり（プロトコル）です。

AIの基本をすべて見る（42本）→