AI Log

AIの基本 / 大規模言語モデルの仕組み

トークン:AI が文章を区切って数える単位

出典を確かめた日 2026年10月1日(木) / 約3分で読めます

一言で

トークンは、言葉を扱う AI のモデルが、文章を読み書きするときの最小の単位です。AI の料金や、一度に読める量、返事の速さは、このトークンの数で表されます。

このページで分かること

先に知っておく言葉

文章はトークンに区切られる

AI のモデルは、文章を文字のまま扱うのではなく、トークンという単位に区切ってから処理します。区切り方は、出典によって次のように説明されています。

1トークンはおよそ何文字か

公式の目安は英語の文章についてのもので、会社によって違います。

日本語でのトークンの数え方は、上の出典には書かれていません。同じ文章でも、モデルや言葉によってトークンの数が変わります。

ニュースでの出方

AIログのニュースでは、トークンは次の3つの場面でよく出てきます。

関連する言葉

出典

  1. Anthropic「Glossary」の Tokens の項 platform.claude.com ↗
  2. OpenAI「Key concepts」の Tokens の項 developers.openai.com ↗
  3. Google for Developers「Machine Learning Glossary」の token の項 developers.google.com ↗

確認メモ:2026年10月1日に、上の3つの公式のページを開いて、トークンの説明と文字数の目安を突き合わせました。1トークンあたりの文字数は、3社の公式の目安のうち、数字が書かれていた Anthropic と OpenAI の2つを載せています(どちらも英語の文章についての目安です)。日本語の文章での目安は、確かめた出典に書かれていなかったため載せていません。「ニュースでの出方」の数字は、AIログの各記事が公式で確かめたものを、そのまま挙げています。「バイト」「API」の言い換えは、ふつうの意味を一言で添えたものです。