バイアス（偏り）：データや AI、人の判断に入りこむ偏り

一言で

AI の話でいうバイアスは、データや AI の仕組み、AI を作る人・使う人の判断に入りこむ偏りのことです。特定の人や集団を不公平に扱う結果につながることがあるため、公平性の問題として扱われます。

このページで分かること

「バイアス」という言葉の分け方（出典ごとの違い）
生成AI で偏りがどう表れるか
公的な指針が挙げている向き合い方

先に知っておく言葉

生成AI：文章や画像などを作り出す AI（→ 別ページ「生成AI とは」）
学習データ：AI のモデルを学習させるために使うデータ（→ 別ページ「学習（事前学習）と推論」）
基盤モデル：幅広いデータで学習し、いろいろな作業に合わせて使えるモデル（→ 別ページ「基盤モデルとは」）
パラメータ：モデルの中で、学習によって決まる数（→ 別ページ「パラメータとモデルの大きさ」）
プロンプト：AI に入れる指示や質問の文（→ 別ページ「プロンプトとシステムプロンプト」）

「バイアス」の分け方は出典で違う

NIST（米国の国立標準技術研究所）の SP 1270（2022年3月）：AI のバイアスを3つの種類にまとめている
社会の仕組みから来るもの：組織の手順や慣行が、ある集団を有利に、別の集団を不利にするように働くこと。意識した偏見が無くても、多くの人が今ある決まりや慣わしに従うだけで起こりうる。歴史的・制度的なバイアスとも呼ぶ
統計・計算から来るもの：集めたデータが全体を代表していないことで生じる誤り。偶然ではなく一方向にずれる誤りで、差別の意図が無くても起こる。あるデータで学習したアルゴリズムが、そのデータの外にうまく当てはまらないときによく起きる
人から来るもの：人の考え方が一定の方向にずれること。多くは無自覚で、AI の出力などの情報を受け取って判断するときにかかわる
AI事業者ガイドライン（総務省・経済産業省、第1.2版、2026年3月31日）：「バイアス」には色々な解釈があり、それらをまとめた意味で使う、としている。例として、統計の言葉（サンプリングバイアスなど）と、心理学の言葉（思い込みなどによる認知バイアス（集団ごとの通念から来る社会的バイアスもここに入る）、気持ちや都合による感情バイアス）を挙げ、NIST の3つの種類も紹介している
Google の機械学習の用語集：倫理・公平性の意味のバイアス（ある物や人、集団への固定観念・偏見・ひいき、またはデータの集め方や報告の仕方で入る系統的な誤り）と、数学の意味のバイアス（モデルのパラメータの1つで、原点からのずれ）を別の項目に分け、取り違えないよう注意している。このページは前の意味の話

生成AI での表れ方

NIST の生成AI のリスクの文書（AI 600-1、2024年7月）は、リスクの1つに「有害なバイアスと均質化」を挙げています。

文章から画像を作る今のモデルに、CEO・医師・弁護士・裁判官の画像を作らせると、女性や人種の少数派、障害のある人が少なく描かれる。決まった見方（ステレオタイプ）と違う特徴を指示しても、そうでない画像を作りにくい
モデルの出来が、集団や言葉によって違うことがある（例：英語以外の言葉や一部の方言で劣る）。どの集団でも同じように動くと思い込んで使うと、劣る側の集団は、AI を使わない場合より悪い結果になりうる
出力が似たものばかりになる「均質化」とバイアスは互いに強め合い、基盤モデルからそれを使う下流のモデルへ流れていきうる

文部科学省の生成AI のガイドライン（Ver.2.0、2024年12月26日）も、大量のデータの中にある偏見や差別をそのまま作り直してしまうリスクを挙げ、答えをうのみにし続けると、もとの情報の偏見が増幅され、不公平で差別的な出力が続いて広がるおそれがある、としています。

使う人の側のバイアス

自動化バイアス：AI事業者ガイドラインは、人が判断するときに、自動化された仕組みを信頼しすぎたり頼りすぎたりする現象、と説明しています。Google の用語集は、自動の仕組みが誤っていても、その勧めを、自動でない情報より重く見てしまうこと、としています
流暢性バイアス：文部科学省のガイドラインは、なめらかな出力を正しいと思いこんでしまうことを挙げています
NIST の SP 1270 は、人のバイアスは無自覚なため、バイアスに気づかせるだけでは抑えられる保証にならない、としています

指針が挙げている向き合い方

NIST の SP 1270 は、バイアスは新しいものでも AI だけのものでもなく、AI システムでバイアスのリスクをゼロにすることはできない、としています。AI事業者ガイドラインは次のことを挙げています。

人種・性別・国籍・年齢・政治的な考え・宗教などを理由にした、不当で有害な偏見や差別をなくすよう努める。それでも避けられないバイアスはあると知ったうえで、人権と多様な文化を大事にする見方から許せる範囲かを評価する
偏りの出どころは、アルゴリズム、学習データ、学習の過程、利用者が入れるプロンプト、答えるときに見にいく情報、つないでいる外のサービス、利用者のふるまいと多岐にわたるため、それぞれで要因になる所を探す
人種や性別の項目を除いたデータでも、ほかの情報から推し量られてしまう場合や、いくつかの属性の組み合わせで生じる場合（交差バイアス）がある
AI だけに判断させず、適切なときに人の判断を挟む使い方を考える。そのときは、人の判断が自動化バイアスに引きずられないよう手を打つ

文部科学省のガイドラインは学校での使い方として、教材に使う出力に偏りがないかを教師が判断すること、児童生徒にバイアスの存在と、生成AI の出力にもバイアスが含まれうることを理解させることを挙げています。

出典

NIST「NIST SP 1270：Towards a Standard for Identifying and Managing Bias in Artificial Intelligence」2022年3月 doi.org ↗
NIST「NIST AI 600-1：Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile」2024年7月 doi.org ↗
総務省・経済産業省「AI事業者ガイドライン（第1.2版）」2026年3月31日 soumu.go.jp ↗
文部科学省初等中等教育局「初等中等教育段階における生成AIの利活用に関するガイドライン（Ver.2.0）」2024年12月26日 mext.go.jp ↗
Google for Developers「Machine Learning Glossary」の bias (ethics/fairness)・bias (math)・automation bias の項 developers.google.com ↗

確認メモ：2026年10月1日に、上の出典を開いて確かめました。NIST の SP 1270 は PDF から文字を取り出し、要旨と2.1節（3つの種類）を読みました。NIST AI 600-1 はリスクの一覧と2.6節「Harmful Bias and Homogenization」を読みました。AI事業者ガイドラインは第1.2版の「公平性」の節と脚注（バイアスの解釈・潜在的なバイアス・自動化バイアス）、AI 開発者の「データに含まれるバイアスへの配慮」を読みました。文部科学省のガイドラインは、生成AI のリスク、公平性の確保、学校での留意点の段落を読みました。出典ごとの違いは「バイアス」の分け方で、NIST は3つの種類、AI事業者ガイドラインは統計と心理学の言葉の総称、Google の用語集は倫理・公平性の意味と数学の意味を分けています。NIST の3つの種類の中の細かい種類（図に並ぶ数十の名前）と、Google の用語集の数学の意味の計算の例は載せていません。AI事業者ガイドラインの、AI 開発者・提供者ごとの細かい取り組みも省いています。AIログのニュースでは、この言葉はまだ出てきていないため、「ニュースでの出方」の節は置いていません。国の文書は公共データ利用規約にもとづき、内容を言い換えて使っています（出典：総務省・経済産業省「AI事業者ガイドライン（第1.2版）」、文部科学省「初等中等教育段階における生成AIの利活用に関するガイドライン（Ver.2.0）」を加工して作成）。