AI Log

新着 › AIの基本 › 安全と社会

AIの基本 ／ 安全と社会

フロンティアモデルと AGI：最先端の強い AI と、人のように幅広くこなす AI

出典を確かめた日 2026年10月1日（木） ／ 約8分で読めます

一言で

フロンティアモデルは、いちばん先を行く、とても能力の高い AI のモデルを指す言葉です。AGI（汎用人工知能）は、多くの作業を少なくとも人と同じくらいこなせる AI を指す言葉です。どちらも、出典によって線の引き方が違います。

このページで分かること

先に知っておく言葉

フロンティアモデル：出典ごとの定義

論文は「危険な能力を持ちうるか」を定義の中心に置き、Frontier Model Forum の会員向けの定義は「すでに広く使われているモデルを上回るか」で線を引いています。

日本の指針では「高度な AI システム」

総務省・経済産業省の AI事業者ガイドライン（第1.2版、2026年3月31日）は、「高度な AI システム」を、最先端の基盤モデルと生成AI システムを含む、いちばん高度な AI システムとしています（広島 AI プロセスの定義を引いたもの）。こうしたシステムを作る事業者には、G7 の広島 AI プロセスの国際行動規範（2023年10月）を参照するのが望ましいとしています。その規範では、市場に出す前も含めて、レッドチーミングなどの評価でリスクを探して手当てすることを求め、気をつけるリスクとして、化学・生物・放射性物質・核の兵器にかかわるリスク、攻撃に使えるサイバーの能力、物理的な仕組みの制御や重要なインフラへの干渉を含む健康・安全へのリスク、モデルが自分の写しを作ること、有害な偏見や差別などを挙げています。

上の論文も、最低限の安全の基準として、公開前のリスク評価、外部の専門家による検証、評価の結果にもとづく公開の判断、公開後の見守りを挙げています。論文は、こうしたモデルの規制が難しい理由として、危険な能力は思いがけず現れうること、公開したモデルの悪用を確実に防ぐのが難しいこと、能力が広く出回るのを止めにくいことを挙げています。

AGI：いくつもの定義

Google DeepMind の研究者の論文「Levels of AGI」（2023年11月に公開、ICML 2024 で発表）は、AGI を、多くの作業で少なくとも人と同じくらいできる AI システムを表す言葉で、大事だが議論を呼ぶこともある考え方、と説明しています。この論文は9つの定義を比べており、たとえば次のものを紹介しています。

論文自身は、考え方や意識のような「中の仕組み」ではなく「できること」で定義するべきだとし、性能の深さと、こなせる作業の幅の2つで段階を分ける案を出しています。自動運転の「自動化のレベル」が政策や進み具合の議論をはっきりさせたように、AGI にも段階を決めると役に立つ、という考えです（論文が引き合いに出している例）。段階は、多くの作業でその水準に届いているかで決め、一部の作業ではもっと上でもかまわない、としています。

論文は、書いた時点（2023年9月）の最先端の言語モデル（ChatGPT・Bard・Llama 2 など）を、短い作文や簡単なプログラムでは Competent だが、数学や事実にかかわる作業など多くの作業ではまだ Emerging で、全体ではレベル1にあたると見ています。また、労働の置き換えという OpenAI の憲章の基準は、レベル4（Exceptional）によく合う、としています。

ニュースでの出方

関連する言葉

出典

  1. Markus Anderljung ほか「Frontier AI Regulation: Managing Emerging Risks to Public Safety」arXiv:2307.03718、2023年7月6日（第4版 2023年11月7日） arxiv.org ↗
  2. Frontier Model Forum「About」 frontiermodelforum.org ↗
  3. Frontier Model Forum「Membership」 frontiermodelforum.org ↗
  4. 総務省・経済産業省「AI事業者ガイドライン（第1.2版）」2026年3月31日 soumu.go.jp ↗
  5. Meredith Ringel Morris ほか（Google DeepMind）「Position: Levels of AGI for Operationalizing Progress on the Path to AGI」arXiv:2311.02462、2023年11月4日（ICML 2024、第5版 2025年9月24日） arxiv.org ↗

確認メモ：2026年10月1日に、上の出典を開いて確かめました。論文「Frontier AI Regulation」は arXiv の PDF から文字を取り出し、要旨・要約と2.1節（定義と危険な能力の例）を読みました。Frontier Model Forum は、団体の紹介のページで定義を、会員のページで会員の会社を確かめました。AI事業者ガイドラインは第1.2版の用語の定義（「高度な AI システム」）と、第3部の広島 AI プロセスの国際行動規範の部分を読みました。このガイドラインの本文には「フロンティア」「AGI」という言葉は出てきませんでした。論文「Levels of AGI」も PDF から文字を取り出し、1〜4節と表1（段階の表）を読みました。出典ごとの違いは、フロンティアモデルの定義の軸（危険な能力か、ほかのモデルとの性能の比べ方か）です。AGI の定義は、各社の公式の文章では確かめておらず、Google DeepMind の論文が紹介した形で載せています（OpenAI の公式サイトはこの欄では使わない決まりのため）。「Levels of AGI」の最新の版（第5版）は、レベル4の名前を Virtuoso から Exceptional に変えたと書いており、ここでは新しい名前を使っています。論文の「2023年9月の時点」の見立てはその時点のもので、いまのモデルがどの段階かは、確かめた出典に書かれていないため載せていません。危険な能力は種類だけを挙げ、中身は書いていません。「汎用人工知能」は AGI のふつうの訳語を添えたものです。AIログのニュースでは、Anthropic の研究チームの名前（Frontier Red Team）が出てくる記事もありますが、フロンティアモデルの話ではないため挙げていません。国の文書は公共データ利用規約にもとづき、内容を言い換えて使っています（出典：総務省・経済産業省「AI事業者ガイドライン（第1.2版）」を加工して作成）。

同じ段の言葉（安全と社会）

  1. アライメント：AI のふるまいを、人の意図や価値観に沿うようにすること

    アライメントは、AI が人の意図や価値観に沿って動くようにすること、またはそのための調整や取り組みのことです。

  2. プロンプトインジェクション：AI が読む入力に指示を紛れ込ませ、本来の指示と違う動きをさせる攻撃

    プロンプトインジェクションは、AI への入力に悪意のある指示を入れ込み、作った人や使う人が決めた指示を無視させて、意図しない動きをさせる攻撃です。

  3. ジェイルブレイク（脱獄）：AI に付けた制限を、入力の工夫で外させようとすること

    ジェイルブレイクは、生成AI に設けられた「この内容は出さない」という制限を、入力の書き方を工夫してすり抜けさせようとすることです。

  4. レッドチーミングと安全性の評価：攻撃する側の目で AI の弱点を探して確かめる

    レッドチーミングは、AI を悪用しようとする人の目線で AI システムを試し、弱点や守りの抜けを見つける評価の方法です。

  5. バイアス（偏り）：データや AI、人の判断に入りこむ偏り

    AI の話でいうバイアスは、データや AI の仕組み、AI を作る人・使う人の判断に入りこむ偏りのことです。

  6. AI の規制と指針：EU の AI 法と、日本の AI 法・AI事業者ガイドライン

    AI に決まりを設ける動きは、国や地域で形が違います。

  7. 著作権と学習データ：「学習の段階」と「作ったものを使う段階」に分けて考える

    生成AI と著作権の関係について、日本の文化庁の審議会は、作品を AI の学習に使う段階と、AI が作ったものを生み出して使う段階に分けて整理しています。

AIの基本をすべて見る（42本）→