一言で
ニューラルネットワークは、機械学習で使うモデルの形の1つです。小さな計算の単位(ノード)を層に分けて並べ、層どうしをつないだもので、人の脳の神経細胞のつながりになぞらえて説明されます。
このページで分かること
- ニューラルネットワークが何を指すか(国の白書と Google の教材の説明)
- 入力層・隠れ層・出力層と、1つのノードの中で何が計算されるか
- どうやって学習するのか(誤差逆伝播法)と、ディープラーニングとの関係
先に知っておく言葉
- 機械学習:データからパターンやルールを見つけ、新しいデータに当てはめる方法(→ 別ページ「機械学習とは」)
- モデル:入力を受け取って予測などを出す仕組み
- パラメータ:モデルが学習で決める数値。ここでは「重み」と「バイアス」
- ラベル:学習用のデータに付ける「正解」
- ディープラーニング(深層学習):隠れ層をいくつも重ねたニューラルネットワークを使う機械学習(→ 別ページ「ディープラーニング(深層学習)とは」)
出典ごとの説明
- 総務省「情報通信白書」令和元年版:図で、人の神経細胞(ニューロン)のように、ノードが層を作ってつながっているものをニューラルネットワークと呼んでいる。データが入る「入力層」、間にはさまる「中間層(隠れ層)」、データが出ていく「出力層」の3種類の層を描いている
- 総務省「情報通信白書」平成28年版:機械学習のアルゴリズム(計算の手順)の1つで、人の脳が学んでいく仕組みを型に起こし、コンピューターの上で人工的にまねて問題を解こうとするもの、と注で説明している
- Google の機械学習の用語集:隠れ層を少なくとも1つ持つモデル、としている。コンピューターで作ったものは、脳などの神経のネットワークと区別するために「人工ニューラルネットワーク」と呼ばれることもある、と書いている
- Google の機械学習の講座(Machine Learning Crash Course):データの中の、直線では表せない(非線形の)パターンを見つけるために作られたモデルの形の一群、としている。学習の中で、入力の組み合わせ方を人が試行錯誤で決めなくても、モデルが自分で見つけていく点を、作る理由として挙げている
白書の2つの版は脳のしくみになぞらえる説明が中心で、Google の講座は神経細胞になぞらえつつ、「非線形のパターンを見つける道具」として作る理由を説明しています。
層とノードの中の計算
Google の講座と用語集は、中の動きをこう説明しています。
- 入力層:特徴(モデルに入れる値)を受け取る
- 隠れ層:入力層と出力層の間の層。1つ以上のニューロン(ノード)を持ち、特徴とラベルの間の非線形の関係を見つける
- 出力層:最後の層で、予測を出す
隠れ層のニューロンは、前の層から来た値にそれぞれの「重み」を掛けて足し合わせ、「バイアス」を加えます。その結果を「活性化関数」に通してから次の層へ渡します。講座によると、活性化関数を通さずに層を足すだけでは、全体はまだ直線の関係(線形)のままで、非線形の関係を学べません。よく使われる活性化関数として、シグモイド・tanh・ReLU の3つを挙げ、まず ReLU から試すことをすすめています。
講座の練習問題では、入力が3つ、ニューロン4つの隠れ層が1つ、出力が1つのネットワークで、重みとバイアスを合わせたパラメータが21個になる例を示しています。
どうやって学ぶのか
Google の用語集は、学習を次のくり返しとして説明しています。
- データをまとめて流し、予測を出す。予測とラベルとの差(損失)を合計する
- 逆向きにたどって、損失が小さくなるよう、隠れ層のニューロンの重みを増やすか減らすかを決めて直す
この逆向きの段階が「誤差逆伝播法(バックプロパゲーション)」です。講座は、これがニューラルネットワークでいちばんよく使われる学習の手順で、多くの機械学習のライブラリ(Keras など)が自動でこなすため、その計算を自分でする必要はない、としています。
ディープラーニングとの関係
Google の用語集は、隠れ層を2つ以上持つものを「ディープニューラルネットワーク(深いモデル)」と呼んでいます。令和元年版の白書も、中間層(隠れ層)をいくつも重ねたニューラルネットワークを使うものが深層学習(ディープラーニング)だ、と図で示しています。同じ白書は、深層学習によって、何に着目して見分けるか(特徴量)をコンピューターが自分で取り出せるようになったとされる一方で、どんな根拠で判断したかを人が理解しにくいという指摘もある、と書いています。
関連する言葉
- 機械学習・ディープラーニング・パラメータとモデルの大きさ・Transformer と注意(→ この欄の別ページ)
出典
- Google for Developers「Machine Learning Glossary」の neural network・neuron・hidden layer・layer・activation function・backpropagation・deep model の項 developers.google.com ↗
- Google for Developers「Machine Learning Crash Course:Neural networks」(Nodes and hidden layers・Activation functions・Training using backpropagation のページを含む) developers.google.com ↗
- 総務省「令和元年版 情報通信白書」第1部第1章第3節 2(1)「AIに関する基本的な仕組み」図表1-3-2-2、2019年 soumu.go.jp ↗
- 総務省「平成28年版 情報通信白書」第1部第4章第2節「人工知能(AI)の現状と未来」(3)「代表的な研究テーマ」の図表4-2-1-6と注13、2016年 soumu.go.jp ↗
確認メモ:2026年10月1日に、上の出典を開いて確かめました。Google は用語集の該当の項と、講座の「Neural networks」の章の4つのページ(はじめ・Nodes and hidden layers・Activation functions・Training using backpropagation)を読みました。令和元年版の白書は本文と図表1-3-2-2(深層学習の仕組み)の画像を、平成28年版の白書は図表4-2-1-6の画像と、その中の「ニューラルネットワーク」に付いた注13を読みました。白書の層の説明は本文ではなく図に書かれているものです。出典ごとの違いは、白書は脳の神経細胞になぞらえる説明が中心で、Google の講座は神経細胞になぞらえつつ、非線形のパターンを見つけるための形として作る理由を説明している点です。講座と用語集にある数式、勾配が消える・大きくなりすぎるといった学習のつまずき、ドロップアウトの話は、この欄の入口としては細かいため載せていません。「アルゴリズム」「特徴」「損失」の言い換えは、ふつうの意味を一言で添えたものです。AIログのニュースでは、この言葉はまだ出てきていないため、「ニュースでの出方」の節は置いていません。国の文書は公共データ利用規約にもとづき、内容を言い換えて使っています(出典:総務省「令和元年版 情報通信白書」「平成28年版 情報通信白書」を加工して作成)。