ニューラルネットワーク（）とは、互いに信号を送り合うニューロンと呼ばれる相互接続された単位の集まりである。ニューロンは生物学的な細胞である場合もあれば、数理モデルである場合もある。個々のニューロンは単純であるが、多数のニューロンがネットワークをなすことで複雑な課題を遂行できる。ニューラルネットワークには大きく分けて二つの種類がある。

神経科学における生物学的ニューラルネットワークは、脳や複雑な神経系に見られる物理的構造であり、シナプスによって接続された神経細胞の集団である。 機械学習における人工ニューラルネットワークは、非線形関数を近似するために用いられる数理モデルである。人工ニューラルネットワークは人工知能の問題を解くために用いられる。

神経科学においては、行動と認知は分散した脳領域間の相互作用から生じる。計算機科学においては、人工ニューラルネットワークが現代の多くのAIシステムを支えているが、大規模なデータセットと相当な計算能力を必要とする。さらに、その内部表現は解釈が難しい。

生物学

生物学の文脈において、ニューラルネットワークとはシナプスによって化学的に相互接続された生物学的ニューロンの集団である。一個のニューロンは数十万ものシナプスに接続されうる。 各ニューロンは、活動電位と呼ばれる電気化学的信号を、接続された隣接ニューロンへ送受信する。ニューロンは、受け取った信号を増幅して伝播させる興奮性の役割を担うこともあれば、逆に信号を抑制するの役割を担うこともある。

ニューラルネットワークよりも小規模な相互接続ニューロンの集団は神経回路と呼ばれる。非常に大規模な相互接続ネットワークは脳の大規模ネットワークと呼ばれ、これらが多数集まって脳や神経系を形成する。

脳内のニューラルネットワークが生成した信号は、最終的に神経系を通り、神経筋接合部を越えて筋細胞へと伝わり、そこで収縮を引き起こして運動をもたらす。

機械学習

機械学習において、ニューラルネットワークとは非線形関数を近似するために用いられる人工的な数理モデルである。初期の人工ニューラルネットワークは物理的な機械であったが、今日ではほぼ常にとして実装されている。

人工ニューラルネットワークにおけるニューロンは通常、層状に配置され、情報は第一層（入力層）から一つ以上の中間層（）を経て最終層（出力層）へと伝わる。 各ニューロンへ入力される「信号」は数値であり、具体的には前層の接続されたニューロンの出力の線型結合である。各ニューロンが出力する信号は、その活性化関数に従ってこの数値から計算される。ネットワークの挙動は、ニューロン間の接続の強さ（重み）に依存する。ネットワークは、既存のデータセットに適合させるために、やバックプロパゲーションを通じてこれらの重みを修正することで訓練される。

深層ニューラルネットワークという語は、3層を超える層をもつニューラルネットワーク、すなわち典型的には入力層と出力層に加えて少なくとも2つの隠れ層をもつものを指す。

人工ニューラルネットワークは内部表現の分析が難しいため、しばしば「ブラックボックス」モデルと呼ばれ、特に高リスクの応用分野において解釈可能性は活発な研究領域となっている。

ニューラルネットワークは人工知能の問題を解くために用いられており、それによって、、顔認識、手書き文字認識、汎用ゲームプレイ、生成AIなど多くの分野で応用が見出されている。

歴史 現代のニューラルネットワークの理論的基礎は、1873年にによって、また1890年にウィリアム・ジェームズによって、それぞれ独立に提唱された。両者はともに、人間の思考は脳内の多数のニューロン間の相互作用から生じると主張した。1949年、ドナルド・ヘッブはヘッブ学習、すなわち信号がシナプスを通るたびにそのシナプスが強化されることによって、ニューラルネットワークが時間とともに変化し学習しうるという考えを述べた。1956年、スヴァエティチンは二次網膜細胞（水平細胞）の機能を発見し、これはニューラルネットワークの理解にとって基礎的なものとなった。

人工ニューラルネットワークはもともと、1930年代からコネクショニズムの手法のもとで生物学的ニューラルネットワークをモデル化するために用いられていた。しかし、1943年にウォーレン・マカロックとウォルター・ピッツが人工ニューロンの数理モデルを提唱し、続いてフランク・ローゼンブラットがパーセプトロンを導入し1950年代末にそのハードウェア実装を行って以降、人工ニューラルネットワークはむしろ機械学習の応用に用いられることが増え、生物学的な対応物との差異が次第に大きくなっていった。

1969年、マービン・ミンスキーとシーモア・パパートは著書『』において単層パーセプトロンの限界を分析した。この批判は、一部の著者が「AIの冬」と呼ぶ、ニューラルネットワーク研究への資金と関心の減退をもたらした。

ニューラルネットワークの研究は、バックプロパゲーションによって訓練される多層ネットワークの開発と普及により1980年代に復活し、2000年代以降は大規模データセット、高速なハードウェア（とりわけGPU）、およびアルゴリズムの進歩の組み合わせがディープラーニングの台頭をもたらした。

関連項目 創発

出典