コンピュータはプログラムを実行しますが、プログラムはどれも人間が書いたものです。ルールをひとつずつ、手順をひとつずつ。そしてほどなく、ありうるルールをすべて手で書き出すのはほぼ不可能だ、という問題があることがはっきりしてきました。写真の猫が犬とどう違うのかを、ルールで書き表してみてください。あるいは「ブログ用にどのカメラを買うか」というフレーズが何を意味するのかを。誰にもできませんでした。
こうした問題を最終的に解いた道具は、行列と呼ばれています。
行列そのものは、AIよりずっと前に発明されました。線形代数と呼ばれる数学の一分野の道具で、アーサー・ケイリー(Arthur Cayley)が行列の代数を記述したのは、早くも1858年のことです1。最初のニューラルネットワークの百年前です。当時それは純粋な知的遊戯で、使い道のない抽象概念でした。やがて行列で量子力学が記述され、次にコンピュータグラフィックスが、そして今では知性が記述されています。数学ではこういうことがしょっちゅう起こります。道具は、それが主役になる問題よりもずっと先に現れるのです。
そもそも行列とは、表の形で表せる、順序づけられた数の集まりにすぎません。たとえば次のようなものです。
M = [ 2.0 0.5 ]
[ 0.6 1.8 ]
ところで、AIをめぐる話では「ベクトル」という言葉もよく耳にするはずです。実はベクトルも行列で、行か列がひとつしかないだけです。どちらになるかは、その式の中でどう書くかによります。向きは厳密に決まっていて、演算の結果に影響します。たとえば次のものは、1×2の行列であると同時に、単に二つの値からなるベクトルでもあります。
V = [ 1.0 -0.2 ]
行列から知性への橋が架けられたのは1943年のことで、その出発点は数学ではなく生物学でした。脳の神経細胞、つまりニューロンは、おおよそ次のように働きます。数千もの隣の細胞から突起が伸びてきて、それぞれを通って信号が届きます。しかし、これらのつながりは対等ではありません。強いつながりでは信号が「大きな声」で届き、弱いつながりではほとんど聞こえません。細胞は届いたものをすべて集め、合計した信号が十分にたまれば「発火」して、今度は自分の隣の細胞へ信号を送り出します。
マカロック(McCulloch)とピッツ(Pitts)2は、この振る舞いを数で書き表しました。こうして生まれたのが、神経細胞のもっとも単純なモデルである数理的なニューロンです。それぞれの隣の細胞から届く信号は入力で、ただの数です。つながりの強さは重みで、これも数です。各入力にその重みを掛け、積を足し合わせ、その和をしきい値と比べます。しきい値に届けば、ニューロンは信号を出します。
入力: x₁, x₂, x₃ 隣の細胞から届く信号
重み: w₁, w₂, w₃ それぞれのつながりの強さ
x₁·w₁ + x₂·w₂ + x₃·w₃ ≥ しきい値 → ニューロンが「発火」する
神経細胞の働きはすべて、「掛けて足す」というひとつの操作に還元されました。しかもマカロックとピッツは、まさにあのブール論理から着想を得ていました。二人の論文は、まさにあの三つの基本演算、AND、OR、NOTを、こうしたニューロンから組み立てられることをはっきり示しています。
では、これが行列とどう関係するのでしょうか。ベクトルと行列の掛け算をよく見てください。結果の数をひとつ得るたびに、数の並びを掛け合わせ、その積を足し合わせる必要があります。これは文字どおり、ニューロンが行っているのと同じ操作です。ニューロンひとつが、「掛けて足す」ひとつ。そしてニューロンは単独ではなく、層をなして働きます。複数のニューロンが同じ入力を見ますが、それぞれが自分の重みを持っています。入力をベクトルVとして、層に含まれるすべてのニューロンの重みを行列Mとして書きます(ニューロンひとつにつき一列)。すると層全体をV × Mというたった一回の掛け算で計算でき、出力として新しいベクトルV'が得られます。各ニューロンからひとつずつ出てきた数の並びです。この演算自体はごく単純なもので、多くの国では学校で習います。二つの数を掛け合わせるのと比べても、それほど難しくはありません。
V × M = [ 1.0 -0.2 ] × [ 2.0 0.5 ] = [ 1.88 0.14 ] = V'
[ 0.6 1.8 ]
1つ目のニューロン(重み 2.0 と 0.6): 1.0·2.0 + (-0.2)·0.6 = 1.88
2つ目のニューロン(重み 0.5 と 1.8): 1.0·0.5 + (-0.2)·1.8 = 0.14

ChatGPT、Claude、Geminiを含め、現代のニューラルネットワークはすべて、根本的にはまさにこの演算で動いています。
ルールを書き出せない問題を自力でこなす機械という夢は、人工知能と名づけられました。AIという用語を提案したのは、1955年のジョン・マッカーシー(John McCarthy)です3。この夢に向けてさまざまなアプローチが試されましたが、最終的に勝ち残ったのはひとつ、machine learning、つまり機械学習でした。その発想はプログラミングをひっくり返すものです。人間がルールを書くのではなく、機械が例から自分でルールを学ぶのです。
今日、このアプローチの主な道具がニューラルネットワークです。そして、テキストで学習したニューラルネットワークは、LLM(Large Language Model、大規模言語モデル)と呼ばれます。ChatGPT、Claude、Gemini、そのほか本書に登場する主役たちは、どれもまさにLLMを中心に作られています。
AI 夢:ルールを書き出せない問題を機械が解く
ML 方法:ルールは人間が書くのではなく、例から学ぶ
ニューラルネットワーク 道具:「掛けて足す」を重ねた層
LLM テキストで学習したニューラルネットワーク ← 本書全体のテーマ
そして、コンピュータが「ただの」0と1と、演算と取り決めであるのとまったく同じように、ニューラルネットワークも中身は「ただの」数の集まりで、それが行列と呼ばれる形にまとめられています。行列には数学的な演算をほどこすことができ、その結果はまた行列になります! そしてその上に、それが何を意味するかについての私たちの取り決めがあります。
1958年、ローゼンブラット(Rosenblatt)4は、数理的なニューロンを実際のハードウェアにしました。その機械はパーセプトロンと呼ばれ、中にはおなじみの「掛けて足す」操作が入っていました。入力に重みを掛け、積を足し合わせ、その和をしきい値と比べる。しきい値に届けば機械は「イエス」と答え、届かなければ「ノー」と答えます。
新しかったのは別の点です。パーセプトロンは、例から学習する史上初の機械でした。学習の仕組みは単純です。機械に例を見せ、機械が答え、その答えを正解と照らし合わせます。
答えが正解と一致した → 重みはそのまま
答えが間違っていた → それぞれの重みを正解の方向へ
少しだけ動かす
これを、例をひとつずつ、何千回も繰り返します。誰もルールを書いていないのに、重みがひとりでに調整されていく。これは一大センセーションでした。新聞は、機械がまもなく歩き、話し、自我を持つようになると書き立て、軍は資金を出しました。考える機械はもうすぐそこにあるように思えたのです。
しかし1969年、ミンスキー(Minsky)とパパート(Papert)5は、「掛けて足す」という操作ひとつでは、ごく単純な問題しか解けないことを厳密に証明しました。問題はこうです。パーセプトロンの答えは、いつも同じ仕組みで決まります。和が大きいほど、答えは「イエス」に近づく。ところが、正しい答えがそれとは違う仕組みで決まる問題もあります。たとえば入力が二つあって、ちょうど片方だけがオンのときにだけ「イエス」が正解になる場合です。
Aだけがオン → 和がしきい値に届いた → 「イエス」 正しい
Bだけがオン → 和がしきい値に届いた → 「イエス」 正しい
AもBもオン → 和はさらに大きくなった → 「イエス」 でも正解は「ノー」!
二つ目の入力は和を増やすことしかできず、それを引き戻す手段はありません。重みをどれだけ動かしても、これは直せません。問題は重みではなく、操作そのものにあるからです。「掛けて足す」は一歩の操作で、一歩では解けない問題もあるのです。考える機械を約束しておきながら、入力が二つしかない小さな問題でつまずいた。熱狂は崩れ去り、資金もそれに続き、「AIの冬」が訪れました。
ケイリー: 行列は数の表。ニューラルネットワークの一世紀前に考え出された
↓
マカロックとピッツ: ニューロンはしきい値つきの「掛けて足す」で、
ニューロンの層は行列の掛け算になる
↓
マッカーシー: こうした問題を解く機械という夢を、AIと名づけた
↓
ローゼンブラット: 重みは人が決めなくていい。例から学習できる
↓
ミンスキーとパパート: しかし1層では天井にぶつかる → 「AIの冬」
人工知能の物語は、そこで終わっていたかもしれません。幸い、そうはなりませんでした。

出典
-
Arthur Cayley, “A Memoir on the Theory of Matrices,” 1858. ニューラルネットワークの一世紀前に、行列の代数を確立した論文。 — https://en.wikisource.org/wiki/A_Memoir_on_the_Theory_of_Matrices ↩
-
McCulloch, Pitts, “A Logical Calculus of the Ideas Immanent in Nervous Activity,” 1943. ブール論理から組み立てられた、最初の数理的なニューロン。 — https://www.cs.cmu.edu/~./epxing/Class/10715/reading/McCulloch.and.Pitts.pdf ↩
-
McCarthy, Minsky, Rochester, Shannon, “A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence,” 1955. artificial intelligence(人工知能)という用語が初めて登場した文書。 — http://jmc.stanford.edu/articles/dartmouth/dartmouth.pdf ↩
-
Rosenblatt, “The Perceptron: A Probabilistic Model,” 1958. 最初の学習する機械。重みは誤りにもとづいて調整される。 — https://homepages.math.uic.edu/~lreyzin/papers/rosenblatt58.pdf ↩
-
Minsky, Papert, “Perceptrons,” 1969. 単層ネットワークの限界の証明。ここから「AIの冬」が始まった。 — https://en.wikipedia.org/wiki/Perceptrons_(book) ↩