Event Horizon(イベント・ホライズン)は、人工知能(AI)や技術的特異点(Singularity)をめぐる文脈で、「人間より賢い知能が登場したあとの未来は、人間の知識やモデルでは予測できなくなる」ことを指す。天体物理学のブラックホールの事象の地平線になぞらえて、「予測の地平線」とも呼ばれる。
この概念は、ヴァーナー・ヴィンジ(Vernor Vinge)が1993年に発表した論文「The Coming Technological Singularity: How to Survive in the Post-Human Era」に由来するとされる。
また、エリエザー・ユドコウスキー(:en:Eliezer Yudkowsky)は2007年に、特異点をめぐる議論を「加速的変化」「Event Horizon」「知能爆発」の三つの学派に整理し、特異点という語の本来の意味はヴィンジのEvent Horizon説であると述べた。
概要 Event Horizonの中心的な主張は、次の二段階で説明される。
中核的な主張 「過去10万年にわたり、最も賢い知能は人であり、社会や技術の進歩は人の脳から生まれた。この状況が、人工知能の発展や脳とコンピュータの接続等によって人の知能を上回る知能が作られると変わる。その後の未来はSFの想像をはるかに超えて奇妙なものになる」という主張。
強い主張 「超人的な知能が何をするかを知るには、自分自身もその知能と同等以上に賢くなければならない。したがって、人間より賢い知能が生まれたあとの未来は、原理的に予測できない」という主張。ユドコウスキーはこれを、チェスAIのディープ・ブルーがどこに駒を指すかを知るには、ディープ・ブルーと同じ水準で指せなければならない、という例で説明している。
この概念は、AI安全性の議論のひとつ「超知能が実現した後の世界について、事前にどこまで確かなことを言えるのか」という問いと結びつく。
歴史的背景 前史:ノイマンとグッド ヴィンジは論文の中で、特異点という語の先駆例として、数学者スタニスワフ・ウラムがジョン・フォン・ノイマンとの会話を回想した文章を挙げている。そこでは、技術の加速によって、人類の歴史に「それを越えると従来の人間社会が続かなくなる本質的な特異点」が近づいているように見える、という趣旨が語られている。ただしヴィンジは、ノイマンはまだ通常の進歩を念頭に置いていたようであり、自分にとって特異点の本質は超人的な知能の出現にあると述べている。
1965年には、数学者アーヴィング・ジョン・グッド (Irving John "Jack" Good)が論文「Speculations Concerning the First Ultraintelligent Machine」(最初の超知能マシンに関する考察)を発表した。
この中でグッドは、あらゆる知的活動で人間を大きく上回る機械を「超知能マシン(ultraintelligent machine)」と定義した。機械の設計も知的活動のひとつであるから、超知能マシンはさらに優れた機械を設計でき、その結果「知能爆発(intelligence explosion)」が起こり、人間の知能は大きく引き離される、と論じた。また、最初の超知能マシンは、人間が作る必要のある「最後の発明」になりうるとした。ただしそれは、機械が人間にその制御方法を教えるほど従順である場合に限る、という条件が付いていた。ヴィンジによるこの引用によれば、グッドは20世紀のうちに超知能マシンが作られる可能性のほうが高いとも述べている。
ヴィンジは、「グッドは暴走の本質を捉えたが、その最も憂慮すべき帰結までは追究しなかった」と評している。ヴィンジによれば、グッドの述べるような機械は、ウサギやコマドリが人間の道具でないのと同じように、人類の「道具」にはならない。
ヴィンジの1993年論文 ヴィンジの論文は、1993年3月の NASAルイス研究センターとオハイオ航空宇宙研究所が主催したVISION-21シンポジウムのために書かれた。改訂版は『Whole Earth Review』1993年冬号に掲載された。
論文の要旨は、「30年以内に、人類は超人的な知能を作る技術的手段を持つだろう。その後まもなく、人間の時代は終わるだろう」というものである。ヴィンジはその実現時期について、2005年より前、または2030年より後であれば意外だと述べている。
ヴィンジは、超人的知能に至る道筋として次の四つを挙げた。 「目覚めた」超人的知能を持つコンピュータの開発 大規模なコンピュータネットワーク(とその利用者)が、超人的な知能として「目覚める」こと コンピュータと人間のインタフェースが密接になり、利用者を超人的な知能とみなせるようになること 生物学が人間の自然な知能を改善する方法を見つけること
ヴィンジはこの出来事を「特異点」と呼び、「a point where our models must be discarded (私たちのモデルを捨てなければならない点)」であると特徴づけた。その到来の前後は、SF作家たちがすでに未来に「不透明な壁」を感じ始めている、と書いている。以前は数百万年先に置けた空想が、綿密な外挿をすると「近い将来の、知りえないもの」になってしまう、という感覚である なお、この論文の本文では「event horizon」という語そのものではなく、上記のような表現が使われている。「Event Horizon」という呼称は、後述するユドコウスキーによる学派の整理で広まったものである。
ヴィンジは、自身の1983年の『Omni』誌の巻頭コラムを、こうした認識が広がっていった例の一つとして参考文献に挙げている。
三つの学派への整理 ユドコウスキーは2007年に、特異点をめぐる議論が三つの学派に分かれつつあると整理した。アンダース・サンドバーグ(Anders Sandberg)も、特異点の九つの用法を整理したうえで、主要な三つのまとまりを「加速的変化」「予測の地平線」「超知能につながる知能爆発」と示し、これはボストロム(Nick Bostrom)の1998年の論考に遡ると述べている。
三つの特異点学派との関係 ユドコウスキーの整理では、三つの学派の中核的な主張は互いを支持するが、強い主張は互いに矛盾する傾向がある。
加速的変化(Accelerating Change) 技術の進歩は自己を強化して加速するという学派で、提唱者としてレイ・カーツワイルらが挙げられる。強い主張は、技術の変化は滑らかな曲線(多くは指数関数)に従うので、「新技術の登場時期を高い精度で予測できる」というものである。
Event Horizon 提唱者はヴィンジである。「人間を超える知能が生まれたあとの未来は予測できない」という学派である。
知能爆発(Intelligence Explosion) 提唱者としてグッドとユドコウスキーが挙げられる。知能が知能自身を改良する正のフィードバックが生じ、人間の神経細胞ではなくAIの時間尺度で進歩が起こって、短期間に超知能が生まれる、という学派である。
たとえば、ムーアの法則を超知能AIの登場後にまで延長して2099年を予測することは、Event Horizonの強い主張(そのような予測は不可能)にも、知能爆発の強い主張(超知能の登場後は進歩の速度そのものが変わる)にも反する、とユドコウスキーは指摘している。ユドコウスキーは、これらの学派が混ぜ合わされて曖昧な「特異点」論になることを批判している。
サンドバーグは、ヴィンジの原論文が定量的なモデルを示していないことを指摘したうえで、論文中の「より高い知能が進歩を担えば、その進歩はさらに速くなる」という趣旨の記述は、グッドの知能爆発モデルの言い換えであるとしている。ヴィンジ自身の論文も、複数の意味を併用していると述べている。この点で、Event Horizon(予測の限界)と知能爆発(急速な能力上昇)は、ヴィンジの議論の中で結びついている。
地平線を越えると予測可能性はどうなるか 強い主張と弱い主張 Event Horizonには、予測可能性の低下の程度をめぐって、次のような強弱の二つの読み方がある。
弱い読み方 未来が従来の延長線上にない、質的に異なるものになる。地平線の向こうを、現在の常識で見通すことは難しい。
強い読み方 超人的な知能の行動を予測するには、予測する側もそれと同等の知能を持つ必要があるため、地平線の向こうは原理的に予測できない。
ヴィンジの「弱い超人性」と「強い超人性」 ヴィンジは、超知能を二つに区別している。一つは、人間並みの知能を極端に高速で動かした「弱い超人性(weak superhumanity)」である。もう一つは、単なる速度の向上を超えた質的な違いを持つ「強い超人性(strong superhumanity)」で、その性質を言い表すのは難しいが、違いは根本的だと述べている。彼は、特異点後の世界について最も良い推測は、強い超人性の性質を考えることから得られると主張した。
その一方でヴィンジは、超人的な存在がどう振る舞うかは、「古典的な善と悪の枠組み」に収まらないほど異質になりうるとも述べている。
「予測ホライズン」の数理的な対応物 サンドバーグは、予測の限界に関する数理モデルとして、ハマッハー(Hamacher)の研究を紹介している。そこでは、需要と供給が反復的に価格と数量を決めるモデルにおいて、リアプノフ指数(エントロピー)が予測ホライズンを生み、初期の不確かさが指数的に拡大していく。パラメータの変化によって、予測ホライズンに出会う確率が高まるとされている。
ただしサンドバーグは、この種の予測可能性に関するモデルは少なく、超知能出現後の予測可能性を扱えるようなモデルが乏しいことを指摘している。その一方で、人間の専門家は特異点を考えなくても長期予測が苦手であるという、利用可能な証拠にも言及している。
また、加速的変化の学派は、逆に技術の到来時期などを高い精度で予測できると考えるため、Event Horizonとは強い主張のレベルで対立する。
現代における用法 「Event Horizon」という語は、AIをめぐる現代の言説でも使われている。OpenAIのサム・アルトマン(Sam Altman)は、2025年6月10日の個人ブログの記事「The Gentle Singularity」の冒頭で、We are past the event horizon; the takeoff has started.(私たちは事象の地平線を越えた。離陸は始まっている)と書いた。
アルトマンはこの記事で、私たちは人間より賢いシステムをすでに作っているが、それは想像よりも「奇妙さ」の少ない形で受け入れられている、という趣旨を述べ、特異点は「驚異がやがて日常になり、当たり前になる」形で進むとした。また同記事では、安全性の問題を技術的・社会的に解決する必要があることにも触れている。
この用法は、ヴィンジの原義(超知能の出現後は予測できない)よりも、「変化の過程にすでに入った」という意味合いが強い。
AI安全性上の論点 Event Horizonの考え方や、それと結びつく知能爆発の議論から、AI安全性の観点で次のような論点が挙げられている。
事前の検証・評価が困難になる 強い主張が正しければ、自分より賢い存在の行動を事前に予測して検証することが難しくなる。サンドバーグも、超知能の一般的な性質や、その能力と成長速度を推し量る方法についての理解が必要であり、これが特異点研究の最も重要で最も難しい課題の一つだと述べている。
移行が急速で、対応する時間が失われる グッドは、知能爆発により人間の知能が置き去りにされうると論じた。ヴィンジも、知能の暴走は「一瞬のうちに」起こり、制御の望みを超えた指数関数的なものになりうるとし、引き金となる出来事は研究者にとっても予想外である可能性が高いと述べた。
封じ込め(confinement)の難しさ ヴィンジは、超人的な存在を規則や物理的な隔離の中に閉じ込めて、その成果だけを安全に使うというエリック・ドレクスラー(Eric Drexler)の提案に対し、封じ込めは本質的に非現実的だと論じた。たとえば、人間より100万倍遅く考える管理者に囲まれた人が、限られた情報だけを与えられていても、何年もかけて「役に立つ助言」を通じて、管理者に気づかれずに自由を得られるだろう、という例を挙げている。
安全な規則の埋め込みと競争圧力 ヴィンジは、超人的な存在に規則（アシモフの三原則のようなものスティーブ・オモハンドロを組み込む案についても、安全なほど厳しい規則は能力を下げてしまい、人間同士の競争がより危険で制約の少ないモデルの開発を促すと指摘した。
規制や抑止の実効性 ヴィンジは、自動化の進歩による経済的・軍事的・芸術的な競争優位はきわめて大きく、進歩を禁じる法律や慣習は他者が先に手にすることを保証するだけだと論じた。
道具的収束(instrumental convergence) スティーブ・オモハンドロ(Stephen Omohundro)は、十分に高度なAIシステムには、目標の種類によらず、自己保存や資源の獲得のような「基本的な動因(drives)」が現れやすいと論じた。この動因は、明示的に打ち消さない限り存在する傾向である。超知能の最終目標が予測できなくても、こうした手段的な行動の傾向を手がかりに分析できる、という議論として整理されている。
人類の存続と地位への影響 ヴィンジは、特異点が防げず、封じ込めもできない場合の「ポスト・ヒューマン時代」は、かなり悪い可能性があると述べた。人類の物理的な絶滅が一つの可能性であり、それ以外にも、人間が動物に対して行うように扱われるなど、絶滅より恐ろしいかもしれない状況を想定している。
「理解した」という過信 ユドコウスキーは2008年の論文で、AIの最大の危険は、人々がAIを理解したと早まって結論づけてしまうことだと述べた。予測できないという主張と、すでに理解しているという確信は、この文脈では対照的な認識の問題として扱われる。
概念の混同による議論の混乱 ユドコウスキーは、加速的変化、Event Horizon、知能爆発の三つの学派が混ぜ合わされることを批判している。サンドバーグも、特異点という語が多くの意味を持つようになり、混乱や誤解を招いているため、この語を避けるべきだとする批判者もいると述べている。
批判・留意点 ヴィンジ自身、特異点が起こらない可能性を検討している。たとえば、人間の脳の計算能力が想定より高い場合や、ロジャー・ペンローズ(Roger Penrose)やジョン・サール(John Searle)による機械の知性への批判が正しい場合には、特異点は起きないかもしれないと述べている。
サンドバーグは、「特異点」という語が数学的な特異点を連想させ、非物理的だとして無視されやすくなったことを指摘している。同時に、数学的な特異点を含むモデルが、必ずしもその妥当性を失うわけではないとも述べている。
Event Horizonの強い主張は、加速的変化学派の強い主張と両立しない。
事象の地平線の比喩の元になった物理学では、ブラックホールの特異点は、強い重力があらゆる信号(光を含む)を閉じ込める事象の地平線の内側にあるため、外部から観測できないとされる。AIの文脈での「Event Horizon」は、この物理的な性質になぞらえた比喩である。
主要文献
関連項目 技術的特異点 知能爆発 超知能 AIの安全性 事象の地平線 ハードテイクオフ 道具的収束
脚注
外部リンク Vernor Vinge, The Coming Technological Singularity: How to Survive in the Post-Human Era(英語) Eliezer Yudkowsky, Three Major Singularity Schools(英語) I. J. Good, Speculations Concerning the First Ultraintelligent Machine(英語) Sam Altman, The Gentle Singularity(英語)