存在リスク学センター

存在リスク学センター（そんざいリスクがくセンター、、略称：CSER）は、ケンブリッジ大学人文技術研究所（Institute for Technology and Humanity）に設置された学際的研究センターである。

人類の存続を脅かす存在リスク（existential risk）および地球規模の壊滅的リスク (Global catastrophic risk) の研究と軽減を専門的使命とし、世界各地の研究者・技術者・政策立案者のコミュニティ形成を推進している。

2012年、哲学者ヒュー・プライス、宇宙物理学者マーティン・リース卿、技術者ジャン・タリンの3名によって設立された。AIリスク・生物リスク・環境リスクを中心に、新興技術がもたらす壊滅的リスクの科学的分析と政策提言を行っており、存在リスク研究を学術分野として確立させた先駆的機関として知られる。

概要

CSERの研究は、低確率ではあるが人類の絶滅や文明の崩壊につながりうる高影響イベントを体系的に分析することを目的としている。現在の主要な研究領域は、人工知能（AI）リスク、生物リスク（グローバル規模の壊滅的生物リスク）、環境リスク（極端リスクと地球環境）、および極端な技術リスクの管理の4分野である。

CSERは研究活動のみならず、英国議会・政府機関・国際機関との政策連携、公開講座（オンライン視聴回数延べ50万回超）、国際会議の主催など、存在リスクという研究領域を社会に根付かせる「フィールド構築」（field-building）にも力を入れている。

設立の経緯

21世紀初頭、ケンブリッジ大学の宇宙物理学者でありイギリス王室天文官（Astronomer Royal）でもあるマーティン・リース卿は、人類がいかに自らの手で文明の将来を左右しうるかについて早くから警鐘を鳴らしていた。リーズ卿は、哲学者でケンブリッジ大学バートランド・ラッセル記念哲学教授のヒュー・プライス、そしてSkypeの共同創業者エンジニアであるジャン・タリンと意気投合し、2012年11月、CSERの設立を公式に発表した。

設立の動機は、従来の学術界が航空機事故や放射線被曝など比較的なじみのある低リスクに大きな注目を向けてきた一方、新興技術が生み出す低確率・高影響の壊滅的リスクについては研究が著しく不足しているという問題意識にあった。タリンによるシード資金提供により、講演シリーズ・ワークショップ・広報活動・助成金申請準備などの初期活動が開始された。

当初はケンブリッジ大学の人文・社会・人文科学研究センター（CRASSH）に置かれ、スティーヴン・ホーキング、パーサ・ダスグプタ、デヴィッド・チャーマーズらが顧問委員会に名を連ねた。2015年9月に初の博士研究員が着任し、その後フルタイムのチームに成長した。現在はケンブリッジ大学人文技術研究所（Institute for Technology and Humanity）の内部組織として位置付けられている。

組織・運営

共同創設者

ヒュー・プライス（Huw Price）ケンブリッジ大学バートランド・ラッセル記念哲学教授・トリニティ・カレッジ特別研究員。CSER創設後、レバーヒュルム未来知性センター（Leverhulme Centre for the Future of Intelligence）のアカデミック・ディレクターも務めた。

マーティン・リース卿（Lord Martin Rees）王立天文官、ケンブリッジ大学宇宙論・宇宙物理学名誉教授、旧王立協会会長。現在は顧問委員会議長を務める。

ジャン・タリン（Jaan Tallinn） SkypeおよびKazaaの創業エンジニア。Future of Life Instituteの共同設立者でもあり、存在リスク研究への慈善的支援を広く行っている。

現執行部

2025年3月、フィンランド・ヘルシンキ大学の政治学者S・M・アマダエ（S.M. Amadae）が所長（Director）に就任した。核安全保障・気候変動・AIガバナンスを専門とするアマダエは、SIPRIや北大西洋条約機構（NATO）との共同研究など、グローバルな政策連携を主導している。

主な研究領域

人工知能リスク

CSERはAIの安全性と安全保障の両面から研究を進めている。狭義AIから汎用AI（AGI）への移行がもたらしうる壊滅的リスク（AIアライメント問題・軍事的転用・経済的格差など）を分析するとともに、AI軍備競争の動態についても研究している。

2015年にはプエルトリコで開催されたAIの将来方向に関する国際会議の組織化を支援し、世界中の研究リーダーによる「AIに関する公開書簡」（Open Letter on Artificial Intelligence）への署名を取りまとめた。

スピンオフと関連機関

2016年、CSERで発案・立案されたAI研究センター構想がレバーヒュルム・トラストから1,000万ポンドの助成を受け、レバーヒュルム未来知性センター（Leverhulme Centre for the Future of Intelligence, CFI）として独立した組織となった。CFIはケンブリッジ大学を中心に、オックスフォード大学（ニック・ボストロム）、インペリアル・カレッジ・ロンドン（マレー・シャナハン）、カリフォルニア大学バークレー校（スチュアート・ラッセル）と連携する国際的学際センターである。

政策への影響

CSERの研究者は英国政府・議会・国際連合など各機関と積極的に連携している。シャハー・アヴィン（Shahar Avin）は英国政府のシステム的AIセーフティに関する新たな助成プログラムを主導し、ジェシカ・ブランド（Jessica Bland）は英国議会2024年ホライゾン・スキャンの諮問委員会および英国政府科学局のリスク・レジリエンス・プロジェクトに参加した。

主要な活動

ケンブリッジ壊滅的リスク国際会議（Cambridge Conference on Catastrophic Risk）サイバーセキュリティ・核安全保障・気候変動・遺伝子ドライブ等を主題とする30回以上のワークショップと国際会議を開催してきた。

ブラヴァトニク公開講座（Blavatnik Public Lectures）一般市民向け公開講座シリーズ。オンライン視聴回数は延べ50万回を超える。

TERRAツール存在リスクに関連する文献目録を自動生成するツールを開発し、研究者コミュニティに提供している。

意思決定理論とAI安全性の連続ワークショップ 2017年以降、哲学・意思決定理論・AI研究者を結集する学術ワークショップシリーズをミュンヘン数理哲学センターと共同主催している。

効果的利他主義との関係

CSERは効果的利他主義（Effective Altruism, EA）運動との思想的・組織的重複を持つ。共同創設者ジャン・タリンはEAの著名な支援者であり、当初のシード資金を提供した。ウィリアム・マッカスキル（William MacAskill）などのEA思想の主要人物がCSERの関連研究者として名を連ねており、CSERの研究員公募や報告書がEAフォーラム等のプラットフォームで広く共有されてきた。一方でCSERは独立した大学附属研究機関として、EA運動から組織的自律性を維持している。

Survival and Flourishing Fundからは2022年6月時点で20万ドル超の資金援助を受けている。

存在リスク学センター

Źródło i licencja