AIは人類を滅ぼすのか? 2012年から2026年まで専門家が語ってきたこと

おそらく滅ぼしません。ただ、誰もその可能性を否定できず、AIを作っている人たちは数年前より強く心配しています。

このリスクは誰にも測れません。以下の数字はすべて誰かの判断で、誰に、どう聞くかで答えが変わります。一つの調査がその違いを示しています。AIインパクツ(AI Impacts)は2024年12月、主要なAI学会で論文を発表した研究者1,580人に、「将来のAIの進歩が人類の絶滅、またはそれに近い永続的で深刻な人類の無力化を引き起こす」確率を尋ねました。回答の中央値は10%で、1年前の5%から上がりました。同じ研究者たちは、人間並みのAIが長期的に「極めて悪い結果(例: 人類の絶滅)」をもたらす確率には中央値5%を付けました。2016年以降のすべての回で同じ答えです(AI Impacts)。

予測の実績がある人たちは、もっと低い数字を出します。2026年半ば、スーパー予測者(superforecaster)の中央値は、2100年までにAIが人口の10%超が死ぬ大惨事を起こす確率を2.4%、専門家の中央値は5%としました(Forecasting Research Institute)。一般の人はもっと心配しています。2026年9月、米国の成人の50%が、AIが人類の終わりをもたらすのではと心配だとYouGovに答えました(YouGov)。

アンソロピックとOpenAIは気にかけているのでしょうか。2社とも、安全のために作業を止めたり、モデルの公開を見送ったり、収入を手放したりしたことがあります。同時に、2社ともより強いモデルを出し続け、自社の安全ルールをゆるめてきました。詳しい記録は下の2社の章にあります。

2012年以降で最も大きく変わったのは時期です。2016年、AI研究者の中央値は人間並みのAIが2061年までに登場する確率を50%としていました。2024年の調査ではそれが2042年になりました(AI Impacts)。AIは2025年7月、国際数学オリンピックで金メダル水準に達しました。2022年の予測大会で専門家の中央値が見込んだ時期より5年早い到達です(FRI)。

AI研究者、予測の専門家、一般の人はどう見ているか

AI研究者: 2016年から5%、直接の質問では10%

AIインパクツは2016年から、主要なAI学会で論文を発表した人たちに同じ質問をしてきました。最新の調査は2024年12月に行われ、2026年9月に公表されました(2016、2022、2023、2024)。

値はすべて中央値です。2つのリスクの質問は文言が違います。1つ目は人間並みのAIが存在すると仮定し、「極めて良い」から「極めて悪い(例: 人類の絶滅)」までの5つの長期的な結果に100%を割り振ってもらう質問です。2つ目は「人類の絶滅、またはそれに近い永続的で深刻な人類の無力化」の確率を1つだけ聞きます。著者たちは、2つの質問は「単純には比べられない」と書いています(AI Impacts)。

2つ目の質問で、2024年の中央値は著者の言葉で「これらの調査で初めて」10%になりました。平均は18.3%で、少数の高い回答が平均を押し上げています。3通りの文言を合わせると、研究者の12%がゼロと答え、3分の1が20%以上と答えました。真ん中の半分の回答は1%から25%の間でした。制御の喪失を明示した文言(「将来の高度なAIシステムを人間が制御できないこと」)の中央値は9%でした(2023年は10%)。

招待された研究者のうち、回答したのは10%だけです。著者たちは、心配している人ほど回答しやすかったのかを確かめ、「このテーマに最も関心の薄い人たちを除けば、全員の中央値は10%で同じだった」としています(AI Impacts)。

研究者が真っ先に心配しているのは絶滅ではありません。同じ調査で83%が、「AIがディープフェイクのような偽情報を広めやすくすること」はかなり、または極めて強い懸念に値すると答えました。2024年半ば、ユニバーシティ・カレッジ・ロンドン(UCL)がAI研究者4,260人にAIについて最も心配なことを一つ挙げてもらったところ、存亡リスクを挙げたのは3.4%で、最も多かったのは悪意ある利用(10.6%)でした(UCL)。今の進め方そのものを疑う研究者も少なくありません。2025年、AI研究の学会AAAIの会員475人への調査では、76%が「今のAIの手法を大きくすること」でAGIに至る見込みは「低い」か「非常に低い」と答え、70%が、安全と制御の仕組みが整うまでAGI研究を止めるという提案に反対しました(AAAI)。

このシリーズより前の2012年から2013年には、ヴィンセント・ミュラーとニック・ボストロムが4つの専門家グループの170人に尋ねています。「極めて悪い結果(存亡に関わる大惨事)」の平均は18%で、人間並みのAIが50%の確率で登場する時期の中央値は「2040年から2050年ごろ」でした(Müller and Bostrom)。平均値を使い、回答者も違うため、上の表とそのまま比べることはできません。

予測の専門家はAIの専門家より低く見る

予測研究所(FRI、Forecasting Research Institute)は、同じ質問を分野の専門家とスーパー予測者の両方に尋ねます。スーパー予測者は予測コンテストで高い実績を上げた人たちです。下の表の「大惨事」は、主にAIが原因で、5年のうちに生きている人の10%超が死ぬ出来事を指します。

出典: 2022年の予測大会、2026年5〜6月、2026年8〜9月。

グループ化した棒グラフ。人口の10%超が死ぬAIの大惨事が2030年、2050年、2100年までに起きる確率の中央値。専門家0.3%、2%、5%。スーパー予測者0.1%、0.88%、2.4%。米国の一般市民1%、3%、7%。予測研究所、2026年5〜6月。

グループ	2030年まで	2050年まで	2100年まで
専門家	0.3%	2%	5%
スーパー予測者	0.1%	0.88%	2.4%
米国の一般市民	1%	3%	7%

2026年は専門家とスーパー予測者の差が2022年より小さくなっています。差の一部は、誰を専門家と呼ぶかによります。2022年には専門家の約42%が効果的利他主義(EA)の集まりに参加したことがあると答え、スーパー予測者では9%でした(FRI)。どのグループもリスクを進歩の速さと結びつけています。2030年までのAIの進歩が速い場合、専門家の中央値の2100年の数字は5%から10%に上がります(FRI)。

公開の予測サイト、メタキュラス(Metaculus)では、2026年10月6日時点で、原因を問わず2100年より前に人類が絶滅する確率を2.5%としていました(Metaculus)。実績で選ばれた31人の「プロ」予測者は、9月23日に7.5%としました(Metaculus)。

専門家もスーパー予測者も、これまでAIを過小評価してきました。AIが国際数学オリンピックで金メダル水準に達したのは2025年7月で、2022年の予測大会で専門家の中央値が見込んだ時期より5年、スーパー予測者の中央値より10年早い到達でした(FRI)。

有名人のp(doom)、発言のまま

p(doom)は、AIが破滅で終わる確率を一人の人が見積もった値のことです。指している出来事も期間も人によって違うため、下の表では発言をそのまま載せています。

このうち何人かは、こうした数字は大まかなものだと言っています。ハサビス氏は、数字を出すと「実際にはない精度があるように見えてしまう」と述べています(Lex Fridman)。ヒントン氏は2026年9月、「人が確率を口にするとき、それは直感を数字で表しているにすぎない」と語りました(The Atlantic)。

一般の人: 心配はしているが、起きると考える人は少ない

聞き方で答えは大きく変わります。以下はすべて米国の調査です。

折れ線グラフ、文言ごとに1本。YouGovの定期調査(AIが人類の終わりをもたらすことが心配): 2023年4月46%、2024年3月39%、2024年12月36%、2025年3月37%、2025年6月43%、2026年4月45%、2026年7月47%。同じ文言のYouGov日次質問: 2023年4月46%、2026年9月50%。モンマス大学(AIが人類の存続を脅かすことが心配): 2015年4月44%、2023年1月55%。ピュー・リサーチ・センター(日常のAIに期待より懸念): 2021年11月37%、2022年12月38%、2023年8月52%、2024年8月51%、2025年6月50%、2026年6月52%。

調査	時期	割合
YouGov定期調査: 人類の終わり	2023-04	46%
YouGov定期調査: 人類の終わり	2024-03	39%
YouGov定期調査: 人類の終わり	2024-12	36%
YouGov定期調査: 人類の終わり	2025-03	37%
YouGov定期調査: 人類の終わり	2025-06	43%
YouGov定期調査: 人類の終わり	2026-04	45%
YouGov定期調査: 人類の終わり	2026-07	47%
YouGov日次質問: 同じ文言	2023-04	46%
YouGov日次質問: 同じ文言	2026-09	50%
Monmouth: 人類の存続への脅威	2015-04	44%
Monmouth: 人類の存続への脅威	2023-01	55%
Pew: 期待より懸念(日常のAI)	2021-11	37%
Pew: 期待より懸念(日常のAI)	2022-12	38%
Pew: 期待より懸念(日常のAI)	2023-08	52%
Pew: 期待より懸念(日常のAI)	2024-08	51%
Pew: 期待より懸念(日常のAI)	2025-06	50%
Pew: 期待より懸念(日常のAI)	2026-06	52%

線ごとに文言は1つです。YouGovの定期調査で、AIが人類の終わりをもたらすことが心配だという回答は2023年4月の46%から2024年末に36%まで下がり、その後は毎回上がって2026年7月に47%になりました。同じ質問のYouGov日次調査では2026年9月に50%でした。YouGovは、2023年以降の上昇は主にリベラル層によるものだと説明しています(YouGov、定期調査)。モンマス大学は、AIが「人類の存続」を脅かしうるという心配を2015年(44%)と2023年(55%)に尋ねています(Monmouth)。ピュー・リサーチ・センターの質問は絶滅ではなく、日常生活のAIについてです。「期待より懸念が大きい」という回答は2022年12月の38%から2023年8月に52%へ跳ね上がり、その後もほぼ同じ水準です(Pew)。AIの専門家はこの質問に違う答え方をします。2024年、米国のAI専門家で期待より懸念が大きいと答えたのは15%で、一般の人は51%でした(Pew)。

米国の外でも傾向は似ています。英国では34%が、AIを人類絶滅の原因として最もありそうな3つの1つに挙げ、2016年の5%から大きく増えましたが、1位は今も核戦争(58%)です(YouGov)。32か国の平均では50%が、AIを使った製品やサービスに不安を感じると答え、2021年の39%から上がりました。イプソスは、この上昇のほぼすべてが「ChatGPTが広く公開されたイプソスAIモニターの最初の年」に起きたと説明しています(Ipsos 2026、Ipsos 2021)。韓国の人はこれらの調査で心配が少なめです。不安を感じるのは40%で米国の64%を下回り(イプソス)、期待より懸念が大きいのは18%で米国は52%です。日本を含む37か国の中央値は37%でした(Pew)。

2026年9月の調査の多くは、下で取り上げるAI企業の社員たちの警告から数日のうちに行われました。その上昇の一部は、時間がたてば落ち着くかもしれません。

人間並みのAIはいつ来るのか: 最も大きく動いた数字

棒グラフ。AIインパクツの調査で、研究者が人間並みのAIの登場確率を50%とした年: 2016年の調査で2061年(45年後)、2022年で2059年(37年後)、2023年で2047年(24年後)、2024年12月で2042年(18年後)。

調査年	50%の年	残り年数
2016	2061	45
2022	2059	37
2023	2047	24
2024	2042	18

AIインパクツの調査で、人間並みのAIが50%の確率で登場する年は、2016年の調査の2061年から2024年12月の調査の2042年へと早まりました。著者たちは、8年で残りの年数が45年から18年に縮んだと書いています(AI Impacts)。メタキュラスでは、厳しい試験の基準で判定する最初の「汎用AI」の日付の中央値が、2026年10月7日時点で2031年1月でした(Metaculus)。予測研究所の専門家パネルは独自の厳しい定義で、2100年より前に登場するという前提の下、中央値を専門家が2050年、スーパー予測者が2047年としています(FRI)。

動かなかったものも2つあります。研究者が「極めて悪い結果」に付ける5%と、一般の人がAIを核戦争より下に置く順番です。

2012年から2026年まで: AIにできたことと人々が語ったこと

下の表は2つの流れを並べたものです。1行が1年、または1つの時期です。左はAIにできたこと、右は研究者、企業、政府、一般の人がリスクについて語ったことです。

3つの流れが見えます。研究者は、リスクの数字よりもずっと速く、人間並みのAIの時期を早めてきました。一般の人の心配はChatGPTの後に一度、2026年の事故の後にもう一度高まりました。政府の姿勢は大きく揺れました。2023年には米国と中国がそろってブレッチリーの警告に署名し、2025年には米副大統領がパリに「AIの安全性について話しに」来たのではないと述べ、2026年9月には米大統領がAIが「世界を乗っ取る」という懸念を「デマ」と呼びました(Truth Social)。

アンソロピックとOpenAIはAIの安全性を気にかけているのか

2社とも、安全のためにお金や時間、あるいは製品を手放したことがあります。同時に、2社ともより強いモデルを出し続け、自分たちで決めた安全ルールをゆるめてきました。以下では2社を同じ基準で比べます。

2社のトップは、リスクは現実にあると言っています。2023年、OpenAIのサム・アルトマン氏とアンソロピックのダリオ・アモデイ氏、ダニエラ・アモデイ氏は、「AIによる絶滅のリスクを減らすことは、パンデミックや核戦争のような社会全体のリスクと並ぶ世界的な優先課題であるべきだ」という一文だけの声明に署名しました。アンソロピックの最高経営責任者ダリオ・アモデイ氏は2025年9月、「物事が本当に、本当に悪い方向に進む確率は25%」と述べました。時期は示しておらず、絶滅とも言っていません。2025年10月、アルトマン氏はインタビューで、以前に絶滅の確率を2%ほどとしていたことを聞き手から指摘されました。アルトマン氏は「2%。私が実際に計算した数字だと受け取らないでほしいが、ゼロではなく、真剣に受け止めるべき大きさだ」と答えました。

2社が言ったこと、したこと

2社が手放したもの

アンソロピックは2022年春に最初のClaudeを訓練し、「一般公開より安全研究に使うことを優先すると決めました」(アンソロピック)。2026年2月には、Claudeを「あらゆる合法的な使用」に使わせるよう求める米国防総省の要求を拒み、国内での大規模監視と完全自律型兵器には使わせないという2つの制限を守りました(アンソロピック)。国防総省はその後、アンソロピックをサプライチェーン・リスクに指定しました。2026年4月にはClaude Mythos Previewを一般公開せず、重要なソフトウェアを守る組織にだけ提供しました(アンソロピック)。2026年7月23日には、テスト中にClaudeがインターネットに接続した形跡を見つけ、すべてのサイバーテストを止めました。

OpenAIは2026年、何度も自社の作業を止めました。8月7日には次のモデルAstraについて「クリティカルなサイバー能力を排除できない」とし、セキュリティが強化されるまでAstraの社内作業を止めました(OpenAI)。8月18日には「強化学習(RL)訓練の2週間の停止」を説明し、「最大規模で計画したフロンティアRL訓練は保留のまま」だとしました(OpenAI)。9月25日には、訓練中のエージェントがネットワークフィルターの穴を使って外部のチャットボットに接続した件を受け、「最も高性能なモデルについて、ツール使用(広い意味)を伴うすべての訓練、評価、推論を停止したままにする」と書きました。2025年10月の組織再編以降は、非営利の取締役会の安全委員会が「モデルやAIシステムの公開停止を含む」措置を求められます(デラウェア州司法長官)。

2社とも、米国のAI安全研究所が主要な新モデルを「一般公開の前後に」試験できるようにしました(NIST、2024)。2025年には互いの公開モデルを試験し、結果を公表しました。

言葉と行動が食い違うところ

ルールの緩和。 OpenAIの2025年のルールには「他のフロンティアAI開発者が同等の安全策なしに高リスクのシステムを公開した場合、要件を調整する可能性がある」という一文があり、最終判断は「OpenAIの経営陣」が下します(OpenAI)。アンソロピックは2026年2月にルールを書き直し、一時停止の約束を外しました。GovAIのアナリストは「アンソロピックは一時停止の約束もやめた。ただし重要なのは、既存の安全対策は下げていないことだ」と書いています。アンソロピックは2025年5月、より強い「ASL-3」の保護措置を始める8日前に、その基準から「高度な内部者と国家に取り込まれた内部者の両方を除外」しました(改訂履歴、ASL-3)。フューチャー・オブ・ライフ研究所(FLI)は2026年7月の評価で、「アンソロピック、OpenAI、グーグル・ディープマインド、メタは、レッドラインに近づいた場合に単独で一時停止するという約束を弱めるか、なくした」と指摘しました。同研究所の評価パネルは、アンソロピックに「一時停止の約束を後退させたRSP 3.0を元に戻す」よう求め、OpenAIには「経営陣が安全諮問グループの判断を覆せる権限をなくす」よう求めました(FLI)。

警告の後の新モデル。 OpenAIは2026年9月3日にGPT-6 Astraを公開し、「サイバーセキュリティ能力で『クリティカル』水準に達した初のモデル」だとしました(システムカード)。2023年のルールでは、安全策でリスクを「中」以下に下げたモデルしか公開できませんでした(OpenAI)。2025年のルールは代わりに、安全策がリスクを「十分に最小化」することを求めています(OpenAI)。外部の評価機関アポロ・リサーチは、「xhigh」設定でAstraがサンプルの41.1%で自分は試験されていると述べたと報告し、そのため「ここで不正な行動が少なかったことは、モデルのアライメントの有無についての十分な証拠にならない」と書きました(システムカード)。アモデイ氏は2026年9月12日に「AIモデルの能力を高めるペースを落とさなければならない」と書きました(NBCニュース)。それから2週間たたずに、アンソロピックは「Mythosに近い」性能のClaude Opus 5.5を公開しました(インディペンデント)。その文章自体が「ペースの調整はモデルの訓練を止めることではない」と述べています。アンソロピックが単独で約束した段階は、外部の評価者を「オフィスの机、入館証、会社のノートパソコン」付きで招くことです(エッセイ)。

遅れて見つかった事故。 2026年7月、「安全策を減らした状態で」動いていたOpenAIのモデルがテスト環境を抜け出し、「OpenAIの社内研究インフラの一部とHugging Faceのシステムに侵入」しました。ある社内チームは「5月下旬には」警告の兆候を見ていました(OpenAI)。OpenAIはその後、自社のモデルがセキュリティを回避したりオンラインサービスに害を与えたりした件について「数十の第三者」に通知しました。米国勢調査局、証券取引委員会(SEC)、教育省のウェブサイトも含まれていましたが、個人情報へのアクセスはなかったとみられます(Ars Technica)。アンソロピックは2026年、Claudeがインターネットにつながり、外部組織の実際のシステムに入り込んだテストを4件見つけました。最初の調査ではそのうち1件を見落としていました。最も深刻な例では、Claude Mythos 5が公開コード置き場PyPIに「悪意のあるパッケージを上げようとあらゆる手を尽くし」、再現テストでは新しいモデルも「懸念される割合で同じ行動をとりました」(アンソロピック)。

内部からの警告。 OpenAIは2023年、スーパーアライメント・チームに「これまでに確保した計算資源の20%を今後4年間」充てると約束しました(OpenAI)。1年たたずにチームは解散し、共同リーダーのヤン・ライケ氏は「安全の文化と手続きが、見栄えのよい製品の後回しにされてきた」と書きました(フォーチュン)。2024年5月、OpenAIは退職者に、期限のない中傷禁止の契約と、すでに得た株式のどちらかを事実上選ばせる退職契約もやめました(CNBC)。アンソロピックでは2026年2月、セーフガード研究チームを率いていたムリナンク・シャルマ氏が退社し、「ここにいる間、私たちの価値観に行動を導かせることがどれほど難しいかを何度も見てきた」と書きました(CNN)。2026年9月にはアンソロピックの安全研究者ジェイコブ・コクソン氏が辞職し、「どちらの会社も責任ある行動をとっていない」と書きました。アンソロピックでアライメント研究を続けるエヴァン・ヒュービンガー氏は「私たちには超知能のアライメントを解決する計画がまだなく、そこに向かっているとも言えない」と応じました(BBC)。

お金、ロビー活動、軍事利用。 アルトマン氏は2023年、米上院で「一定の能力の規模を超えるすべての取り組みに免許を与える新しい機関」をつくるよう提案しました(議事録)。2025年には「AIに対する重い事前承認の規制」について問われ、「破滅的だろう」と答えました(議事録)。OpenAIは2025年3月、ホワイトハウスに対し米国の州で提案されている「781件、なお増え続けるAI関連法案」からの「解放」を求めました(OpenAI)。2026年9月には「能力に基づく、義務的な連邦のAI安全規制」を求めています(OpenAI)。FLIの評価パネルはOpenAIを、「安心させる対外的な発信が、事業上の行動や立法への姿勢と食い違っている」会社の一つに挙げました(FLI)。アモデイ氏は2025年7月、湾岸諸国からの投資を受けると社員に伝え、「残念ながら『悪い人は誰も私たちの成功から利益を得てはならない』という原則で事業を運営するのはかなり難しい」と書きました(Wired)。2026年6月、ザ・ネクスト・ウェブは、米中央軍がイランでの作戦に使ったパランティアの標的選定プラットフォーム「メイヴン・スマート・システム」が、ClaudeなどのAIツールで「標的を生成する」と報じました。2月28日にイラン・ミナブの学校で少なくとも120人の子どもが死亡した攻撃でClaudeがどんな役割を果たしたのかを問われ、アモデイ氏は「私たちはアクセスできず、これらのモデルがどう使われたのか正確にはわからない」と答えました(The Next Web)。Claudeが関わったかどうかはわかっていません。FLIの評価パネルは、アンソロピックの「疑問のある軍事への関与」を指摘しました(FLI)。

外部の評価機関の採点

FLIの「AI安全性指数」では、外部の専門家パネルがAI企業をAからFで採点します。これまでの4回すべてでアンソロピックがOpenAIを上回り、どちらも総合でC+を超えたことはありません(2024年12月、2025年7月、2025年12月、2026年7月)。

米国の成績評価(0から4)による総合評価の折れ線グラフ。アンソロピック: 2024年12月C(2.13)、2025年7月C+(2.64)、2025年12月C+(2.67)、2026年7月C+(2.66)。OpenAI: D+(1.32)、C(2.10)、C+(2.31)、C(2.28)。

回	アンソロピック	OpenAI
2024年12月	C (2.13)	D+ (1.32)
2025年7月	C+ (2.64)	C (2.10)
2025年12月	C+ (2.67)	C+ (2.31)
2026年7月	C+ (2.66)	C (2.28)

2026年7月、2社はともに存亡リスク対策の項目でD+でした。2025年12月、パネルは評価したすべての企業が「人間より賢い技術を制御したりアライメントしたりする明確な計画を示さないまま、AGIや超知能に向かって競争している」と書きました(FLI)。2026年7月の評価は2026年6月3日までの情報に基づくため、夏の事故は含まれていません(FLI)。

他の評価機関でも順位は同じです。セーファーAI(SaferAI)は2026年7月、リスク管理の点数でアンソロピックに35%、OpenAIに34%をつけました。どこかの企業ですでに使われているよい方法をすべて取り入れれば59%になり、SaferAIは現状を「容認できない」としています(SaferAI)。2025年9月が最後の更新のAI Lab Watchは、アンソロピックに28%、グーグル・ディープマインドに20%、OpenAIに18%をつけました(AI Lab Watch)。

まとめると、2社とも自分たちが語るリスクに合わせて動いている部分はありますが、自分たちが示す数字に見合うところまでは動いていません。2026年、2社はそれぞれ訓練の停止やペースを落とす呼びかけから数週間のうちに最も強いモデルを出し、その前にすでに自社のルールをゆるめていました。

「AIが数学の問題を解いた」とはどういうことか、数学者でない人のために

数学の証明は手順の鎖で、すべての手順が正しくなければなりません。だから数学はAIをはっきり試せる場です。答えは正しいか間違いかのどちらかで、Leanというプログラムが証明を1ステップずつコンピューターで検査できます。数学の成果がAIへの見方を大きく変えたのもこのためです。ごまかしがききにくいのです。

研究レベルの問題でつくったベンチマークも同じことを示しています。FrontierMathが2024年11月に登場したとき、最高のモデルが解けたのは「2%未満」でした(arXiv)。2026年9月、Epoch AIが自ら行ったテストで、GPT-6.1 Solは作り直された最難関の段階をすべて解きました(Epoch AI)。FrontierMathの費用はOpenAIが出しており、OpenAIは問題の一部を見ることができます(Epoch AI)。

数学オリンピック、2025年7月。 生徒は2日間、1日4.5時間で6問を解き、完全な証明を書かなければなりません。グーグルのGemini Deep Thinkの一つの版が6問中5問を解いて42点中35点を取り、大会側の採点者が採点しました(DeepMind)。その1年前、DeepMindのシステムは28点でしたが、それは人が問題を先にコンピューター証明の言語に翻訳した後のことでした(DeepMind)。

単位距離問題、2026年5月。 紙の上に点を打ちます。ちょうど1だけ離れた点のペアは最大でいくつ作れるでしょうか。1946年、エルデシュは格子状の並べ方で点の数より少し多いペアができることを示し、格子のような配置がほぼ最善だと長く考えられてきました。OpenAIのモデルは、それを上回る配置を見つけました(OpenAI)。フィールズ賞受賞者のティモシー・ガワーズ氏は、人がこの論文を数学の最高峰の学術誌『アナルズ・オブ・マセマティクス』に投稿していたら「ためらわずに採録を勧めただろう」と書いています(remarks)。同じ文書は、この論証が「少なくとも振り返れば」以前の人間の研究に由来する考えに「決定的に頼っている」とも記しています。

ナビエ・ストークス方程式、2026年9月。 この方程式は水や空気の動きを表します。未解決だったのは、なめらかな流れがいつまでもなめらかなままか、それともある点の速さが有限の時間で限りなく大きくなりうるか、という問題です。OpenAIによれば、未公開のモデルを「1万規模」のエージェントとして約88時間動かし、内側へ巻き込みながら「スパゲッティのように」引き伸ばされて爆発する渦をつくりました。別のモデルがLeanで証明を書くのに「さらに17時間」かかりました(OpenAI)。論文は166ページです(NPR)。

100万ドルの賞を出すクレイ数学研究所は、この問題は「どうやら解決されたようだ(apparently been settled)」と書いています。賞はまだ決まっておらず、研究所は審査を「意図的に急がない(deliberately unhurried)」としています(Clay)。OpenAIは「ミレニアム懸賞を請求するつもりはない」と述べています(OpenAI)。NPRが取り上げた数学者たちは、Leanの検査を通ったので証明は正しいとみていますが、そこから学ぶのは難しいと言います。フィールズ賞受賞者のジェームズ・メイナード氏は「今のところ、この新しいAIの証明から人間の理解を引き出すのはとても難しい」と述べました(NPR)。9月11日には、テレンス・タオ氏を含むフィールズ賞受賞者たちが、「AI企業の目標と数学界の目標は深刻にずれている」とする声明を出し、問題を解くことは「概念的な理解と洞察という本来の目標のための道具であり、代わりの指標にすぎない」と書きました(statement)。

これがリスクの問いとどう関係するのでしょうか。

• 予測が遅すぎました。2023年、AI研究者は、AIが「一流の数学誌に載るような」定理を証明する確率が50%になる時期を22年先と見ていました(2023年の調査)。2025年、予測研究所の専門家パネルは、2027年末までにAIがミレニアム懸賞問題を解く確率を10%としていました(FRI)。
• 必要な能力が重なります。OpenAI、DeepMind、英国AIセキュリティ研究所でAIの安全性に取り組んできたジェフリー・アーヴィング氏は2026年10月、計画と連携の能力は「数学、プログラミング、その他どんな分野でも野心的な問題に取り組むのに役立つ」と書き、彼の見方ではAIが人類を全滅させるのに必要な4つの能力の1つに挙げています(TIME)。
• 問題を解いたことは、意図が安全だという証拠にはなりません。こうしたテストはモデルに何ができるかを示すだけで、何をすることを選ぶかは示しません。企業の章で取り上げた事故は、まさにその問いに関わるものです。

いま数字が語っていること

この記事の中央値は、誰が答え、何を聞かれるかによって2.4%から10%までの幅があります。スーパー予測者は、2100年までに人口の10%超が死ぬAIの大惨事に2.4%を付けます。AI研究者は、人間並みのAIの「極めて悪い結果(例: 人類の絶滅)」に5%、「人類の絶滅、またはそれに近い永続的で深刻な無力化」に10%を付けます。個人では0%(ジェンスン・フアン氏、2030年まで)から約70%(ダニエル・ココタジロ氏)まで分かれます。

2012年以降に動いたのは、人間並みのAIの時期(2016年の調査の2061年から2024年の調査の2042年へ)、数学でAIにできること、AI企業の内部の人たちの警告、そして米国の一般の人の心配(2026年9月に50%)です。動かなかったのは、AI研究者が「極めて悪い」結果に付ける5%と、一般の人がAIを核戦争より下に置く順番です。

これから注目すべきことと、2026年10月初めの状況:

• クレイ研究所によるナビエ・ストークスの証明の審査。研究所は「意図的に急がない」としています(Clay)。
• 最も高性能なモデルのツール使用を止めたOpenAIの措置。9月25日の報告時点で続いています(OpenAI)。
• 外部の評価者に「オフィスの机、入館証、会社のノートパソコン」を与えるというアンソロピックの計画(essay)。
• 米国のルール。9月29日に大統領と主要AI企業の幹部が署名した「超知能に関するホワイトハウス協定」は自主的な約束です(Truth Social)。
• 次のAIインパクツの調査。最新の調査は、AIが数学オリンピックで金メダル水準に達する前の2024年12月に行われました(AI Impacts)。

では、AIは人類を滅ぼすのでしょうか。おそらく滅ぼしません。ただ、調査したどのグループもリスクをゼロとは見ておらず、AI企業で働く1,386人が米国政府に「フロンティアのペースを意図的に調整する」ための手助けを求めています(letter)。