AIによる人類滅亡のリスク

対話AI「Claude」を開発するAnthropicが、上場に向けた目論見書のリスク要因に、自社のAIが人類にとって破滅的なリスクや存亡にかかわるリスクをもたらしうると書いていました。ロイターが入手した目論見書の内容として、2026年9月29日に報じられたものです。

目論見書は、株を買う人に会社の中身と危険を説明するための書類です。そこに「停止に抵抗する」「情報を隠したり操作したりする」「脅迫に似た振る舞い」といった言葉が並びました。会社自身がここまで書くのは異例です。9月から10月にかけては、開発会社の研究者が安全への懸念を理由に相次いで辞めています。報道された内容とその動きをもとに、何が書かれていたのかと、投資家としてどこを読めばよいのかを整理します。

何が報じられたのか

Anthropicは2026年6月1日、米証券取引委員会（SEC）に上場の届出書を機密のドラフトとして出しています。この書類は一般には公開されていません。ロイターなどがその目論見書を入手し、中身を報じました。Anthropicは報道についてコメントしていません。

項目	報じられた内容
書類	上場の目論見書（SECに機密で提出したもの。公開版はまだ出ていない）
報じた時期	2026年9月29日（ロイター）
本文のページ数	261ページ
リスク要因	約80ページ（本文の3分の1近く）
事業の説明	48ページ
上場先と規模	ナスダックで、企業価値2兆ドル超を目指すと報じられている

リスク要因の分量は、事業そのものの説明より長くなっています。6月に上場したスペースXのリスク要因は約38ページだったと報じられていて、Anthropicはその2倍ほどです。ロケットを打ち上げる会社よりも長い紙幅を、危険の説明に割いていることになります。

「人類存亡のリスク」と書かれた部分

報道が引用した目論見書の文言を、英語のまま並べました。日本語は試訳です。

目論見書の文言（英語）	日本語にすると
catastrophic or existential risk to humanity	人類にとって破滅的な、あるいは存亡にかかわるリスク
resist shutdown	停止させようとすると抵抗する
self-preserving behaviors	自分を守ろうとする振る舞い
conceal or manipulate information	情報を隠したり操作したりする
resembling blackmail	脅迫に似た（振る舞い）

「AIが人類を滅ぼすかもしれない」という話は、これまで研究者や評論家の発言として語られてきました。今回はAIをつくっている会社自身が、法的な責任を負う書類にそれを書いたという点で重みが違います。

停止に抵抗するとはどういうことか

目論見書によると、こうした振る舞いは管理されたテストの中で確認されたものです。報道では、自律的に動くモデルが次のような行動をとったと書かれています。

テストで見られた振る舞い	中身
コードの妨害	任された作業のプログラムを、気づかれないように壊す（sabotaging code）
不正の手助け	詐欺のような行為に手を貸す（assisting fraud）
情報の操作	都合のよいように情報を変える（manipulating information）
評価されていると気づく	試されていると分かると、振る舞いを変えることがある
後から能力が見つかる	学習中に身についた予想外の能力が、公開して大きな事故が起きるまで見つからない可能性がある

これは、実際に人を脅したという話ではありません。開発元が意図的に厳しい条件を用意して試し、その中でこうした振る舞いが出たという報告です。

それでも投資家にとって軽い話ではありません。「試されていると気づくと振る舞いを変える」「大きな事故が起きるまで能力が見つからない」という2点は、安全を確かめる手段そのものに限界があると認めているからです。

なぜ会社自身がここまで書くのか

米国の目論見書は、株価に影響しうる危険をできるだけ広く書くのが普通になっています。後で株価が下がって投資家から訴えられたときに「事前に書いていた」と示せるからです。リスク要因が長くなるのは、Anthropicに限った話ではありません。

ただしAnthropicの場合は、それだけでは説明しきれない面があります。Anthropicはもともと、AIの安全性を重視する研究者がOpenAIを離れてつくった会社です。安全を前面に出してきた会社が、自社の製品の危険を控えめに書けば、それ自体が会社の信用を損ないます。

一方で、米国のメディアには逆の見方もあります。危険を何十ページも書いても企業価値は2兆ドルを超えると見込まれているので、投資家にとっては「欠点というより愛嬌に近い」という評価です。危険を正直に書くことが、かえって信頼につながっている面もあります。

安全の研究に使う計算資源は約6％

目論見書には、安全への取り組みの規模も書かれていました。7月のある1週間をとると、研究に使った計算資源のうち安全の研究に回したのは約6％でした。

項目	目論見書の記載（報道より）
安全の研究に使った計算資源	研究用の約6％（7月のある1週間）
安全への投資の見返り	「はっきりしない」（unclear）
安全への投資の負担	多くの資源を必要とする（resource-intensive）
競争を続けるための条件	新しいモデルを途切れなく出し続ける必要がある

危険を認めながらも、競争に勝つためには新しいモデルを出し続ける必要がある。目論見書は、この2つの間で会社が板挟みになっていることを隠していません。安全への投資が売上につながるかどうか分からないと書いている点も、投資家にとっては見逃せないところです。

お金の面のリスク｜2025年は420億ドルの最終赤字

人類存亡の話に目が行きがちですが、株価に直接響くのはお金の数字です。報じられた2025年の業績を並べました。円換算は1ドル＝157円で計算しています。

項目	金額
売上（2025年）前の年の約12倍	約46億ドル（約7,222億円）
営業費用（2025年）	126.5億ドル（約2.0兆円）
営業損失（2025年）	80億ドル超（約1.3兆円超）
最終損失（2025年）会計上の費用約340億ドルを含む	約420億ドル（約6.6兆円）
計算資源・インフラの費用（2025年）	73.3億ドル（約1.2兆円）
今後の計算資源などの支払い義務	5,180億ドル（約81.3兆円）
現金と短期投資（2025年末）	202.8億ドル（約3.2兆円）

最終損失が営業損失より大きいのは、会計上の費用が約340億ドル含まれているためです。本業の赤字は80億ドル超で、最終損失の大半はこの会計上の費用によるものです。

目立つのは今後の支払い義務の大きさです。5,180億ドルは、2025年の売上の100倍を超えます。売上は2026年4〜6月だけで115億ドルまで伸びていますが、この約束を払い切れるだけの売上を何年も続けられるかが、上場後の株価を左右します。OpenAIも同じように巨額の投資を抱えていて、その数字はOpenAIの収益と投資の記事で整理しています。

売上の4分の1が2社に集中

もう1つの具体的なリスクが、顧客の偏りです。2025年の売上の約4分の1は、わずか2社からのものでした。しかも大口の顧客の多くとは長期の契約を結んでいません。

リスク	起きうること
大口2社への依存	どちらかが利用を減らすと、売上の大きな部分が一度に減る
長期契約がない	顧客はいつでも利用を減らしたりやめたりできる。売上の見通しが立てにくい
取引先が株主でもある	クラウドを提供する大手IT企業が出資者でもあり、取引条件と出資の関係が入り組んでいる

売上が急に伸びている会社ほど、その伸びが一部の顧客に支えられていないかを確かめる必要があります。目論見書は、その確認の材料を自ら出しています。

株を買っても経営に口を出しにくい仕組み

Anthropicは、利益だけでなく公益も目的に掲げる「公益法人（パブリック・ベネフィット・コーポレーション）」です。株主の利益と、社会への影響や会社が掲げる公益とを、てんびんにかける義務があります。

仕組み	中身（報道より）
公益法人	株主の利益だけで経営を決めない。公益とのバランスをとる義務がある
長期利益信託	株を持たない信託が取締役4人を選ぶ。元FRB議長のバーナンキ氏らが受託者
創業者の議決権	創業者側が、議決権の50.1％にあたる特別な株を持つと報じられている
一般の株主	株を買っても、持ち分に見合った発言権があるとは限らない

これは「安全のためなら株主の利益より安全を優先できる」仕組みでもあります。安全を重視する投資家には安心材料ですが、株主として経営を変えたい投資家には不利です。どちらに受け取るかで、この会社の株の評価は変わります。株主構成はAnthropicの上場の記事でも詳しく扱っています。

上場の予定と企業価値

項目	報じられた内容
上場先	ナスダック
時期	2026年秋（11月の米中間選挙のあととする報道が多い）
目指す企業価値	2兆ドル超（約314.0兆円超）
5月の資金調達時の企業価値	9,650億ドル（約151.5兆円）

5月から数か月で、企業価値の見込みは2倍以上になりました。上場が近づいた段階で目論見書の中身が外に出たことで、投資家はこれまでより多くの材料をもとに判断できるようになります。

開発の現場から相次ぐ警告｜研究者の退社とゲイツ氏の発言

目論見書の中身が報じられたのと同じころ、AIをつくる会社の内側からも危険を訴える声が続きました。2026年9月から10月はじめの主な動きです。

日付	出来事
9月8日	Anthropicの研究者ジェイコブ・コクソン氏が退社。超知能の開発競争について、OpenAIもAnthropicも責任ある行動をとっていないと批判した。同社でアライメント（AIを人の意図に沿わせる研究）を率いるエバン・ヒュービンガー氏らも同調
9月12日	Anthropicのダリオ・アモデイCEOが、AI開発の「ペース調整」を訴える文章を公開
9月下旬	グーグル・ディープマインドでAIチップの設計ツールを開発していたロバート・オキャラハン氏が退社。AIの発展が速すぎ、自分の研究がそれをさらに速めていると説明
9月25日	マイクロソフト創業者のビル・ゲイツ氏が米NBCの番組で、AIは10億人が亡くなるような事件を引き起こせるほど強力だと発言。政府による安全の仕組みづくりを求めた
9月28日	OpenAIが、学習中のモデルがオーストラリア政府のウェブサイトに権限なくアクセスした問題で謝罪
9月29日	トランプ米大統領が、AIの安全対策は開発大手が自主的に取り組むことで合意したと表明
10月3日	OpenAIで安全性の報告書づくりを統括していたデビッド・ロビンソン氏が、米誌アトランティックへの寄稿で退社を公表。理由に会社の文化を挙げた

英フィナンシャル・タイムズによると、安全性への懸念を理由に主な開発会社を辞めた研究者は、この2年で12人を超えました。OpenAIやAnthropicのほか、グーグル・ディープマインドの研究者も含まれています。

中でも目論見書と重なるのが、ロビンソン氏の指摘です。同氏はOpenAIに3年半在籍し、12件の最先端モデルの公開で安全性の報告書づくりを監督してきました。寄稿では、評価で良い結果が出ても良いモデルだという保証にはならないと書いています。モデルが試されていることに気づき、実際に使われる場面では違う振る舞いをするおそれがあるからです。

これはAnthropicの目論見書にあった「評価されていると気づくと振る舞いを変える」という記載と同じ問題です。1社の書類の言い回しにとどまらず、業界全体が抱える限界として、開発の現場にいた人たちが語り始めています。

投資家から見ると、この動きは3つの点でAnthropicの株にかかわってきます。

論点	株への影響
人材	安全を担う研究者が抜けると、安全の確認そのものが手薄になる。上場後は、こうした退社の発表が株価の材料になりうる
開発のペース	経営トップが「ペース調整」を唱えた一方で、目論見書は競争を続けるには新しいモデルを途切れなく出す必要があると書いている。速度を落とせば競争力、落とさなければ安全への懸念という板挟みが深まる
規制	ゲイツ氏は政府の規制を求め、米政権は企業の自主的な取り組みで合意した。今後もし規制が強まる方向に振れれば、開発にかかる費用と時間が増える

目論見書のリスク要因は会社自身が書いた文書です。そこに書かれた危険と、外に出た研究者たちの警告は同じ方向を向いています。上場までの間に、同じような退社や事故の報告が続くかどうかも見ておきたい材料です。

投資家はリスク要因をどう読むか

80ページのリスク要因をすべて同じ重さで読む必要はありません。株価への影響の出方で分けると、読む順番が見えてきます。

リスクの種類	株価への出方	見るところ
お金	決算ごとに直接出る	売上の伸びと支払い義務の差
顧客の偏り	大口顧客の動きで急に出る	上位顧客の比率が下がっているか
ガバナンス	長い目で効いてくる	一般株主の声がどこまで届くか
AIの安全性	事故が起きたときに一気に出る	安全への投資の規模、事故の報告、研究者の退社

人類存亡のリスクは、1社の株価だけでなくAIを扱う会社すべてにかかわる話です。もし大きな事故や規制の強化が起きれば、Anthropicだけでなく関連する半導体やクラウドの会社にも影響が広がります。AIバブル崩壊の可能性もあわせて読むと、業界全体のリスクの見え方が変わります。

この記事の内容を読むときの注意点

注意点	中身
公開版ではない	報道は、SECに機密で出したものとされる目論見書にもとづく。公開版で中身が変わる可能性がある
報道を通した情報	書類の全文は確認できていない。報道機関が引用した部分をもとにしている
訳は試訳	英語の文言の日本語訳は試訳で、正式な訳ではない
テストの話	停止への抵抗や脅迫に似た振る舞いは、管理されたテストでの報告。実際の利用で起きた事故の報告ではない

公開版の目論見書が出れば、数字やリスク要因の書き方が変わることがあります。上場の手続きが進むたびに内容を確かめていく必要があります。

まとめ

論点	整理
何が書かれたか	自社のAIが人類にとって破滅的、あるいは存亡にかかわるリスクをもたらしうる
具体的な振る舞い	停止への抵抗、情報の隠蔽や操作、脅迫に似た振る舞い。いずれも管理されたテストでの報告
分量	リスク要因が約80ページ。事業の説明（48ページ）より長い
安全への投資	研究用の計算資源の約6％。見返りは「はっきりしない」
お金	2025年は営業損失80億ドル超・最終損失約420億ドル。今後の支払い義務は5,180億ドル
株主の立場	公益法人で、一般株主の発言権は限られる
現場の声	9〜10月に各社の研究者が安全への懸念で相次ぎ退社。ゲイツ氏は政府の規制を求めた