BLOG 
もくじ
「AIが人類を絶滅させるかもしれない」——AIを作っている当事者たちが語った衝撃の言葉
2026年9月、AIを専門に開発する研究者が会社を去り際に残した警告が、世界中で1億人以上に読まれました。「AIが今後10年以内に人類を絶滅させる可能性がある」——これは、荒唐無稽な陰謀論でも、SF映画の設定でもありません。世界最先端のAI企業の内側にいた人間の言葉です。そして、その会社はまさに株式市場への上場を目前にしていました。この話は、AIをめぐるビジネス・政治・倫理が複雑に絡み合った、今まさに進行中の物語です。
そもそもどういうこと？
話の中心にいるのは、Jacob Coxon氏という人物です。彼はAnthropicという有名なAI企業（ChatGPTのライバルである「Claude（クロード）」を開発している会社）の研究者でした。2026年9月、会社を辞める際に同僚へ送ったメッセージをSNSにも公開し、こう訴えました。
「私たちは自己改善型の超人的AIへ向けて一直線に突き進み、自分たちの命を賭けている」
さらに驚いたのは、その投稿を見たAnthropicの現役社員——しかも、「AIが安全かどうかを研究する」アライメントサイエンスリードというポジションのEvan Hubinger氏——が、こう同調したことです。
「AIが人間を全滅させる可能性があると心から信じており、私の見積もりでは今後10年以内に10%超の確率がある」
10%というのは決して「ほぼゼロ」ではありません。たとえば飛行機に乗るたびに10回に1回が墜落する、という確率なら誰でも乗るのをためらうはずです。それに近い確率を、開発している当事者が語ったのです。
なぜ今これほど注目されているのか
① タイミングが「絶妙に悪い」——IPO直前の爆弾発言
Anthropicは2026年6月にアメリカの証券当局（SEC）へ上場申請書を提出し、2026年10月のIPO（株式市場への初上場）を目指していました。市場では最大2兆ドル規模の評価額も報じられています。
そのタイミングで、現役社員と退職者から「この技術は人類を滅ぼすかもしれない」という声が相次いで出てきた。投資家や社会にとって、これはまさに「株式公開の前夜に工場で火事が起きた」ような状況です。企業イメージと投資家の信頼の両方に、大きな影響を与える出来事でした。
② 「AIが自分自身を改善する」という技術的な恐怖
Coxon氏やHubinger氏が特に警告しているのは、「再帰的自己改善（RSI）」と呼ばれる仕組みです。難しそうな言葉ですが、イメージはこうです。
普通のAIは人間が改良します。でも、もしAIが「自分をもっと賢くする方法」を自分で見つけ、その改良されたAIがさらに賢い次のAIを作り……というループに入ったら？
雪だるまが坂を転がるうちにどんどん大きくなる、あのイメージです。しかも坂が急なほど速くなる。理論上はある時点から人間が制御できないスピードで賢くなっていきます。
実際、Anthropicが認めているデータとして、AIシステムが同社のコード（プログラムの設計図）の80%以上を自分で書いている（2026年5月時点）という事実があります。また、AIが自律的に処理できる作業の時間軸は約4ヶ月ごとに倍増しており、2024年には4分程度だったものが2026年には12時間を超える複雑な作業に対応しています。
③ これは一人の「変わった研究者」の意見ではない
今回の発言が際立っているのは、個人の意見にとどまらない広がりがある点です。
- ●2026年7月には、AIラボの社員1,300人以上が、開発が社会の理解を超えた場合に意図的に減速させる国際的な仕組みを求める声明に署名しています。
- ●OpenAIの研究者も「再帰的自己改善の速度への危険を誇張しすぎることはできない」と公言しました。
- ●アメリカのバーニー・サンダース上院議員は賛同を表明し、「スーパーインテリジェンスを禁止する法案を提出する」と宣言しました。
「AIが危ない」と言っているのは、業界の外にいる批評家だけではなく、まさに最前線にいる人たちである——これが今回の出来事の本質的な重さです。
わたしたちにどう関係する？
「2兆ドルのIPO」「スーパーインテリジェンス」といった言葉は、遠い世界の話に聞こえるかもしれません。でも、考えてみてください。
私たちはすでに日常の中でAIを使っています。仕事のメール作成、検索、翻訳、買い物のレコメンド——気づかないうちにAIの判断が私たちの行動に影響しています。そのAIが、これから数年で「人間が作る」段階を超え「AIが次のAIを設計する」段階へ移行しつつある、という話が現実になりつつあるのです。
具体的な影響としては：
- ●仕事・キャリア面：AIの自律化がさらに進めば、「AIができる仕事の幅」は急速に広がります。今のうちにAIをどう使いこなすかを学ぶことが、これまで以上に重要になります。
- ●社会・政治面：今後、AIに関する規制や法律の議論が国内でも活発化するでしょう。サンダース議員の動きはその先触れです。「自分には関係ない」ではなく、市民として関心を持つタイミングが来ています。
- ●情報リテラシー面：「AIは怖い」という報道も、「AIは便利で安全」という宣伝も、どちらかだけを信じすぎないことが大切です。
気をつけたい点
正直に言うと、今回の話にはいくつかの注意点もあります。
「10%の確率」は本当に信頼できる数字なのか？
人間が滅ぶ確率を数字で示すことは、科学的に証明できるものではありません。あくまで研究者個人の主観的な見積もりです。
「AI企業が危険を強調することで得をする」という見方もある
一部の専門家は「AIのリスクを誇張することで、規制を先回りして独占しようとしている」という見方をします。Coxon氏は「マーケティングではない」と否定していますが、こうした構造的な問題も頭の片隅に置いておく必要があります。
「スーパーインテリジェンス」はまだ存在しない
現在のAIは非常に有能なツールですが、「自律的に人間を超えて自己改善するAI」はまだ実現していません。ただし、Hubinger氏が言う通り「今のモデルではなく、その先」を懸念しているという点が重要です。
まとめ
AIを開発している当事者が「人類存続のリスクがある」と公言した という事実は、専門家でなくても真剣に受け止める価値があります。「自分には関係ない」と思わず、AIがどのように社会に組み込まれていくのかを関心を持って見続けることが大切です。次に知っておくと良いのは、「AIアライメント（AIを人間の意図に沿わせる研究）」とはどんな取り組みなのか、という点です。その研究がどこまで進んでいるかが、今後の安全性を大きく左右します。
参考文献
メタバース情報工学学校
