AI最大手の一角であるAnthropicが、IPO準備期にもかかわらず「AI開発の世界的な減速または一時停止」を呼びかける異例の提案を公表しました。AIが自分自身の後継となるシステムを開発できる段階に近づきつつあり、「多くの機関が準備できているよりも早く到来する可能性がある」と同社は警告しています。提案が国際合意に至れば、フロンティアモデルの更新ペースが落ち、ユーザーが体感するAI性能の進化が遅れる可能性もあります。Engadgetが2026年6月5日に伝えました。
「Skynet化」を防ぐためのアライメント——Anthropicが挙げたリスク
Anthropicは自社ブログで、AIが自らをアップグレードしてさらに高性能な後継システムを生み出せるようになる段階に技術が向かっていると述べています。同社は「まだその段階には到達していない」としつつも、想定よりも早くその時が訪れる可能性があると指摘しています。
このような自己改良型のAIは、科学や医療の分野で「世界に多大な利益をもたらす可能性がある」一方で、「人類がAIシステムへの制御を失うリスクを高める可能性がある」とも述べられています。SF映画『ターミネーター』に登場する「Skynet」のような事態を防ぐための答えとして、Anthropicは社会構造と整合性（アライメント）研究が技術の進展に追いつくよう、AI開発の世界的減速もしくは一時停止が必要だと提案しています。
批判の声——「マーケティング戦略」との指摘とIPO準備の文脈
Anthropicの主張に対しては懐疑的な見方も存在します。Engadgetが引用したWall Street Journalによれば、批判者はAnthropicが自社技術への警告を発するのは、すべてのAI企業の中で最も悪質ではないように見せる、あるいは自社製品が他社よりも優れているように見せかけるためのマーケティング戦略ではないかと指摘していると報じられています。
批判の根拠として挙げられているのが、同社のサイバーセキュリティAIモデル「Mythos」の限定的なリリースです。Anthropicは、脆弱性を迅速に特定する能力が悪用された場合の被害を理由に、Mythosを一部のパートナーにのみ提供すると説明しました。しかし一部では、これが製品の話題作りや、大企業向けにのみ販売したいという意図を覆い隠すための方便ではないかとの見方が示されています。
なお、Anthropicは現在、AI業界でも有数の企業として位置づけられており、収益化に至っていない競合他社と異なり、初の黒字四半期を達成する軌道にあると報じられています（ヘッジング表現付き）。さらに2026年内のIPOに向けてSECに書類を提出しているとされ、財務面での節目を迎える時期にこの提案が出された点も注目されています。
2026年3月設立のAnthropic Instituteが提案の土台
今回の提案は、Anthropicが**2026年3月に設立した「Anthropic Institute」**の研究成果に基づくものです（公開日時点での文脈に基づく）。同研究所は、AI企業がより高度なAIシステムを開発する過程で生じる課題について学んだことを「世界に伝える」役割を担うとされています。同研究所は協力者とともに、「信頼できる減速もしくは一時停止に必要なシステムを構築する」ための研究を行うとAnthropicは説明しています。
「核兵器条約」を引き合いに——実現に必要な条件
Anthropicは、提案が実現するには世界中のAI企業が一堂に会して合意する必要があると述べています。同社はこれが不可能ではないとし、核兵器条約を前例として挙げました。ただし、核兵器条約は「合意までに数十年を要した」と同社自身が認めており、AI開発のスピードを考えるとそれだけの時間的余裕はないとされています。
実現のための条件としてAnthropicは、「意味のある減速や一時停止には、フロンティアにある、または近い、複数の十分な資源を持つラボが、複数の国で同じ条件のもとに停止に合意する必要がある」「さらに各社が他社の停止状況を検証できる必要がある」と述べています。検証メカニズムがなければ、合意の裏で密かに開発を続け、他社を出し抜く企業が現れる懸念があるためです。
Anthropicは今後数か月にわたり、政策担当者、研究者、他のAI企業とこの問題について協議を行い、その結果を公開すると伝えられています。リーク系の観測ではなくAnthropic自身による公式の方針表明である点を踏まえると、現時点では今後の各社の反応と協議の結果を待つのが妥当だといえます。続報を待ちたいところです。
Q&A
Q. Anthropicは具体的にいつAI開発を止めるべきだと言っているのですか？ 具体的な期限は示されていません。AIが自らの後継システムを開発できるレベルに近づきつつあり、その段階に到達する前に社会的な準備とアライメント研究が追いつく必要があるとの趣旨です。
Q. この提案によってClaudeなどの製品開発はすぐに止まるのですか？ Anthropic単独で減速や一時停止が実現するわけではありません。提案では、複数の国にまたがる主要ラボが同じ条件で同意し、相互に検証できる仕組みが整うことが前提とされており、他社が応じるかどうか、また検証メカニズムが現実的に機能するかが大きな論点となります。現時点ではあくまで議論の呼びかけの段階です。
Q. Anthropic Instituteとは何ですか？ Anthropicが2026年3月に設立した研究部門です。AI企業がより高度なシステムを開発する過程で生じる課題を世界に伝える役割を担い、信頼できる減速・停止メカニズムの構築に必要な研究を行うとされています。
