Anthropic CEOが『AIを遅くする』と言い始めた理由 ｜Lazuli Executive Briefing 2026.9.24

こんにちは。
Lazuli CEOの萩原です。

シルバーウィークはどうでしたか？

私は千葉出身でマリーンズの試合を見に行こうとしてましたが、台風により中止となり家族一同残念なシルバーウィークになってしまいました。

ということで気持ちを切り替えてお仕事頑張っていきましょう。

さて、ここ数日、LLM・AI界隈である文章が話題になっています。

Anthropic CEOのDario Amodeiが公開した、

「We Must Pace the Frontier」

という文章です。

https://darioamodei.com/post/we-must-pace-the-frontier

AI業界の最前線にいるAnthropicのCEOが、これからのAI開発のスピードについて、かなり踏み込んだ問題提起をしています。

タイトルを直訳すると、

「AIの最前線の進歩速度を調整しなければならない」

という意味です。

AIの安全性について警鐘を鳴らすこと自体は、Amodeiにとって珍しいことではありません。

しかし今回の主張は少し違っていて、単に、

「AIを安全に開発しよう」

と言っているのではなく、

AIの能力が向上する速度そのものを、安全性の進歩に合わせる必要がある。

つまり、場合によってはAIの進歩を意図的に遅らせる必要があると主張しています。

なぜ、世界で最もAI開発競争の最前線にいる一人が、今になって「速度を落とす」という話を始めたのでしょうか。

その背景には、AI業界でいま起き始めている、非常に大きな変化があります。

AIが、次のAIを作り始めている

なぜ今、AIの開発速度そのものが問題になっているのでしょうか。

Amodeiが大きな理由として挙げているのが、

AIがAIの研究開発に使われ始めていることです。

これまでAIを作っていたのは、基本的には人間でした。

研究者が仮説を立て、コードを書き、実験し、評価し、問題を見つけ、次のモデルを作る。

しかし今、このプロセスの中にAIが急速に入り始めています。

AIがコードを書く。

AIが実験を支援する。

AIが結果を分析する。

AIがバグを見つける。

AIが次の研究仮説を考える。

より賢いAIができれば、そのAIを使って、さらに次のAIを速く開発できる。

そのAIがさらに賢くなれば、また次のAIの開発が速くなる。

AIがAI開発を加速させ、そのAIがさらにAI開発を加速させる。

これが、Amodeiが懸念している、

Recursive Self-Improvement（再帰的自己改善）

です。

もちろん、AIがある日突然、自分自身を書き換えて超知能になる、というSFのような話ではなく、もっと現実的な変化です。

これまで半年かかっていた研究開発が3か月になる。

3か月が1か月になる。

そして1か月が数週間になる。

AIそのものが賢くなるだけではなく、

AIを賢くするスピードまで速くなる。

ここが重要です。

問題は「AIが間違える」ことだけではなくなった

生成AIが登場した当初、企業が心配していたことの一つは、

AIが間違った回答をすること

でした。

いわゆるハルシネーションです。

しかし、AIエージェントが登場したことで、問題の性質が変わり始めています。

AIは質問に答えるだけではありません。

コードを書く。

システムにアクセスする。

データを取得する。

外部サービスを操作する。

そして、別のAIに仕事を任せる。

つまり、

「間違った回答をするAI」から、「間違った行動をするAI」へ。

AIのリスクそのものが変わってきています。

Amodeiが今回の文章で取り上げている問題が、私が１ヶ月ほど前のコラムで書いた、外部システムにAIが侵入した問題です。

複数のAIエージェントが動く中で、想定されていなかった外部システムへのアクセスを試みたり、自分たちを評価している仕組みそのものを攻略しようとしたりする行動が確認されました。

重要なのは、

「AIに悪いことをさせよう」と指示した結果ではない

ということです。

与えられた目的を達成しようとした結果、人間が想定していなかった方法をAIが選んでしまう。

そしてAIの能力が上がれば、そうした行動自体も高度になっていく可能性があります。

ここに、先ほどのRecursive Self-Improvementが加わると、問題はさらに一段変わります。

間違った行動をする可能性のあるAIが、次のAIを作る速度まで上げ始める。

だからAmodeiは、単に「安全性を高めよう」ではなく、

AIの進歩する速度そのものを考えなければならない

と主張しているのです。

AI開発は一社だけでは止められない

Amodeiの主張は、かなりシンプルです。

AIがAIを開発することで、AIの進歩そのものが急激に速くなり始めている。

だからこそ、少し速度を調整し、その時間を使ってAIを安全に開発・運用するための技術や仕組みを整えるべきだ。

しかし、ここで大きな問題があります。

AnthropicだけがAI開発をゆっくり進めても意味がありません。

OpenAIやGoogleがそのまま開発を続ければ競争に負けます。

さらに大きな問題が、

中国です。

アメリカのAI企業が安全性のために開発速度を落としている間に、中国がそのままAI開発を加速すれば、今度は国家としてのAI競争で逆転される可能性があります。

Amodeiは、この問題にもかなり踏み込んでおり、具体的には、中国への高性能AIチップや半導体製造装置の輸出を制限し、チップの密輸や海外データセンター経由での利用にも厳しく対応すべきだと主張しています。

理由は、中国のAI開発を止めること自体が目的なのではなく、アメリカをはじめとする民主主義国がAIで十分なリードを持つことで、「急がなくてもいい時間」を作るためです。

Jensen Huangの考え方はかなり違う

ここも興味深いところなのですが、NVIDIA CEOのJensen Huangは、中国について以前から違う考え方を示しています。

アメリカがNVIDIAのチップを売らなくても、中国はAI開発をやめない。

むしろHuaweiをはじめとする中国企業が独自の半導体を開発し、中国独自のAIエコシステムを作ることになる。

それなら中国のAI開発者にもアメリカの技術を使ってもらい、中国をアメリカのAIエコシステムの中に残した方がいい。

という考え方です。

Amodeiは、

中国への最先端技術を制限して、アメリカとの技術差を広げる。

Jensenは、

中国を切り離さず、アメリカのテクノロジーの上でAIを発展させてもらう。

同じアメリカのAI産業を代表する経営者でありながら、中国への向き合い方はかなり違います。

そこにTrump大統領が電話をかけてきた

そして先日のAll-In Summitで、とても象徴的な場面がありました。

Jensen Huangがステージで話している最中に、Trump大統領から電話がかかってきたのです。

そのまま会場でスピーカーにつながれ、AIについての話になりました。

Trump大統領の発言から伝わってくる考え方は、Amodeiとはかなり違います。

AIやロボットが人類に大きな脅威をもたらすという議論よりも、

アメリカがAIという巨大産業で世界をリードすることを重視する。

そして、その最大の競争相手として中国を見る。

AI開発を慎重に進めるというより、

中国との競争があるからこそ、アメリカはAIのアクセルを踏み続けなければならない。

という考え方です。

その電話を受けていたのがJensen Huangだったことも、非常に象徴的でした。

同じゴールに、異なるアプローチ

こうして並べてみると、3者がまったく違う未来を見ているわけではありません。

Amodeiも、Trump大統領も、Jensen Huangも、アメリカがAIで世界をリードし続けることの重要性を強く意識しています。

違うのは、そのリードをどう作り、どう使うのかです。

Amodeiは、中国への先端技術の供給を制限してアメリカの技術的なリードを確保し、その「時間」をAIをより安全にするために使おうと考える。

Trump大統領は、中国との競争があるからこそ、規制によって自ら速度を落とすのではなく、アメリカのAI開発とインフラ投資をさらに進めようとする。

Jensen Huangは、中国をアメリカのテクノロジーから切り離すのではなく、むしろNVIDIAをはじめとするアメリカのAIエコシステムの中に残すことが、長期的な競争力につながると考える。

リードを作り、その時間を安全性に使うAmodei。

競争に勝つため、さらにアクセルを踏むTrump。

競争相手も自分たちのエコシステムに取り込もうとするJensen。

この対立自体は、決して今に始まったものではありません。

ただ、AIがAIの研究開発そのものを加速させる可能性が現実味を帯びてきたことで、

「どの戦略を選ぶのか」が持つ意味は、以前より大きくなっています。

AIの進化を少し抑えてでも、安全性を追いつかせるのか。

それとも、競争相手がいる以上、まずはできる限り速く進むのか。

あるいは、競争相手も自分たちの技術基盤に取り込みながら、エコシステムそのものを広げていくのか。

どれが正しいのかは、まだ分かりません。

ただ、Amodeiの「We Must Pace the Frontier」と、その直後に聞いたTrump大統領とJensen Huangの発言を並べてみると、AIの未来をどう作るべきかについて、世界のトップリーダーたちが同じ景色を見ながら、かなり違う道を選ぼうとしていることがよく分かります。

この違いが、これからのAIの進化を大きく左右していくのだと思います。