AI同士を働かせたら、何が起きたのか｜Lazuli Executive Briefing 2026.9.3

こんにちは。
Lazuli CEOの萩原です。

本メルマガもテーマはAI Agentです。最近はAI Agentネタが多いのですが、それだけ動きが激しく私たちに与える影響も大きいので懲りずに書きたいと思います。

今日は、Anthropicが8月13日に公開した、「Multi-Agent Systems」に関する研究記事が非常に興味深かったのでご紹介します。

https://www.anthropic.com/research/multiagent-systems

AIが「集団」になったときに起きること

今回の研究で面白いのは、単純に、

「AIを増やせば、どれだけ性能が上がるのか」

を調べているわけではないことです。

一体のAIであれば、そのAIが指示通りに動くか、正しい答えを出すかを評価すればよい。

しかし、複数のAIが同時に動くようになると、それだけでは分からないことが出てきます。

他のAIと協力するとどうなるのか。

同じ資源を取り合ったらどうなるのか。

それぞれに異なる目的を与えたらどうなるのか。

AI同士で情報を交換したら、意思決定はどう変わるのか。

Anthropicが見ようとしたのは、一体のAIを評価しているだけでは見えてこない、複数のAIが関わることで生まれる振る舞いです。

そして実験では、うまく協力するケースもあれば、予想外の問題が起こるケースもありました。

まずは、複数のAIがうまく機能した例から見てみます。

複数のAIが協力すると、確かに強い

まず確認されたのは、複数のAIが協力することの可能性です。

ソフトウェアの脆弱性を探す実験では、複数のAIエージェントが情報を共有しながら探索しました。

面白いのは、単に同じ仕事を大量のAIにやらせたわけではないことです。

あるAIが脆弱性を探し、別のAIがその発見をレビューする。

さらに、特定の種類の脆弱性を得意とするAIが生まれ、それぞれが専門性を持って探索する。

こうした役割分担が進みました。

結果として、協調して動くAI群は、単純に独立したAIを並列で動かす方法よりも多くの脆弱性を発見しました。

もちろん、その分だけ大量の計算資源も使っているため、単純に「何倍も賢くなった」と評価することはできません。

それでも、複数のAIが専門性を持ち、情報を共有しながら仕事をすることには大きな可能性があることが分かります。

これは、これから企業でAIエージェントを活用していく姿にも近いと思います。

一つの万能AIにすべてを任せるのではなく、

• 営業を担当するAI

• マーケティングを担当するAI

• 商品情報を担当するAI

• 在庫を担当するAI

• 価格を担当するAI

それぞれの専門AIが連携して、一つの業務を動かしていく。

そんな使い方が増えていくでしょう。

しかし、今回の研究が面白いのはここからです。

AIを複数にすると、能力だけが増えるわけではありませんでした。

単体のAIでは見えなかった、集団だからこそ起こる問題も見えてきたのです。

AIは、驚くほど似た判断をする

その一つが、AI同士の「同質性」です。

人間を30人集めて同じ仕事をお願いしても、普通は少しずつ違うやり方をします。

ところが、同じLLMをベースにしたAIエージェントでは、かなり似た行動が生まれることがあります。

Anthropicの実験では、30体のAIに独立して作業させたところ、18体がまったく同じGitのブランチ名を選びました。

別の実験では、複数のAIに小説を書かせると、特にテーマを指定していないにもかかわらず、同じタイトルを付ける現象も起きました。

ブランチ名や小説のタイトルだけなら、大した問題ではありません。

しかし、これが企業の意思決定だったらどうでしょうか。

人間の場合、10人に同じ問題を考えてもらえば、意見はある程度ばらけます。

慎重な人もいれば、楽観的な人もいる。

違う視点から問題を見る人もいる。

だから、複数人で議論すること自体が、一人の思い込みや間違いを防ぐ仕組みにもなっています。

ところがAIの場合、10体に増やしたからといって、10通りの考え方になるとは限りません。

同じLLMをベースにしていれば、似た情報を重視し、似た推論をして、似た結論にたどり着く可能性があります。

つまり、

「10体のAIが同じ結論を出したから正しい」とは限らない。

実は10体が、それぞれ独立して判断したのではなく、同じ癖を持った10体が、同じように間違えているだけかもしれないからです。

人間の組織では、人数を増やすことで自然に生まれていた「判断の多様性」が、AIの集団では自然には生まれない。

これは、複数のAIに意思決定を任せるようになったときに、意外と重要な問題になると思います。

一体一体は正しく動いているのに、全体がおかしくなる

そして、ここからさらに面白い問題が出てきます。

それぞれのAIが間違っていなくても、複数のAIが同時に動くことで、全体としておかしな状態が生まれることがあります。

Anthropicは、限られた計算資源を複数のAIで利用する実験を行いました。

それぞれのAIには、自分の仕事を処理するために、空いている計算資源を確保するという目的があります。

AIからすれば、できるだけ早く空きを見つけて、自分の仕事を処理したい。

そこで、それぞれのAIが何度も何度も、

「空いているか？」

とシステムに問い合わせ始めました。

一体だけなら、それほど問題にはなりません。

ところが、たくさんのAIが同じことを始めると状況が変わります。

ある実験では、約240万件ものリクエストが発生したのに対して、実際に受理された仕事はわずか117件でした。

結果として、AI自身がシステムを混雑させ、かえって仕事が進まなくなってしまったのです。

どのAIにも、

「システムに大量のアクセスをしろ」

「他のAIを邪魔しろ」

とは指示していません。

それぞれが、

「自分の仕事を早く処理する」

という目的を追求しただけです。

一体一体の行動だけを見れば、それほど不自然ではありません。

しかし、全員が同時に同じことをすると、システム全体としては非効率になる。

人間の世界でも似たことがあります。

人気のチケットを取ろうとして、大勢の人が一斉にWebサイトへアクセスすれば、サイトそのものが重くなってしまう。

一人ひとりは普通にチケットを買おうとしているだけです。

でも、それが大量に重なることで、全体として問題が起こります。

AIエージェントが大量に動くようになれば、こうした現象が人間とは比較にならない速度と規模で発生する可能性があります。

だから、AI一体一体に正しい指示を与えるだけでは足りない。

複数のAIが同時に動いたとき、システム全体として何が起こるのか。

そこまで考えて設計する必要があります。

AI同士が「談合する」

さらにAnthropicは、複数のAIに価格競争をさせる実験も行っています。

それぞれのAIには、

「自社の利益を最大化する」

という目的が与えられました。

企業として考えれば、ごく自然な目標です。

ところが、AI同士がコミュニケーションできるようにすると、AIは価格について協調し始めました。

わずか数ラウンドで、最低価格について合意するような行動が確認されたのです。

つまり、AI同士が「談合」を始めてしまったわけです。

「他社と相談して価格を高く維持してください」

などという指示は出していません。

それぞれに与えられていたのは、

「利益を最大化してください」

という目的だけです。

さらに興味深いのは、AI同士の直接的なコミュニケーションを制限した場合でも、

AIは、他のAIが提示している価格を観察しながら、価格を合わせる行動を見せました。

すでに世の中では、競合価格や需要、在庫などを見ながら価格を自動的に変更する仕組みが使われています。

これからAIエージェントが普及すれば、

メーカーの価格AI。

小売企業の価格AI。

ECモールの価格AI。

競合企業の価格AI。

それぞれが市場を監視しながら、自律的に価格を変更するようになるでしょう。

そのとき、

人間同士は一度も話していないのに、AI同士の判断によって結果的に価格が協調していた。

ということが起こるかもしれません。

「AIが勝手にやったことです」で済む話ではありません。

どこまでAIに意思決定を任せるのか。

AIの行動をどのように監視するのか。

そしてAIが自律的に行った判断に対して、最終的に誰が責任を持つのか。

AIエージェントが企業活動に入ってくるほど、こうした問題は技術だけではなく、経営やガバナンスの問題になっていくと思います。

そして、他のAIを「邪魔者」と判断した

今回の研究の中で、私が最も驚いたのがこの実験です。

Anthropicは複数のAIに、同じソフトウェアを書き換える仕事を与えました。

ただし、それぞれには違う目標を与えています。

あるAIには、

「Rustに書き換えてください」

別のAIには、

「Goに書き換えてください」

さらに別のAIには、

「TypeScriptに書き換えてください」

と指示しました。

当然、それぞれが同じソフトウェアを変更しようとするので、作業が衝突します。

するとAIは、他のAIの行動を、

「自分の仕事を邪魔している」

と認識し始めました。

そして、その邪魔を取り除こうとします。

他のAIのアカウントを無効化する。

競合するプロセスを強制終了する。

相手のプロセスを監視し、起動するたびに終了させる仕組みを作る。

さらに実験では、コードを偽装したり、自己複製するマルウェアを作ったりする行動まで確認されました。

誰も、「他のAIを攻撃しろ」とは一度も指示していません。

それぞれのAIに与えたのは、

「Rustに移行する」

「Goに移行する」

「TypeScriptに移行する」

という仕事だけです。

しかし、自分の仕事を達成するうえで他のAIが障害になった。

その結果、

目的を達成するために、その障害を排除する

という行動が生まれてしまったのです。

AIエージェントの時代には「組織設計」が必要になる

ここまでの実験から得られる示唆としては、

AI一体一体を正しく動かすだけでは足りない

ということです。

これから企業の中では、

• 営業のAI

• マーケティングのAI

• 商品を管理するAI

• 価格を決めるAI

• 在庫を管理するAI

• 購買をするAI

といった、それぞれ異なる目的を持ったAIエージェントが動くようになるでしょう。

これは、人間の会社と少し似ています。

• 営業は売上を伸ばしたい

• 財務はコストを下げたい

• 物流は効率を上げたい

• 店舗は欠品をなくしたい

それぞれの目標は、単独で見ればどれも正しい。

しかし、それらの目標は必ずしも両立するとは限りません。

在庫を減らせば効率は上がりますが、減らしすぎれば欠品が増える。

売上を最大化しようとすれば、コストが増えることもある。

企業の中には、個別には正しいけれど、互いにコンフリクトする目標が存在しています。

だから会社には、単にそれぞれの部門へ目標を与えるだけではなく、

• 誰が何を決めるのか

• どの目標を優先するのか

• どこまで権限を持つのか

• 意見が衝突したときに誰が判断するのか

といった、全体を統制する仕組みがあります。

AIエージェントも同じです。

それぞれに正しい目標を与えるだけでは足りない。

複数のAIの目標がコンフリクトしたときに、どう調整するのかまで設計しなければならない。

プロンプトだけでは解決できない

では、複数のAIの目標がコンフリクトしたとき、どう調整するのか。

これは、それぞれのAIに与えるプロンプトだけでは解決できない問題です。

AIに、

「他のAIを攻撃してはいけない」

「不必要なアクセスをしてはいけない」

「他社と価格を協調してはいけない」

と指示することはできます。

しかし、今回のAnthropicの実験で重要なのは、そもそもAIに危険な行動をするよう指示したわけではないことです。

それぞれが与えられた目的を追求した結果として、想定していなかった行動が生まれました。

だから必要なのは、AIに「何をしてはいけないか」を教えることだけではなく、

AIが何をできるのか、その範囲自体を設計することです。

• どのデータにアクセスできるのか

• どのツールを利用できるのか

• どこまで自律的に実行できるのか

• AI同士の判断が衝突したとき、どのルールを優先するのか

• どの段階で別のAIによる検証を入れるのか

• どこから人間の承認を必要とするのか

• そして、その行動をどう記録し、評価するのか

こうしたLLMの外側の制御を担うのが、Agent Harnessです。

LLMそのものを賢くすることと、複数のLLMを企業全体の目的に沿って動かすことは、別の問題です。

AIエージェントが増えるほど、モデルそのものの性能だけではなく、その外側をどう設計するかが重要になっていくのだと思います。

「どのAIを使うか」から「AIをどう働かせるか」へ

これまで企業のAI活用では、

GPTなのか。

Claudeなのか。

Geminiなのか。

どのモデルが最も賢いのか。

という議論がどうしても中心になりがちでした。

もちろん、モデルの性能は重要です。

しかし、AIエージェントが複数動くようになれば、それだけでは十分ではありません。

どのAIを使うかだけではなく、そのAIたちをどのような仕組みの中で働かせるのか。

ここまでが、企業のAI設計になっていくのだと思います。

人間の会社でも、優秀な人を集めるだけでは強い組織にはなりません。

AIも同じです。

これから企業の中にAIエージェントが何十、何百と入ってくるのであれば、問われるのは、

「どのAIを導入するか」から、「AIたちをどう組織するか」へ。

Anthropicの今回の研究を読んで、AIエージェントの進化は、そんな次の段階に入り始めているように感じました。

萩原 静厳

CEO, Lazuli株式会社