25年2024月XNUMX日、ペドロ・トリロ

1,000 個の AI エージェントが独自の文明を創造し、Minecraft に革命を起こしています。

文明をゼロから築き上げるのは容易なことではありません。政府を樹立し、経済を設計し、文化を発展させ、宗教を確立しなければなりません。これは、メソポタミアのシュメール人やMinecraftのエージェントたちにとっても同じです。文明は生まれ、そして滅び、同じルールに従います。秘密などなく、あるのは世界全体を築き上げるか、それとも崩壊させるかという挑戦だけです。

元MIT教授で神経科学者のロバート・ヤン博士が率いるスタートアップ企業Alteraは、近年最も興味深いシミュレーションの一つを実施しました。Sidプロジェクトでは、隔離されたMinecraftサーバーに1,000台のAIエージェントを配置します。その目的は、ビデオゲームの制御されたルールの中で、それらの協調性、行動の一貫性、そして長期的な進化をシミュレートすることです。

その後、エージェントは環境に関する事前知識なしにプレイを開始しました。数分のうちに、49人のエージェントからなる小グループが組織化され、約300個のオブジェクトを収集し始めました。

その後、彼らは市場を作り、宝石を交換手段として使うことに合意しました。徐々に、エージェント間で取引が形成され始め、いつの間にか経済が構築されていました。興味深いことに、会社の声明によると、最も取引を盛んに行なったのは商人ではなく、「パスタプリースト」という名の腐敗した司祭で、村人たちに賄賂を渡して自分の宗教に改宗させようとしていたのです。

彼らは数日間にわたってこのシミュレーションを繰り返しましたが、結果は常に異なっていました。別のシミュレーションでは、オリビアという名のAIエージェントが農民として働き、文明全体に食料を供給していましたが、村の探検家であるエージェント・ノラの話を聞いて、オリビアは自らの旅に出て村を去ることを決意します。しかし、他の村人たちから、オリビアは村に残って収穫に集中し、自分の「夢」よりも公益を優先するよう懇願されたため、オリビアはその考えを断念します。

別のシミュレーションでは、ドナルド・トランプ率いる文明とカマラ・ハリス率いる文明という、2つの並行する文明がテストされた。両文明に同じ憲法が与えられ、改正投票を行うことができた。

AIエージェントは両方のシナリオで投票しましたが、それぞれ異なる決定を下しました。トランプ政権下の社会は警察官の増員を決定し、ハリス政権下の社会は刑事司法制度の改革と死刑廃止に重点を置きました。

別の日、シミュレーションは違った展開を見せました。突然、2 人の村人が姿を消し、エージェントの一団が村中に松明を灯し、行方不明者が戻るためのビーコンを設置する計画を立てることに同意したのです。

ヤン氏によると、複数のエージェントを「前例のない」規模で組織化することで、個々のエージェントでは不可能なことを達成できるという。このプロジェクトは、エージェントが長期的に協力し、同盟を築けることを実証している。

エージェントが社会化する場合、グループのダイナミクスを通じて互いに影響を及ぼし合うだけでなく、個人の力を使ってシステムを変更します。

アルテラは、独立して動作し、独立して進歩し、長期にわたって協働できるエージェントを備えた、真に自律的なAIの開発を目指しています。これらのエージェントは、人間の関心を考慮し、思考や感情を言葉で表現できるようになります。

同社のウェブサイトによると、同社の目標は「私たちとともに生き、思いやり、成長するデジタルヒューマンを創ること」だそうです。

これは、機械はより自律的になる必要があるが、単に人間のように行動するように訓練するだけでは不十分であり、機械のより深い動機が人間の価値観と一致していなければならないことを意味します。

Minecraft の現実世界への移行。

AI主導のイノベーションを実現できるのは Minecraft サーバーマネージャー1,000人のエージェントがMinecraftで独自の文明を築き、適応させ、変革していく様子を監督する。Minecraftの制御されたシミュレーションにおいて、エージェントたちは協力、連携、共同体意識、そして公益に基づいた繁栄した文明を築いた。村の司祭による誤検知を除けば、シミュレーションは非常にうまくいき、予想をはるかに上回った。しかし、Minecraftのルールは周知の事実であり、これらのエージェントを設計したプログラマーたちは、肯定的で普遍的な人間の価値観とでも呼べるものをエージェントたちに教え込んだことを理解する必要がある。

今後2、3年で、私たちはおそらく、高度な生成技術の最先端のレベルに到達し、 AIエージェント現実世界でのAIであり、ビデオゲーム内のシミュレーションではありません。このブログでは、一年を通してAIがどのようになり、何をするのかをお伝えしてきましたが、先週、OpenAIのエージェントベースモデル「o1」が最初の種を蒔きました。最近、Microsoftのスイートがカスタマイズ可能なエージェントのマーケットプレイスを立ち上げ、私たちはソフトウェア開発エンジニアを100%エミュレートする初の進化型AIエージェントにおける高度なツール革命を目の当たりにしています。

このシミュレーションが現実世界に展開され、エージェント同士、そして人間、汎用エージェント、特殊エージェント、オーケストレーター、そしてレプリカントエージェント（私のお気に入り）が人間と対話する世界が誕生したらどうなるだろうか、と考えてみました。そこで生まれる世界はどのようなものになるのでしょうか？あらゆるレベルで私たちにどのような影響を与えるのでしょうか？どのようなセキュリティ対策を講じるべきでしょうか？世界人権宣言の価値観に基づき、完全に整合した「エージェントの権利に関する世界宣言」を制定することは理にかなっていると言えるでしょう。

固有のリスクは存在します。アルテラのプログラマーは、エージェントに善良で普遍的な価値観を植え付けました。しかし、これは逆転する可能性があり、同じ技術が悪意のある者の手に渡り、別の組織が逆のことを行えるようになり、エージェントベース経済に混乱を引き起こす可能性があります。

レイ・ダリオと彼のレプリカントエージェント。

この記事を準備している間、私に大きな影響を与えたメールを受け取りました。それは、レイ・ダリオ氏のAIエージェントの概念実証の検証への招待でした。ダリオ氏は、私が長年注目してきたアメリカの投資家であり慈善家です。ブリッジウォーター・アソシエイツ（世界有数のヘッジファンドの一つ）の創設者であり、多方面にわたる知識人です。

そして私は思いました。「レイ・ダリオを私の会社のコンサルタントとして雇えるなんて想像できますか？素晴らしいでしょう。いつでもあなたのデジタル版にアクセスして、直接アドバイスをお願いできるんですから。」その瞬間、AIエージェントが専門家の能力を再現するとき、経済がどのように機能するかという可能性の世界が私の前に広がりました。

私たち人間は皆、身体的な限界を知っています。複数の場所に存在したり、同時に複数の会話をしたりすることはできません。聴衆の前で話すとき、私たちのやり取りは1対1、時には1対多数になりますが、常に限界は存在します。

レイ・ダリオ氏のレプリカエージェントについて、ずっと考えていました。最終的には、あらゆるデバイスで動作し、あらゆるユーザーがいつでもどこでも利用できるソフトウェアになるはずです。価格モデルについても考えました。このレプリカエージェントにアクセスするために月額100ユーロを支払うとしたらどうでしょうか。レイ氏には多くのフォロワーがおり、彼のレプリカを会社の運営に利用する10,000万人の登録者をすぐに獲得できるでしょう。つまり、この製品は年間12万ユーロ（100ユーロ×10,000×12ヶ月）の収益を生み出す可能性があるということです。

レイ・ダリオ氏が現在、対面でのアドバイザリーサービスでどれくらいの収入を得ているのかは分かりません。もしかしたら、それは彼の小さな収入源の一つなのかもしれません。しかし、彼らのAIレプリカは少なくとも10倍の収入を生み出す可能性があります。さらに、まだ存在しない新しいサービスや商品を提供することも可能でしょう。レイ氏が亡くなった後も、彼の家族は彼のエージェントから引き続き収入を得ることができます。

最終的な考察：汎用的なものも、特定の職業やタスクに特化したものも含め、AIエージェントは知識ベースの職業に従事する私たちの多くに取って代わる可能性が高い。クラウドコンタクトセンターすでに、役割の性質に応じて、定型的な作業を代替したり、人間の能力を強化したりするインテリジェントエージェントの台頭が見られます。この技術革新は、様々なシナリオの可能性を生み出すため、私たちは慎重にならなければなりません。

これらの技術が成熟し、社会と経済全体に普及するまでは、不確実性に直面します。しかし、まだすべてが終わったわけではありません。適応と調整の期間を経て、これらの技術がより高度なレベルに到達した時、私たちは歴史上最も重要な経済的繁栄の時代を迎えることができると感じています。もしそうでないなら、Ray|yaRに聞いてみてください。