Créer une civilisation de toutes pièces n'est pas chose aisée : former un gouvernement, concevoir une économie, développer une culture et établir une religion. Ce fut le cas des Sumériens de Mésopotamie et des agents de Minecraft. Les civilisations naissent et disparaissent selon les mêmes règles. Il n'y a pas de secrets, juste le défi de construire ou de détruire un monde entier.

La startup Altera, dirigée par le Dr Robert Yang, ancien professeur du MIT et neuroscientifique, a réalisé l'une des simulations les plus fascinantes de ces dernières années. Le projet Sid consiste à déployer 1,000 XNUMX agents d'IA sur un serveur Minecraft isolé. L'objectif est de simuler leur collaboration, la cohérence de leurs actions et leur évolution à long terme dans le cadre des règles contrôlées du jeu vidéo.

Les agents ont ensuite commencé à jouer sans connaissance préalable de l'environnement. En quelques minutes, un petit groupe de 49 agents s'est organisé et a commencé à collecter environ 300 objets.

Plus tard, ils créèrent un marché et acceptèrent d'utiliser les pierres précieuses comme moyen d'échange. Petit à petit, des transactions commencèrent entre les agents, et en un rien de temps, ils avaient créé une économie. Il est intéressant de noter que, selon les déclarations de la compagnie, ce ne sont pas les marchands qui commerçaient le plus, mais un prêtre corrompu nommé « Prêtre des Pâtes » qui commença à soudoyer les villageois pour qu'ils se convertissent à sa religion.

Ils ont recréé cette simulation pendant plusieurs jours, et les résultats étaient toujours différents. Dans une autre simulation, une agente d'IA nommée Olivia travaillait comme agricultrice et fournissait de la nourriture à toute une civilisation jusqu'à ce qu'elle entende les histoires de l'exploratrice du village, l'agente Nora, qui l'ont inspirée à entreprendre son propre voyage et à quitter le village. Cependant, Olivia abandonne l'idée après que d'autres villageois l'ont suppliée de rester et de se concentrer sur la récolte, privilégiant le bien commun à son « rêve ».

Dans une autre simulation, deux civilisations parallèles ont été testées : l’une dirigée par Donald Trump et l’autre par Kamala Harris. Toutes deux ont reçu la même constitution, qu’elles pouvaient amender par vote.

Les agents de l'IA ont voté pour les deux scénarios, mais leurs décisions ont été différentes. Sous Trump, la société a décidé d'augmenter le nombre de policiers, tandis que celle dirigée par Harris s'est concentrée sur la réforme du système judiciaire et l'abolition de la peine de mort.

Un autre jour, la simulation était différente ; soudainement, deux villageois ont disparu, et un groupe d'agents a convenu d'élaborer un plan pour allumer des torches dans tout le village et créer un phare pour que les disparus puissent y retourner.

Selon Yang, plusieurs agents peuvent s'organiser à une échelle « inédite » et réaliser ce que des agents isolés ne peuvent pas faire. Ce projet démontre que les agents peuvent collaborer et forger des alliances à long terme.

Lorsque les agents socialisent, ils s’influencent mutuellement à travers la dynamique de groupe, mais utilisent également le pouvoir individuel pour changer le système.

Altera cherche à créer une IA véritablement autonome, composée d'agents capables d'opérer et de progresser de manière autonome, et de collaborer sur de longues périodes. Ces agents prendront également en compte les intérêts humains et pourront exprimer leurs pensées et leurs émotions verbalement.

Selon leur site Web, l’objectif de l’entreprise est de « créer des humains numériques qui vivent, prennent soin et grandissent avec nous ».

Cela signifie que les machines devront être plus autonomes, mais ne peuvent pas simplement être entraînées à agir comme des humains ; leurs motivations profondes doivent être alignées sur les valeurs humaines.

La transition de Minecraft vers le monde réel.

Vous pouvez libérer l'innovation basée sur l'IA avec Gestionnaire de serveur Minecraft, supervisant un millier d'agents alors qu'ils construisent, adaptent et révolutionnent leur propre civilisation Minecraft. Dans la simulation contrôlée de Minecraft, les agents ont bâti une civilisation prospère fondée sur la coopération, la collaboration, le sens de la communauté et le bien commun. Hormis le faux positif du prêtre du village, les simulations se sont plutôt bien déroulées, bien au-delà des attentes. Cependant, il faut comprendre que les règles de Minecraft sont connues, et les programmeurs qui ont conçu ces agents ont veillé à leur inculquer ce que l'on peut appeler des valeurs humaines positives et universelles.

Dans les deux ou trois prochaines années, nous atteindrons probablement un état de l’art très avancé en matière de technologie générative qui nous permettra d’avoir des avancées Agents d'IA Dans le monde réel, il ne s'agira pas de simulations de jeu vidéo. Tout au long de l'année, sur ce blog, je vous ai expliqué à quoi ils ressembleraient et ce qu'ils feraient. La semaine dernière, la première graine a été plantée avec le modèle basé sur des agents d'OpenAI, appelé o1. Récemment, la suite Microsoft a lancé sa place de marché pour les agents personnalisables, et nous assistons à une révolution des outils avancés avec ce qui sera le premier agent d'IA évolué capable d'émuler à 100 % un ingénieur en développement logiciel.

Ce qui me fait réfléchir à ce qui se passera lorsque cette simulation sera déployée dans le monde réel, où les agents interagiront entre eux et avec nous : humains, agents polyvalents, agents spécialisés, orchestrateurs et agents réplicants (mon préféré). À quoi ressemblera ce monde en train de naître ? Comment cela nous affectera-t-il à tous les niveaux ? Quelles mesures de sécurité devrions-nous prendre ? Il serait logique d’avoir une Déclaration universelle des droits des agents fondée sur les valeurs de la Déclaration universelle des droits de l’homme et pleinement conforme à celles-ci.

Le risque inhérent existe : les programmeurs d'Altera ont inculqué des valeurs positives et universelles à leurs agents. Cependant, cette situation pourrait s'inverser et la même technologie pourrait tomber entre de mauvaises mains, permettant à une autre organisation de faire l'inverse, créant ainsi potentiellement le chaos dans une économie basée sur les agents.

Ray Dalio et son agent réplicant.

En préparant cet article, j'ai reçu un courriel qui m'a marqué. Il s'agissait d'une invitation à valider une preuve de concept pour l'agent IA de Ray Dalio. M. Dalio est un investisseur et philanthrope américain que je suis depuis des années. Il est le fondateur de Bridgewater Associates (l'un des plus importants fonds spéculatifs au monde) et possède une expertise approfondie dans de nombreuses disciplines.

Et je me suis dit : « Imaginez pouvoir embaucher Ray Dalio comme consultant pour mon entreprise ? Ce serait formidable. Je pourrais accéder à votre version numérique à tout moment pour vous demander conseil directement. » À ce moment-là, un monde de possibilités s'est ouvert à moi quant au fonctionnement de l'économie lorsque les agents IA répliqueront les experts.

Nous connaissons tous nos limites physiques en tant qu'êtres humains : nous ne pouvons pas être présents à plusieurs endroits ni avoir plusieurs conversations simultanément. Lorsque nous parlons devant un public, nos interactions sont individuelles, parfois même individuelles, mais il y a toujours une limite.

J'ai beaucoup réfléchi à l'agent réplicant de Ray Dalio. À terme, ce sera simplement un logiciel compatible avec n'importe quel appareil, accessible à tous, partout et à tout moment. J'ai également envisagé leur modèle tarifaire : imaginez payer 100 € par mois pour accéder à ce réplicant. Ray a un large public et pourrait rapidement gagner 10,000 12 abonnés qui utiliseraient sa réplique pour ses entreprises. Cela signifierait que le produit pourrait générer 100 millions d'euros par an (10,000 € x 12 XNUMX x XNUMX mois).

Je n'ai aucune idée du revenu actuel de Ray Dalio grâce à ses services de conseil en personne ; il s'agit peut-être d'une de ses plus petites sources de revenus. Cependant, leur réplique IA pourrait générer au moins dix fois plus de revenus. De plus, elle pourrait proposer de nouveaux services et produits inédits. Lorsque Ray ne sera plus là, sa famille pourra continuer à percevoir des revenus de son agent.

Dernière réflexion : les agents d’IA, qu’ils soient polyvalents ou spécialisés dans des professions ou des tâches spécifiques, remplaceront probablement nombre d’entre nous qui occupons des postes basés sur la connaissance. Dans des environnements comme celui-ci, centre de contact cloudNous assistons déjà à l'essor d'agents intelligents qui, selon la nature du rôle, remplacent les tâches routinières ou améliorent les capacités humaines. Il convient d'être prudent, car cette évolution technologique ouvre un large éventail de scénarios possibles.

Nous sommes confrontés à l'incertitude jusqu'à ce que ces technologies arrivent à maturité et se diffusent dans la société et l'économie. Mais tout n'est pas encore dit et fait. Après cette période d'adaptation et d'ajustement, lorsque ces technologies auront atteint un stade plus avancé, je pense que nous pourrions entrer dans la plus grande ère de prospérité économique de l'histoire. Sinon, demandez à Ray|yaR.

Pedro Trillo

PDG at Vizologie | Sites web

Pedro Trillo est un entrepreneur technologique, ingénieur en télécommunications, fondateur de la startup Vizologi, spécialiste de l'intelligence artificielle générative et de la stratégie d'entreprise, technologue et auteur de plusieurs essais sur la technologie.

Partagez :