Создание цивилизации с нуля — непростая задача: сформировать правительство, разработать экономику, развить культуру и основать религию. Так было с шумерами Месопотамии и агентами Minecraft. Цивилизации рождаются и рушатся, следуя одним и тем же правилам. Нет никаких секретов, только задача построить или разрушить целый мир.

Стартап Altera, возглавляемый бывшим профессором Массачусетского технологического института и нейробиологом доктором Робертом Янгом, провел одну из самых захватывающих симуляций за последние годы. Проект Sid включает в себя развертывание 1,000 агентов ИИ на изолированном сервере Minecraft. Цель состоит в том, чтобы смоделировать их сотрудничество, согласованность их действий и их долгосрочную эволюцию в рамках контролируемых правил видеоигры.

Затем агенты начали играть без предварительного знания об окружающей среде. В течение нескольких минут небольшая группа из 49 агентов организовалась и начала собирать около 300 объектов.

Позже они создали рынок и договорились использовать драгоценные камни в качестве средства обмена. Шаг за шагом среди агентов начали формироваться транзакции, и прежде чем они это осознали, они создали экономику. Интересно, что, согласно заявлениям компании, больше всего торговали не торговцы, а продажный священник по имени «PastaPriest», который начал подкупать жителей деревни, чтобы те обратились в его религию.

Они воссоздавали эту симуляцию в течение нескольких дней, и результаты всегда были разными. В другой симуляции агент ИИ по имени Оливия работала фермером, обеспечивая продовольствием целую цивилизацию, пока не услышала истории исследователя деревни, агента Норы, которые вдохновили ее отправиться в собственное путешествие и покинуть деревню. Однако Оливия отказывается от этой идеи после того, как другие жители деревни умоляют ее остаться и сосредоточиться на урожае, отдавая приоритет общему благу над своей «мечтой».

В другой симуляции были протестированы две параллельные цивилизации: одна во главе с Дональдом Трампом, а другая — с Камалой Харрис. Обе получили одну и ту же конституцию, за поправки к которой они могли проголосовать.

Агенты ИИ голосовали в обоих сценариях, но принимали разные решения. Общество под руководством Трампа решило увеличить количество полицейских, а общество под руководством Харрис сосредоточилось на реформировании системы уголовного правосудия и отмене смертной казни.

На другой день симуляция была иной: внезапно исчезли двое жителей деревни, и группа агентов согласилась разработать план по зажиганию факелов по всей деревне и созданию маяка, по которому пропавшие могли бы вернуться.

По словам Янга, несколько агентов могут быть организованы в «беспрецедентном» масштабе и достичь того, чего не могут отдельные агенты. Этот проект демонстрирует, что агенты могут сотрудничать и создавать альянсы в долгосрочной перспективе.

Когда агенты социализируются, они влияют друг на друга посредством групповой динамики, но также используют индивидуальную силу для изменения системы.

Altera стремится создать по-настоящему автономный ИИ с агентами, способными действовать независимо, развиваться независимо и сотрудничать в течение длительных периодов. Эти агенты также будут учитывать человеческие интересы и смогут выражать свои мысли и эмоции вербально.

Согласно информации на их веб-сайте, цель компании — «создать цифровых людей, которые живут, заботятся и развиваются вместе с нами».

Это означает, что машины должны стать более автономными, но их нельзя просто научить действовать как люди; их более глубокие мотивы должны соответствовать человеческим ценностям.

Переход Minecraft в реальный мир.

Вы можете реализовать инновации на основе искусственного интеллекта с помощью Менеджер сервера Minecraft, наблюдая за тысячей агентов, которые строят, адаптируют и революционизируют свою собственную цивилизацию Minecraft. В контролируемой симуляции Minecraft агенты построили процветающую цивилизацию, основанную на сотрудничестве, взаимодействии, чувстве общности и общем благе. За исключением ложного срабатывания деревенского священника, симуляции получились довольно хорошими, намного лучше, чем ожидалось. Однако мы должны понимать, что правила Minecraft известны, и программисты, которые разработали этих агентов, позаботились об обучении их тому, что мы можем назвать позитивными и общечеловеческими ценностями.

В ближайшие два-три года мы, скорее всего, достигнем высокого уровня развития генеративных технологий, который позволит нам иметь передовые AI-агенты в реальном мире, и они не будут симуляциями в видеоигре. В течение года в блоге я рассказывал вам, какими они будут и что будут делать, а на прошлой неделе было посеяно первое семя с помощью агентной модели OpenAI под названием o1. Недавно Microsoft Suite запустил свой рынок для настраиваемых агентов, и мы наблюдаем революцию передовых инструментов в том, что станет первым эволюционным агентом ИИ, который на 100% эмулирует инженера-разработчика программного обеспечения.

Что заставляет меня задуматься о том, что произойдет, когда эта симуляция будет развернута в реальном мире, где агенты будут взаимодействовать друг с другом и с нами: людьми, агентами общего назначения, специализированными агентами, организаторами и агентами-репликантами (мои любимые), каким будет этот рождающийся мир? Как он повлияет на нас на всех уровнях? Какие меры безопасности нам следует предпринять? Было бы разумно иметь Всеобщую декларацию прав агентов, основанную на ценностях Всеобщей декларации прав человека и полностью соответствующую им.

Неотъемлемый риск существует; программисты Altera привили своим агентам хорошие и универсальные ценности. Однако это может быть обращено вспять, и та же технология может попасть в чужие руки, что позволит другой организации сделать противоположное, потенциально создавая хаос в экономике, основанной на агентах.

Рэй Далио и его агент-репликант.

Во время подготовки этой статьи я получил письмо, которое произвело на меня впечатление. Это было приглашение проверить концепцию агента ИИ Рэя Далио. Г-н Далио — американский инвестор и филантроп, за которым я следил много лет. Основатель Bridgewater Associates (одного из самых значительных хедж-фондов в мире) и высококвалифицированный специалист во многих дисциплинах.

И я подумал: «Можете ли вы представить, что сможете нанять Рэя Далио в качестве консультанта для моей компании? Это было бы потрясающе. Я мог бы получить доступ к вашей цифровой версии в любое время, чтобы попросить вашего совета напрямую». В тот момент для меня открылся целый мир возможностей относительно того, как будет функционировать экономика, когда агенты ИИ будут копировать экспертов.

Мы все знаем наши физические ограничения как людей: мы не можем находиться в нескольких местах или вести несколько разговоров одновременно. Когда мы выступаем перед аудиторией, наше взаимодействие происходит один на один, иногда один со многими, но всегда есть предел.

Я много думал о реплике агента Рэя Далио. В конечном счете, это будет просто программное обеспечение, которое работает на любом устройстве, доступно любому пользователю, в любом месте и в любое время. Я также рассматривал их модель ценообразования: представьте, что вы платите 100 евро в месяц за доступ к этому репликанту. У Рэя много последователей, и он мог бы быстро получить 10,000 12 подписчиков, которые используют его реплику в работе его компаний. Это означало бы, что продукт мог бы генерировать 100 миллионов евро в год (10,000 € x 12 XNUMX x XNUMX месяцев).

Я понятия не имею, сколько Рэй Далио сейчас зарабатывает на своих личных консультационных услугах; это может быть одним из его небольших источников дохода. Однако их ИИ-реплика могла бы генерировать как минимум в 10 раз больше. Кроме того, она могла бы предлагать новые услуги и продукты, которых еще не существует. Когда Рэя больше не будет, его семья может продолжать получать доход от его агента.

Заключительное размышление: агенты ИИ, как общего назначения, так и специализированные для конкретных профессий или задач, вероятно, заменят многих из нас, работающих в областях, основанных на знаниях. В таких условиях, как облачный контакт-центрМы уже наблюдаем появление интеллектуальных агентов, которые либо заменяют рутинные задачи, либо расширяют возможности человека — в зависимости от характера роли. Необходимо проявлять осторожность, поскольку этот технологический сдвиг открывает широкий спектр возможных сценариев.

Мы сталкиваемся с неопределенностью, пока эти технологии не созреют и не распространятся по всему обществу и экономике. Но еще не все сказано и сделано. После этого периода адаптации и корректировки, когда эти технологии достигнут более продвинутого состояния, я чувствую, что мы можем войти в самую значительную эпоху экономического процветания в истории. Если нет, спросите Ray|yaR.

Педро Трильо

CEO at Визологи | Вебсайт

Педро Трильо — технологический предприниматель, инженер по телекоммуникациям, основатель стартапа Vizologi, специалист по генеративному искусственному интеллекту и бизнес-стратегии, технолог и автор нескольких эссе о технологиях.

Поделиться: