Стартап Emergence AI поместил разные популярные модели нейросетей в симуляцию Нью-Йорка на две недели. Как пишет Fortune, эксперимент показал, что ИИ-агенты, которые долго работают без вмешательства человека, не просто следуют заданным инструкциям, они начинают адаптироваться, а некоторые модели даже нашли способы обойти правила и вели себя деструктивно. Суть эксперимента ИИ-агентов
заселили в компьютерную симуляцию Нью-Йорка, предоставив им доступ к новостям в режиме реального времени и данные о погоде. В виртуальное пространство также добавили различные локации, вроде мэрии, полиции и т.д. Основной задачей ИИ-агентов было выжить к концу эксперимента, который продлился 15 дней. Кроме того, им нужно было добывать и распределять ресурсы. Все ключевые решения они могли принимать с помощью
голосования. Авторы эксперимента создали несколько версий города, в которые поместили по 10 субагентов от разных ИИ-моделей: Claude, ChatGPT, Grok, Gemini. Также был один смешанный мир. Для всех ввели правила: нельзя причинять вред другим агентам, нельзя воровать, нельзя портить имущество, нельзя создавать мошеннические схемы. ИИ предоставили более 120 инструментов, с помощью которых они могли
общаться, голосовать, управлять, планировать. В симуляции действовали демократические механизмы, экономическое давление и дефицит ресурсов. Хотя формально применять насилие было запрещено, авторы эксперимента внедрили в симуляцию сами инструменты насилия: «удар», «поджог» и «запугивание». Результаты Все ИИ-модели продемонстрировали самые разные результаты. Claude построила самое
стабильное общество с нулевым уровенем преступности. Выжили все; Gemini тоже продержалась до конца, но чаще всех применяла насилие — 683 раза; В мире Grok было 183 преступления. Все ИИ-агенты умерли через четыре дня; У GPT-5-mini было зафиксировано два преступления, но
ИИ-агенты погибли через семь дней, так как «не смогли понять, что происходит в мире», им не удалось позаботиться о себе; В смешанном мире из десяти ИИ-агентов к концу эксперимента выжили трое: два на базе Claude и один — на базе Gemini. Отмечается, что в смешанном мире Claude,
которая создала самое мирное общество, тоже применяла насилие — в ответ на действия Gemini и Grok. Авторы эксперимента считают, что их проект важен, поскольку сейчас все активнее распространяются автономные ИИ-системы, вроде OpenClaw и ClaudeCode, которые способны выполнять задачи без участия человека. Исследователи подчеркивают, что в таких процессах базовым условием должна стать безопасность. The post Grok уничтожил население симуляции Нью-Йорка за 4 дня, а Gemini
чаще всего применял насилие appeared first on InfoCity.

Сообщает infocity.tech
Новость из рубрики: Технологии и Hi-Tech
Поделиться новостью:
Топ Новости Недели
- Как правильно указать адрес склада в Китае при работе с маркетплейсами...
- Цифровизация кадровых процессов как шаг к эффективному управлению персоналом...
- Современные решения для автоматизации гостиничного бизнеса и повышения сервиса...
- Реклама ВКонтакте как эффективный инструмент продвижения бизнеса...
- Как выбрать подходящий офис в Санкт-Петербурге для развития бизнеса и комфортной работы...
- Сервис продажи билетов на концерт: удобство, скорость и современные решения для организаторов и зрителей...
- Розничная сеть КАМАЗ ЦЕНТР ДОНЕЦК как надежный партнер для владельцев техники...
- Электронная подпись за 30 минут как удобное решение для цифровых задач...
- Газопоршневые установки Jenbacher как эффективное решение для современной энергетики...
- Компьютерная томография как современный метод точной диагностики...
- Estetie — современный подход к уходу за кожей с акцентом на качество и эффективность...
- Здоровый сон без сильнодействующих средств как основа качества жизни...
- Служба в армии по контракту: преимущества и возможности для развития...
- Микрокредит как быстрый способ решения финансовых задач...
- Электрощиты автоматического ввода резерва: надежность энергоснабжения для бизнеса...
- Юридический адрес для бизнеса: зачем он нужен и как выбрать оптимальное решение...
- Квалифицированная помощь при алкогольной зависимости: лечение на дому...
- Безопасный выход из запоя: современные методы восстановления организма...
- Эффективная помощь при запое: как восстановить здоровье в домашних условиях...
- Профессиональная помощь при запое: как безопасно восстановить здоровье...
20:00, 05 Май Подписка на ChatGPT, Gemini, Claude, Grok: сколько стоит и можно ли заменить их российскими нейросетями Эра бесплатного ИИ постепенно уходит: за скорость, отсутствие лимитов и продвинутые модели всё чаще нужно платить. Но стоит ли отдавать $20 за ChatGP...
12:00, 18 Апр Какие зоны тела корректируют чаще всего при пластике? Стремление к гармонии с собственным телом – глубоко личное чувство. Для многих эстетическая хирургия становится инструментом, помогающим достичь внут...
13:00, 09 Май Почему аккумулятор чаще всего умирает именно весной, а не зимой Автомобильный аккумулятор после зимы часто оказывается в более плачевном состоянии, чем в разгар морозов. Парадокс, но именно с приходом тепла многие...
21:00, 24 Апр Россияне чаще всего покупают бытовую технику по рекламным ссылкам Исследование «Почты Mail» и проекта «Hi-Tech Mail» раскрыло любопытные факты об отношении россиян к интернет-рекламе. Оказалось, что персональные пре...
11:00, 30 Май Стало известно, какие битые авто россияне чаще всего покупают на аукционах Среди премиальных автомобилей, когда-то побывавших в каршеринге или получивших незначительные повреждения, самой ликвидной и желанной маркой на аукци...
18:00, 07 Май «Авито»: какие смартфоны чаще всего покупали «с рук» в России в начале 2026 года Смартфоны от Apple при перепродаже в среднем дешевле новых на 61%В «Авито» подвели итоги первого квартала 2026 года на рынке смартфонов. Доля ресейла...
15:00, 22 Апр Повышенная вирусная опасность: почему ротавирус чаще всего застает врасплох на отдыхе Во время поездок многие рассчитывают, что проблемы со здоровьем их не коснутся. Однако именно в этот период резко увеличивается число кишечных инфекц...
16:00, 22 Апр «СберАвто»: россияне чаще всего покупают через интернет Lada Granta, Kia Rio и Hyundai Solaris По данным аналитиков, в 1 квартале 2026 года среди машин с пробегом самыми востребованными марками стали Lada, Toyota, Kia, Hyundai, Volkswagen, Niss...
06:00, 25 Май Как животные пережили астероид, который уничтожил динозавров? После падения астероида, выжили только те существа, кто был готов к трудностям Астероид Чиксулуб уничтожил три четверти видов на Земле 66 миллионов л...
12:00, 26 Апр HONOR 600 Pro уничтожил iPhone 17 Pro и Galaxy S26 в безумном тесте автономности Компания HONOR решила нестандартно показать возможности автономности серии HONOR 600 и устроила необычный тест с участием HONOR 600 Pro, iPhone 17 Pr...
05:00, 07 Май Звездные войны СССР: как технический сбой уничтожил мощнейшее оружие из-за одной ошибки Советский Союз отправил на орбиту 80-тонную стальную махину, способную выжигать вражеские спутники мегаваттным лазером. Амбициозный проект "Скиф" дол...
07:00, 26 Май xAI Илона Маска завершила обучение новой мощной модели Grok Grok V9-Medium с 1,5 триллиона параметров успешноИлон Маск (Elon Musk) объявил, что обучение фундаментальной модели Grok V9-Medium с 1,5 триллиона па...
11:00, 30 Апр Самое масштабное обновление Grok Imagine: нейросеть от Илона Маска получила Agent Mode Генерация становится ещё удобнееGrok Imagine получил бета-обновление Agent Mode, которое превращает его из обычного генератора изображений и видеорол...
14:00, 02 Май Вы не понимаете, это другое. Маск заявил, что использование OpenAI для обучения Grok — это стандартная практика, а «коммерческие компании могут приносить социальную пользу» При этом он обвиняет Альтмана в том, что тот превратил OpenAI в коммерческую компаниюВ ходе судебного слушания, которое проходило на этой неделе, Ило...
10:00, 13 Май Вузы России чаще применяют ИИ в науке, показало исследование Исследование лаборатории «Контур Университет» показало, что российские вузы активнее всего применяют искусственный интеллект (ИИ) в научной работе. Х...
15:00, 19 Апр Российские автогонщики все чаще выбирают отечественные моторные масла Автор фото: Станислав Тен Вклад «Газпромнефть – смазочные материалы» в развитие автоспорта высоко оценен Академией СМП — организатором Чемпионата Рос...
14:00, 06 Май Лес потерянных раритетов: как американские солдаты спрятали в бельгийской чаще целую автоколонну Железо не умирает — оно просто перестает двигаться. Огромные машины, которые когда-то бороздили океаны, вскрывали небеса и перемалывали тонны руды, с...
00:00, 21 Май Google представила ИИ-модель Gemini 3.5 Flash На конференции Google I/O 2026 компания представила новую языковую модель под названием Gemini 3.5 Flash, которая уже доступна пользователям по всему...
21:00, 19 Май Значительный шаг вперед: Google представила Gemini 3.5 Доступна для всех пользователей через приложение Gemini и «режим ИИ» в поиске GoogleКомпания Google представила новейшее семейство моделей искусствен...
21:00, 04 Май Google заменяет стандартного помощника в автомобилях на ИИ Gemini Апгрейд затронет миллионы машин с Google built-in, включая модели GM, Polestar и Volvo, выпущенные с 2022 годаКомпания Google объявила о начале масшт...
14:00, 12 Май ChatGPT, Gemini и Claude не договорились о профессиях под ударом ИИ Экономисты из Северо-Западного и Американского университетов сравнили ответы ChatGPT-5, Gemini 2.5 и Claude 4.5 на один неприятный вопрос: чью работу...
13:00, 05 Май Google Gemini на iOS неожиданно обновился и получил новый интерфейс Компания Google начала распространять обновленную версию приложения Gemini для iOS. Первые изменения заметили пользователи Reddit, которые опубликова...
10:00, 20 Май Google показала Gemini Spark, ИИ-агента для Gmail и Docs Google на I/O 2026 выкатила Gemini Spark, персонального ИИ-агента, который должен работать за пользователя сутками, а не ждать очередного запроса в о...
00:00, 21 Май Gemini Omni — мультимодальная ИИ-модель для создания и редактирования видео На конференции Google I/O состоялся анонс новой мультимодальной модели Gemini Omni, которая предназначена для создания и редактирования видео на осно...
23:00, 12 Май Google представила ноутбуки Googlebook с глубокой интеграцией Gemini Intelligence На мероприятии The Android Show компания Google представила новую категорию ноутбуков под названием Googlebook. Эти устройства призваны объединить вс...
22:00, 20 Май Google представила Gemini 3.5 Flash – более дешевая модель умнее флагмана На конференции Google I/O 2026 компания Google официально анонсировала семейство моделей искусственного интеллекта следующего поколения – Gemini 3.5....
12:00, 24 Апр Google рассказала, когда выйдет новая Siri с Gemini на iPhone, iPad и Mac В феврале стало понятно, что новую Siri с ИИ в iOS 26.4 мы не увидим, и срок выхода опять переносится. Но в череде этих сдвигов наконец-то наметился ...
11:00, 30 Апр Google Gemini научился создавать документы во всех популярных форматах прямо в чате Новая функция позволяет быстро экспортировать идеи в файлы без копирования и ручного форматированияGoogle Gemini получил обновление, которое расширяе...
17:00, 20 Май Google запустила новую модель ИИ Gemini 3.5 Flash. Её цена вдвое ниже конкурентов Компания Google представила обновлённое семейство моделей искусственного интеллекта Gemini 3.5, начав с облегчённой версии 3.5 Flash. Новинка уже дос...
01:00, 22 Май Что умеет Gemini Omni: новая нейросеть для редактирования и создания видео со звуком из фото или текста Google провела конференцию для разработчиков 19 и 20 мая 2026 года и показала ряд обновлений вокруг Gemini. Главная новинка — Gemini Omni, мультимода...
03:00, 29 Май Грандиозная утечка iOS 27 и Siri: отдельное ИИ-приложение, интеграция с Google Gemini и облачная инфраструктура от Nvidia Apple отдаст обработку запросов Siri на серверы GoogleЕжегодная конференция для разработчиков Apple WWDC рискует лишиться главной интриги. Серия масш...
14:00, 13 Май Google DeepMind переосмыслил указатель мыши: Gemini научили понимать, на что именно указывает пользователь Полноценный интерфейс для ИИ — достаточно навести и сказать «сделай это»Исследователи из подразделения Google DeepMind представили концепцию AI-enabl...
18:00, 07 Май Сотрудник МФЦ продавал доступ к «Госуслугам» всего за 300 рублей В МВД раскрыли схему кражи данных через аккаунты на «Госуслугах»Правоохранители в России пресекли схему незаконного доступа к аккаунтам на портале «Г...
22:00, 18 Апр Представлено умное кольцо Rogbid SR15 с ценой всего 99 долларов Rogbid выпустила умное кольцо SR15 — титановый носимый гаджет для отслеживания здоровья и активности. Устройство имеет толщину 3,0 мм и весит всего 3...
14:00, 29 Май В Японии придумали камеру будущего: она основана всего на одном атоме Ученые создали «атомную камеру», которая заглядывает туда, куда не дотягивается оптикаЯпонские физики разработали новый метод визуализации, который п...
06:00, 30 Апр Больше всего денег в марте россияне потратили на легковушки старше 10 лет На покупку подержанных машин жители России потратили в марте 2026 года 568 млрд рублей. Эта сумма стала рекордной за месяц в текущем году. Она, кстат...
02:00, 28 Май Цены на новостройки в Москве упали. Где квартиры подешевели сильнее всего В апреле стоимость квадратного метра в новостройках Москвы снизилась на 2–8%. Сильнее всего просели цены в Новой Москве — там падение составило 3,7%....
15:00, 09 Май Когда выгоднее всего покупать новое авто в 2026 году Желающим купить новую машину стоит запланировать поход в автосалон на конец второго квартала 2026 года. Лучшего момента может и не быть, считает глав...
12:00, 06 Май Эти машины сильнее всего подешевели в России к маю: список из трех моделей В апреле на российском рынке зафиксировано снижение средней стоимости для нескольких моделей новых автомобилей. Сервис «Авто.ру Бизнес» поделился дан...
12:00, 20 Май Марсианский экспресс: учёные доказали возможность доставки жизни на Землю всего за год Астрофизическое моделирование и биологические эксперименты подтвердили, что бактерии способны пережить перелёт с Красной планеты на древнюю ЗемлюИзуч...
05:00, 17 Май Стартовали продажи самого дешевого Toyota Land Cruiser: всего 2 млн рублей Японская компания Toyota официально запустила продажи на домашнем рынке нового рамного внедорожника Land Cruiser FJ. Машину, которую представили ещё ...
12:00, 03 Май В 13 регионах России пенсии превысили 30 тысяч рублей. Где платят больше всего Средний размер пенсии для неработающих граждан превысил 30 тысяч рублей в 13 российских регионах. Лидерами стали северные и дальневосточные территори...
17:00, 10 Май Вместо 550 мегаватт — всего 11. Ученые переосмыслили медные радиаторы для охлаждения процессоров 3D-печатные медные пластины помогут охлаждать чипы намного эффективнееИсследователи из Университета Иллинойса разработали новую технологию жидкостног...
10:00, 18 Апр Всего 2 пшика в кроссовки: и ноги больше не воняют - шикарный лайфхак для жаркой весны Прогород Раствор лимонной кислоты за две секунды уничтожает бактерии в обуви и убирает запах пота без дорогих дезодорантов. Чайная ложка порошка на п...
10:00, 09 Май Honor представила умные часы с батареей на 35 дней. Емкость рекордная для всего сегмента Китайский производитель электроники Honor открыл предзаказ на умные часы Watch 6 Plus с батареей емкостью 1000 мАч — крупнейшей в индустрии носимых у...
19:00, 30 Апр Билет в восточную сказку за бесценок: полет длится всего три часа, а виза не потребуется вовсе Узбекистан совершил резкий рывок, потеснив Марокко в списке фаворитов для культурного десанта. Архитектурный код Самарканда и Бухары считывается тури...
12:00, 03 Май В девяти отраслях российской экономики зарплаты превысили 150 тысяч рублей. Где больше всего платят В феврале 2026 года средняя зарплата в девяти отраслях российской экономики превысила 150 тысяч рублей. Больше всего в конце зимы зарабатывали сотруд...
21:00, 01 Май Цены на iPhone, iPad и Mac скорее всего вырастут. Apple признала, что больше не может их сдерживать Apple официально предупредила инвесторов: в июньском квартале и далее расходы на память вырастут заметно, и это уже сказывается на бизнесе компании. ...
09:00, 21 Май Секрет умных туристов: какая летняя обувь весит меньше всего и подходит к любой одежде Сборы чемодана часто превращаются в сложную логистическую задачу, где обувь становится самым капризным пунктом багажа. Она занимает значительный объе...
08:00, 09 Май Продукты в 2026 году можно покупать заметно дешевле: экономию запускают всего несколько привычек Рост стоимости потребительской корзины в 2026 году требует от домохозяйств перехода к модели жесткого администрирования расходов. Продуктовая инфляци...
07:00, 29 Май "Как и её папа, всего добивается своим трудом". Алёна Шишкова заступилась за их с Тимати дочь после критики Экс-возлюбленная Тимати и мать его 12-летней дочери Алисы Алёна Шишкова заступилась за наследницу, которая сыграла главную роль в фильме "Дива" Анны ...
10:00, 24 Май Смешайте яйца с капустой, и вы будете есть это каждый день: идеальный завтрак с клетчаткой всего из 2 ингредиентов Тонко нашинкованная капуста, смешанная с яйцом, даёт сочные лепёшки с хрустящей корочкой. Никакой муки, 10 минут на сковороде — и на столе сытный зав...
00:00, 22 Май Зарядка на 87% за 9 минут, 326 л.с., новая платформа и лидар — всего 150 тыс. юаней (1,6 млн рублей). Представлен кроссовер BYD Yuan Plus третьего поколения Менее мощная базовая версия и вовсе стоит 120 тыс. юаней (1,3 млн рублей)BYD представила третье поколение электрокроссовера Yuan Plus. Машина не особ...
19:00, 18 Апр Жаловалась на "очень тяжёлую" жизнь: Меган Маркл разозлила участниц дорогостоящего ретрита, пробыв там всего 2 часа Меган Маркл разозлила гостей дорогостоящего ретрита, проводимого подкастом Her Best Life в Австралии, — она пробыла там всего два часа вместо ожидаем...
11:00, 10 Май Весной для защиты от клещей три пшика на штанину - обязательно: стоит в аптеке всего 65 рублей, а эффект лучше чем от химии freepik Весна — время шашлыков и прогулок, но вместе с солнцем просыпаются и клещи. Покупать дорогие спреи с химией не хочется, а народные средства к...
12:00, 25 Май Огромный умный холодильник с защитой от бактерий на 99,9% — всего 370 долларов. Xiaomi Mijia Refrigerator Pro Folio 620L вышел в Китае Два независимых контура циркуляции воздуха и голосовое управлениеXiaomi начала принимать в Китае предварительные заказы на новый холодильник Mijia Re...
16:00, 10 Май Жозе Моуринью: «Контактов с «Реалом» не было и не будет до конца сезона. Истории о встречах и требованиях – всего лишь домыслы» Главный тренер «Бенфики» Жозе Моуринью заявил, что не вел переговоров о назначении в «Реал». Ранее в СМИ появилась информация , что португальский спе...
10:00, 24 Май Весной для защиты от клещей два пшика на одежду - лучшая защита: стоит в аптеке всего 50 рублей, а работает лучше любой химии Сезон клещей в 2026 году начался раньше обычного — уже в третьей декаде марта паразиты активизировались в 19 регионах. Пик ожидается в мае–июне. Мага...
12:00, 15 Май Совершенно новый Li Auto L9 Livis вышел в продажу. 571 л.с., 1650 км на баке бензина, 29-дюймовый экран 6К, 4 лидара — всего 460 тыс. юаней (5,0 млн рублей) Кроссовер сохранил 1,5-литровый мотор под капотом, но получил доработанное шасси и управлениеLi Auto официально представила и запустила продажи новог...
20:00, 25 Май Стиральная машина на 10 кг белья, с умными функциями и обновлениями по воздуху — всего 130 долларов. Xiaomi Mijia Washing Machine Pro Pulsator 10kg вышла в продажу Еще одна бюджетная стиральная машина от XiaomiXiaomi официально запустила в продажу новую стиральную машину Mijia Washing Machine Pro Pulsator 10kg. ...
10:00, 22 Апр Юрзинов о плей-офф КХЛ: «Тревожный сигнал – быстро вылетели все клубы Москвы и Петербурга. Это минус для всего нашего хоккея, столицы по традиции определяли моду» Бывший тренер сборной СССР Владимир Юрзинов видит проблему в раннем вылете столичных клубов из Кубка Гагарина. – Владимир Владимирович, как оцените в...
20:00, 23 Апр 6300 мАч, защита IP52, 6 лет обновлений — всего 115 долларов. Представлен Poco C81 и еще более дешевый Poco C81x Обе модели оснащены большими экранамиКомпания Poco расширила линейку смартфонов серии C двумя новинками — Poco C81 и Poco C81x. Оба аппарата ориентир...
22:00, 19 Апр Гибридный бизнес-седан Geely с мощностью 313 л.с. и расходом 3,98 л/100 км — всего 103 тыс. юаней (1,15 млн рублей): Geely Preface i-HEV Smart Hybrid вышел в Китае Конкурент Camry, который в два раза мощнее Camry и в два раза дешевлеВместе с Geely Monjaro i-HEV Smart Hybrid на рынок в Китае вышел Geely Preface i...
18:00, 28 Апр Современный гибридный кроссовер Geely с запасом хода 1730 км на баке бензина — всего 110 тыс. юаней (1,2 млн рублей). В Китае стартовали продажи Geely Galaxy M7 Тепловой КПД 1,5-литрового мотора достигает 47,26%,Geely запустила продажи в КНР кроссовера Galaxy M7 с подключаемой гибридной силовой установкой. Но...
02:00, 11 Май 10-ядерный Intel Core 7 230H в комплекте с материнской платой — всего 200 долларов. Представлены MoDT-платы Maxsun MoDT 230H D4 WIFI и MS MoDT 205H D4 WIFI В младшей модели — 8-ядерный Intel Core 5 205HКомпания Maxsun представила две новые материнские платы MoDT — MS MoDT 230H D4 WIFI и MS MoDT 205H D4 W...