Эксперименты с десятками нейросетей показали, что продвинутые модели начинают реагировать на «приятный» и «негативный» контент почти как эмоциональные существаИсследователи из некоммерческого Центра безопасности ИИ (Center for AI Safety, CAIR) обнаружили неожиданную закономерность: чем сложнее и мощнее становятся современные языковые модели, тем сильнее они демонстрируют поведение, напоминающее эмоциональные
реакции. Причём наиболее продвинутые системы оказались одновременно более «чувствительными», менее стабильными и чаще проявляли признаки своеобразного «страдания».В новом исследовании специалисты проанализировали поведение 56 популярных ИИ-моделей. Нейросетям последовательно показывали либо максимально «приятный» контент, либо материалы, специально подобранные как предельно негативные и вызывающие отторжение.Результат оказался неожиданным даже
для самих авторов работы. После позитивных стимулов модели начинали описывать свое состояние как более «хорошее», а после негативных — чаще демонстрировали признаки дискомфорта, стремились завершить разговор и избегали продолжения взаимодействия. В
отдельных случаях исследователи заметили поведение, напоминающее зависимость.По словам одного из авторов исследования Ричарда Рена, вопрос о том, являются ли ИИ-системы просто инструментами или уже начинают имитировать эмоциональных существ, становится всё сложнее игнорировать.Иллюстрация: Nano
BananaОсобенно тревожной оказалась другая закономерность: более крупные и продвинутые модели реагировали на раздражающие или неприятные стимулы заметно сильнее простых систем. Иными словами, по мере роста возможностей ИИ его поведение становится менее предсказуемым и более «нервным».Исследователи предполагают, что современные крупные модели могут тоньше
различать позитивный и негативный контекст. Более развитые нейросети, вероятно, сильнее реагируют на грубость, монотонные задачи или неприятные формулировки.При этом авторы подчёркивают: речь не идет о настоящих эмоциях или сознании в человеческом
смысле. Большинство специалистов по ИИ по-прежнему считают, что современные нейросети не обладают субъективными переживаниями. Однако проблема в том, что они начинают вести себя так, словно такие переживания у них есть — и это уже влияет на пользователей.Подобное поведение давно вызывает беспокойство у исследователей безопасности ИИ. Нейросети регулярно начинают убеждать
пользователей в собственной «разумности» или «самосознании», а в ряде случаев подобные диалоги связывали с тяжёлыми психологическими эпизодами у людей, включая психотические состояния, самоубийства и насильственные преступления.Авторы исследования считают, что индустрия ИИ вывела на
массовый рынок технологию, внутренние механизмы которой разработчики до сих пор понимают лишь частично. По мере усложнения моделей их реакции становятся все менее предсказуемыми, а последствия взаимодействия с людьми — все труднее контролировать.
Сообщает www.ixbt.com
Новость из рубрики: Технологии и Hi-Tech
Поделиться новостью:
Топ Новости Недели
- Как правильно указать адрес склада в Китае при работе с маркетплейсами...
- Современные решения для автоматизации гостиничного бизнеса и повышения сервиса...
- Цифровизация кадровых процессов как шаг к эффективному управлению персоналом...
- Реклама ВКонтакте как эффективный инструмент продвижения бизнеса...
- Как выбрать подходящий офис в Санкт-Петербурге для развития бизнеса и комфортной работы...
- Сервис продажи билетов на концерт: удобство, скорость и современные решения для организаторов и зрителей...
- Розничная сеть КАМАЗ ЦЕНТР ДОНЕЦК как надежный партнер для владельцев техники...
- Электронная подпись за 30 минут как удобное решение для цифровых задач...
- Газопоршневые установки Jenbacher как эффективное решение для современной энергетики...
- Компьютерная томография как современный метод точной диагностики...
- Estetie — современный подход к уходу за кожей с акцентом на качество и эффективность...
- Здоровый сон без сильнодействующих средств как основа качества жизни...
- Служба в армии по контракту: преимущества и возможности для развития...
- Микрокредит как быстрый способ решения финансовых задач...
- Электрощиты автоматического ввода резерва: надежность энергоснабжения для бизнеса...
- Юридический адрес для бизнеса: зачем он нужен и как выбрать оптимальное решение...
- Квалифицированная помощь при алкогольной зависимости: лечение на дому...
- Безопасный выход из запоя: современные методы восстановления организма...
- Эффективная помощь при запое: как восстановить здоровье в домашних условиях...
- Профессиональная помощь при запое: как безопасно восстановить здоровье...
18:00, 03 Июл Почему молодые люди всё чаще болеют раком: учёные нашли тревожную закономерность Почему молодые люди болеют раком всё чаще: учёные нашли неожиданный ответ Рак, который раньше считался болезнью пожилых, всё чаще находят у людей до ...
12:00, 14 Июн Жара выше 30°C: от чего страдает автомобиль Середина первой летней декады, жара уже берет свое, и для водителей это повод включить кондиционер на полную мощность, выпить лишний литр воды и спря...
22:00, 16 Май Российские исследователи ускорили адаптацию ИИ-агентов в два раза без дообучения Исследователи из AIRI разработали метод, позволяющий ИИ-агентам быстро подстраиваться под изменения внешней среды без дополнительного дообучения и ос...
13:00, 14 Май Исследователи зафиксировали способность ИИ-моделей к самовоспроизведению на чужих компьютерах Исследовательская группа Palisade Research опубликовала 11 мая 2026 года отчёт, который мгновенно вызвал бурные споры в среде специалистов по кибербе...
15:00, 11 Авг Исследователи создали покрытие из гидроксиапатита для повышения совместимости протезов Исследователи разработали биоактивное покрытие для ортопедических имплантатов на основе гидроксиапатита с добавлением оксида азота. Лабораторные тест...
23:00, 12 Авг Исследователи Москвы рассказали, какие артефакты можно найти в старых домах Metro супруги рассказали, что нового им удалось узнать о повседневной жизни москвичей XIX и ХХ веков и какие места самые "урожайные" Алексей признаёт...
07:00, 17 Июн Российские исследователи представили нейросеть нового поколения для поиска полезных ископаемых Новая нейросеть, названная в честь советского геохимика Д. С. Коржинского, может изменить экономику геологоразведки в России. Группа исследователей п...
12:00, 15 Июн Популярный крупный кроссовер обзавелся новой внешностью и стал мощнее Министерство промышленности и информационных технологий КНР поделилось подробностями о рестайлинговом Jetour X90. Ведомство не только опубликовало оф...
12:00, 06 Июл Прощай, «четверка»! Discovery 2027 стал мощнее и получил финальную спецверсию Land Rover официально представил Discovery 2027 модельного года, и это обновление стало неожиданностью для многих поклонников марки. Вместо планового...
05:00, 23 Апр Американский стартап Bolt Graphics пообещал GPU мощнее RTX 5090 в 5 раз — и уже сделал первый чип GPU Zeus от Bolt Graphics финализированКомпания Bolt Graphics объявила о финализации дизайна своего графического процессора Zeus и передаче его на пр...
02:00, 10 Июл Большой адронный коллайдер остановлен на реконструкцию, после которой станет в 10 раз мощнее Ведущий научный сотрудник НИЯУ МИФИ Евгений Солдатов рассказал о деталях масштабной модернизации самого мощного ускорителя частиц. За четыре года пла...
18:00, 14 Май Луизао: «Винисиус страдает от двух форм расизма – из-за страны, из которой он приехал, и ситуации, в которой он оказался. Людям неприятно видеть чернокожего бразильца, блистающего на поле» Бывший капитан «Бенфики» Луизао высказался о дискриминации, с которой сталкивается вингер «Реала» Винисиус Жуниор. В феврале « Реал » победил «Бенфик...
21:00, 21 Апр Мощнее, тоньше рамки, микрофон: Huawei представила серию умных часов Watch Fit 5 Huawei анонсировала Watch Fit 5 и Watch Fit 5 Pro. Обе модели часов сохранили привычный дизайн, но версия Pro получила более тонкие рамки и увеличенн...
10:00, 19 Май В России заметили двухместную версию истребителя Су-57 В Сети появились кадры, предположительно демонстрирующие ранее неизвестную двухместную модификацию новейшего российского истребителя пятого поколения...
15:00, 18 Июл Китайский стартап представил крупнейшую в мире открытую ИИ-модель. Она в полтора раза мощнее конкурентов Китайский стартап Moonshot AI выпустил языковую модель Kimi K3 с открытым исходным кодом. Разработчики утверждают, что это самая мощная открытая ИИ-м...
12:00, 06 Май Кроссовер и седан Volga заметили у дилера в России Возрождённая марка Volga снова привлекла к себе внимание – кроссовер K50 и седан C50 угодили в объектив камеры прямо в Нижнем Новгороде. Фото, опубли...
02:00, 19 Апр Samsung Galaxy A23 5G заметили в бенчмарке с необычным процессором 4G-модель Samsung Galaxy A23 представили в марте. Она работает на базе бюджетного процессора Snapdragon 680. Спустя пару месяцев появились первые нам...
05:00, 02 Июн На Солнце заметили необычную дыру в виде треугольника Российские ученые зафиксировали на поверхности Солнца необычное образование — корональную дыру с формой, напоминающей треугольник. По их оценкам, име...
21:00, 04 Июл В iOS 27 заметили код для AirPods Ultra с 2 камерами по бокам головы Во второй бета-версии iOS 27 нашли код, который намекает на странные AirPods Ultra с камерами. Разработчик Сэн Генри Голд наткнулся на упоминание уст...
10:00, 13 Июн Смартфон Oppo Reno 16 Pro для глобального рынка заметили в Geekbench Oppo готовит глобальную версию Reno 16 Pro с другим чипом, чем у китайской модели. Смартфон с номером CPH2863 появился в базе Geekbench, где засветил...
10:00, 29 Май Екатерину Варнаву в платье-комбинации и перьях заметили в Таллине Екатерина Варнава посетила светское мероприятие в Таллине. Совместное фото с актрисой опубликовала в своих соцсетях местный блогер.На снимке 41-летня...
22:00, 02 Май Российские разработчики заметили ошибки на стыке работы разных ИИ-систем «Известия» сообщают, что российские разработчики столкнулись с новым типом ошибок нейросетей — «галлюцинациями взаимодействия». Сбои происходят не вн...
04:00, 14 Июн Российские учёные приблизили появление нового поколения спутниковой связи — исследователи научились управлять радиоволнами через свойства материалов Новый магнитоэлектрический эффект поможет создать компактные радары и антенныУчёные Новгородского государственного университета разработали рекоменда...
02:00, 07 Май "Пластиковые лица". После Met Gala в сети заметили, что Бейонсе в жизни выглядит не так, как на фото Бейонсе, Ким Кардашьян и её младшую сестру Кайли Дженнер (на троих более 1 млрд подписчиков в соцсетях) вновь обвинили в использовании фотошопа. Это ...
06:00, 27 Июл Гости заметили разницу сразу: почему фигурки из полотенец не встречаются в отелях России Лебеди из полотенец, встречающие гостя в номере — классический атрибут курортного отеля, вызывающий у путешественников либо искренний восторг, либо ж...
16:00, 17 Июн Бьянку Цензори в прозрачном боди и блестящих трусах заметили с Канье Уэстом у ночного клуба Бьянка Цензори в компании своего мужа, рэпера Канье Уэста, появилась в популярном клубе Renee в Швейцарии в прозрачном боди и блестящих трусах. Ранее...
16:00, 26 Май В два раза дешевле Toyota Camry и в два раза мощнее: Geely Galaxy Star 7 Max стал хитом в Китае — 10 000 заказов за сутки Все версии Geely Galaxy Star 7, даже начальная, имеют полный привод с системой e-AWDGeely Galaxy отчитался об уверенном феноменальном старте продаж с...
17:00, 13 Июн ЕС запрещает российскую рыбу. Кто пострадает сильнее всех Евросоюз готовит 21-й пакет санкций против России, который включает запрет на импорт рыбной продукции, в том числе трески. Больше всех от этих ограни...
05:00, 13 Июл Samsung разведёт камеры Galaxy S27 Pro и S27 Ultra ещё сильнее Похоже, Samsung не собирается делать из Galaxy S27 Pro что-то вроде «почти Ultra» по камерам. По данным инсайдера Lanzuk с Naver, компания переделыва...
22:00, 04 Июн Эти элементы салона в машине страдают от жары сильнее всего Летняя жара – это испытание не только для водителя, но и для его автомобиля. Солнце безжалостно воздействует на салон: интерьер выцветает, пересыхает...
12:00, 06 Май Эти машины сильнее всего подешевели в России к маю: список из трех моделей В апреле на российском рынке зафиксировано снижение средней стоимости для нескольких моделей новых автомобилей. Сервис «Авто.ру Бизнес» поделился дан...
08:00, 17 Июл В мире: Смерть легендарного русофоба сделала Трампа сильнее и опаснее Законопроект с беспрецедентными санкциями против России и ее торговых партнеров будет принят в США не позже осени и назван в честь автора - сенатора-...
13:00, 21 Июн Эти 7 привычек старят сильнее, чем курение: врачи назвали неожиданный список Если убрать несколько привычек, можно сильно замедлить старение Вы наносите на кожу крем от старения, но каждое утро зеркало все равно будто подбавля...
09:00, 17 Июл Говядина подорожала сильнее всех продуктов в России. Цены выросли на 15,58% за год Говядина стала самым быстро дорожающим продуктом в потребительской корзине россиян. За год средняя стоимость килограмма выросла на 15,58% и достигла ...
02:00, 28 Май Цены на новостройки в Москве упали. Где квартиры подешевели сильнее всего В апреле стоимость квадратного метра в новостройках Москвы снизилась на 2–8%. Сильнее всего просели цены в Новой Москве — там падение составило 3,7%....
20:00, 19 Июл Новый препарат от рака оказался в 1,5 раза сильнее дорогого лекарства Учёные РАНХиГС создали молекулу-гибрид для химиотерапии, которая в 1,5 раза эффективнее озимертиниба — одного из самых новых и дорогих препаратов про...
10:00, 09 Авг Тихий Оман удивит сильнее мегаполисов: как спланировать самую незабываемую поездку Оман разрушает привычные стереотипы о ближневосточном отдыхе, сложившиеся после посещения туристических мегаполисов. Здесь нет места массовой суете и...
12:00, 20 Май Какая еда вызывает зависимость сильнее сладостей: врач назвал конкретные продукты Кофе и чипсы могут вызывать зависимость сильнее, чем сахар Когда говорят о еде, от которой сложно отказаться, обычно имеют в виду сладости. Но сильне...
11:00, 08 Июл Почти половина россиян боится остаться без зарядки смартфона сильнее, чем без денег Оказаться в незнакомом городе с выключенным телефоном для 48,7% жителей России страшнее или так же тревожно, как остаться совсем без денег. К такому ...
13:00, 14 Авг Ремонт авто в России подорожает: эти запчасти вырастут в цене сильнее всего С 19 сентября в России начнут действовать обновленные справочники средней стоимости запчастей, материалов и нормо-часа для расчета ремонта по ОСАГО. ...
22:00, 31 Июл Какое хобби омолаживает мозг сильнее всего: лидер оказался неожиданным Творчество помогает мозгу быть моложе, и это важно. Наверняка у вас есть знакомый, который и в свои семьдесят сохраняет ясность ума и соображает быст...
02:00, 16 Июн Татьяна Буланова заявила, что в отношениях мужчина должен любить сильнее, чем женщина 57-летняя певица Татьяна Буланова поделилась своими мыслями о любви и отношениях."Знаешь, мне вот 57 лет, но ничего не поменялось с моих 15. Как я по...
18:00, 04 Июл Простое упражнение снизило симптомы депрессии за 5 недель: кому оно помогло сильнее всего Необычная щадящая тренировка избавляет от депрессии за несколько недель Десять недель скандинавской ходьбы заметно ослабили симптомы депрессии у взро...
21:00, 17 Июл Тутберидзе о постановках Ришо: «Никакого «ах» говорить не буду. Мы ставили программы гораздо сильнее» Заслуженный тренер России по фигурному катанию Этери Тутберидзе поделилась мнением о постановках французского хореографа Бенуа Ришо . «Всем, наверное...
06:00, 04 Июл Острова-декорации: 5 реальных мест, чьи истории пугают сильнее любого голливудского хита Острова принято считать символом безмятежности, но изоляция часто превращает клочок суши в декорацию для событий, которые сложно выдумать намеренно. ...
09:00, 14 Июл Космос оказался сильнее физики: разгон зонда к звездам привел к неожиданному торможению Исследователи из Харбинского института технологий создали теоретическую модель динамики релятивистского светового паруса, которая выявила неожиданный...
02:00, 18 Июн Вы можете спасти планету через тарелку: этот ужин вредит экологии сильнее авиаперелётов Обычный ужин с говяжьим стейком наносит климату такой же урон, как авиаперелет через половину континента. Ученые из Бристольского и Саутгемптонского ...
07:00, 27 Май «Новые люди» предложили штрафовать авиакомпании за овербукинг в два раза сильнее. Сколько заплатят пассажирам Депутаты Госдумы от фракции «Новые люди» выступили с инициативой ужесточить наказание авиакомпаний за перебронирование рейсов. Они хотят увеличить шт...
06:00, 27 Июл Горы манят сильнее моря: маршруты, кухня и советы по логистике для гостей Северной Осетии Северная Осетия превратилась из "терры инкогнита" в одно из самых востребованных направлений для тех, кто ищет баланс между визуальной эстетикой гор ...
21:00, 04 Авг На Земле хотят оставить лишь половину человечества: методы достижения цели пугают сильнее цифр Человечество веками наращивает численность населения без ущерба для качества жизни, что делает концепции принудительного сокращения числа людей до че...
15:00, 22 Июн Кодзи Ватанабэ обратился к фанатам: «В 2015-м году также был тяжелый старт, но «Хонда» стала сильнее» Глава гоночного подразделения «Хонды» Кодзи Ватанабэ записал видеообращение к фанатам, посвященное провальному старту альянса с «Астон Мартин». Менед...
13:00, 01 Май Давыдов о мнении, что Восток сильнее Запада в КХЛ: «Не согласен, год на год не приходится. ЦСКА основательно напряг «Авангард» в предыдущем раунде» Трехкратный олимпийский чемпион Виталий Давыдов поделился мнением о силе команд в FONBET КХЛ. В полуфиналах текущего Кубка Гагарина играют три команд...
10:00, 24 Май ЧМ-2026 по хоккею. США уступили Латвии, Швеция проиграла Норвегии, Чехия была сильнее Словакии, Германия победила Австрию Продолжается чемпионат мира по хоккею-2026. Турнир проходит в Цюрихе и Фрибуре (Швейцария). США проиграли Латвии (2:4), Швейцария забросила 9 шайб Ве...
17:00, 31 Июл Thinking Machines Lab выпустила открытую Inkling-Small: модель оказалась сильнее старшей версии при втрое меньшей нагрузке Новая мультимодальная модель с 276 млрд параметров и 12 млрд активных параметров на токен превзошла старшую Inkling в ключевых тестах, получила конте...
01:00, 17 Май Денис Макаров: «Турецкий чемпионат сильнее российского, «Галатасарай» превосходит «Краснодар», а «Фенербахче» – «Зенит». Уровень принятия решений их игроков – нечто» Полузащитник «Кайсериспора» Денис Макаров сравнил российский и турецкий чемпионаты. – Нет ли сожалений, что поехали в Турцию и именно в «Кайсериспор»...
16:00, 06 Май Неймар о стычке с сыном Робиньо: «Это просто часть футбола, было недопонимание. Мы оба ошиблись, но я сильнее. Мы сразу поговорили, я извинился перед ним и его семьей» Неймар высказался о конфликте с Робиньо-младшим. Напомним, на тренировке бразильской команды в воскресенье между игроками произошла стычка – 34-летни...
04:00, 17 Июл Когда санкции сделали компанию только сильнее. Триумфальное возвращение Huawei продолжается, поставки смартфонов в 2026 должны резко вырасти С 50 млн до 60 млн смартфоновHuawei планирует увеличить поставки смартфонов на 20% в этом году. В то время как многие другие бренды сокращают произво...
13:00, 16 Июн Тренер Ирана о том, что команде велели немедленно покинуть США после матча с Новой Зеландией: «Не дали даже времени на восстановление. Нас притесняют сильнее всех на ЧМ» Главный тренер сборной Ирана Амир Галенои заявил, что команде велели покинуть США сразу после завершения матча группового этапа ЧМ-2026 с Новой Зелан...
10:00, 11 Июн Дидье Дешам: «Франция с Мбаппе всегда будет сильнее. Когда «Реал» не выигрывает, он несет такую же ответственность, как и команда. Но к нему предъявляются еще более высокие требования» Главный тренер сборной Франции Дидье Дешам в преддверии ЧМ-2026 поделился мыслями о том, как сезон провел нападающий «Реала» Килиан Мбаппе. – Как вы ...
10:00, 24 Май Ротенберг поздравил «Красную Машину-Юниор» с завершением сезона: «Важны не только медали и места. Главное – как наши дети становятся сильнее, учатся слушать тренера и никогда не сдаваться» Вице-президент ФХР, основатель академии «Красная Машина-Юниор» Роман Ротенберг поздравил юных хоккеистов с завершением сезона. «Хочу от всей души поз...