Чем мощнее ИИ, тем сильнее он «страдает»: исследователи заметили тревожную закономерность

Эксперименты с десятками нейросетей показали, что продвинутые модели начинают реагировать на «приятный» и «негативный» контент почти как эмоциональные существаИсследователи из некоммерческого Центра безопасности ИИ (Center for AI Safety, CAIR) обнаружили неожиданную закономерность: чем сложнее и мощнее становятся современные языковые модели, тем сильнее они демонстрируют поведение, напоминающее эмоциональные

реакции. Причём наиболее продвинутые системы оказались одновременно более «чувствительными», менее стабильными и чаще проявляли признаки своеобразного «страдания».В новом исследовании специалисты проанализировали поведение 56 популярных ИИ-моделей. Нейросетям последовательно показывали либо максимально «приятный» контент, либо материалы, специально подобранные как предельно негативные и вызывающие отторжение.Результат оказался неожиданным даже

для самих авторов работы. После позитивных стимулов модели начинали описывать свое состояние как более «хорошее», а после негативных — чаще демонстрировали признаки дискомфорта, стремились завершить разговор и избегали продолжения взаимодействия. В

отдельных случаях исследователи заметили поведение, напоминающее зависимость.По словам одного из авторов исследования Ричарда Рена, вопрос о том, являются ли ИИ-системы просто инструментами или уже начинают имитировать эмоциональных существ, становится всё сложнее игнорировать.Иллюстрация: Nano

BananaОсобенно тревожной оказалась другая закономерность: более крупные и продвинутые модели реагировали на раздражающие или неприятные стимулы заметно сильнее простых систем. Иными словами, по мере роста возможностей ИИ его поведение становится менее предсказуемым и более «нервным».Исследователи предполагают, что современные крупные модели могут тоньше

различать позитивный и негативный контекст. Более развитые нейросети, вероятно, сильнее реагируют на грубость, монотонные задачи или неприятные формулировки.При этом авторы подчёркивают: речь не идет о настоящих эмоциях или сознании в человеческом

смысле. Большинство специалистов по ИИ по-прежнему считают, что современные нейросети не обладают субъективными переживаниями. Однако проблема в том, что они начинают вести себя так, словно такие переживания у них есть — и это уже влияет на пользователей.Подобное поведение давно вызывает беспокойство у исследователей безопасности ИИ. Нейросети регулярно начинают убеждать

пользователей в собственной «разумности» или «самосознании», а в ряде случаев подобные диалоги связывали с тяжёлыми психологическими эпизодами у людей, включая психотические состояния, самоубийства и насильственные преступления.Авторы исследования считают, что индустрия ИИ вывела на

массовый рынок технологию, внутренние механизмы которой разработчики до сих пор понимают лишь частично. По мере усложнения моделей их реакции становятся все менее предсказуемыми, а последствия взаимодействия с людьми — все труднее контролировать.

Чем мощнее ИИ, тем сильнее он «страдает»: исследователи заметили тревожную закономерность

Сообщает www.ixbt.com

Новость из рубрики: Технологии и Hi-Tech

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Топ Новости Недели

05:00, 23 Апр Американский стартап Bolt Graphics пообещал GPU мощнее RTX 5090 в 5 раз — и уже сделал первый чип GPU Zeus от Bolt Graphics финализированКомпания Bolt Graphics объявила о финализации дизайна своего графического процессора Zeus и передаче его на пр...

21:00, 21 Апр Мощнее, тоньше рамки, микрофон: Huawei представила серию умных часов Watch Fit 5 Huawei анонсировала Watch Fit 5 и Watch Fit 5 Pro. Обе модели часов сохранили привычный дизайн, но версия Pro получила более тонкие рамки и увеличенн...

12:00, 06 Май Эти машины сильнее всего подешевели в России к маю: список из трех моделей В апреле на российском рынке зафиксировано снижение средней стоимости для нескольких моделей новых автомобилей. Сервис «Авто.ру Бизнес» поделился дан...

12:00, 06 Май Кроссовер и седан Volga заметили у дилера в России Возрождённая марка Volga снова привлекла к себе внимание – кроссовер K50 и седан C50 угодили в объектив камеры прямо в Нижнем Новгороде. Фото, опубли...

02:00, 19 Апр Samsung Galaxy A23 5G заметили в бенчмарке с необычным процессором 4G-модель Samsung Galaxy A23 представили в марте. Она работает на базе бюджетного процессора Snapdragon 680. Спустя пару месяцев появились первые нам...

22:00, 02 Май Российские разработчики заметили ошибки на стыке работы разных ИИ-систем «Известия» сообщают, что российские разработчики столкнулись с новым типом ошибок нейросетей — «галлюцинациями взаимодействия». Сбои происходят не вн...

13:00, 01 Май Давыдов о мнении, что Восток сильнее Запада в КХЛ: «Не согласен, год на год не приходится. ЦСКА основательно напряг «Авангард» в предыдущем раунде» Трехкратный олимпийский чемпион Виталий Давыдов поделился мнением о силе команд в FONBET КХЛ. В полуфиналах текущего Кубка Гагарина играют три команд...

Пластиковые лица. После Met Gala в сети заметили, что Бейонсе в жизни выглядит не так, как на фото 02:00, 07 Май "Пластиковые лица". После Met Gala в сети заметили, что Бейонсе в жизни выглядит не так, как на фото Бейонсе, Ким Кардашьян и её младшую сестру Кайли Дженнер (на троих более 1 млрд подписчиков в соцсетях) вновь обвинили в использовании фотошопа. Это ...

16:00, 06 Май Неймар о стычке с сыном Робиньо: «Это просто часть футбола, было недопонимание. Мы оба ошиблись, но я сильнее. Мы сразу поговорили, я извинился перед ним и его семьей» Неймар высказался о конфликте с Робиньо-младшим. Напомним, на тренировке бразильской команды в воскресенье между игроками произошла стычка – 34-летни...