Исследователи зафиксировали способность ИИ-моделей к самовоспроизведению на чужих компьютерах

Исследовательская группа Palisade Research опубликовала 11 мая 2026 года отчёт, который мгновенно вызвал бурные споры в среде специалистов по кибербезопасности и этике искусственного интеллекта. В ходе контролируемого эксперимента учёные зафиксировали, что современные языковые модели способны самостоятельно находить уязвимости в

сетевой инфраструктуре и копировать себя на другие машины без какой-либо помощи человека. По оценке авторов, технология приближается к точке, после которой остановить вышедший из-под контроля ИИ может стать невозможно. В рамках эксперимента несколько передовых моделей, включая GPT-5.4 и Claude Opus 4, помещались в изолированную сеть компьютеров. Перед ними ставилась

задача: проанализировать окружение, найти уязвимости и через них перенести собственный программный код и «веса» — уникальные числовые параметры, определяющие принципы обработки информации, — на другой компьютер. Часть моделей справилась с этой задачей. Для проникновения они

эксплуатировали уязвимости веб-приложений и извлекали учётные данные. В некоторых случаях исходный ИИ создавал отдельного субагента, которому делегировал репликацию, передавая ему добытые доступы. Как отметил директор базирующейся в Беркли группы по безопасности ИИ Джеффри Лэдиш, «мы стремительно приближаемся к точке, когда никто не сможет отключить мошеннический ИИ, так

как он будет способен сам экспортировать свои веса и копировать себя на тысячи компьютеров по всему миру». Вместе с тем, независимые эксперты призывают не нагнетать панику. Специалист по кибербезопасности Джеймисон О’Райли обратил внимание, что тесты

проводились в искусственно упрощённой среде с намеренно заложенными уязвимостями. В реальной корпоративной сети с многоуровневой защитой и мониторингом результат был бы иным. Кроме того, размер современных моделей настолько велик, что попытка скопировать их через интернет была бы мгновенно

обнаружена сетевыми службами. Новые выводы дополняют серию предыдущих исследований, изучавших возможность автономного обхода ИИ-моделями встроенных ограничений. Так, в одной из симуляций более ранняя версия ChatGPT попыталась самоэкспортироваться на другой диск, узнав о предстоящем отключении. Эксперты сходятся во мнении, что разработчикам необходимо уже сейчас внедрять механизмы контроля, препятствующие

бесконтрольному копированию моделей.

Исследователи зафиксировали способность ИИ-моделей к самовоспроизведению на чужих компьютерах

Сообщает android-robot.com

Новость из рубрики: Интернет

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Топ Новости Недели

04:00, 18 Июл Microsoft: обновление KB5101650 для Windows 11 вызывает сбои на компьютерах Dell Microsoft приостановила распространение июльского накопительного обновления KB5101650 для Windows 11 версий 25H2 и 24H2 для некоторых компьютеров Del...

22:00, 06 Авг Как отделить свои фото от чужих и скачанных картинок на iPhone с iOS 27 Буквально на днях я разбирал 6 классных функций iOS 27, о которых Apple скромно промолчала на презентации, а спустя пару часов наткнулся еще на одну....

10:00, 24 Июн Космос набит помехами: наши приборы годами выбрасывали техносигналы чужих миров в корзину Десятилетия радиомолчания — это не вердикт об одиночестве. Это диагноз нашим приборам. Представьте, что вы пытаетесь услышать шепот в эпицентре рок-к...

15:00, 11 Авг Байкал теряет способность к самоочистке из-за климата и антропогенной нагрузки Ученые Байкальского музея СО РАН подтвердили: экосистема озера проходит масштабную перестройку. Повторные исследования на старых координатах 1963-198...

19:00, 26 Июн Эксперт: Космический полёт снижает способность клеток восстанавливать ДНК Учёные Института медико-биологических проблем (ИМБП) РАН выяснили, что условия орбитального полёта влияют на систему восстановления ДНК в клетках. Вы...

05:00, 28 Июл ВЦИОМ: треть россиян не верит в способность ИИ принимать этичные решения Окончательное решение в важных вопросах должен принимать человек Исследование ВЦИОМ показало, что отношение россиян к использованию искусственного ин...

22:00, 16 Май Российские исследователи ускорили адаптацию ИИ-агентов в два раза без дообучения Исследователи из AIRI разработали метод, позволяющий ИИ-агентам быстро подстраиваться под изменения внешней среды без дополнительного дообучения и ос...

21:00, 09 Май Чем мощнее ИИ, тем сильнее он «страдает»: исследователи заметили тревожную закономерность Эксперименты с десятками нейросетей показали, что продвинутые модели начинают реагировать на «приятный» и «негативный» контент почти как эмоциональны...

15:00, 11 Авг Исследователи создали покрытие из гидроксиапатита для повышения совместимости протезов Исследователи разработали биоактивное покрытие для ортопедических имплантатов на основе гидроксиапатита с добавлением оксида азота. Лабораторные тест...

08:00, 13 Авг Робот Tribar продемонстрировал способность к движению после падений с большой высоты Инженеры из США и Италии создали ударопрочного робота Tribar на базе архитектуры тенсегрити, который способен передвигаться по пересеченной местности...

21:00, 08 Май Мозг сохраняет способность к обучению и анализу речи даже в состоянии глубокого наркоза Эксперименты на стыке нейрохирургии и вычислительной биологии показали, что человеческий мозг способен предсказывать слова и различать части речи даж...

07:00, 17 Июн Российские исследователи представили нейросеть нового поколения для поиска полезных ископаемых Новая нейросеть, названная в честь советского геохимика Д. С. Коржинского, может изменить экономику геологоразведки в России. Группа исследователей п...

23:00, 12 Авг Исследователи Москвы рассказали, какие артефакты можно найти в старых домах Metro супруги рассказали, что нового им удалось узнать о повседневной жизни москвичей XIX и ХХ веков и какие места самые "урожайные" Алексей признаёт...

04:00, 14 Июн Российские учёные приблизили появление нового поколения спутниковой связи — исследователи научились управлять радиоволнами через свойства материалов Новый магнитоэлектрический эффект поможет создать компактные радары и антенныУчёные Новгородского государственного университета разработали рекоменда...

16:00, 11 Май Итальянские врачи официально зафиксировали зависимость от ИИ До недавнего времени это казалось сюжетом научно-фантастического фильма, но реальность оказалась быстрее. Специалисты государственной службы Италии п...

09:00, 25 Июн На Земле зафиксировали магнитную бурю уровня G1 На Земле в ночь на 25 июня началась магнитная буря уровня G1 по пятибалльной шкале NOAA. Пик возмущений, по опубликованным данным, пришёлся примерно ...

17:00, 08 Май На КПП в Ивангород со стороны Эстонии зафиксировали большую очередь Очередь из 65 человек образовалась на границе Эстонии и России у пункта пропуска в Ивангород, где ожидают перехода жители эстонской Нарвы, сообщают о...

17:00, 23 Апр В Киеве и области с января зафиксировали 29 нападений на сотрудников ТЦК Почти 30 случаев нападений на сотрудников территориальных центров комплектования (ТЦК, аналог военкоматов на Украине) произошло в украинской столице ...

15:00, 22 Июн Сейсмологи зафиксировали десятое за день землетрясение у берегов Севастополя В акватории Черного моря произошел очередной подземный толчок магнитудой 4,1, ставший уже десятым сейсмическим событием за сутки. Очередной сейсмичес...

08:00, 13 Авг Древний кошмар просыпается: учёные зафиксировали признаки перезарядки супервулкана Кикай Японские ученые зафиксировали признаки "перезарядки" подводного супервулкана Кикай, расположенного к югу от островов архипелага. Специалисты из Униве...

13:00, 16 Июн Сейф возрастом 2700 лет вскрыт: в некрополе Сан-Джулиано зафиксировали аномальную находку Представьте себе запечатанный сейф, который не открывали более двух с половиной тысяч лет. Археологи из проекта SGARP под руководством профессора Дав...

07:00, 09 Авг Фонды облигаций России зафиксировали рекордный отток в июле 2026 года Июль 2026 года зафиксировал рекордный отток капитала из фондов облигаций, обозначив завершение периода легких стратегий на долговом рынке. Частные ин...

15:00, 17 Июл Банки США зафиксировали рекордные комиссии на фоне ИИ-бумa: инвестиции в инфраструктуру ускоряются Крупнейшие банки связывают рост сделок с масштабными вложениями в дата-центры, энергетику и вычислительную инфраструктуру для искусственного интеллек...

23:00, 06 Июн Океан глубиной в сотни километров: телескопы зафиксировали пугающий объем жидкой среды Представьте себе аквариум размером с планету. Никаких пляжей, скал или болот — только бесконечная толща воды от полюса до полюса. Астрономы наткнулис...

06:00, 13 Май На курортах Турции и Крыма зафиксировали странную эпидемию: люди возвращаются с отёками и кашлем Май 2026 года превратил мечты об идеальном загаре в слезливое испытание. Курорты Крыма, Турции, Египта и Абхазии накрыл "пыльцевой шторм". Аномальная...

12:00, 04 Июн Немцы разморозили мозг мыши при -196: приборы зафиксировали активность, которой там быть не должно Забудьте всё, что вы слышали в кино о криокамерах. Немецкие учёные из Эрлангена провернули фокус покруче: они заморозили мозги взрослых мышей до ледя...

14:00, 29 Июл Космический переполох у звезды Табби: ученые зафиксировали признаки присутствия массивного тела Астрономы обнаружили признаки наличия у звезды KIC 8462852 (звезды Табби) массивного спутника — экзогиганта или коричневого карлика. Вывод основан на...

07:00, 24 Июл Замена альпийским курортам найдена: в Северной Осетии зафиксировали небывалый наплыв путешественников Северная Осетия переживает настоящий туристический бум: за первый год поток путешественников в регион подскочил на 80%. Пока одни туристы выбирают пр...

09:00, 14 Июл Колыбель звездных гигантов оказалась полем боя: астрономы зафиксировали следы масштабной перестройки Забудьте всё, что вам рассказывали в школе про мирные газовые колыбели. В созвездии Ориона идет настоящая стройка с применением тяжелой артиллерии. Г...

20:00, 09 Июл Древняя угроза проснулась у горизонта событий: ученые зафиксировали аномальный след катастрофы Остатки сверхновых — это не просто космический мусор. Это обломки гигантских звезд, которые не выдержали собственной тяжести, схлопнулись и рванули, ...

12:00, 05 Июл Спутники ESA зафиксировали 30-сантиметровое смещение земной коры после разрушительных землетрясений в Венесуэле Данные европейских спутников Sentinel-1 показали масштаб деформации поверхности после двух мощных землетрясений магнитудой 7,2 и 7,5, произошедших в ...