Исследователь ИИ уволился из ведущей американской лаборатории, предупредив о конце света

Бывший сотрудник одной из крупнейших американских лабораторий искусственного интеллекта Джейкоб Коксон объявил об уходе из индустрии, обвинив своих работодателей в безответственной гонке за созданием сверхразума, способного к самосовершенствованию. 27-летний исследователь, три года занимавшийся предобучением моделей, заявил, что компании, в которых он работал, «ставят на кон наши жизни» и

«играют в рулетку» с будущим человечества. Коксон начал свою карьеру в области ИИ в одной из ведущих американских лабораторий, а затем перешёл в конкурирующую организацию, которую считал более осторожной в вопросах безопасности. Однако, по его словам, обе структуры оказались заложниками

гонки, где остановка означает потерю позиций. «Ни одна из компаний не действует ответственно. Они несутся напролом к самоулучшающемуся сверхразуму и играют в рулетку нашими жизнями», — написал он в социальной сети X. Главный страх исследователя связан с так называемым рекурсивным самоулучшением — сценарием, при котором искусственный интеллект берёт на себя достаточную часть исследований в собственной области и начинает ускоренно создавать всё более мощные версии самого

себя. По оценке Коксона, человечество движется по «одному из самых агрессивных сценариев», при котором уже к концу 2027 года ситуация может выйти из-под контроля. Особое внимание Коксон уделил разрыву между публичной риторикой руководителей ИИ-компаний и их частными

разговорами. «Люди, создающие ИИ, искренне верят, что он может погубить нас всех к концу десятилетия. Это не маркетинговый трюк. Многие руководители и старшие исследователи будут подбирать слова в прессе так, чтобы звучать разумно, но я слышу, как те же самые люди выражают страх наедине», — подчеркнул он. Позицию Коксона поддержал руководитель одного из направлений безопасности в его бывшей компании

Эван Хубингер. «Мы действительно всерьёз считаем, что ИИ может убить всех людей», — написал он, оценив вероятность такого сценария в течение ближайшего десятилетия более чем в 10%. По его словам, лаборатория старается действовать ответственно, однако не имеет готового плана, который гарантировал бы согласование поведения сверхинтеллекта с человеческими целями. Уход Коксона стал вторым громким случаем за год: в феврале аналогичное решение принял руководитель исследовательской

группы по безопасности, предупредивший о «мире в опасности». Внутри лабораторий, по словам Коксона, всё чаще звучат слова «crunchtime» и «endgame», отражающие ощущение приближающейся финальной стадии. На фоне этих заявлений в США уже предложен законопроект о приостановке разработки сверхмощных ИИ-систем до создания федерального регулятора. Однако пока отрасль продолжает движение

к технологической сингулярности, исследователи, покидающие её, оставляют после себя лишь предупреждения о том, что человечество может не успеть осознать последствия своего творения.

Исследователь ИИ уволился из ведущей американской лаборатории, предупредив о конце света

Сообщает android-robot.com

Новость из рубрики: Технологии и Hi-Tech

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Топ Новости Недели

На кону наши жизни. Исследователь Джейкоб Коксон из Anthropic уволился из страха перед сверхмощным ИИ 17:00, 09 Сен "На кону — наши жизни". Исследователь Джейкоб Коксон из Anthropic уволился из страха перед сверхмощным ИИ Исследователь Джейкоб Коксон уволился из компании Anthropic из страха перед сверхмощным ИИ и заявил, что искусственный интеллект может уничтожить всю...

12:00, 09 Сен «К концу десятилетия он может нас всех уничтожить». Исследователь из Anthropic не захотел участвовать в гонке ИИ и уволился Ранее он работал в OpenAI Бывший исследователь из Anthropic Джейкоб Коксон ушел из компании, после чего начал публиковать в социальной сети X различн...

Мы были бы дураками: крестный отец ИИ Джеффри Хинтон призвал запретить сверхмощные нейросети, предупредив об угрозе исчезновения человечества 12:00, 12 Сен «Мы были бы дураками»: «крестный отец ИИ» Джеффри Хинтон призвал запретить сверхмощные нейросети, предупредив об угрозе исчезновения человечества Нобелевский лауреат и один из создателей современных нейросетей Джеффри Хинтон выступил с беспрецедентно жёстким предупреждением: утрата контроля над...

22:00, 10 Сен Минюст США: Украинский хакер получил четыре года американской тюрьмы В Соединенных Штатах суд приговорил гражданина Украины Алексея Литвиненко к четырем годам лишения свободы за участие в масштабной схеме кибермошеннич...

07:00, 07 Май 300 млн долларов на оптоволокно: Nvidia закрепляет за собой ключевой сегмент американской оптики На деньги Nvidia Corning построит три новых завода по производству оптоволокна в СШАNvidia инвестирует 300 млн долларов в компанию Corning в рамках д...

22:00, 19 Апр Исследователь безопасности нашел метод обхода защиты функции Windows Recall Когда Microsoft впервые анонсировала ИИ-функцию Windows Recall, которая непрерывно делает скриншоты большинства действий пользователя, эксперты сразу...

12:00, 22 Июл Россия увеличила закупки американской одежды в 2,4 раза. Что покупают больше всего За первые пять месяцев 2026 года Россия импортировала одежду из США на $22,1 миллиона — в 2,4 раза больше, чем за аналогичный период прошлого года. С...

07:00, 07 Май Исследователь выяснил, что Microsoft Edge хранит пароли в открытом виде в оперативной памяти Изображение сгенерировано в Nano Banana 2 Норвежский специалист по кибербезопасности Том Йоран Сёнстебюсетер Рённинг (Tom Jøran Sønstebyseter Rønning...

23:00, 29 Май Новейший завод Samsung за $17 миллиардов оживает: массовый выпуск 2-нанометровых чипов на американской фабрике стартует в 2027 году В основном будут выпускать однокристальные системы Tesla AI5 и Tesla AI6Строительство большого завода Samsung по контрактному производству микросхем ...

11:00, 31 Авг 5 вариантов ультразвуковой ванны для производства и лаборатории Ультразвуковая мойка снимает загрязнения там, где щётка и растворитель бессильны: в глухих отверстиях, резьбе, капиллярах, на хрупких поверхностях. К...

03:00, 27 Июл Можно ли создать новый вид животного в лаборатории Фактически ученые уже умеют создавать новые виды животных, это произошло уже во времена СССР Можно ли в лаборатории создать животное, которого никогд...

03:00, 11 Авг SpaceX запустит 32 орбитальные лаборатории для разработки лекарств Дочерняя компания американского разработчика космической инфраструктуры Redwire — SpaceMD — заключила контракт на проведение фармацевтических исследо...

07:00, 04 Май Землян ожидает необычное полнолуние в конце мая В ночь на 2 мая в России получится увидеть первое из двух майских полнолуний. Об этом 30 апреля рассказали в пресс-службе лаборатории солнечной астро...

12:00, 02 Июн Точность до микрона: детали для новых Lada проверяют в 3D-лаборатории Система измерений работает на отечественном программном обеспеченииКаждая деталь автомобилей Lada проходит цифровой контроль, где виртуальная модель ...

12:00, 09 Май Mirro: Пробирки с хантавирусом пропали из лаборатории в Австралии в 2024 году Более 300 пробирок со смертельно опасными патогенами, в том числе хантавирусом, по всей видимости, были случайно уничтожены при транспортировке в нов...

04:00, 01 Май В погоне за пылью: качество воздуха в Петербурге проверяют передвижные лаборатории Когда петербуржцы жалуются на неприятные запахи, на место выезжает мобильная лаборатория. В кузове авто оборудован исследовательский центр с газоанал...

00:00, 04 Май ATLAS впервые воссоздал столкновения космических лучей с атмосферой в лаборатории Эксперимент на Большом адронном коллайдере позволил измерить столкновения протонов с ионами кислорода, что поможет точнее моделировать ливни космичес...

10:00, 29 Май Самые экстремальные лаборатории мира: где учёные работают на грани выживания 7 лабораторий, расположенных в самых экстремальных условиях на планете Лаборатория — это не всегда чистая комната с приборами и нормальным отоплением...

13:00, 05 Май Черная вдова из лаборатории: секрет уральского апокалипсиса, который КГБ прятал 13 лет Представьте: обычное утро в Свердловске, люди спешат на работу и учебу, кто-то пьет кофе на балконе. В этот момент над городом проносится невидимое, ...

20:00, 15 Июл В конце июля с Земли можно будет увидеть горизонтальный звездопад Метеорный поток Южные дельта-Аквариды достигнет пика в ночь на 31 июляЕвгений Бурмистров, эксперт в области астрономии из Пермского национального исс...

17:00, 23 Июн "Он на другом конце Земли". Лянка Грыу показала бойфренда-иностранца 38-летняя российская актриса Лянка Грыу показала в соцсетях своего возлюбленного — канадского актёра Марселя Симоно. В инстаграме* она поздравила бой...

01:00, 01 Июл Lenovo предупреждает о конце эры дешёвой электроники и росте цен до 2030 года Один из крупнейших в мире производителей компьютеров заявил, что давление на стоимость памяти будет нарастать, а вслед за ней подорожают все типы уст...

07:00, 12 Май Свет в конце недели. Синоптик Позднякова предсказала желанное потепление После летних предпраздничных дней в столицу пришли прохлада и моросящие дожди. Всему виной — атлантический циклон, который последние несколько дней п...

15:00, 04 Авг Море без разорения и космических ценников: куда рвануть в конце лета вместо Турции Август традиционно считается самым дорогим месяцем для поездки к морю, когда цены в популярных отелях Сочи или Турции достигают пика. Однако в разгар...

17:00, 30 Июн Ждали у моря погоды, а дождь пришёл из лаборатории: российские учёные нашли способ управлять облаками Ученые из Института технической химии УрО РАН нашли способ укротить две стихии сразу: огонь в цехах и засуху в полях. На профильной конференции в Чел...

23:00, 19 Авг Ла Лига стартовала! «Атлетико» сыграет с «Малагой», «Реал» и «Барса» проведут матчи в конце августа В 1-м туре Ла Лиги в субботу «Севилья» дома в меньшинстве одолела «Райо Вальекано» (2:1), забив с пенальти на 97-й минуте. В воскресенье «Вильярреал»...

10:00, 26 Авг 1 ложка под хризантему в конце августа — и куст набивает десятки бутонов: осенью глаз не отвести фото Progorod58 В конце августа хризантемы только готовятся показать всё, на что способны. Куст уже вырос, зелени ему хватает, а теперь главная задач...

15:00, 17 Май Крупнейший токамак в мире выходит на новый уровень: японская термоядерная установка JT-60SA заработает в конце 2026 года Программа перезапускается после почти двухлетней паузыЕвропейские и японские инженеры начали новый этап подготовки термоядерной установки JT-60SA — к...

00:00, 23 Авг Циклон «Приска» оставил без света населенные пункты Белоруссии и Польши Циклон «Приска» нарушил энергоснабжение в Белоруссии и на северо-востоке Польши, сообщили пресс-служба белорусского минэнерго и радиостанция RMF FM. ...

05:00, 01 Авг Скорость света на 20%: напечатан первый световой парус для межзвёздных перелётов Трехслойная плёнка толщиной в сотни нанометров выдерживает давление лазера мощностью 100 гигаватт и снижает время полёта к Альфе Центавра с 75 000 до...

21:00, 03 Июл Более десяти районов Крыма остались без света из-за атак беспилотников ВСУ В Крыму после ударов украинских беспилотных аппаратов зафиксированы масштабные перебои с электроснабжением, охватившие значительную часть полуострова...

16:00, 15 Май Река Евфрат высыхает: почему это считают знаком конца света Библейская река Евфрат высыхает: пророчества об Армагеддоне становятся реальностью. Река Евфрат, упомянутая в Библии как один из предвестников Армаге...

19:00, 05 Май Александрийский маяк найден под водой: что осталось от одного из чудес света Ученым удалось узнать больше подробностей об Александрийском маяке Больше 1600 лет назад Александрийский маяк перестал существовать, потому что земле...

08:00, 07 Июл Крымские мобильные операторы ввели аварийный роуминг из-за отключений света Крымские телекоммуникационные компании объединили сети, чтобы абоненты могли бесплатно звонить и отправлять сообщения даже при полном отсутствии элек...

06:00, 11 Май «Авторевю»: у внедорожника Deepal G318 есть опция «кемпингового света» Эксперты «Авторевю» протестировали внедорожник Deepal G318, продажи которого стартовали на рынке РФ. Это последовательный полноприводный гибрид, у ко...

22:00, 22 Апр Галактионов о стычке в конце матча с «Зенитом»: «Эмоции захлестнули, а так все было с уважением. Одна команда хотела победить, другая оборонялась» Главный тренер «Локомотива» Михаил Галактионов прокомментировал стычку в концовке матча с «Зенитом». Встреча 26-го тура Мир РПЛ завершилась со счетом...

20:00, 15 Авг Ла Лига стартовала! «Севилья» принимает «Райо», «Атлетико» сыграет с «Малагой» в среду, «Реал» и «Барса» проведут матчи в конце августа В 1-м туре Ла Лиги в субботу «Севилья» принимает «Райо Вальекано». В воскресенье «Вильярреал» сыграет в гостях с «Расингом». В среду «Атлетико» прове...

09:00, 13 Авг Новая атака в Крыму: Севастополь без света, закрыты леса, бензин, мост В ночь на 13 августа силы ПВО России отражали атаку украинских беспилотников на Крым. В Севастополе из-за повреждения объекта энергетической инфрастр...

06:00, 12 Авг Запутанные фотоны впервые получены прямо из солнечного света: без лазеров и электричества Это открывает путь к полностью автономным квантовым спутникам в космосеФизики впервые получили поляризационно-запутанные пары фотонов, используя в ка...

04:00, 21 Апр Ученый на краю света сделал единственное фото редчайшего солнечного затмения На станции Concordia в Антарктиде увидели редкое кольцеобразное солнечное затмениеНа удаленной антарктической исследовательской станции «Конкордия» ф...

22:00, 03 Авг Остров погрузился во тьму: Куба снова осталась без света из-за краха энергосистемы Куба столкнулась с очередным системным коллапсом энергетики: национальная сеть SEN полностью прекратила работу вечером 2 августа. Кризис приобрел хро...

08:00, 13 Авг Учёные изучили крики китов и поразились: кажется, скорость света уже не предел Интерференция звуковых волн под водой способна создавать эффект, при котором пик энергии сигнала достигает приемника раньше прямого импульса. Это отк...

17:00, 19 Апр Christie сделала еще один шаг к полному переходу в проекторах на чисто лазерные RGB источники света Высокая цена сдерживает внедрение передовых RGB-лазерных источников света, но постепенно это все-таки происходит и Christie с большим опережением лид...

06:00, 13 Май Конец света существует: парадоксы Патагонии, которые заставят забыть о жарких курортах Патагония — это суровый край на юге Аргентины, где ледники встречаются со степью. Здесь туриста ждут штормовые ветры, живой рокот ледника Перито-Море...

19:00, 24 Июл Хватит прятаться в тени: неожиданные данные о связи солнечного света и здоровья сердца Автор книги Роуан Джейкобсен обсуждает на подкасте Scientific American данные наблюдений, которые связывают более высокое солнечное излучение с меньш...

08:00, 02 Июн Мини-UPS для Wi-Fi, роутер будет работать даже при отключении света. Представлен Portronics Kinetics 8K Устройство на 8 000 мА·ч рассчитано на резервное питание роутеров и модемов и может удерживать интернет до нескольких часовКомпания Portronics предст...

06:00, 15 Июл Бросить всё и уехать на край света: 5 причин, почему Приморье круче любых заграничных курортов Тихоокеанское побережье России перестает быть экзотикой для избранных, становясь полноценной альтернативой переполненным южным курортам. Пока большин...

22:00, 28 Авг Фиджи и Мадагаскар вместо Черного моря: почему экзотика на краю света стала доступнее Сочи Когда пробки на подъезде к побережью заставляют водителей часами сжигать топливо под палящим солнцем, а плотность людей на пляжах превышает все разум...

06:00, 13 Май Стоит ли лететь на край света? В Патагонию едут даже те, кто боится холода — ледяная стена того стоит Патагония — это край, где природа не просто окружает вас, она диктует свои правила. Здесь ледники дышат, а ветер обладает плотностью бетона. Пока вы ...