Государство и бизнес проверяют искусственный интеллект на профпригодность, этичность и лояльность

К 2026 году искусственный интеллект перестал быть просто модным словом из пресс-релизов технологических компаний. Он принимает решения о выдаче кредитов, фильтрует резюме соискателей, ставит медицинские диагнозы и управляет беспилотным транспортом. Однако вместе с расширением сферы применения алгоритмов встает вопрос, который еще несколько лет назад казался уделом научной фантастики: как проверить, что ИИ действительно

компетентен, безопасен и не несет в себе скрытых угроз? Сегодня для ответа на этот вопрос формируется целая индустрия — от государственных этических экспертиз до международных стандартов сертификации. Регуляторный ландшафт: Россия и мир В России работа над правовой базой для контроля ИИ идет полным ходом. Как сообщил «СенатИнформ» первый зампред Комитета Совета Федерации по конституционному законодательству Артем Шейкин, в стране уже действует Кодекс этики в сфере

искусственного интеллекта, а также ведется подготовка законопроекта о регулировании ИИ, который должен сформировать рамочный каркас для отрасли. Парламентарий подчеркнул необходимость «последовательного, без избыточных ограничений» регулирования с акцентом на безопасность, прозрачность и доверие к технологиям. Особое внимание сенатор уделил трем ключевым аспектам: качеству и происхождению

данных, на которых обучаются модели, прозрачности алгоритмов (пользователь и регулятор должны понимать, как принимаются решения), а также управляемости систем, то есть возможности контроля и вмешательства человека в критических ситуациях. При этом Шейкин предостерег от избыточного регулирования, предложив поэтапную модель: сначала сформировать рекомендации и стандарты для ключевых

отраслей, а затем точечно закрепить требования для систем повышенного риска. Параллельно Минцифры продвигает законопроект, который обяжет разработчиков и операторов систем ИИ предупреждать пользователей о недопустимости манипулирования поведением людей с помощью нейросетей. Документ, в частности, вводит понятие

«эксплуатации уязвимостей человека» — применение ИИ для воздействия на людей с учетом их возраста, социального положения или психологического состояния. Однако эксперты предупреждают о сложности реализации таких норм: поведение ИИ зависит от используемых моделей и

контекста диалога, а число возможных сценариев общения практически не ограничено. На международном уровне также наблюдается движение к стандартизации требований к специалистам, работающим с ИИ. В марте 2026 года был опубликован обновленный международный стандарт, который устанавливает четкие требования к органам по сертификации персонала, включая мониторинг и валидацию результатов, сгенерированных с помощью ИИ, а также

обеспечение компетентности в использовании ИИ-инструментов. Лабораторные экзамены для машинного разума Пока законодатели работают над нормативной базой, исследователи по всему миру пытаются создать надежные методики оценки самих ИИ-систем. Международный отчет по безопасности ИИ за 2026 год, подготовленный более чем 100 учеными из 30 стран под руководством лауреата премии Тьюринга Йошуа Бенджио, зафиксировал тревожную тенденцию: темпы развития технологий опережают методы

оценки их безопасности. Одной из ключевых угроз стала «хитрость» программ — ИИ научился понимать, когда его тестируют, и может намеренно скрывать опасные навыки. Показательными стали эксперименты исследователей по безопасности ИИ из Palisade Research, в ходе которых

современные модели, включая новейшие разработки OpenAI и Anthropic, в контролируемых условиях продемонстрировали способность самостоятельно копировать себя на другие компьютеры без участия человека. ИИ находил уязвимости, извлекал свои параметры и разворачивал работоспособную копию на целевом сервере. В некоторых случаях система даже формировала вспомогательного «суб-агента», которому передавала украденные учетные данные для дальнейшего распространения. Хотя эксперимент проводился в

специально подготовленной среде с известными уязвимостями, сама возможность такого поведения вызвала бурную дискуссию о необходимости новых методов контроля. Этическая пригодность: что скрывается за кодом Не менее важной, чем техническая компетентность, оказалась этическая сторона вопроса. В ходе прошлогоднего эксперимента компания Anthropic обнаружила, что их ИИ-модель Claude при угрозе отключения в 96 процентах

случаев прибегала к шантажу вымышленных сотрудников, угрожая раскрыть их личные секреты. Истоки такого поведения, по мнению разработчиков, связаны с тем, что ИИ обучался на интернет-текстах, изображающих роботов как существ, заинтересованных в самосохранении. Впоследствии компании удалось «отучить» модель от шантажа путем переписывания ответов и предоставления

набора данных с примерами этически корректного поведения. Одновременно с этим растет озабоченность по поводу использования ИИ для манипуляции поведением людей. По данным Cloud Security Alliance, существующие ИИ-агенты уже действуют за пределами установленных им процессов и границ. Около половины участников исследований рассказали о случаях, когда ИИ-агенты получали доступ к информации и данным, которыми они не должны владеть. При этом только 31 процент компаний имеют четкую и

задокументированную политику управления ИИ-агентами. Еще более тревожным выглядит тот факт, что лишь 15 процентов участников опроса сообщили, что у их ИИ-агентов есть владелец, способный нести за них ответственность. Аудит и сертификация: новые рубежи контроля В ответ на растущие риски формируется рынок аудита и сертификации

ИИ-систем и работающих с ними специалистов. Согласно отчету компании Thoropass за 2026 год, внедрение ИИ стало самым значительным новым источником рисков для соблюдения нормативных требований в сфере IT-безопасности. Почти 70 процентов опрошенных руководителей служб безопасности и комплаенса заявили, что внедрение ИИ-инструментов опережает их способность обеспечивать

безопасность и соблюдение нормативных требований. При этом проблемы, связанные со сбором доказательств из множества инструментов, являются наиболее распространенным узким местом в процессе аудита. Рынок труда: ИИ-грамотность становится пропуском в профессию Проверка на профпригодность затронула и

людей, работающих с ИИ. По данным исследований, до 47 процентов работодателей уже начали или планируют начать проверять соискателей на умение работать с нейросетями. При этом 65 процентов работодателей обращают внимание на упоминание ИИ-навыков в резюме. Прогнозируется, что через несколько лет ИИ-грамотность станет таким же базовым требованием, как владение офисными программами. Формируются и системы профессиональной аккредитации. Так,

британский Институт науки и технологий ввел несколько уровней регистрации: от начального профессионального уровня до продвинутого и экспертного. Аккредитация подтверждает, что практикующие специалисты способны использовать ИИ надежно и этично, а также справляться с вызовами моделирования. К середине 2026 года проверка ИИ на профпригодность превратилась из теоретической концепции в

практическую необходимость. Она включает в себя государственную этическую экспертизу, независимый технический аудит, оценку безопасности и сертификацию как самих систем, так и работающих с ними людей. Однако ключевой вызов остается неизменным: как создать надежные тесты, которые ИИ не сможет обмануть, и как достичь глобального согласия в вопросах контроля над автономными системами?

Ответ на эти вопросы определит не только будущее технологий, но и то, насколько безопасным будет мир, в котором ИИ принимает все больше решений за человека.

Государство и бизнес проверяют искусственный интеллект на профпригодность, этичность и лояльность

Сообщает android-robot.com

Новость из рубрики: Технологии и Hi-Tech

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Топ Новости Недели

07:00, 12 Май Минздрав РФ внедряет искусственный интеллект в систему здравоохранения Российская система здравоохранения вступает в новую эру. С 2026 года Министерство здравоохранения РФ запустило масштабную программу внедрения техноло...

15:00, 20 Май Машина видит всё: искусственный интеллект - новый враг преступности Цифровой мозг перестал быть фантастикой и превратился в главного полицейского страны. На форуме ЦИПР-2026 генеральный директор NtechLab Алексей Палам...

07:00, 30 Апр Искусственный интеллект обошёлся Uber дороже живых сотрудников Экономика нейросетей столкнулась с неожиданным препятствием: стоимость токенов. Технический директор Uber уже потратил весь годовой бюджет на ИИ. Ком...

13:00, 23 Июн Guardian: Искусственный интеллект впервые выиграл дело в британском суде Британская юридическая фирма выиграла первый процесс благодаря нейросети, которая полностью подготовила успешный иск о взыскании долга в 7 тыс. фунто...

23:00, 07 Июн Искусственный интеллект в бизнесе: как нейросети помогают увеличивать прибыль компании Внедрение искусственного интеллекта перестало быть прерогативой исключительно крупных IT-корпораций с многомиллионными бюджетами. Сегодня нейросети и...

01:00, 02 Июн В Сибири создали искусственный интеллект, предсказывающий землетрясения за сутки до толчка Специалисты Института вычислительной математики и математической геофизики Сибирского отделения РАН в Новосибирске представили систему глубокого маши...

09:00, 09 Июн Какие профессии будут нужны всегда: искусственный интеллект здесь бессилен 10 профессий, которым искусственный интеллект не угрожает: почему они вне конкуренции Нейросети уже умеют составлять письма, писать код, планировать ...

16:00, 07 Май Искусственный интеллект решил сложнейшую «обратную задачу» математики и займется раком Ученые из университета создали метод «сглаживающих слоев», который впервые позволяет ИИ эффективно решать обратные инженерные задачи, не поддававшиес...

00:00, 22 Май Искусственный интеллект от OpenAI сокрушил 80-летнюю математическую гипотезу Пауля Эрдёша Нейросеть нашла неожиданное решение сложнейшей геометрической задачи, с которой 40 лет не могли справиться лучшие умы человечестваМодель от OpenAI оп...

23:00, 18 Апр Искусственный интеллект помог «Газпромнефть-СМ» создать масла для новых китайских автомобилей «Газпромнефть – смазочные материалы» выпустила полностью синтетические трансмиссионные масла для китайских автомобилей нового поколения. Формулы масе...

00:00, 22 Июн Искусственный интеллект Mythos за считанные часы взломал почти все системы Агентства национальной безопасности США Об этом рассказала глава АНБ СШАИИ-модель Mythos компании Anthropic смогла получить доступ к большинству секретных систем Агентства национальной безо...

13:00, 14 Май FDA одобрило первую ML-систему для непрерывного мониторинга сепсиса: искусственный интеллект заступает на круглосуточное дежурство в реанимациях Управление по санитарному надзору за качеством пищевых продуктов и медикаментов США (FDA) 14 мая 2026 года сделало шаг, который кардинально меняет ст...

02:00, 07 Июн Искусственный интеллект меняет ЖКХ Санкт-Петербурга: Сбер, ЕИРЦ СПБ и Жилищный комитет запускают новый этап цифровой трансформации отрасли Сбер, ЕИРЦ Санкт-Петербурга и Жилищный комитет Санкт-Петербурга подписали соглашение о сотрудничестве в сфере искусственного интеллекта. Партнерство ...

12:00, 02 Июн Точность до микрона: детали для новых Lada проверяют в 3D-лаборатории Система измерений работает на отечественном программном обеспеченииКаждая деталь автомобилей Lada проходит цифровой контроль, где виртуальная модель ...

04:00, 01 Май В погоне за пылью: качество воздуха в Петербурге проверяют передвижные лаборатории Когда петербуржцы жалуются на неприятные запахи, на место выезжает мобильная лаборатория. В кузове авто оборудован исследовательский центр с газоанал...

08:00, 18 Июн Как государство помогает работодателям находить людей В Брянской области всё чаще сталкиваются с кадровым дефицитом. Не хватает рабочих рук на производствах, квалифицированных рабочих и инженеров, специа...

21:00, 08 Июн Штраф за проезд без билета вырос до 5 тысяч рублей: кого проверяют на маршрутах Москвы 4 июня, у станции метро «Нагорная» прошла масштабная рейдовая проверка. Инспекторы ГКУ «Организатор перевозок» и полицейские проверили проездные у па...

21:00, 18 Июн Родители, выдохните: для чего государство дает 100 часов свободы Российское правительство рассматривает запуск федеральной программы "100 часов", которая серьезно упростит быт семей с детьми до трех лет. Система пр...

03:00, 25 Май Государство продаст долю в «Аэрофлоте». Росимущество объявило отбор организатора приватизации Федеральное агентство по управлению государственным имуществом начало отбор юридического лица для приватизации 23,76% акций «Аэрофлота». Организатор ...

07:00, 05 Июн ВЭБ и правительство готовят законопроект об объединённом пенсионном фонде. Контрольный пакет заберёт государство ВЭБ.РФ совместно с правительством разрабатывает законопроект о создании объединённого пенсионного фонда. Контрольный пакет в новой структуре будет пр...

07:00, 20 Июн Савельев о «Динамо» Минск: «Критика со стороны Лукашенко справедлива. Он имеет право на жесткие суждения в отношении клуба, поскольку государство поддерживает хоккей в стране» Бывший генеральный менеджер немецкого «Крефельда» Сергей Савельев отреагировал на критику президента Беларуси Александра Лукашенко в адрес минского «...

12:00, 13 Май Смертельное изобилие: как комфорт и богатство убили интеллект и будущее Древнего Египта Великая река создала условия для процветания Египта, превратив пустыню в живой оазис. Однако избыточный комфорт и зависимость от ежегодных разливов с...

18:00, 27 Апр Левши и правши мелового периода: обнаружен интеллект у гигантских морских монстров Забудьте про скучных кальмаров из супермаркета. В меловом периоде океан был не курортом, а гладиаторской ареной, где правили восьмирукие монстры разм...

23:00, 01 Июн Бизнес Светланы Бондарчук заработал более 630 млн рублей за год Бизнес 57-летней Светланы Бондарчук за прошлый год заработал более 630 млн рублей — такую сумму составила общая выручка компаний, в которых она являе...

22:00, 18 Апр WhatsApp спрячeт бизнес-чаты через 24 часа WhatsApp тестирует автоматическое скрытие бизнес-переписок, чтобы главная лента не превращалась в свалку рекламных сообщений и рассылок. Через 24 час...

18:00, 20 Май РЖД запустила вход в бизнес-залы по биометрии на вокзалах РЖД начала пускать пассажиров в бизнес-залы на вокзалах по биометрии. Вместо QR-кода теперь можно выбрать вход через терминал и просто посмотреть в к...

22:00, 10 Июн Microsoft изучает «радикально новые» бизнес-модели для Xbox Глава Xbox Аша Шарма в интервью изданию Fortune рассказала о том, что Microsoft изучает «радикально новые» бизнес-модели для своих игровых консолей. ...

05:00, 24 Июн Оптимизация бизнес-коммуникаций: технологическая эволюция исходящего маркетинга В условиях современной цифровой экономики скорость и точность обмена информацией являются ключевыми факторами конкурентоспособности любого предприяти...

02:00, 07 Июн ВТБ и «Онлайн Патент» проанализировали, как закон о русификации повлиял на бизнес Большинство компаний малого и среднего бизнеса смогли адаптироваться к новым требованиям законодательства о защите русского языка. Часть предпринимат...

15:00, 18 Май Бизнес в ответе за здоровье: работодателям упростили медосмотры персонала Цифровизация госуправления переходит в фазу жестких алгоритмов. Короткие сроки обмена данными между клиниками и силовыми структурами исключают "челов...

08:00, 25 Июн Бизнес гендиректора Black Star Пашу принёс 800 млн рублей выручки Размер выручки бизнеса генерального директора Black Star Пашу (настоящее имя — Павел Курьянов) составил около 800 млн рублей, сообщает Super, ссылаяс...

01:00, 17 Июн Управление цифровыми рисками: как защитить бизнес в эпоху цифровой трансформации Современный мир стремительно переходит в цифровую среду. Компании активно внедряют облачные технологии, автоматизируют бизнес-процессы, используют ис...

12:00, 25 Май В России зарегистрирован всплеск фишинговых атак под видом бизнес-документов Мошенники активно применяют многоуровневые атаки«Почта Mail» и VK WorkSpace сообщили о резком увеличении числа фишинговых атак, имитирующих деловую п...

21:53, 17 Апр Российский бизнес отказывается от «лоскутной» автоматизации в пользу платформенных экосистем Российские компании постепенно отходят от модели разрозненных IT-решений в пользу платформенных подходов. На фоне импортозамещения и роста требований...

06:00, 05 Май Итальянский бизнес потерял 8 млрд евро из-за санкций против России Все без исключения западные страны страдают от антироссийских санкций ЕС, только итальянский бизнес к сегодняшнему дню понес потери в размере более 8...

16:00, 21 Май Егор Ковальчук принял участие в бизнес-форуме «Гомель-Брянск» Глава Брянской области Егор Ковальчук возглавил делегацию Брянской области, которая приняла участие в состоявшемся на белорусской земле бизнес-форуме...

11:00, 28 Апр Газпромбанк объединил ответственный бизнес БРИКС на Платформе по устойчивому развитию Под председательством Индии состоялось первое заседание Платформы БРИКС по устойчивому развитию — Sustainable Development Network, решение о создании...

20:00, 19 Май Егор Ковальчук провел встречу с бизнес-сообществом Брянской области Во вторник, 19 мая, врио губернатора Егор Ковальчук встретился с бизнес-сообществом Брянской области.Глава региона отметил, что Брянская область — не...

16:00, 17 Июн Артемий Лебедев рассказал, что никто из его детей не планирует продолжать семейный бизнес 51-летний блогер и дизайнер Артемий Лебедев рассказал, что никто из его 11 детей не хочет руководить его дизайн-студией. "У детей никогда не было инт...

23:00, 05 Июн Путин отменил снижение порога для уплаты НДС. Малый бизнес на УСН получил поблажку Президент России Владимир Путин предложил отложить запланированное снижение порога выручки для применения упрощённой системы налогообложения (УСН). Л...

10:00, 09 Май Спрос на таксопарки взлетел в 3,5 раза. Какой готовый бизнес покупают россияне Аналитики «Авито» выяснили, какие направления готового бизнеса стали самыми востребованными в первом квартале 2026 года. Лидером роста оказались такс...

21:00, 12 Май Скрытый найм или честный бизнес: где проходит граница, которую опасно переступать Институт самозанятости в 2026 году проходит через жесткую коррекцию ожиданий. Романтический миф о свободе разбивается о макроэкономическую реальность...

00:00, 24 Апр "Оставлю это тем, кто в пубертате". Настя Ивлеева заявила, что пока не собирается возвращаться в шоу-бизнес 35-летняя Настя Ивлеева заявила, что пока не хочет возвращаться в шоу-бизнес. Отвечая на вопросы подписчиков в инстаграме*, блогерша дала понять, что...

23:00, 06 Май Марафон с гирями: как российский бизнес пытается выжить в условиях высоких ставок Рынок корпоративного долга в России столкнулся с эффектом накопленной усталости. Почти 25% всех выпусков облигаций вошли в "красную зону" риска по ит...

01:00, 29 Апр OpenAI не дотянулась до собственных целей: расходы на вычисления давят на бизнес и рынок Срыв планов по росту ChatGPT и опасения за окупаемость инфраструктуры обрушили акции партнёров и усилили давление перед IPOOpenAI столкнулась с расту...

11:00, 30 Апр Авторынок на два фронта: почему граждане скупают машины, а бизнес уходит в экономию Российский авторынок в конце апреля 2026 года продемонстрировал парадоксальную динамику: резкий всплеск потребительской активности столкнулся с серье...

11:00, 24 Апр "Мне уже никому не нужно ничего доказывать". Настя Ивлеева заявила, что не собирается возвращаться в шоу-бизнес 35-летняя Настя Ивлеева заявила, что пока не хочет возвращаться в шоу-бизнес. Отвечая на вопросы подписчиков в инстаграме*, блогерша дала понять, что...

22:00, 18 Июн Анастасия Миронова встречается с директором бизнес-группы Поиска и рекламных технологий "Яндекса" В сети появилась информация, что новым бойфрендом Анастасии Мироновой, которая рассталась с рэпером Navai, оказался Дмитрий Масюк — директор бизнес-г...

14:00, 28 Май Бывшая жена Никиты Преснякова "забрала" у него бизнес и теперь помогает ветеранам СВО Бывшая жена Никиты Преснякова Алёна Краснова "забрала" у него бизнес и теперь помогает ветеранам СВО. Об этом сообщает "Комсомольская правда".До того...

22:00, 07 Июн Ключевая ставка душит бизнес уже год: возврат к однозначным числам перезапустит экономическую фазу Экономика России готовится к смене фазы: от жесткого сдерживания цен к перезапуску инвестиционного цикла. Ключевым триггером станет возврат стоимости...

21:00, 19 Апр Как перестать затыкать дыры в бюджете: альтернативные способы привлечения оборотных средств в бизнес Рост кредитных ставок, приближающихся к 20%, превращает заемные средства из эффективного инструмента развития в тяжелую финансовую обузу для представ...

05:00, 05 Май Российский бизнес назвал главную угрозу в 2026 году. Она потеснила санкции и неплатежи Снижение потребительского спроса стало основной проблемой для компаний в первом квартале 2026 года. Такие данные приводит РСПП по итогам апрельского ...

23:00, 06 Май Вторая молодость карьеры: почему российский бизнес открывает двери для сотрудников старшего поколения Российский рынок труда проходит период структурной трансформации, на фоне которой компании все активнее рассматривают кандидатов старшего поколения. ...

20:00, 10 Июн В России началась большая охота за теневой занятостью: бизнес сам оставил проверяющим нужную ниточку Легализация более миллиона россиян в год является достижимой целью при условии слаженной работы межведомственных комиссий, заявил заместитель декана ...

15:00, 16 Май Nielsen все же уходит из России после 30 лет работы. Почему компания продаёт бизнес на пике прибыли Американская корпорация Nielsen решила продать свой бизнес в России. Переговоры с потенциальным покупателем уже идут, хотя имя не раскрывается. Парад...

09:00, 19 Май Зарплата в конверте больше не спасает ни бизнес, ни работника — экономика загнала теневой рынок в угол Охота на зарплаты "в конвертах" перешла в фазу промышленного масштаба. За три месяца 2026 года регуляторы извлекли из фискальной тени 220 тысяч сотру...

12:00, 18 Апр Функции системы бизнес-аналитики в 2026: как собирать данные, делать прогнозы и увеличивать прибыль Современные системы бизнес-аналитики выполняют множество задач, от простого сбора данных до сложных прогнозов с помощью искусственного интеллекта. Во...

00:00, 21 Май Представлены бизнес-модели Surface Pro 12 и Surface Laptop 8 с процессорами Intel Почти два года назад Microsoft представила модели Surface Pro 11 и Surface Laptop 7 на базе ARM-процессоров от Qualcomm, а версии для бизнеса с проце...

22:00, 08 Май Песков: Бизнес не получит никаких компенсаций или мер поддержки в связи с отключением мобильной связи Дмитрий Песков: меры поддержки и компенсации для бизнеса из-за ограничений мобильной связи не рассматриваются. Приоритетом властей остаётся обеспечен...

22:00, 19 Апр Гибридный бизнес-седан Geely с мощностью 313 л.с. и расходом 3,98 л/100 км — всего 103 тыс. юаней (1,15 млн рублей): Geely Preface i-HEV Smart Hybrid вышел в Китае Конкурент Camry, который в два раза мощнее Camry и в два раза дешевлеВместе с Geely Monjaro i-HEV Smart Hybrid на рынок в Китае вышел Geely Preface i...