США усиливают контроль над ИИ: ключевые разработчики передадут модели на тестирование до релиза

Новые соглашения CAISI с Google DeepMind, Microsoft и xAI закрепляют обязательные проверки в интересах национальной безопасностиВ американском государственном институте, отвечающем за стандарты и технологическую политику (National Institute of Standards and Technology) объявили о расширении сотрудничества с ведущими разработчиками искусственного

интеллекта: подразделение Center for AI Standards and Innovation подписало новые соглашения с Google DeepMind, Microsoft и xAI. Речь идёт о системной проверке передовых моделей до их публичного запуска и после него — с акцентом на риски для национальной безопасности.Фактически CAISI становится центральной точкой взаимодействия между государством и индустрией ИИ. По поручению министра торговли Говарда Лютника структура будет

координировать тестирование, совместные исследования и разработку стандартов для коммерческих ИИ-систем.Ключевое нововведение — доступ государства к моделям ещё до их релиза. Это позволяет проводить независимую оценку возможностей и потенциальных угроз на

раннем этапе. По данным ведомства, уже выполнено более 40 таких проверок, включая анализ новейших систем, которые ещё не представлены публично.Иллюстрация: Nano Banana«Независимая и строгая метрология критически важна для понимания возможностей передового ИИ и его влияния на национальную безопасность», — отметил

директор CAISI Крис Фолл. По его словам, новые соглашения масштабируют эту работу в момент, когда конкуренция в сфере ИИ резко усиливается.Отдельное внимание уделяется тестированию в условиях, приближенных к реальным рискам. Разработчики могут предоставлять версии моделей с ослабленными

защитными механизмами, чтобы оценить их потенциально опасное поведение. В проверках участвуют специалисты из разных ведомств, объединённые в межведомственную группу TRAINS, занимающуюся вопросами ИИ и национальной безопасности.Соглашения также предусматривают обмен данными между государством и компаниями, что должно ускорить доработку продуктов и повысить

прозрачность оценки их возможностей. При этом часть исследований будет проходить в закрытых, в том числе засекреченных средах.

США усиливают контроль над ИИ: ключевые разработчики передадут модели на тестирование до релиза

Сообщает www.ixbt.com

Новость из рубрики: Технологии и Hi-Tech

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Топ Новости Недели

10:00, 20 Апр Воробьев: в Подмосковье усиливают контроль за лесными пожарами перед майскими праздниками «Наступают теплые дни, и большое количество людей выезжают на природу. Наша задача – обеспечить пожарную безопасность.Большая работа, в том числе при...

22:00, 02 Май Российские разработчики заметили ошибки на стыке работы разных ИИ-систем «Известия» сообщают, что российские разработчики столкнулись с новым типом ошибок нейросетей — «галлюцинациями взаимодействия». Сбои происходят не вн...

23:00, 22 Апр Выбор промышленных ИБП для предприятий: ключевые критерии Типы промышленных ИБП и их особенности Существует несколько типов промышленных ИБП, каждый из которых имеет свои преимущества и области применения. П...

03:00, 19 Апр Выбираем хостинг-провайдера: ключевые аспекты и рекомендации Выбор правильного хостинг-провайдера может стать сложной задачей. Вам необходимо учесть большое количество факторов, чтобы гарантировать стабильную и...

23:00, 22 Апр Как выбрать земельный участок в Казани: ключевые критерии выбора Расположение и транспортная доступность Одним из ключевых факторов при выборе земельного участка является его расположение. Район, близость к центру ...

19:00, 18 Апр Рефинансирование кредитной карты: ключевые преимущества, основные этапы процедуры Кредитные карты являются удобными инструментами, дающими возможность распоряжаться денежными средствами по мере необходимости. Однако вследствие непр...

19:00, 18 Апр Сумки Dakine: ключевые особенности изделий, обзор востребованных моделей Компания Dakine, известная в индустрии спортивного снаряжения, предлагает современным потребителям богатый выбор продукции. В рюкзаках и сумках этого...

Новая функция родительский контроль в Epic Games Store 23:00, 18 Апр Новая функция «родительский контроль» в Epic Games Store Седьмого числа этого месяца вносятся новые изменения в Epic Games Store, а именно введение учётных записей с «урезанными» возможностями для несоверше...

23:00, 20 Апр ИИ-камеры взяли на контроль состояние 45 тысяч километров подмосковных дорог Камеры на служебных автомобилях анализируют видеопоток в реальном времени и автоматически загружают данные о дефектах в систему контроля и планирован...

21:00, 19 Апр Цифровая гигиена или контроль: как обычная карта становится объектом аудита ФНС Эпоха "серой" зоны в личных финансах подходит к логическому завершению. Фискальный суверенитет государства требует не просто лояльности, а полной про...

04:00, 21 Апр Невесомость «сбивает» ощущение веса: мозг перестраивает контроль силы без гравитации Исследование показало, что в космосе нарушается связь между весом и хватом, но человек быстро адаптируется — сначала переоценивая усилиеЧеловек спосо...

08:00, 18 Апр ФНС станет следить за переводами россиян с доходом выше 2,4 млн рублей в год. Под контроль попадут 10 млн человек Налоговая усилит мониторинг банковских переводов граждан, получающих более 200 тысяч рублей в месяц без официального статуса самозанятого или ИП. Под...

13:00, 26 Апр Длинные и технологичные: BMW представила модели i3 и iX3 для КНР Немецкий автопроизводитель припас для Поднебесной особые версии своих ключевых новинок. Как выяснилось, официально представлены удлинённые модификаци...

11:00, 04 Май Cisco представила инструмент для «родословной» ИИ-моделей: контроль происхождения становится новым стандартом безопасности Open-source набор Model Provenance Kit позволяет отслеживать происхождение моделей, выявлять уязвимости и снижать риски — от отравленных весов до рег...

16:00, 20 Апр Автобренды Jetour и Soueast анонсировали новые модели В конце недели на Пекинском автосалоне две марки из состава концерна Chery – Jetour и Soueast – впервые выступят с совместной презентацией. Своё объе...

23:00, 26 Апр Названы марки и модели самых угоняемых автомобилей В целом крупные страховые компании России отметили, что тенденции к увеличению числа автомобильных угонов за 2025 год отмечено не было. Опасными лока...

17:00, 30 Апр С водой и движением: 2ГИС появились анимированные модели фонтанов В ближайшее время анимированные модели фонтанов появятся и в других городахКоманда популярного справочно-картографического сервиса 2ГИС представила и...

16:00, 23 Апр Apple перестанет обновлять четыре модели iPhone. Кто останется без iOS 27 Apple прекратит поддержку четырёх моделей iPhone с выходом операционной системы iOS 27 летом этого года. Минимальными совместимыми устройствами стану...

20:00, 28 Апр Коррозия затронула ключевые модули лунной станции Gateway и коммерческой станции Axiom Space Проблемы с материалами и производственными процессами обнаружены в гермоотсеках HALO, I-Hab и модулях Axiom SpaceПроблема коррозии затронула сразу не...

18:00, 28 Апр Из закона об ИИ убрали требование обучать модели только на российских данных Согласно информации РБК Радио, власти доработали законопроект об основах регулирования ИИ в России. Из документа исключили требования, чтобы суверенн...

13:00, 19 Апр АвтоВАЗ отмечает день рождения своей первой модели ВАЗ-2101 19 апреля Волжский автозавод отмечает «День первого автомобиля». В этот день в 1970 году были собраны шесть предсерийных машин: две синих и четыре ви...

06:00, 05 Май NYT узнала, что Белый дом будет проверять модели ИИ перед их выпуском в свет Белый дом рассматривает возможность проверки моделей искусственного интеллекта (ИИ) перед их выпуском в свет, поэтому администрация США обсуждает вве...

21:00, 25 Апр EXEED представит сразу четыре новые модели на закрытой премьере в Пекине Накануне 19 Пекинского международного автосалона EXEED проведёт эксклюзивный закрытый показ и впервые одновременно представит четыре новые модели – о...

11:00, 04 Май Администрация Трампа блокирует расширение доступа к новой модели Anthropic из-за угроз кибербезопасности Администрация США пытается ограничить распространение модели Mythos из-за её способности находить и использовать критические уязвимостиОтношения межд...

21:00, 29 Апр Николь Кидман, Тильда Суинтон, Оксана Бондаренко и Марион Котийяр среди гостей, российские модели — на подиуме на показе Chanel В Биаррице (Франция) состоялся показ дебютной круизной коллекции Матье Блази для Chanel. Место было выбрано неслучайно: именно здесь Коко Шанель когд...