Cisco представила инструмент для «родословной» ИИ-моделей: контроль происхождения становится новым стандартом безопасности

Open-source набор Model Provenance Kit позволяет отслеживать происхождение моделей, выявлять уязвимости и снижать риски — от отравленных весов до регуляторных нарушенийКомпания Cisco анонсировала новый open-source инструмент Model Provenance Kit, предназначенный для анализа происхождения и истории изменений моделей искусственного интеллекта. Решение ориентировано

на компании, активно использующие сторонние модели из открытых репозиториев.Сегодня миллионы моделей доступны через платформы вроде Hugging Face, однако их активное переиспользование сопровождается системной проблемой: организации редко отслеживают, как именно эти модели модифицировались,

дообучались или объединялись. При этом заявленные разработчиками характеристики — от источников данных до наличия уязвимостей — зачастую остаются непроверенными.Это создаёт целый класс рисков. В корпоративную инфраструктуру могут попадать «отравленные» модели или решения с уязвимостями, способными распространяться дальше — в чат-ботах, агентных системах и пользовательских продуктах. Аналогично, модели с неочевидными смещениями в обучающих данных могут приводить к ошибкам или

манипуляциям в реальных сценариях применения.Иллюстрация: Nano BananaКлючевая проблема — отсутствие прозрачной «родословной». Без понимания происхождения модели становится практически невозможно отследить источник инцидента, определить масштаб его распространения или быстро

устранить последствия. Это особенно критично в условиях ужесточения требований к аудиту ИИ и контроля цепочек поставок.Model Provenance Kit предлагает формализованное решение этой задачи. Инструмент реализован на Python и включает CLI-интерфейс, позволяющий создавать уникальный «отпечаток» модели. Он формируется на основе совокупности сигналов:

метаданных, сходства токенизаторов, а также характеристик на уровне весов — включая геометрию эмбеддингов, нормализационные слои и энергетические профили.Система работает в двух режимах. Режим compare позволяет напрямую сопоставлять две модели и выявлять общую линию происхождения. Режим scan ищет ближайшие

совпадения в базе «отпечатков», собранной Cisco, что позволяет приблизительно восстановить «генеалогию» модели даже при отсутствии явной документации.В компании подчёркивают, что современный жизненный цикл ИИ-моделей — с постоянным дообучением, дистилляцией и слияниями — делает их всё менее похожими на

статические артефакты. Это усложняет аудит и открывает возможности для сокрытия происхождения. Новый инструмент должен стать шагом к более строгому, доказательному подходу к отслеживанию таких изменений.Model Provenance Kit доступен в открытом доступе на GitHub, а база «отпечатков» моделей

опубликована на Hugging Face.

Cisco представила инструмент для «родословной» ИИ-моделей: контроль происхождения становится новым стандартом безопасности

Сообщает www.ixbt.com

Новость из рубрики: Технологии и Hi-Tech

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Топ Новости Недели

21:00, 19 Апр Цифровая гигиена или контроль: как обычная карта становится объектом аудита ФНС Эпоха "серой" зоны в личных финансах подходит к логическому завершению. Фискальный суверенитет государства требует не просто лояльности, а полной про...

01:00, 04 Май Математика происхождения жизни: модель показывает «пороговый переход» от химического хаоса к самоорганизации Новая работа описывает, как пребиотическая химия могла резко перейти к устойчивым самовоспроизводящимся системам — без плавной эволюции, а через крит...

14:00, 24 Апр Cisco показала универсальный квантовый коммутатор Устройство умеет работать с запутанными фотонами, сохраняет их квантовое состояние и, по словам компании, не требует криогенной среды. Для квантовых ...

19:00, 18 Апр Точки доступа Cisco тихо забивают память ненужными данными Проблема обнаружена у более чем 200 моделейCisco предупредила о проблеме в более чем 230 моделях точек доступа Wi?Fi, из-за которой ОС постоянно запи...

18:00, 28 Апр Умные теплицы: высокие технологии для качества, безопасности и вкуса овощей Томаты и огурцы из умной теплицы растут по индивидуальному «рецепту»: каждому растению — свой свет, своя доза питания и свой микроклимат. Рассказывае...

05:00, 23 Апр Профессиональная переподготовка как инструмент карьерного развития Курсы профессиональной переподготовки открывают новые карьерные возможности для специалистов с разным опытом работы. Этот формат обучения позволяет о...

22:00, 19 Апр Исследователь безопасности нашел метод обхода защиты функции Windows Recall Когда Microsoft впервые анонсировала ИИ-функцию Windows Recall, которая непрерывно делает скриншоты большинства действий пользователя, эксперты сразу...

13:49, 02 Май Реклама ВКонтакте как эффективный инструмент продвижения бизнеса Современный бизнес все чаще ориентируется на цифровые каналы продвижения, и социальные сети занимают в этом процессе ключевое место. Особенно актуаль...

05:00, 23 Апр Oracle выпустила 481 патч безопасности: сотни уязвимостей затрагивают облачные и корпоративные системы Большинство исправлений закрывают уязвимости, доступные для удалённой эксплуатации без аутентификации, включая критические ошибки в Middleware, базах...

23:00, 20 Апр Эксперты Freedom Holding Сorp.: ChatGPT – это инструмент аналитика, а не его замена Финансовые аналитики готовят отчеты и прогнозы по публичным эмитентам и целым секторам для клиентов Freedom Broker, а также выступают в СМИ как предс...

21:55, 17 Апр Сувенирная продукция как инструмент брендинга: стратегии, виды и эффективность использования Сувенирная продукция давно перестала быть просто приятным дополнением к деловым встречам или мероприятиям. Сегодня это полноценный маркетинговый инст...

03:00, 28 Апр В Москве становится все больше аттестованных водителей такси По данным московского департамента транспорта, на 25 февраля аттестацию прошло более 80 тысяч водителей такси, работающих в столице и области. Это со...

03:00, 01 Май Просрочка брянцев растёт, а кредитов становится больше На дворе майские каникулы: улицы расцветают, витрины пестрят акциями. Но у многих жителей Брянской области настроение совсем не праздничное – кошельк...

23:00, 18 Апр Новая функция «родительский контроль» в Epic Games Store Седьмого числа этого месяца вносятся новые изменения в Epic Games Store, а именно введение учётных записей с «урезанными» возможностями для несоверше...

23:00, 20 Апр ИИ-камеры взяли на контроль состояние 45 тысяч километров подмосковных дорог Камеры на служебных автомобилях анализируют видеопоток в реальном времени и автоматически загружают данные о дефектах в систему контроля и планирован...

10:00, 20 Апр Воробьев: в Подмосковье усиливают контроль за лесными пожарами перед майскими праздниками «Наступают теплые дни, и большое количество людей выезжают на природу. Наша задача – обеспечить пожарную безопасность.Большая работа, в том числе при...

04:00, 21 Апр Невесомость «сбивает» ощущение веса: мозг перестраивает контроль силы без гравитации Исследование показало, что в космосе нарушается связь между весом и хватом, но человек быстро адаптируется — сначала переоценивая усилиеЧеловек спосо...

06:00, 27 Апр Отпуск без переплат становится реальностью: 8 направлений, где июнь играет на стороне туриста Июнь в России — это короткое окно возможностей, когда природа уже включила режим "максимальная яркость", а ценовая политика курортов еще не ушла в кр...

09:00, 22 Апр Сбежавшая от мужа Саша Савельева столкнулась с новым предательством "Я просто хочу защищать свой труд!" – в отчаянии говорит певица в видео, которое опубликовала в своих соцсетях. По словам звезды, она уже несколько м...

00:00, 23 Апр Золотое кольцо перестанет быть сказкой: 10 городов, где путешествие становится честным опытом Золотое кольцо России давно стало одним из самых узнаваемых туристических брендов страны — с обещанием древней архитектуры, купеческого духа и "той с...

08:00, 18 Апр ФНС станет следить за переводами россиян с доходом выше 2,4 млн рублей в год. Под контроль попадут 10 млн человек Налоговая усилит мониторинг банковских переводов граждан, получающих более 200 тысяч рублей в месяц без официального статуса самозанятого или ИП. Под...

16:00, 23 Апр Смартфоны и ноутбуки в России обложат новым сбором. Сколько придётся платить Минпромторг установил размеры технологического сбора на электронику. За каждый смартфон — 250 рублей, за ноутбук — 500 рублей. Сбор начнут взимать с ...

08:00, 24 Апр Экологичный нейминг: почему «зелёные» названия стали новым языком брендов На заре XXI века бренды всё чаще берут на себя ответственность не только за продукт, но и за влияние на природу и общество. Среди инструментов, котор...

23:00, 18 Апр Ким Кардашьян впервые опубликовала фото с новым бойфрендом — гонщиком Льюисом Хэмилтоном Ким Кардашьян впервые опубликовала в соцсетях фото с новым бойфрендом — 41-летним гонщиком Льюисом Хэмилтоном. На одном из снимков мать четверых дете...

13:00, 19 Апр В США рыбак нашел в пруду автомобиль, который угнали новым в 1982 году Автомобиль, который числился угнанным 44 года, подняли со дна водоема Рочдейл-Понд в городе Лестер. Об этом сообщила местная полиция. Пикап был обнар...

04:00, 21 Апр Apple меняет руководство: Тим Кук уходит с поста CEO, новым главой с сентября станет Джон Тернус Компания запускает план преемственности: Кук станет председателем совета директоров, а разработчик ключевых продуктов Apple возглавит бизнесApple соо...

07:00, 23 Апр Бывшая девушка внука Никиты Михалковой Ксения Пунтус рассталась с Григорием Добрыгиным и отдыхает с новым бойфрендом Модель Ксения Пунтус, которая встречалась с внуком Никиты Михалкова и в 2020 году выпала из его окна в Москве, рассталась с актёром и режиссёром Григ...

07:32, 18 Апр Светлов о «Салавате»: «Клуб словно бы становится фармом «Ак Барса». Чуть ли не команды разных лиг. В Уфе готовят легионеров, а потом Казань берет их готовыми» Бывший тренер клубов КХЛ Сергей Светлов считает, что «Салават Юлаев» и «Ак Барс» выглядят как клубы из разных лиг. Уфимский клуб завершил сезон во вт...

05:00, 22 Апр Xiaomi представила планшет Redmi Pad 2 SE 4G за $160 Xiaomi представила новый планшет Redmi Pad 2 SE, который отличается стильным дизайном и рядом особенностей, включая высокую частоту обновления экрана...

13:00, 26 Апр Длинные и технологичные: BMW представила модели i3 и iX3 для КНР Немецкий автопроизводитель припас для Поднебесной особые версии своих ключевых новинок. Как выяснилось, официально представлены удлинённые модификаци...

11:00, 19 Апр DOOGEE представила новые флагманы Технологические новинки из Поднебесной. Китайские разработчики представили на российском рынке потрясающие смартфоны: стильную премиум-модель 4 в одн...

13:00, 01 Май Samsung представила Odyssey G8 с 6K-экраном и режимом 330 Гц за ₽131,7 тыс. Компания Samsung начала продажи игрового монитора Odyssey G8 G80HS в Германии. Стоимость устройства составляет около 131,7 тыс. рублей по курсу ЦБ РФ...

08:00, 25 Апр Tecno представила смартфон-«толстяк» с аккумулятором на 10 000 мАч Неделя без розетки: новый Tecno Pova 7 Ultra получил батарею огромной ёмкости и быструю зарядку 100 Вт. Китайский бренд Tecno, ориентированный на раз...

10:00, 19 Апр Intel представила процессоры для конкурентов MacBook Neo Intel анонсировала процессоры Core Series 3 под кодовым названием Wildcat Lake. Серия ориентирована на снижение энергопотребления и увеличение времен...

19:00, 01 Май Gigabyte представила игровой монитор MO32U24 с 4K и 240 Гц Компания Gigabyte выпустила на глобальный рынок новый игровой монитор Gigabyte MO32U24. Новинка позиционируется как конкурент моделей Philips Evnia 2...

16:00, 24 Апр OpenAI представила полностью автономную флагманскую модель GPT-5.5 Компания OpenAI выпустила новую ИИ-модель GPT-5.5, которую называет «новым классом интеллекта для реальной работы». Главный акцент в обновлении сдела...

19:00, 01 Май Anker представила собственный AI-чип Thus для наушников и компактных устройств Компания Anker Innovations объявила о разработке своей первой собственной платформы AI-чипов под названием »Thus». Официальная премьера состоится 21 ...

19:00, 01 Май Casio представила G-Shock в стиле «Мандалорца» и Грогу Компания Casio выпустила новую коллаборацию линейки G-Shock, вдохновлённую вселенной The Mandalorian и персонажем Grogu. Продажи стартуют 1 мая 2026 ...

10:00, 27 Апр GWM представила флагманский гибрид Wey V9X с запасом хода 1700 км Состоялась мировая премьера флагманского гибридного кроссовера Wey V9X. Модель, построенная на новой платформе Guiyuan S (также известной как GWM One...

23:00, 23 Апр Honor представила компактный MagicPad 3 Pro с OLED-экраном 165 Гц Компания Honor официально представила компактную версию планшета Honor MagicPad 3 Pro, который ранее дебютировал в Китае с диагональю 13,3 дюйма. Нов...

09:00, 23 Апр BMW представила 7‑ю серию с экраном для пассажира и узкой решёткой Компания показала обновлённую 7-ю серию 2027 года. Внешние изменения оказались скромными, а главная новинка скрыта в салоне — здесь дебютирует панора...

19:00, 01 Май Vivo представила S50t — почти тот же S50, но с упрощённой памятью Компания vivo тихо выпустила смартфон vivo S50t на рынке Китая. Несмотря на новое название, это фактически переработанная версия vivo S50, представле...

10:00, 24 Апр Honor представила планшет MagicPad 3 Pro с OLED-экраном 165 Гц Компания Honor анонсировала новую версию планшета MagicPad 3 Pro с диагональю 12,3 дюйма, уменьшив размеры по сравнению с моделью на 13,3 дюйма, пред...

22:00, 26 Апр Microsoft представила улучшения в работе «Центра обновления Windows» Microsoft в блоге Windows Insider рассказала об улучшениях в работе «Центра обновления Windows», которые уже становятся доступны пользователям Window...

13:00, 26 Апр Ferrari представила яхту, которая будет парить над водой На Миланской неделе дизайна компания Ferrari представила проект гоночной яхты Hypersail, о котором впервые стало известно чуть менее года назад. Яхта...

13:00, 23 Апр Samsung представила «умный» гаджет-аккумулятор для поиска вещей Конец потерянным ключам: Samsung выпускает систему, которая следит за вашими вещами через миллионы Android-смартфонов. В мире гаджетов и интернета ве...

13:00, 23 Апр Samsung представила «умное» кольцо Galaxy Ring 2 с ИИ-тренером и ЭКГ Тихий надзиратель за здоровьем: новое кольцо Samsung отслеживает давление, стресс и предсказывает инфаркты за 24 часа. На выставке Mobile World Congr...

23:00, 23 Апр Honor представила наушники Choice Codeler Headphones 2 с ANC до 57 дБ и автономностью до 70 часов Компания Honor представила новые беспроводные наушники Honor Choice Codeler Headphones 2 в рамках мероприятия, посвящённого игровому ноутбуку Win и д...

15:00, 18 Апр Asus представила линейку ноутбуков Zenbook и Vivobook 2026 года Компания Asus анонсировала в Индии обновлённую линейку ноутбуков Zenbook и Vivobook 2026 года, сделав акцент на портативность, дизайн и производитель...

00:00, 04 Май 5600 мАч за 22 доллара. Acebeam представила новые аккумуляторы формата 21700 Масса одного элемента — 74 граммаКомпания Acebeam расширила линейку аккумуляторов формата 21700 двумя моделями — одна с акцентом на мощности, другая ...

03:00, 29 Апр Denza представила 1000-сильный кабриолет Z c дизайном от экс-главы Audi Премьера состоялась на Пекинском автосалоне. Машина будет предлагаться сначала на европейском рынке, сообщает Carscoops. Denza Z будет выпускаться в ...

16:00, 20 Апр Geely представила самую «навороченную» версию своего флагманского кроссовера Китайский автопроизводитель Geely анонсировал самую технологичную и дорогую версию своего флагманского кроссовера – Galaxy M9 Black Gold Smart Editio...

21:55, 17 Апр GameSir представила серию контроллеров Tarantula с поддержкой 8KHz и разных платформ. Компания GameSir официально выпустила новую линейку геймпадов Tarantula, расширив своё направление для киберспортивного сегмента. В серию вошли две м...

23:00, 23 Апр Honor представила MagicBook X Plus 2026 — тонкие ноутбуки с экранами до 16 дюймов и батареей 80 Вт·ч Компания Honor выпустила в Китае новую линейку ноутбуков Honor MagicBook X Plus 2026, в которую вошли две тонкие и лёгкие модели, конкурирующие с сер...

23:00, 30 Апр Компания Илон Маска Neuralink представила робота для ускоренного чипирования людей Автоматизированный помощник врача-хирурга будет помогать в установке имплантов The LinkКомпания Neuralink создала специализированного хирургического ...

20:00, 23 Апр К выходу финальной One UI 8.5 все готово: Samsung представила полное описание изменений в прошивке Похоже, на десятой бета-версии One UI 8.5 для Galaxy S25 все и ограничитсяSamsung готовится к выпуску финальной версии One UI 8.5 для линейки Galaxy ...

17:00, 30 Апр Vastnaut представила экзоскелет будущего: 2,7 кг, ИИ, четыре мотора по 400 Вт каждый — 1300 долларов Помощь при ходьбе, в походах и на грядкахКомпания Vastnaut представила экзоскелет Vastnaut One 4x4: устройство предназначено для активного отдыха, по...

01:00, 01 Май Motorola представила новые складные смартфоны Razr: теперь есть и «книжный» формат Motorola обновила линейку складных смартфонов Razr и даже добавила модель в формате «книжки». Подробнее о каждой модели в серии — в материале. «Гориз...

09:00, 18 Апр Dreame представила в Москве новое поколение флагманов и открыла предзаказ по эксклюзивным ценам В Москве состоялась презентация Dreamе. Мировой лидер по продажам роботов-пылесосов премиум-класса представил новое поколение флагманских устройств д...

21:00, 21 Апр Мощнее, тоньше рамки, микрофон: Huawei представила серию умных часов Watch Fit 5 Huawei анонсировала Watch Fit 5 и Watch Fit 5 Pro. Обе модели часов сохранили привычный дизайн, но версия Pro получила более тонкие рамки и увеличенн...

18:00, 20 Апр Xiaomi представила мощный осушитель воздуха. Он вытягивает до 22 литров влаги в сутки и подходит даже для больших комнат Компания Xiaomi анонсировала новый умный осушитель воздуха Xiaomi Smart Dehumidifier на глобальном рынке. Устройство уже появилось на официальном сай...

22:00, 21 Апр Даже газовую плиту прокачали. Xiaomi представила Mijia Timer Gas Stove 3 Pro, которая сама отключает газ и следит за готовкой Китайский производитель гаджетов Xiaomi выпустил новую газовую плиту Mijia Timer Gas Stove 3 Pro — устройство создавалось с упором на безопасность, а...

07:00, 22 Апр Xiaomi представила ноутбуки Redmi Book Pro 14 и Redmi Book Pro 16 2026: 16-ядерный Core Ultra X7 358H с мощным iGPU и экран 3К Модели выполнены в металлических корпусах толщиной 15,9 ммXiaomi вывела на рынок новые ноутбуки Redmi Book Pro 14 и Redmi Book Pro 16 2026 года. Моде...

01:00, 29 Апр 24-кратный оптический зум для Apple iPhone 17 Pro и 30-кратный для Samsung Galaxy S26 Ultra: Reeflex представила телеконвертер 300–600 мм для флагманов Apple и Samsung На выпуск устройства уже собрали почти 300 тыс. долларовКомпания Reeflex представила интересный аксессуар для Apple iPhone 17 Pro и Samsung Galaxy S2...