ИИ не придумывает предвзятость — он наследует её из данных: попытка исправить одну форму дискриминации часто создаёт другую

Учёные объяснили, почему «справедливый искусственный интеллект» остаётся почти недостижимой задачей: алгоритмы воспроизводят историческое неравенствоИсследователи всё чаще предупреждают: искусственный интеллект не создаёт предвзятость сам по себе — он перенимает её из среды, в которой обучается. И чем шире ИИ внедряется в найм сотрудников, банковскую сферу, обслуживание, образование и судебную систему, тем острее становится вопрос о

том, можно ли вообще сделать такие системы по-настоящему справедливыми.Главная проблема заключается в том, что у понятия «справедливость» нет универсального определения. В финансовой сфере под справедливостью могут понимать равный доступ к кредитам, в

уголовном правосудии — минимизацию дискриминации отдельных групп, а в образовании — равные шансы на успех. Для алгоритмов эти принципы приходится переводить в математические метрики, но каждая из них неизбежно отражает человеческие представления о том,

какие различия допустимы, а какие нет.Ситуацию осложняет сам характер данных, на которых обучаются модели. ИИ анализирует исторические решения людей и организаций, а значит автоматически впитывает существующие социальные перекосы. Если компания годами продвигала на руководящие позиции преимущественно мужчин, алгоритм может решить, что именно такие кандидаты «наиболее успешны», даже

если пол напрямую не используется как параметр.Похожая проблема возникает в банковских системах. Люди из социально неблагополучных групп часто имеют менее успешную или полную кредитную историю или более низкий официальный доход из-за прежней дискриминации. Для модели это может

выглядеть как повышенный финансовый риск, хотя в реальности связь далеко не всегда существует. В результате алгоритм начинает воспроизводить старое неравенство под видом объективного анализа.Иллюстрация: Nano BananaУчёные подчёркивают, что попытка сделать систему справедливой по одному критерию нередко нарушает другой. Например, алгоритм может одинаково точно оценивать вероятность невозврата кредита для разных групп населения, но при

этом чаще ошибочно отказывать одной группе и чаще выдавать рискованные займы другой. Формально метрики будут соблюдены, но последствия для людей окажутся неравными.Отдельной проблемой остаются пересекающиеся группы. Система может демонстрировать «справедливость» по отношению к женщинам в целом и отдельно к этническим меньшинствам, но одновременно систематически дискриминировать,

например, пожилых женщин из национальных меньшинств. Такие группы обычно плохо представлены в данных, поэтому ошибки в их отношении теряются в общей статистике и остаются незаметными.Исследователи считают, что проблему невозможно решить исключительно техническими средствами. Даже самые совершенные

алгоритмы работают внутри социальных и политических систем, где уже существуют неравенство и дисбаланс власти. Поэтому всё больше экспертов выступают за участие в разработке ИИ не только инженеров, но и самих людей, на которых влияют автоматизированные решения,

особенно представителей уязвимых сообществ.С развитием больших языковых моделей задача становится ещё сложнее. Такие системы обучаются на гигантских массивах текстов из интернета, где уже содержатся стереотипы, токсичность и культурные перекосы. Из-за этого справедливость в решениях ИИ перестаёт быть разовой технической задачей и превращается в постоянный процесс контроля, пересмотра и общественного обсуждения.Авторы подчёркивают: вместо вопроса

«справедлив ли ИИ?» правильнее спрашивать — «для кого именно он справедлив, при каких условиях и кто несёт ответственность за последствия его решений».

ИИ не придумывает предвзятость — он наследует её из данных: попытка исправить одну форму дискриминации часто создаёт другую

Сообщает www.ixbt.com

Новость из рубрики: Технологии и Hi-Tech

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Топ Новости Недели

07:00, 02 Май Последняя попытка традиций: как рыночная торговля выживает в эпоху тотального онлайна Классическая рыночная торговля в регионах демонстрирует поразительную институциональную устойчивость. Пока цифровая экономика агрессивно расширяет эк...

06:00, 03 Май Больше чем чистый лист: почему природа создает хаос в мозгу младенца Забудьте про стерильную чистоту сознания младенца. Идея о том, что мы приходим в мир как "чистая доска", оказалась лишь красивой метафорой, разбившей...

12:00, 24 Апр Не получается войти в iMessage на Mac: как исправить После блокировки Telegram и WhatsApp многие перешли в iMessage, ведь мессенджер Apple не заблокировать так просто. При попытке войти в приложение «Со...

08:00, 15 Май Почему добрые люди часто бывают самыми одинокими Почему самые добрые люди часто остаются одни: парадокс популярности Возможно, и у тебя на работе есть такой человек (а быть может это вообще именно т...

13:00, 29 Апр После 70 можно платить меньше: какие льготы пенсионеры часто упускают После 70 лет у пенсионеров появляются дополнительные меры поддержки, которые могут снизить расходы на жилье, налоги, лекарства и повседневные траты. ...

Синдром ленивого глаза у взрослых: можно ли исправить то, что упустили в детстве 01:00, 20 Апр Синдром «ленивого глаза» у взрослых: можно ли исправить то, что упустили в детстве? Синдром «ленивого глаза», или амблиопия, — это снижение остроты зрения на одном (реже — на обоих) глазах без органических причин, когда глаз «анатоми...

10:00, 12 Май Секреты яркого красного борща просто: почему свёкла бледнеет и как это исправить Фото Progorod58 Красный борщ легко превращается в буро-оранжевый суп, если ошибиться всего в одном моменте. И дело вовсе не в «неправильной» свёкле. ...

13:00, 21 Апр Дзюдоист Адамян о том, хорош ли Ротенберг как тренер: «Профессионал, который знает, что делает. Создает хорошие условия для команды, от игроков требуется только побеждать» Чемпион мира и Европы по дзюдо Арман Адамян рассказал об опыте работы в хоккее с Романом Ротенбергом. – Любопытная строчка из вашей биографии связана...

14:00, 27 Апр Орлов о Кордобе: «Не умаляю его заслуг как форварда, но он часто симулирует. Падает и сразу смотрит на арбитров. Судьям надо быть построже с ним» Футбольный комментатор Геннадий Орлов высказался о назначении пенальти в пользу «Краснодара» в матче с махачкалинским «Динамо» в 27-м туре Мир РПЛ (2...

21:00, 27 Апр Владимир Путин встретился с юными гимнастками и поцеловал одну из них в лоб Президент России Владимир Путин посетил спортивную школу олимпийского резерва имени А. С. Рахлина в Санкт-Петербурге, где, помимо других официальных ...

11:00, 10 Май Как исправить "грустный рот" одной помадой: частая ошибка у многих женщин в макияже, которая прибавляет возраст Опущенные уголки губ — проблема, которая старит лицо сильнее морщин. Многие женщины пытаются замаскировать ее яркой помадой, но лишь усугубляют ситуа...

15:00, 23 Апр В США обсуждают еще одну странную смерть ученого, сгоревшего заживо в Tesla В Соединенных Штатах на фоне слухов о таинственном исчезновении 11 ученых, имеющих доступ к секретным данным, обсуждают еще одну загадочную смерть ин...

22:00, 19 Апр Студенты нашли одну из старейших звезд Вселенной, мигрировавшую в Млечный Путь Звезда SDSS J0715-7334 с рекордно низким содержанием металлов оказалась «мигрантом» из Большого Магелланова Облака и относится к ранним поколениям зв...

05:00, 19 Апр Российский фигурист Кондратюк завоевал золото ЧЕ и подарит одну медаль тренеру Марк Кондратюк выиграл золото чемпионата Европы 2022 в мужском одиночном катании. Он рассказал, что собирается оставить одну из медалей себе, а остал...

11:00, 19 Апр В валенках к Сталину: как нищий матрос за одну ночь в Кремле решил судьбу немецких танков Декабрь 1941 года. Москва в кольце, а на пороге сталинского кабинета стоит человек в засаленном ватнике и валенках. Это не ошибка охраны. Это матрос ...

01:00, 08 Май В России на 50% выросли мощности для хранения и обработки данных Компания РТК-ЦОД, управляющая сетью центров обработки данных (ЦОД), завершила большую пятилетнюю программу развития. Объём вложений превысил 38 млрд ...

05:00, 07 Май Компани о судействе: «От эпизодов с Дэвисом и Невешем при наличии хоть капли здравого смысла становится смешно. И арбитр хотел показать желтую Мендешу, но вспомнил, что одну уже дал» Венсан Компани раскритиковал работу судей на матчах «Баварии» с « ПСЖ » (4:5, 1:1) в полуфинале Лиги чемпионов . «Нам нужно посмотреть на некоторые э...

21:00, 08 Май ZAT-DNA: в хранилищах данных на базе ДНК впервые реализован механизм защиты от копирования Специалисты по синтетической биологии использовали «ферментативную слепоту», чтобы создать некопируемые молекулярные носители для защиты криптографич...

02:00, 12 Май GM уличили в продаже страховщикам данных водителей-лихачей для повышения тарифов Генпрокурор штата Калифорния объявил, что General Motors согласилась выплатить $ 12,75 млн в рамках урегулирования расследования о незаконной продаже...

18:00, 28 Апр Из закона об ИИ убрали требование обучать модели только на российских данных Согласно информации РБК Радио, власти доработали законопроект об основах регулирования ИИ в России. Из документа исключили требования, чтобы суверенн...

12:00, 13 Май Год работы за несколько дней: ИИ совершил революцию в анализе данных о дикой природе Миллионы селфи лесных обитателей годами пылились в цифровых архивах, заставляя зоологов превращаться в офисных клерков. Но правила игры изменились. Н...

23:00, 18 Апр Microsoft и другие IT-гиганты добились засекречивания данных о выбросах дата-центров в ЕС Расследование показало: в правила ЕС почти дословно вошли требования индустрии засекретить экологические показатели дата-центровАмериканские технолог...

11:00, 04 Май Разведка США ускоряет внедрение ИИ в анализ спутниковых данных, но признаёт пределы «тотального наблюдения» NGA усиливает автоматизацию геоаналитики с помощью ИИ, сокращая время обработки данных с часов до минутНациональное агентство геопространственной раз...

13:00, 15 Май Apple планирует расширить использование собственных модемов в iPhone 18 и усилить защиту данных По данным инсайдерских источников, Apple рассматривает переход на собственные модемы во всей линейке iPhone 18, постепенно отказываясь от решений Qua...

19:00, 11 Май Сооснователь Robinhood решил строить собственные ракеты ради орбитальных ИИ-центров обработки данных Стартап Cowboy Space привлёк $275 миллионов и заявил, что нехватка запусков мешает переносу вычислений для искусственного интеллекта в космосАмерикан...

08:00, 03 Май Лунная миссия Artemis 2 передала на Землю 484 ГБ данных со скоростью в 5000 раз выше, чем была у миссии Apollo Задержка двустороннего видеозвонка в системе O2O составляет около 1 секунды.Миссия Artemis 2, которая впервые за десятилетия достигла лунной орбиты, ...

16:00, 14 Май Лучше жить рядом с атомной станцией, чем с дата-центром: центры обработки данных для ИИ стали врагом №1 для жителей США 70% жителей США против соседства с дата-центрами для ИИНовый опрос Gallup показал резкий рост недовольства строительством дата-центров в США: теперь ...

12:00, 15 Май Не фишингом единым: «Лаборатория Касперского» предупреждает о «серых» сайтах, которые могут привести к потере денег и данных «Лаборатория Касперского» в новом отчёте рассказывает о так называемых «серых» сайтах — ресурсах, которые не относятся к классическим фишинговым, но ...

21:00, 04 Май Tesla достигла ключевого порога данных, который Илон Маск называл условием для беспилотного вождения без контроля человека Компания преодолела 10 млрд миль на FSD — но «полностью автономный режим» так и не включенКомпания Tesla официально подтвердила, что её парк автомоби...