66 млн американцев уже спрашивают ИИ о здоровье

Проблема тут не только в галлюцинациях, хотя они и так вездесущи. Модели слишком быстро хватаются за один ответ, вместо того чтобы держать в голове несколько диагнозов, а именно так и работает нормальная клиническая логика. Человек в белом халате не обязан быть всемогущим, но у него хотя бы есть привычка сомневаться. У чат-бота она часто отсутствует.

Что показало исследование JAMA Network Open Исследователи дали моделям реалистичные симптомы, которые мог бы описать обычный пациент, и посмотрели, как те будут «играть в врача». На задачах с расплывчатыми признаками ИИ спотыкался чаще 80% времени. Даже когда к описанию добавляли данные осмотра и результаты анализов, ошибки оставались примерно в 40% случаев. Это неприятно еще и потому, что рынок давно продает ИИ как дешевого медицинского советчика на

каждый день. В реальности он пока больше похож на уверенного собеседника, чем на помощника, которому можно доверить разбор сыпи, внезапного кашля или чего-то еще, где промах стоит не денег, а здоровья. Почему американцы идут к чат-ботам вместо врача Опрос West Health-Gallup Center on Healthcare in America показывает скучную, но важную причину: медицина в США для многих слишком дорогая, неудобная или просто недоступная по времени. 27%

респондентов сказали, что не хотели платить за визит к врачу, 14% прямо не могли себе его позволить, а часть людей просто не находила времени или возможности дойти до клиники. И вот здесь у ИИ возникает его мрачная ниша. 14% тех, кто спрашивал его о здоровье, сказали, что не обратились бы к врачу даже в противном случае. Это уже не игра в поиск информации, а подмена системы, которая и без того работает на износе. Бот не лечит,

но успокаивает. Иногда этого достаточно, чтобы человек ничего больше не сделал. Почему опасна уверенность без точности Самое коварное здесь не то, что ИИ ошибается. Куда хуже, что он часто звучит убедительно даже тогда, когда несет ерунду. Почти половина опрошенных сказала, что

разговор с чат-ботом помог им чувствовать себя увереннее при общении с врачом, 22% отметили, что так им якобы проще было заметить проблему раньше, а 19% увидели в этом способ избежать лишних обследований. При этом треть пользователей, обращавшихся к ИИ за медицинской помощью, ему не доверяют, а 10% получили потенциально небезопасный совет. В этой комбинации и кроется вся нынешняя магия отрасли: модель может быть одновременно и полезной шпаргалкой, и опасным источником ложной

уверенности. Для здравоохранения это не футуризм, а вполне приземленный риск, который уже расползается по стране. Регуляторы в такой ситуации обычно просыпаются последними, но давление на них уже накапливается. Чем больше людей используют чат-боты вместо первичного контакта с врачом, тем меньше у отрасли остается права делать вид, что это просто

«удобный интерфейс» и не проблема общественного здоровья.

Сообщает itzine.ru

 

Новость из рубрики: Технологии и Hi-Tech

 

Поделиться новостью:

 

Топ Новости Недели

• Как правильно указать адрес склада в Китае при работе с маркетплейсами...
• Цифровизация кадровых процессов как шаг к эффективному управлению персоналом...
• Современные решения для автоматизации гостиничного бизнеса и повышения сервиса...
• Реклама ВКонтакте как эффективный инструмент продвижения бизнеса...
• Как выбрать подходящий офис в Санкт-Петербурге для развития бизнеса и комфортной работы...
• Сервис продажи билетов на концерт: удобство, скорость и современные решения для организаторов и зрителей...
• Розничная сеть КАМАЗ ЦЕНТР ДОНЕЦК как надежный партнер для владельцев техники...
• Электронная подпись за 30 минут как удобное решение для цифровых задач...
• Газопоршневые установки Jenbacher как эффективное решение для современной энергетики...
• Компьютерная томография как современный метод точной диагностики...
• Estetie — современный подход к уходу за кожей с акцентом на качество и эффективность...
• Здоровый сон без сильнодействующих средств как основа качества жизни...
• Служба в армии по контракту: преимущества и возможности для развития...
• Микрокредит как быстрый способ решения финансовых задач...
• Электрощиты автоматического ввода резерва: надежность энергоснабжения для бизнеса...
• Юридический адрес для бизнеса: зачем он нужен и как выбрать оптимальное решение...
• Квалифицированная помощь при алкогольной зависимости: лечение на дому...
• Безопасный выход из запоя: современные методы восстановления организма...
• Эффективная помощь при запое: как восстановить здоровье в домашних условиях...
• Профессиональная помощь при запое: как безопасно восстановить здоровье...