66 млн американцев уже спрашивают ИИ о здоровье

Проблема тут не только в галлюцинациях, хотя они и так вездесущи. Модели слишком быстро хватаются за один ответ, вместо того чтобы держать в голове несколько диагнозов, а именно так и работает нормальная клиническая логика. Человек в белом халате не обязан быть всемогущим, но у него хотя бы есть привычка сомневаться. У чат-бота она часто отсутствует.

Что показало исследование JAMA Network Open Исследователи дали моделям реалистичные симптомы, которые мог бы описать обычный пациент, и посмотрели, как те будут «играть в врача». На задачах с расплывчатыми признаками ИИ спотыкался чаще 80% времени. Даже когда к описанию добавляли данные осмотра и результаты анализов, ошибки оставались примерно в 40% случаев. Это неприятно еще и потому, что рынок давно продает ИИ как дешевого медицинского советчика на

каждый день. В реальности он пока больше похож на уверенного собеседника, чем на помощника, которому можно доверить разбор сыпи, внезапного кашля или чего-то еще, где промах стоит не денег, а здоровья. Почему американцы идут к чат-ботам вместо врача Опрос West Health-Gallup Center on Healthcare in America показывает скучную, но важную причину: медицина в США для многих слишком дорогая, неудобная или просто недоступная по времени. 27%

респондентов сказали, что не хотели платить за визит к врачу, 14% прямо не могли себе его позволить, а часть людей просто не находила времени или возможности дойти до клиники. И вот здесь у ИИ возникает его мрачная ниша. 14% тех, кто спрашивал его о здоровье, сказали, что не обратились бы к врачу даже в противном случае. Это уже не игра в поиск информации, а подмена системы, которая и без того работает на износе. Бот не лечит,

но успокаивает. Иногда этого достаточно, чтобы человек ничего больше не сделал. Почему опасна уверенность без точности Самое коварное здесь не то, что ИИ ошибается. Куда хуже, что он часто звучит убедительно даже тогда, когда несет ерунду. Почти половина опрошенных сказала, что

разговор с чат-ботом помог им чувствовать себя увереннее при общении с врачом, 22% отметили, что так им якобы проще было заметить проблему раньше, а 19% увидели в этом способ избежать лишних обследований. При этом треть пользователей, обращавшихся к ИИ за медицинской помощью, ему не доверяют, а 10% получили потенциально небезопасный совет. В этой комбинации и кроется вся нынешняя магия отрасли: модель может быть одновременно и полезной шпаргалкой, и опасным источником ложной

уверенности. Для здравоохранения это не футуризм, а вполне приземленный риск, который уже расползается по стране. Регуляторы в такой ситуации обычно просыпаются последними, но давление на них уже накапливается. Чем больше людей используют чат-боты вместо первичного контакта с врачом, тем меньше у отрасли остается права делать вид, что это просто

«удобный интерфейс» и не проблема общественного здоровья.

Сообщает itzine.ru

 

Новость из рубрики: Технологии и Hi-Tech

 

Поделиться новостью:

 

Топ Новости Недели

• Электрощиты автоматического ввода резерва: надежность энергоснабжения для бизнеса...
• Юридический адрес для бизнеса: зачем он нужен и как выбрать оптимальное решение...
• Квалифицированная помощь при алкогольной зависимости: лечение на дому...
• Безопасный выход из запоя: современные методы восстановления организма...
• Эффективная помощь при запое: как восстановить здоровье в домашних условиях...
• Профессиональная помощь при запое: как безопасно восстановить здоровье...
• Правда о сливе базы Семяныч: почему цифровая крепость не сдаёт позиций...
• Эстетика и функциональность: как зеркальные панно преображают интерьер...
• Промышленное оборудование для бизнеса: как выбрать и выгодно приобрести...