Ученые: точность и экономия времени не гарантируют безопасного внедрения генеративного ИИ в клиниках
Авторы рассматривали два типа задач: к прямым административным относены рутинные задачи сотрудников, использование корпоративных больших языковых моделей, кодирование, отчетность по качеству и анализ сообщений о безопасности; к клинико-административным – сообщения пациентам, документация, передача смены и резюме. Инструменты поддержки диагностических и лечебных решений в обзор не вошли. Авторы провели структурированный поиск в PubMed до 25 августа 2026 года и отобрали 17 эмпирических исследований: семь по административным задачам и 10 по клинико-административным.
Улучшение субъективных ощущений не всегда сопровождалось экономией времени – в пятинедельном «пилоте» по ответам на сообщения пациентов врачи использовали черновики ИИ в 20% случаев. Нагрузка и истощение персонала снизились, но время на ответ, написание и чтение не изменилось. Оптимизация процесса также не означала улучшения исходов: в кластерном рандомизированном исследовании по сепсису ИИ-абстрагирование данных и обратная связь повысили соблюдение стандартов лечения с 70,1% до 82,9%, но госпитализации в реанимацию и 30-дневная смертность не изменились.
Помимо этого, исследователи отмечают, что высокое среднее качество может сочетаться с существенными ошибками. В проспективном «пилоте» по записям, созданным ИИ-системой, которая слушает прием, проверили 356 записей: пропуски нашли в 18%, галлюцинации – в 11,5%, а потенциально серьезный вред при отсутствии исправления – в 5,3%. При подготовке выписок для реабилитации медианное время сократилось с 23 до 10 минут, но в девяти из 11 проверенных на безопасность выписок была хотя бы одна ошибка, требующая проверки специалистом. По мнению авторов, тяжесть редких ошибок и нагрузку на проверку нельзя выводить из среднего показателя качества.
Кроме того, в отобранных исследованиях чаще измеряли ранние показатели, чем итоговые. Внедрение или готовность оценивали в 14 из 17 работ, приемлемость и осуществимость – в 13, проникновение в разные отделения и роли – в пяти, а стоимость внедрения и устойчивость использования – лишь в одной работе. Ни в одном исследовании не было оценки равенства в практическом виде: это означает, что отсутствие данных нельзя считать подтверждением справедливости или неравенства.
Для поддержки решений о запуске «пилота», расширении, изменении или прекращении использования ИИ авторы предложили схему соответствия измеряемых результатов управленческим решениям. Она различает правила остановки, которые не компенсируются другими преимуществами, минимальные критерии для расширения и целевые показатели сравнительной ценности, у каждого из которых должны быть знаменатель, ответственный и повторная оценка. В качестве примеров правил остановки приведены неисправленные серьезные ошибки, несанкционированная передача данных и обход обязательной проверки человеком. Эти примеры авторы называют гипотетическими, так как они не наблюдались в рассмотренных исследованиях.
Ученые подчеркивают, что схема не проверена и не задает универсальных числовых порогов, а доказательная база неоднородна, часто краткосрочна и сосредоточена в академических центрах. Из 1 813 найденных записей в приоритетный набор вошли только 38, кодирование выполнялось в один проход, а три исследования были доступны лишь в виде аннотаций. Для проверки схемы, считают авторы, нужны проспективные многоцентровые исследования, которые оценят ее влияние на безопасность пациентов, нагрузку на персонал и результаты работы служб.
