«Он скажет — ты сядешь»: чего надо бояться врачам при работе с ИИ

Около четверти врачей используют ИИ в повседневной работе — показало исследование приложения «Справочник врача». Дело не в возрасте: средний возраст опрошенных — 39 лет, так что предубеждений быть не должно. Настоящая проблема в другом: медикам приходится выбирать между чат-ботами общего назначения и незрелыми специализированными системами, а ответственность за ошибку алгоритма несет сам врач, а не чат.

Часто в своей практике используют ИИ только 16% врачей, а практически каждый день — лишь 8%. Всего в опросе приняли участие 1207 врачей, большинство — 77% — работают в государственных медучреждениях. Потребность в ИИ при этом есть у 67% опрошенных: 22% при обилии информации нужен инструмент предварительной оценки, аннотирования и визуализации, 45% — искусственный интеллект помог бы в работе со сложными пациентами с длительной медицинской историей.

DeepSeek обгоняет российские модели

Чаще всего врачи обращаются не к отдельным чат-ботам, а к ИИ-модулям, которые встроены в поисковые системы «Яндекс» и Google: ими пользуются 33,1% опрошенных. Среди чат-ботов первое место у китайского DeepSeek — 27,4%, второе — у американского ChatGPT, им пользуются 20,7%. Российские модели отстают: YandexGPT назвали 15,3% врачей, GigaChat от «Сбера» — 12,2%.

Реже используют опрошенные инструменты ИИ, предоставленные медицинской организацией. 21,5% — работают с системами проверки на соответствие клиническим рекомендациям и иным требованиям, 19,4% — прибегают к помощи рекомендательных систем, связанных с постановкой диагноза и назначениями, 18,3% — пользуются системами по контролю взаимодействия лекарственных препаратов.

Причина — в их несовершенстве. 13,2% из тех, кто пользуется системами медорганизаций, ответили, что вынуждены практически всегда перепроверять их предложения. Еще 4% более категоричны: «в целом они не слишком полезны и часто дают неверную или бесполезную информацию».

В этом нет ничего удивительного: в России системная проблема с данными для обучения ИИ и с законодательной базой для использования этих данных. То есть полноценного ИИ-инструмента, предназначенного для врачей, не существует. Так что выбор у врача — между чат-ботом для обычного человека и несовершенной, но профессиональной системой.

Перепроверять приходится все

Перепроверять приходится все системы, не только те, что предоставляют медорганизации. Только при сомнениях проверяют ответы ИИ 13,8% врачей. 29,2% делают это всегда, по возможности просматривая ссылки; столько же пользуются ИИ только в тех вопросах, где он, по их опыту, работает надежно.

За этим стоит не только осторожность: одно из препятствий для использования ИИ — ответственность за ошибочное решение. Именно это смущает 34,6% респондентов. Почти столько же — 34,3% — останавливают ошибки самого ИИ или отсутствие ссылок на источники. Еще 19,8% не устраивает недостаточная клиническая доказательность — нехватка исследований, которые подтверждали бы, что ИИ-сервис работает точно и безопасно.

Цена ошибки правда очень высока: первые иски за ошибки ИИ могут появиться уже в следующем году, считает ректор Высшей школы организации и управления здравоохранением Гузель Улумбекова.

При этом есть направление, где ИИ-системы действительно полезны: снять с перегруженных врачей главную головную боль — оформление медицинской документации. Именно на это, по данным опроса, у 60% врачей уходит больше всего времени.