Исследователи предложили отказаться от человекоподобного дизайна медицинских ИИ

Сейчас в мире используется или находится на этапе внедрения более 120 медицинских ИИ, напрямую взаимодействующих с пациентами. Это небольшая и строго ограниченная группа решений – фактически лишь те системы, которые общаются с пациентом напрямую, от узкоспециализированных ассистентов до публичных моделей, сопоставимых по диагностической точности с врачами. Рост этого сегмента усилил интерес исследователей к тому, как именно должен выглядеть цифровой ассистент, чтобы взаимодействие с пациентом было безопасным и предсказуемым.

Ранее в научной литературе уже обсуждались возможные преимущества человекоподобного дизайна. Например, исследователи из Университета Плимута (Великобритания) в 2021 году отмечали, что антропоморфные черты социальных и медицинских роботов – выражение лица, пропорции корпуса, направление взгляда – повышают вовлеченность пользователей и усиливают ощущение безопасности при взаимодействии. Ученые из Аньхойского политехнического университета (Китай) в 2024 году также показали, что гуманоидный внешний вид робота увеличивает доверие и готовность следовать его рекомендациям. Хотя эти исследования посвящены преимущественно робототехнике, их выводы релевантны и для медицинских ИИ.

Однако, по мнению авторов Digital Medicine, такой подход опирается на упрощенное представление о медицине. Он исходит из идеи, что доверие можно «собрать» из подходящих черт лица или голоса, но на практике подобные решения лишь усиливают культурные и гендерные предубеждения.

Исследователи подчеркивают, что качество помощи определяется не только точностью рекомендаций, но и полнотой человеческого взаимодействия, которое оказывает доказанное влияние на исход лечения и не может быть заменено даже высокоточным ИИ. Представление цифрового ассистента как почти идеального виртуального врача, по их оценке, размывает границу между человеком и алгоритмом и ослабляет ключевые элементы клинической коммуникации.

Ксеноморфный подход предлагает противоположную стратегию: намеренно подчеркивать нечеловеческое происхождение ИИ. Это может включать образы, не похожие на человеческие лица, нестандартную пластику движений или иные формы виртуального воплощения. В таком виде ИИ не конкурирует с врачом за доверие пациента, а создает отдельный, дополнительно полезный тип взаимодействия. Исследователи сравнивают этот эффект с терапией с участием животных, где улучшение состояния достигается за счет иной, не основанной на человеческом взаимодействии формой поддержки.

По замыслу авторов, ксеноморфный дизайн может снизить риски подмены медработников цифровыми ассистентами, уменьшить влияние социальных стереотипов и расширить набор терапевтических инструментов. Такой подход, считают авторы, может лечь в основу новых стандартов разработки медицинских ИИ-моделей и использоваться регуляторами при определении требований к внешнему виду медицинских ИИ.

Дополнительные данные о взаимодействии пациентов с цифровыми системами приводит британская компания Aide. Ее исследование показало, что пользователи нередко откровеннее с ИИ, чем с врачами: на платформе 26% пациентов с астмой признались в нарушении предписанной терапии, что существенно выше показателей традиционных опросов. Авторы называют это «парадоксом доверия»: пациенты ценят нейтральность и отсутствие осуждения, но настороженно относятся к чрезмерно холодной манере общения. Чтобы удерживать баланс, исследователи предлагают концепцию «адаптивной нейтральности», при которой ИИ меняет стиль коммуникации в зависимости от ситуации – более формальный при сборе чувствительных данных и более человечный при обсуждении лечения. Такие наблюдения подтверждают, что медицинскому ИИ требуется собственная модель взаимодействия с пользователем.

Сейчас в мире используется или находится на этапе внедрения более 120 медицинских ИИ, напрямую взаимодействующих с пациентами. Это небольшая и строго ограниченная группа решений – фактически лишь те системы, которые общаются с пациентом напрямую, от узкоспециализированных ассистентов до публичных моделей, сопоставимых по диагностической точности с врачами. Рост этого сегмента усилил интерес исследователей к тому, как именно должен выглядеть цифровой ассистент, чтобы взаимодействие с пациентом было безопасным и предсказуемым.

Ранее в научной литературе уже обсуждались возможные преимущества человекоподобного дизайна. Например, исследователи из Университета Плимута (Великобритания) в 2021 году отмечали, что антропоморфные черты социальных и медицинских роботов – выражение лица, пропорции корпуса, направление взгляда – повышают вовлеченность пользователей и усиливают ощущение безопасности при взаимодействии. Ученые из Аньхойского политехнического университета (Китай) в 2024 году также показали, что гуманоидный внешний вид робота увеличивает доверие и готовность следовать его рекомендациям. Хотя эти исследования посвящены преимущественно робототехнике, их выводы релевантны и для медицинских ИИ.

Однако, по мнению авторов Digital Medicine, такой подход опирается на упрощенное представление о медицине. Он исходит из идеи, что доверие можно «собрать» из подходящих черт лица или голоса, но на практике подобные решения лишь усиливают культурные и гендерные предубеждения.

Исследователи подчеркивают, что качество помощи определяется не только точностью рекомендаций, но и полнотой человеческого взаимодействия, которое оказывает доказанное влияние на исход лечения и не может быть заменено даже высокоточным ИИ. Представление цифрового ассистента как почти идеального виртуального врача, по их оценке, размывает границу между человеком и алгоритмом и ослабляет ключевые элементы клинической коммуникации.

Ксеноморфный подход предлагает противоположную стратегию: намеренно подчеркивать нечеловеческое происхождение ИИ. Это может включать образы, не похожие на человеческие лица, нестандартную пластику движений или иные формы виртуального воплощения. В таком виде ИИ не конкурирует с врачом за доверие пациента, а создает отдельный, дополнительно полезный тип взаимодействия. Исследователи сравнивают этот эффект с терапией с участием животных, где улучшение состояния достигается за счет иной, не основанной на человеческом взаимодействии формой поддержки.

По замыслу авторов, ксеноморфный дизайн может снизить риски подмены медработников цифровыми ассистентами, уменьшить влияние социальных стереотипов и расширить набор терапевтических инструментов. Такой подход, считают авторы, может лечь в основу новых стандартов разработки медицинских ИИ-моделей и использоваться регуляторами при определении требований к внешнему виду медицинских ИИ.

Дополнительные данные о взаимодействии пациентов с цифровыми системами приводит британская компания Aide. Ее исследование показало, что пользователи нередко откровеннее с ИИ, чем с врачами: на платформе 26% пациентов с астмой признались в нарушении предписанной терапии, что существенно выше показателей традиционных опросов. Авторы называют это «парадоксом доверия»: пациенты ценят нейтральность и отсутствие осуждения, но настороженно относятся к чрезмерно холодной манере общения. Чтобы удерживать баланс, исследователи предлагают концепцию «адаптивной нейтральности», при которой ИИ меняет стиль коммуникации в зависимости от ситуации – более формальный при сборе чувствительных данных и более человечный при обсуждении лечения. Такие наблюдения подтверждают, что медицинскому ИИ требуется собственная модель взаимодействия с пользователем.