Ученые предупредили о рисках чрезмерного доверия ИИ-чатам в сфере женского здоровья

Авторы проанализировали современные исследования и практики применения искусственного интеллекта в сфере женского здоровья, включая системы прогнозирования риска заболеваний, анализ электронных медицинских карт, носимые устройства и приложения для мониторинга здоровья. На основе этого обзора они выделили три основные группы рисков, которые, по их мнению, могут препятствовать снижению гендерного неравенства в медицине.

Первая проблема заключается в том, что многие современные ИИ-модели строятся на упрощенном бинарном представлении о поле и гендере, хотя состояние здоровья определяется сложным взаимодействием биологических, социальных и поведенческих факторов. По мнению авторов, использование таких категорий в качестве основных переменных снижает точность исследований и затрудняет разработку действительно персонализированной медицины.

Вторая проблема связана с тем, что искусственному интеллекту нередко приписывают способность выявлять скрытые закономерности, недоступные человеку. Однако, как отмечают исследователи, алгоритмы в первую очередь воспроизводят структуру обучающих данных. Это повышает риск того, что статистические корреляции будут ошибочно интерпретироваться как причины различий между пациентами, а существующие представления о половых различиях закрепятся как объективные научные выводы.

Третьим риском авторы называют быстрое расширение цифрового мониторинга здоровья. Они обращают внимание, что приложения для отслеживания менструального цикла, носимые устройства и другие ИИ-сервисы собирают большой объем персональной информации, включая данные о физической активности, сне, репродуктивном здоровье и образе жизни. По мнению исследователей, это увеличивает риски нарушения конфиденциальности, коммерческого использования медицинских данных и усиления социального неравенства в здравоохранении.

Подобные опасения уже находили подтверждение на практике: в 2025 году Google и разработчик приложения Flo Health согласились выплатить в США $56 млн по коллективному иску о передаче данных о менструальном цикле и беременности пользовательниц третьим лицам. Кроме того, исследование Фонда Mozilla показало, что данные о репродуктивном здоровье, собираемые рядом популярных приложений для отслеживания цикла, могут использоваться при формировании рекламных профилей пользователей.

Авторы новой работы также отмечают, что чрезмерная ориентация на технологические решения способна отвлекать внимание от структурных причин неравенства в здравоохранении, которые невозможно устранить исключительно с помощью алгоритмов. По их мнению, зависимость от цифровых инструментов может привести к тому, что субъективные жалобы пациентов и клинический опыт врачей будут уступать место данным, автоматически собранным ИИ-системами.

Так, при разработке медицинских ИИ-систем необходимо уделять больше внимания не только снижению алгоритмических ошибок, но и критической оценке самих категорий, лежащих в основе моделей. Вместо поиска различий между заранее определенными группами авторы предлагают учитывать конкретные биологические и социальные факторы, влияющие на здоровье, а также активнее привлекать пациентов к разработке цифровых медицинских технологий.

Подобный подход уже начинает применяться в России. Студенты и специалисты Первого МГМУ им. И.М. Сеченова совместно с коллегами из других вузов создают систему EndoSync для персонализированного контроля сахарного диабета у женщин. Алгоритм будет анализировать данные мониторинга глюкозы с учетом физиологических факторов, включая фазы менструального цикла, что позволит точнее интерпретировать изменения уровня сахара и корректировать терапию.