Аналитики: 12,4% студентов-медиков и ординаторов загружали данные реальных пациентов в ИИ-сервисы

Обработка медицинских данных системами искусственного интеллекта требует обезличивания, но удаление явных идентификаторов не гарантирует анонимности: современные ИИ-модели способны восстанавливать личность по косвенным признакам. Авторы разграничивают три подхода: деидентификацию (удаление или маскирование явных идентификаторов), псевдонимизацию (замену идентификаторов кодом с отдельно хранимым ключом) и анонимизацию – необратимую процедуру, после которой установить личность невозможно. Российское законодательство использует единый термин «обезличивание», что, по мнению исследователей, размывает границу между этими состояниями данных.

В анонимном опросе участвовали студенты 1–6 курсов и ординаторы, медианный возраст – 21 год. Результаты основаны на самоотчете, поэтому, как отмечают авторы, истинная частота рискованных действий может быть выше. К ИИ респонденты относятся настороженно: положительный настрой отметили 50,6%, помощью в учебе удовлетворены 55,9%. При этом 59,8% возлагают ответственность за решение с участием ИИ на врача, а лишь 35,8% считают, что пациент должен знать о применении ИИ в лечении. Загрузить реальный снимок пациента готовы 42,5% опрошенных, а 55,1% не знают, как их организация регулирует использование ИИ.

Осведомленность о рисках не защищает от проблем: у тех, кто загружал данные пациентов, самооценка знания рисков оказалась выше, чем у остальных (3,53 против 3,36 балла по пятибалльной шкале). Почти каждый пятый из них (22%) признает такие действия недопустимыми, но все равно их совершает. Доля загружавших данные растет с 7,5% на младших курсах до 21% на старших, у ординаторов она составляет 14,6%. Одновременно снижается готовность информировать пациента о применении ИИ – с 43,4% до 24,4%. По мнению авторов, к старшим курсам доступ к данным расширяется, а чувствительность к правам пациента снижается.

Поскольку знания и обучение не сдерживают рискованное поведение, авторы предлагают встраивать защиту в инфраструктуру организации и выделяют четыре уровня мер.

Первый – организационные правила: прямой запрет на ввод данных пациентов в общедоступные облачные ИИ-сервисы, который должен быть доведен до каждого сотрудника и обучающегося, а для клинических задач – локальные решения в защищенном контуре организации и системы, зарегистрированные как медицинские изделия. Второй – защита данных по умолчанию: обезличивание на стороне организации с предварительной оценкой риска узнаваемости, а также методы вроде дифференциальной приватности, федеративного обучения и гомоморфного шифрования. Третий – информирование пациента о применении ИИ и о возможной передаче его данных. Четвертый – образовательные программы с модулями по этике и информационной безопасности.

Главный вывод исследователей заключается в том, что анонимность не является достигнутым состоянием, а представляет собой непрерывное управление остаточным риском узнаваемости.