Минздрав утвердил Кодекс этики применения ИИ в сфере охраны здоровья

Кодекс, который состоит из четырех глав, был разработан при участии главных внештатных специалистов в декабре 2024 года. Он должен применяться «на всех этапах жизненного цикла системы искусственного интеллекта (СИИ), включая этапы планирования, проектирования, построения модели, апробации, верификации и валидации, экспертизы, развертывания, эксплуатации и мониторинга с учетом обязательного определения критериев вывода из эксплуатации». Его основными задачами являются определение прав и обязанностей субъектов ИИ, а также механизмов регулирования применения Кодекса.

Под субъектами ИИ понимаются физические и юридические лица – пациенты; медорганизации всех форм собственности; образовательные учреждения; органы управления здравоохранением; компании-разработчики, производители; уполномоченные представители производителей; операторы и владельцы ИИ; некоммерческие организации (НКО), профессиональные сообщества и другие.

В права и обязанности физлиц входят право на защиту персональных данных, своих прав и поддержку со стороны профсообществ и государственных органов в случае возникновения этических конфликтов или выявления нарушений, доступ к достоверной информации о СИИ и их влиянии на здоровье и общество, обязанность соблюдать рекомендованные меры по обеспечению конфиденциальности и безопасности персональных данных и другие пункты.

Юридические лица должны иметь право на доступ к информации о характеристиках, возможностях и ограничениях СИИ, осуществлять сотрудничество с международными организациями и научными центрами, а также быть обязаны обеспечивать конфиденциальность и безопасность персональных данных, учитывать и защищать права всех физических лиц, обеспечивать безопасность и прозрачность разработки системы, соблюдать требования и рекомендации законодательства, соблюдать принципы честности и объективности.

В тематическом документе отмечается, что субъекты СИИ должны обеспечивать контроль над системой, которая, в свою очередь, обязана позволять субъектам проверять и/или санкционировать решения, отказаться от автоматических решений и изменять предложенные решения.

Для повышения уровня защищенности пользователя и доверия к СИИ разработчики (производители) должны обеспечивать доступность информации о применяемых в СИИ алгоритмах работы ИИ. Данные пациентов должны быть конфиденциальны и безопасны на всех этапах жизненного цикла СИИ. Обеспечивать это обязаны субъекты СИИ. Применение системы не должно приводить к стигматизации и дискриминации субъектов СИИ из-за их состояния здоровья, пола, возраста, национальности или иных характеристик. Все субъекты СИИ должны иметь равный доступ к системе с учетом целей и задач.

«Проведение этической экспертизы и апробации СИИ определены законодательством Российской Федерации», – прописано в Кодексе.

Применение систем в сфере здравоохранения будут подотчетными и контролируемыми. Для каждого из этапов жизненного цикла СИИ должны быть определены субъекты ИИ, принимающие на себя ответственность за воздействие СИИ на общество.