Минздрав утвердил Кодекс этики применения ИИ в сфере охраны здоровья
Кодекс, который состоит из четырех глав, был разработан при участии главных внештатных специалистов в декабре 2024 года. Он должен применяться «на всех этапах жизненного цикла системы искусственного интеллекта (СИИ), включая этапы планирования, проектирования, построения модели, апробации, верификации и валидации, экспертизы, развертывания, эксплуатации и мониторинга с учетом обязательного определения критериев вывода из эксплуатации». Его основными задачами являются определение прав и обязанностей субъектов ИИ, а также механизмов регулирования применения Кодекса.
Под субъектами ИИ понимаются физические и юридические лица – пациенты; медорганизации всех форм собственности; образовательные учреждения; органы управления здравоохранением; компании-разработчики, производители; уполномоченные представители производителей; операторы и владельцы ИИ; некоммерческие организации (НКО), профессиональные сообщества и другие.
В права и обязанности физлиц входят право на защиту персональных данных, своих прав и поддержку со стороны профсообществ и государственных органов в случае возникновения этических конфликтов или выявления нарушений, доступ к достоверной информации о СИИ и их влиянии на здоровье и общество, обязанность соблюдать рекомендованные меры по обеспечению конфиденциальности и безопасности персональных данных и другие пункты.
Юридические лица должны иметь право на доступ к информации о характеристиках, возможностях и ограничениях СИИ, осуществлять сотрудничество с международными организациями и научными центрами, а также быть обязаны обеспечивать конфиденциальность и безопасность персональных данных, учитывать и защищать права всех физических лиц, обеспечивать безопасность и прозрачность разработки системы, соблюдать требования и рекомендации законодательства, соблюдать принципы честности и объективности.
В тематическом документе отмечается, что субъекты СИИ должны обеспечивать контроль над системой, которая, в свою очередь, обязана позволять субъектам проверять и/или санкционировать решения, отказаться от автоматических решений и изменять предложенные решения.
Для повышения уровня защищенности пользователя и доверия к СИИ разработчики (производители) должны обеспечивать доступность информации о применяемых в СИИ алгоритмах работы ИИ. Данные пациентов должны быть конфиденциальны и безопасны на всех этапах жизненного цикла СИИ. Обеспечивать это обязаны субъекты СИИ. Применение системы не должно приводить к стигматизации и дискриминации субъектов СИИ из-за их состояния здоровья, пола, возраста, национальности или иных характеристик. Все субъекты СИИ должны иметь равный доступ к системе с учетом целей и задач.
«Проведение этической экспертизы и апробации СИИ определены законодательством Российской Федерации», – прописано в Кодексе.
Применение систем в сфере здравоохранения будут подотчетными и контролируемыми. Для каждого из этапов жизненного цикла СИИ должны быть определены субъекты ИИ, принимающие на себя ответственность за воздействие СИИ на общество.
Кодекс, который состоит из четырех глав, был разработан при участии главных внештатных специалистов в декабре 2024 года. Он должен применяться «на всех этапах жизненного цикла системы искусственного интеллекта (СИИ), включая этапы планирования, проектирования, построения модели, апробации, верификации и валидации, экспертизы, развертывания, эксплуатации и мониторинга с учетом обязательного определения критериев вывода из эксплуатации». Его основными задачами являются определение прав и обязанностей субъектов ИИ, а также механизмов регулирования применения Кодекса.
Под субъектами ИИ понимаются физические и юридические лица – пациенты; медорганизации всех форм собственности; образовательные учреждения; органы управления здравоохранением; компании-разработчики, производители; уполномоченные представители производителей; операторы и владельцы ИИ; некоммерческие организации (НКО), профессиональные сообщества и другие.
В права и обязанности физлиц входят право на защиту персональных данных, своих прав и поддержку со стороны профсообществ и государственных органов в случае возникновения этических конфликтов или выявления нарушений, доступ к достоверной информации о СИИ и их влиянии на здоровье и общество, обязанность соблюдать рекомендованные меры по обеспечению конфиденциальности и безопасности персональных данных и другие пункты.
Юридические лица должны иметь право на доступ к информации о характеристиках, возможностях и ограничениях СИИ, осуществлять сотрудничество с международными организациями и научными центрами, а также быть обязаны обеспечивать конфиденциальность и безопасность персональных данных, учитывать и защищать права всех физических лиц, обеспечивать безопасность и прозрачность разработки системы, соблюдать требования и рекомендации законодательства, соблюдать принципы честности и объективности.
В тематическом документе отмечается, что субъекты СИИ должны обеспечивать контроль над системой, которая, в свою очередь, обязана позволять субъектам проверять и/или санкционировать решения, отказаться от автоматических решений и изменять предложенные решения.
Для повышения уровня защищенности пользователя и доверия к СИИ разработчики (производители) должны обеспечивать доступность информации о применяемых в СИИ алгоритмах работы ИИ. Данные пациентов должны быть конфиденциальны и безопасны на всех этапах жизненного цикла СИИ. Обеспечивать это обязаны субъекты СИИ. Применение системы не должно приводить к стигматизации и дискриминации субъектов СИИ из-за их состояния здоровья, пола, возраста, национальности или иных характеристик. Все субъекты СИИ должны иметь равный доступ к системе с учетом целей и задач.
«Проведение этической экспертизы и апробации СИИ определены законодательством Российской Федерации», – прописано в Кодексе.
Применение систем в сфере здравоохранения будут подотчетными и контролируемыми. Для каждого из этапов жизненного цикла СИИ должны быть определены субъекты ИИ, принимающие на себя ответственность за воздействие СИИ на общество.
