ВОЗ представила принципы регулирования технологий ИИ в здравоохранении

В ВОЗ отмечают, что ИИ смогут изменить ситуацию в сфере здравоохранения благодаря быстрому увеличению массивов медицинских данных и развитию аналитических методов на основе машинного обучения. В частности, искусственный интеллект должен способствовать улучшению показателей здоровья населения за счет повышения качества клинических испытаний, более точного выбора методов диагностики и лечения заболеваний, а также дополнения знаний и навыков медработников.

«Вместе с тем процесс освоения технологий искусственного интеллекта, в том числе больших языковых моделей, происходит стремительно, иногда без досконального понимания механизмов их работы, что может приносить как пользу, так и вред конечным пользователям, включая медицинских специалистов и пациентов. При работе с медицинскими данными системы ИИ могут задействовать чувствительную личную информацию, конфиденциальность и целостность которой должна быть защищена при помощи надежных правовых и нормативных механизмов», – читают в ВОЗ.

Как отметил генеральный директор организации Тедрос Адханом Гебрейесус, созданное ВОЗ руководство поможет странам эффективно регулировать технологии ИИ, чтобы реализовать их потенциал, например, в лечении рака и диагностике туберкулеза, а также свести к минимуму связанные с этим риски.

ВОЗ предлагает шесть направлений регулирования технологий ИИ в сфере здравоохранения. Во-первых, необходимо вести соответствующую документацию – фиксировать все циклы решений и отслеживать процессы разработки. Во-вторых, следует комплексно решать вопросы, которые относятся к целевому назначению технологий, непрерывному обучению, а также вмешательству человека и угроз кибербезопасности. Для этого разработчики документа предлагают использовать более простые модели. Этому может поспособствовать четкое определение целевого назначения технологий ИИ.

Во избежание распространения систематических погрешностей и ошибок предлагается создать четкий порядок контроля качества данных, в том числе предусматривающий тщательную проверку систем перед их выпуском. Чтобы решать проблемы с конфиденциальностью и защитой данных, следует четко определить действие юрисдикции ряда режимов – Общего регламента по защите данных (GDPR) в Европе и Закона о мобильности и подотчетности медицинского страхования (HIPAA) в США. Экспертам предлагают продумать требования к получению согласий на обработку персональных данных.

ВОЗ также настаивает на укреплении сотрудничества между регулирующими органами, пациентами, медиками и представителями промышленности, чтобы обеспечить соответствие продуктов ИИ нормативным требованиям на протяжении их жизненного цикла.

«Системы ИИ имеют сложный характер, и их функционирование зависит не только от реализованного в них кода, но и от данных, которые используются в ходе обучения таких систем и накапливаются, например, в процессе работы медицинских учреждений и взаимодействия с пользователями. Чем качественнее регулирование, тем меньше риск того, что системы ИИ будут амплифицировать отклонения, присутствующие в тренировочных данных», –уточняется в документе.

Эксперты ВОЗ указали на то, что в моделях ИИ бывает трудно обеспечить точную репрезентацию демографического состава населения – это приводит к систематическим погрешностям, неточностям и даже непригодности моделей. Чтобы уменьшить подобные риски можно применять нормативные требования о раскрытии характеристик субъектов данных и целенаправленно корректировать их для обеспечения репрезентативности.

Ранее о необходимости регулирования в сфере ИИ заявили главы нескольких крупных транснациональных технологических компаний – Билл Гейтс, Илон Маск и Марк Цукерберг. Маск отметил, что последствия неправильного использования искусственного интеллекта очень серьезны: «Есть некоторая вероятность – выше нуля – что ИИ убьет нас всех. Я думаю, что это низкая сумма, но некоторый шанс есть». Билл Гейтс при этом указал на высокий потенциал ИИ.

В феврале 2023 года сервис по поиску работы SuperJob опросил 1,6 тысячи россиян с целью выяснить их отношение к применению ИИ в медицине. Так, в текущем году по сравнению с 2021 годом число респондентов, доверяющих ИИ, возросло на 9 процентных пунктов (до 51%). Хотя больше трети респондентов (38%) считают, что во время лечения пациенту необходимо не просто назначить нужные препараты, но и настроить на позитив – сделать это может только «живой доктор», поэтому положиться на ИИ в медицине нельзя. К помощи ИИ при постановке диагноза и назначении лечения не хотят прибегать 82% респондентов, из них 39% относятся к технологии крайне негативно.

В ВОЗ отмечают, что ИИ смогут изменить ситуацию в сфере здравоохранения благодаря быстрому увеличению массивов медицинских данных и развитию аналитических методов на основе машинного обучения. В частности, искусственный интеллект должен способствовать улучшению показателей здоровья населения за счет повышения качества клинических испытаний, более точного выбора методов диагностики и лечения заболеваний, а также дополнения знаний и навыков медработников.

«Вместе с тем процесс освоения технологий искусственного интеллекта, в том числе больших языковых моделей, происходит стремительно, иногда без досконального понимания механизмов их работы, что может приносить как пользу, так и вред конечным пользователям, включая медицинских специалистов и пациентов. При работе с медицинскими данными системы ИИ могут задействовать чувствительную личную информацию, конфиденциальность и целостность которой должна быть защищена при помощи надежных правовых и нормативных механизмов», – читают в ВОЗ.

Как отметил генеральный директор организации Тедрос Адханом Гебрейесус, созданное ВОЗ руководство поможет странам эффективно регулировать технологии ИИ, чтобы реализовать их потенциал, например, в лечении рака и диагностике туберкулеза, а также свести к минимуму связанные с этим риски.

ВОЗ предлагает шесть направлений регулирования технологий ИИ в сфере здравоохранения. Во-первых, необходимо вести соответствующую документацию – фиксировать все циклы решений и отслеживать процессы разработки. Во-вторых, следует комплексно решать вопросы, которые относятся к целевому назначению технологий, непрерывному обучению, а также вмешательству человека и угроз кибербезопасности. Для этого разработчики документа предлагают использовать более простые модели. Этому может поспособствовать четкое определение целевого назначения технологий ИИ.

Во избежание распространения систематических погрешностей и ошибок предлагается создать четкий порядок контроля качества данных, в том числе предусматривающий тщательную проверку систем перед их выпуском. Чтобы решать проблемы с конфиденциальностью и защитой данных, следует четко определить действие юрисдикции ряда режимов – Общего регламента по защите данных (GDPR) в Европе и Закона о мобильности и подотчетности медицинского страхования (HIPAA) в США. Экспертам предлагают продумать требования к получению согласий на обработку персональных данных.

ВОЗ также настаивает на укреплении сотрудничества между регулирующими органами, пациентами, медиками и представителями промышленности, чтобы обеспечить соответствие продуктов ИИ нормативным требованиям на протяжении их жизненного цикла.

«Системы ИИ имеют сложный характер, и их функционирование зависит не только от реализованного в них кода, но и от данных, которые используются в ходе обучения таких систем и накапливаются, например, в процессе работы медицинских учреждений и взаимодействия с пользователями. Чем качественнее регулирование, тем меньше риск того, что системы ИИ будут амплифицировать отклонения, присутствующие в тренировочных данных», –уточняется в документе.

Эксперты ВОЗ указали на то, что в моделях ИИ бывает трудно обеспечить точную репрезентацию демографического состава населения – это приводит к систематическим погрешностям, неточностям и даже непригодности моделей. Чтобы уменьшить подобные риски можно применять нормативные требования о раскрытии характеристик субъектов данных и целенаправленно корректировать их для обеспечения репрезентативности.

Ранее о необходимости регулирования в сфере ИИ заявили главы нескольких крупных транснациональных технологических компаний – Билл Гейтс, Илон Маск и Марк Цукерберг. Маск отметил, что последствия неправильного использования искусственного интеллекта очень серьезны: «Есть некоторая вероятность – выше нуля – что ИИ убьет нас всех. Я думаю, что это низкая сумма, но некоторый шанс есть». Билл Гейтс при этом указал на высокий потенциал ИИ.

В феврале 2023 года сервис по поиску работы SuperJob опросил 1,6 тысячи россиян с целью выяснить их отношение к применению ИИ в медицине. Так, в текущем году по сравнению с 2021 годом число респондентов, доверяющих ИИ, возросло на 9 процентных пунктов (до 51%). Хотя больше трети респондентов (38%) считают, что во время лечения пациенту необходимо не просто назначить нужные препараты, но и настроить на позитив – сделать это может только «живой доктор», поэтому положиться на ИИ в медицине нельзя. К помощи ИИ при постановке диагноза и назначении лечения не хотят прибегать 82% респондентов, из них 39% относятся к технологии крайне негативно.