к 2034 году наибольший рост страховых рисков от применения ИИ придется на здравоохранение
Swiss Re оценивала рост уровня страховых рисков, опираясь на текущую конъюктуру рынка и данные о нежелательных явлениях от ИИ в различных отраслях экономики.
На данный момент первое место по показателю, согласно отчету, занимает ИТ-отрасль, а здравоохранение и фармотрасль идут на третьем месте. Картина поменяется, как считает страховщик, к 2034 году, когда медицина займет первое место, затем расположится транспорт, энергетика и только затем ИТ.
Такой вывод был сделан на основе высокой вероятности инцидентов, учитывая объем инвестиций в этой сфере и в целом широкие возможности использования ИИ во всех цепочках оказания медпомощи, а также потенциально серьезного урона для пациентов из-за применения технологий.
В приближении до конкретных примеров, аналитики считают потенциально рискованным внедрение ИИ для защиты персональных данных, также использование самообучающихся нейросетей может привести к необъективности выводов и ограниченности данных, поскольку ИИ опирается на уже потенциально несовершенную, сформированную человеком базу знаний. Кроме того, даже малейший сбой в работе ИИ-решений в клинической практике будет иметь значительные последствия для пациентов.
«ИИ давно требует системного подхода к оценке рисков, – комментирует результаты отчета Алексей Огарков, эксперт по коммерческой эффективности фармкомпаний, экс-руководитель отделов эффективности продаж и бизнес-аналитики в AstraZeneca и Bayer. – Самая большая проблема, связанная с ИИ, заключается в его быстром развитии, которое опережает адаптацию регуляторных процессов и законодательства. Именно поэтому некоторые исследователи даже просили приостановить разработки в этой области».
По данным эксперта, особенно проблема будет заметна в сфере генеративного ИИ и глубокого обучения: «Не исключены проблемы генерации неверной информации (иногда называют галлюцинациями). Также существует риск переобучения нейронных сетей – когда сеть теряет способность к обобщению, то есть адаптации к новым данным». В качестве примера эффективного применения ИИ в медицине и фарме Огарков называет Classical Machine Learning и Big Data Analytics. Данные технологии помогли при создании обучающих программ для врачей через анализ разговоров с пациентами.
В 2023 году журнал The Lancet Digital Health опубликовал результаты масштабного исследования, посвященного влиянию дигитализации на мировую медицину. Международная группа ученых пришла к выводу, что благодаря ИИ и другим технологиям врачам стало гораздо проще принимать адекватные клинические решения, однако выяснилось, что цифровизация и участие нейросетей не снижают косвенные и прямые затраты на медицину.
