Можем ли мы доверять ИИ, чтобы не допустить дальнейшего неравенства в отношении здоровья на расовой почве?

Считается, что технологии обработки данных легко справляются с проблемами в сфере здравоохранения, и их развитие не контролируется. Но есть ли риск, что это может усугубить неравенство, спрашивает журналистка Поппи Нур в BMJ сегодня?

Системы искусственного интеллекта (ИИ) моделируют человеческий интеллект путем обучения, рассуждения и самокоррекции. Технология является многообещающей: она может сократить время ожидания пациентов, улучшить диагностику и снизить нагрузку на NHS — преимущества, которые применяются во всех областях, независимо от расы.

Но существует растущая обеспокоенность тем, что, если данные, используемые для обучения ИИ, не являются этнически репрезентативными, технология может не работать так же хорошо для некоторых групп.

Например, изображения, используемые для обучения алгоритмов обнаружения меланомы, являются преимущественно, если не всеми, изображениями кавказской кожи. В действительности это может быть разницей между ИИ, который работает так же, как и наиболее подготовленными клиницистами для белого человека, но не распознает раковые родинки на черная персона,

Более того, если компании не обязаны показывать эти данные, люди могут продолжать думать, что ИИ актуален для всех, когда это не так.

Профессор Адевул Адамсон из Техасского университета говорит, что для успеха ИИ крайне важно, чтобы продукты работали на всех, независимо от цвет кожии что там, где их нет, предоставляется предупреждение.

Элеонора Харвич из аналитического центра Reform предупреждает, что предвзятость и дискриминацию трудно регулировать, и предлагает, чтобы рыночные стимулы могли предоставить более репрезентативные данные.

Но другие утверждают, что рыночные стимулы не могут преодолеть тот факт, что сотни лет медицинских исследований отсутствуют для людей из этнических меньшинств.

По словам Адамсона, стоимость не исправить это может быть огромным. Он предупреждает, что ИИ может неправильно диагностировать людей, недооценивать людей и потенциально увеличивать различия в сфере здравоохранения.

По этой причине он говорит, что мы должны помнить, что ИИ может быть удивительным инструментом, но он не может заменить сложное человеческое мышление, необходимое для принятия этических решений.