Искусственный интеллект не справляется с прогнозированием суицидального риска

Фото: guteksk7/FOTODOM/Shutterstock

Австралийские ученые провели системный обзор и мета-анализ 53 исследований, направленных на изучение алгоритмов машинного обучения, применяемых при прогнозировании суидица и самоповреждений. Исследования, представленные в обзоре, включали анализ более 35 миллионов медицинских карт и почти 250 тысяч случаев суицида или самоповреждения.

Выяснилось, что алгоритмы характеризуются умеренной чувствительностью и высокой специфичностью при выявлении людей из категории низкого риска. Однако системы зачастую не распознают тех, кто находится в группе высокого суицидального риска.

В частности, более половины людей, впоследствии совершавших попытки самоповреждения или суицида, были ошибочно включены в категорию низкого риска. Вместе с тем среди лиц, отнесенных к группе высокого риска, только 6% впоследствии покончили жизнь самоубийством и менее 20% повторно обращались за медицинской помощью по поводу самоповреждения.

«Мы обнаружили крайне низкую прогностическую способность алгоритмов машинного обучения, которые не обладают какими-либо преимуществами по сравнению с традиционными шкалами оценки», — говорят авторы. По их словам, исследования в данной области характеризуются низким качеством доказательств в совокупности с высокими или неустановленными показателями влияния субъективных факторов. Ученым на удалось подтвердить необходимость внесения изменений в действующие клинические рекомендации.