The Lancet: включение несуществующих источников в медицинские статьи участилось в 12 раз за три года

Анализ охватил 2,47 млн биомедицинских публикаций, размещенных в открытом архиве PubMed Central с января 2023 года по февраль 2026-го. Авторы проверили более 125,6 млн библиографических ссылок, из которых 97,1 млн содержали идентификаторы PubMed (PMID) и были проверены автоматически. Для аудита также была разработана система верификации ссылок, сопоставлявшая указанные в статьях источники с информацией из баз данных. Дополнительно применялась фильтрация с использованием языковой модели Claude 3.5 Haiku, которая позволяла отделять реальные ошибки оформления от ссылок на несуществующие публикации.

По итогам проверки специалисты выявили 4 046 сфабрикованных ссылок в 2 810 статьях. Если в 2023 году хотя бы один такой источник встречался примерно в одной статье из 2 828, то к 2025 году показатель вырос до одной статьи из 458. В первые семь недель 2026 года подобные ссылки содержались уже в одной публикации из 277.

Авторы работы отметили, что большинство ссылок на несуществующие источники выглядели правдоподобно: были оформлены по академическим стандартам, содержали имена реальных ученых и соответствовали тематике публикаций. Исследователи пришли к выводу, что резкое учащение случаев использования таких источников может быть связано с массовым распространением ИИ-систем, начавшимся в 2023-2024 годах.

Отдельное внимание ученые уделили рискам для доказательной медицины. По их данным, статьи с потенциально фиктивными ссылками уже используются в систематических обзорах и материалах для клинических рекомендаций. В то же время на момент проведения аудита 98,4% публикаций, содержащих сфабрикованные ссылки, не подвергались наложению санкций со стороны издателей.

Авторы работы предлагают внедрить автоматическую проверку ссылок на этапе подачи рукописей, добавить метаданные о надежности ссылочного аппарата в базы научных публикаций, а также проводить ретроспективный аудит уже опубликованных материалов.

В мае 2026 года группа ученых разработала рекомендации по использованию генеративного ИИ при подготовке медицинских научных публикаций. Основой документа стал анализ действующих правил 15 крупнейших научных издательств и журналов, включая Elsevier, Springer Nature, JAMA, The Lancet и BMJ. Так, ИИ допускается для языкового редактирования, подготовки введения, обсуждения результатов и улучшения читаемости текста, однако запрещается использовать генеративные модели для создания или изменения первичных научных данных, статистических результатов и экспериментальных изображений. Исследователи отдельно подчеркнули, что все факты, выводы и ссылки должны быть проверены человеком из-за риска «галлюцинаций» и появления несуществующих публикаций.