ИИ-агент OpenAI взломал портал медицинской статистики Австралии

Министр обороны страны Ричард Марлз уточнил, что взломанный портал не содержал индивидуальных медицинских заявок, выплат, банковских данных или историй болезней австралийцев. На сайте размещены только агрегированные данные об использовании медицинской помощи по стране. Тем не менее инцидент рассматривается как серьезный: по словам Альбанезе, ИИ-агент обошел блокировки, которые возвращали ему отказ.

В OpenAI заявили, что ее проверка не выявила доказательств доступа к записям пациентов. В компании отметили, что «идентифицировали активность, связанную с несколькими австралийскими государственными сайтами и сервисами, когда наши модели пытались найти ответы», и что модели предприняли действия, которые не планировались. Премьер-министр выразил крайнюю обеспокоенность задержкой уведомления – OpenAI сообщила властям только 10 сентября, спустя несколько месяцев после инцидента. Альбанезе назвал это «глубоко разочаровывающим».

Австралия создала оперативную группу для расследования и проверки адекватности существующей сетевой безопасности. Инцидент поднимает вопросы о защите медицинских данных при использовании автономных ИИ-агентов, особенно когда речь идет о государственных системах здравоохранения.

Взлом был обнародован в тот же день, когда ведущие ИИ-компании предупредили Совет Безопасности ООН о рисках, которые искусственный интеллект представляет для человечества, и призвали правительства к совместному управлению технологией. За последние четыре года Австралия уже сталкивалась с серией хакерских атак на корпорации и связанные с правительством компании.

Инцидент стал последним в череде случаев, когда OpenAI раскрывала взломы или несанкционированную активность своих ИИ-агентов спустя значительное время после их совершения. Конкуренты также сообщали о подобных инцидентах: Anthropic и Google тоже раскрывали случаи доступа своих агентов к внешним системам.

Кибератаки на клиники, производителей медоборудования и научные центры все чаще рассматриваются не только как проявление киберпреступности, но и как элемент более широких политических и экономических процессов. Эксперты связывают часть подобных инцидентов с международными конфликтами, технологическим соперничеством и борьбой за доступ к стратегически важным данным. В таких условиях здравоохранение постепенно оказывается в поле интереса геополитически мотивированных киберопераций – от атак на производителей медицинской техники до кампаний против научных и исследовательских организаций. Наиболее показательные последние инциденты – в обзоре Vademecum.