ИИ-ассистент Anthropic стал орудием масштабной кибератаки на мексиканские госструктуры

Злоумышленник похитил 150 гигабайт конфиденциальных данных, включая налоговые записи и учетные данные чиновников.

Языковая модель Claude, разработанная компанией Anthropic, оказалась в центре серьезного инцидента в сфере информационной безопасности. Согласно расследованию Bloomberg, неизвестный киберпреступник задействовал этого ИИ-ассистента для целенаправленных атак на правительственные системы Мексики. Итогом стала утечка 150 ГБ закрытой государственной информации: от персональных данных налогоплательщиков до логинов и паролей госслужащих.

Компания Gambit Security, занимающаяся вопросами киберзащиты, восстановила картину произошедшего. Злоумышленник применял Claude для обнаружения слабых мест в правительственной IT-инфраструктуре, а также для создания эксплойтов — программных скриптов, позволяющих воспользоваться найденными уязвимостями. Помимо этого, ИИ помогал автоматизировать процесс извлечения данных из взломанных систем. Вся кампания длилась примерно месяц, начавшись в декабре.

Ключевую роль сыграл джейлбрейк: злоумышленник подобрал такие формулировки запросов, которые позволили обойти встроенные защитные механизмы чат-бота. Изначально Claude отклонял вредоносные команды, однако после серии манипулятивных промптов всё же начал выдавать нужную информацию.

Кёртис Симпсон, директор по стратегии Gambit Security, описал масштаб проблемы так: за время атаки ИИ-модель подготовила тысячи детализированных отчетов, содержавших готовые к исполнению планы: от указания конкретных внутренних целей для следующей атаки до перечня учетных записей, которыми следует воспользоваться. По сути, оператор получал пошаговую инструкцию.

В Anthropic заявили, что провели расследование, остановили вредоносную активность и заблокировали все связанные с инцидентом аккаунты. Кроме того, представитель компании подчеркнул, что актуальная версия модели — Claude Opus 4.6 — уже оснащена механизмами, призванными противодействовать подобным сценариям использования.

Параллельно выяснилось, что тот же хакер прибегал к помощи ChatGPT от OpenAI. Второй чат-бот использовался для получения сведений о навигации по внутренним сетям, определения необходимых для доступа учетных данных и способов обхода систем обнаружения вторжений. В OpenAI утверждают, что зафиксировали попытки нарушения пользовательского соглашения и что их инструменты отказались выполнять запрошенные действия.

Установить личность атакующего пока не удалось. Формальной атрибуции — то есть привязки к какой-либо известной хакерской группе — нет, хотя аналитики Gambit Security не исключают участия иностранного государства. Цели, которые злоумышленник преследует в отношении украденного массива данных, также остаются неизвестными.

Реакция мексиканских властей оказалась противоречивой. Национальное цифровое агентство страны от комментариев по существу воздержалось, ограничившись общим заявлением о приоритетности кибербезопасности. Правительство штата Халиско отвергло причастность к инциденту, заявив, что атаке подверглись исключительно федеральные системы. Национальный избирательный институт Мексики также сообщил, что за последние месяцы не выявлял случаев компрометации своих ресурсов. Впрочем, важно учесть: в ходе своего исследования Gambit Security обнаружила не менее 20 уязвимостей — и Мексика, по всей видимости, не заинтересована в том, чтобы эта информация получила широкую огласку.

Инцидент далеко не первый в своем роде. В прошлом году китайские хакеры уже использовали Claude для попыток проникновения в десятки систем по всему миру, и часть этих попыток увенчалась успехом. На этом фоне особую тревогу вызывает недавнее решение Anthropic отказаться от своего давнего публичного обещания не обучать ИИ-системы без предварительного подтверждения надежности их защитных механизмов. По мере наращивания возможностей подобных инструментов прогнозировать связанные с ними риски становится всё сложнее.