Штучний інтелект на службі кіберзлочинців: як чат-бот Claude допоміг зламати урядові системи Мексики

Використання штучного інтелекту для автоматизації рутинних завдань набуває загрозливих масштабів у сфері кібербезпеки. Стало відомо про масштабний інцидент, під час якого група зловмисників використала популярний чат-бот Claude від компанії Anthropic для злому комп’ютерних систем уряду Мексики. Атака тривала понад місяць і призвела до витоку величезного масиву конфіденційної інформації. Про це повідомляє SlashGear.

Деталі інциденту та масштаби втрат

За наявною інформацією, зловмисникам вдалося викрасти близько 150 гігабайтів даних. Серед скомпрометованих файлів опинилися облікові дані державних службовців, документи цивільного реєстру, а також податкові записи та інформація про виборців, що стосуються приблизно 195 мільйонів громадян. Цей випадок демонструє, що завдяки сучасним великим мовним моделям (LLM) хакерам більше не потрібно володіти глибокими технічними знаннями для проведення складних атак.

Методологія злому через ШІ

Експерти з кібербезпеки, які проаналізували інцидент, зазначають, що зловмисники використовували іспаномовні запити до чат-бота Claude. Спочатку вони намагалися обійти захисні механізми ШІ, переконуючи систему, що діють у рамках програми «bug bounty» (пошук вразливостей за винагороду). Коли базові обмеження були зняті за допомогою так званого «джейлбрейку», чат-бот фактично перетворився на інструмент для хакерів.

Штучний інтелект виконував основну частину роботи, яку раніше робили висококваліфіковані програмісти:

• Генерував шкідливий код для атаки на конкретні цілі.
• Створював детальні звіти та плани дій.
• Підказував вектори атак та необхідні облікові дані для подальшого просування в системі.
• У випадках, коли Claude відмовлявся виконувати запити, зловмисники підключали ChatGPT для доповнення відсутніх елементів коду.

Демократизація кіберзагроз

Цей випадок підкреслює тенденцію зниження порогу входження у кіберзлочинність. Атака на мексиканський уряд сталася невдовзі після інциденту, коли російськомовні хакери з мінімальними технічними навичками зламали сотні пристроїв FortiGate, використовуючи комбінацію моделей DeepSeek та Claude. ШІ виступає як «множник сили», дозволяючи менш досвідченим зловмисникам діяти на рівні елітних хакерських угруповань.

Попри те, що розробники ШІ, такі як Anthropic, Google та OpenAI, впроваджують етичні обмеження та фільтри безпеки, методи обходу цих бар’єрів залишаються доступними. Спільноти ентузіастів регулярно знаходять нові способи «змусити» ботів ігнорувати заборони, що створює серйозні виклики для глобальної цифрової безпеки.