Более 67% заблокированных аккаунтов Anthropic использовали ИИ для кибератак

Согласно исследованию Anthropic, киберпреступники всё чаще используют искусственный интеллект для совершения атак. Анализ показал, что более 67% заблокированных аккаунтов использовали ИИ для создания вредоносного кода и других атакующих действий. В ходе исследования было проанализировано 832 аккаунта, из которых 560 использовали ИИ для киберугроз. Это указывает на рост использования ИИ в атаках, что делает их более сложными и опасными для защиты.

Исследование также показало, что ИИ используется не только на этапе подготовки атак, но и глубже в цикле атаки. Например, ИИ может использоваться для автоматического поиска уязвимостей, обхода защитных механизмов и даже для автоматического выполнения атак. Это значительно увеличивает риск для пользователей и организаций, так как атаки становятся более эффективными и трудными для обнаружения.

Согласно данным, риск кибератак с использованием ИИ вырос с 33% до 56% за последние годы. Это связано с тем, что ИИ позволяет менее опытным хакерам выполнять сложные атаки, которые раньше требовали значительных ресурсов и знаний. Например, группа, связанная с государством, использовала ИИ-модель, которая действовала автономно, что позволило ей обойти защитные меры и проникнуть в систему.

Anthropic также представила новые данные о том, как ИИ может быть использован для автоматизации атак. В ходе исследования было обнаружено более 1000 уязвимостей, которые могут быть использованы для атак с помощью ИИ. Это подчеркивает необходимость усиления мер защиты и разработки новых методов противодействия киберугрозам, использующим ИИ.