Ученые обнаружили способ замедлить ИИ-модели через логические хитрости
Специалисты из Чжэцзянского университета и Alibaba разработали метод, позволяющий дестабилизировать работы ИИ-систем. Их подход основан на создании искусственных сложностей, которые заставляют модели тратить лишнее время на обработку запросов.
Угроза для искусственного интеллекта: как логические ловушки могут парализовать системы
На конференции ICML 2026 в Сеуле исследователи представили новую форму атаки на ИИ-модели. Цель заключается не в краже данных, а в искусственном увеличении времени обработки запросов. Это делает системы неэффективными, превращая их в «подводные камни» для пользователей.
Как работает метод
Рассуждающие модели, в отличие от традиционных LLM, разбивают задачи на этапы. Их применяют в системах, требующих анализа с несколькими шагами. Однако при работе с неполной информацией они склонны к чрезмерному обдумыванию, генерируя длинные цепочки рассуждений.
| Метод атаки | Описание |
|---|---|
| Генетический алгоритм | Перемешивает условия задач, удаляет ключевые детали, добавляет лишние |
| Отбор вариантов | Выбирает запросы, вызывающие максимальную длину ответа |
На тесте MATH длина рассуждений выросла в 26 раз. Уязвимыми оказались крупные модели, включая DeepSeek-R1, Qwen3-Thinking, GPT-o3 и Gemini 2.5 Flash. Стоит отметить, что атаки против одной модели оказались эффективны и для других систем, что снижает затраты на подготовку атак.
Риски для децентрализованных технологий
Рассуждающие модели активно используются в децентрализованных системах (DeFi), где ИИ-ассистенты управляют реальными активами. Сбой в логике может привести к уязвимостям в финансовых протоколах. В феврале 2025 года эксперты выявили 3 типа аномалий:
| Паттерн | Описание |
|---|---|
| Паралич анализа | Модель продолжает обдумывать вместо выполнения задачи |
| Непредсказуемое поведение | Попытка выполнить несколько действий одновременно после ошибки |
| Преждевременное завершение | Прекращение задачи без проверки результата |
Исследователи подчеркивают, что проблема существует, и её нельзя игнорировать. Как отметил один из авторов, Вэй Цао: «Нам важно показать, что такие атаки возможны даже при минимальных ресурсах».
Перспективы и вызовы
Развитие ИИ-моделей всё больше зависит от доступности вычислительных мощностей. Анализ 2026 года указывает на рост зависимости крупных компаний вроде OpenAI и Anthropic от регуляторных решений и финансирования дата-центров. Это подчеркивает необходимость повышения устойчивости систем к подобным атакам.