Искусственный интеллект стал ключевым инструментом как для киберзащитников, так и для злоумышленников. Однако защитные механизмы (guardrails), внедряемые разработчиками ИИ-моделей, создают серьёзные препятствия для легитимных исследователей безопасности. Эта ситуация приводит к конфликту между необходимостью защиты от злоупотреблений и потребностями специалистов по кибербезопасности.
Кратко: ключевые факты
- В июне 2026 года модели Mythos и Fable от Anthropic попали под экспортный контроль США из-за опасений их использования в кибератаках.
- OpenAI и Anthropic предлагают программы для проверенных исследователей, но процесс верификации занимает время и ограничивает доступ.
- 57% специалистов по offensive security сталкиваются с проблемами при использовании ИИ из-за защитных механизмов.
- Open-source модели без guardrails становятся популярной альтернативой среди исследователей.
- Эксперты предупреждают, что ограничения могут замедлить обнаружение критических уязвимостей на 30-40%.
Что произошло: новые ограничения ИИ-моделей
В июне 2026 года правительство США ввело экспортный контроль на модели Mythos и Fable от Anthropic. Это решение было частично связано с сообщениями о возможном обходе защитных механизмов, предназначенных для предотвращения использования ИИ в кибератаках.
Текущий статус ограничений
Хотя ограничения на Fable 5 были сняты 1 июля 2026 года, доступ к Mythos 5 остаётся под контролем. Эта модель теперь доступна только проверенным организациям в США в рамках правительственной программы оценки.
Последствия для международных исследований
Экспортные ограничения создали дополнительные сложности для международных команд исследователей безопасности. Компании из стран, не входящих в Five Eyes, теперь вынуждены либо искать обходные пути, либо полностью отказываться от использования передовых моделей в своей работе.
Почему это важно для кибербезопасности
ИИ-модели стали незаменимым инструментом для анализа кода, поиска уязвимостей и разработки защитных механизмов. Однако те же самые функции могут использоваться и для создания эксплойтов.
Дилемма двойного назначения
Крис Энли из NCC Group сравнивает ИИ с молотком: «Это инструмент для строительства, но также и оружие. Вы не можете отделить одно от другого». Запрос на исправление уязвимости в коде технически идентичен запросу на создание эксплойта для этой уязвимости.
Примеры реальных кейсов
В ходе тестирования одной из финансовых платформ исследователи обнаружили, что запрос к ИИ на анализ SQL-инъекции автоматически блокировался системой, хотя именно такой анализ необходим для разработки защитных мер. Это привело к задержке исправления уязвимости на 3 недели.
Мнение экспертов: за и против ограничений
Сообщество исследователей безопасности разделилось в оценке текущей ситуации. Марк Дауд критикует подход ИИ-компаний: «Не комфортно, что случайные крупные компании принимают произвольные решения о том, что безопасно в сфере безопасности».
Альтернативные подходы
Джузеппе Кали использует ИИ только для обратного проектирования, оставляя обнаружение уязвимостей за собой: «Я слишком ревниво отношусь к своим багам, чтобы позволить моделям играть в эту игру за меня».
Технические ограничения guardrails
Современные системы защиты работают на основе ключевых слов и контекстного анализа, что приводит к ложным срабатываниям. Например, запросы, содержащие термины «exploit» или «vulnerability», часто блокируются автоматически, даже если они исходят от аккредитованных исследователей.
Как исследователи обходят ограничения
Специалисты по кибербезопасности разработали несколько стратегий работы в условиях ограничений:
- Переход на open-source модели без guardrails
- Локальное развёртывание моделей для конфиденциальных задач
- Разделение процессов: ИИ для анализа, человек — для обнаружения уязвимостей
- Использование метафор и эвфемизмов в запросах
- Постепенное «воспитание» моделей через серию уточняющих вопросов
Сравнение подходов
| Метод | Преимущества | Недостатки |
|---|---|---|
| Open-source модели | Полная свобода действий | Требует мощного железа |
| Программы для исследователей | Доступ к передовым моделям | Бюрократия и задержки |
| Обход guardrails | Мгновенное решение | Риск блокировки аккаунта |
Риски текущей ситуации
Жёсткие ограничения создают несколько серьёзных проблем для индустрии кибербезопасности:
- Замедление темпов обнаружения критических уязвимостей
- Уход исследователей в тень из-за бюрократических барьеров
- Рост популярности неконтролируемых open-source решений
- Снижение конкурентоспособности легальных исследователей
- Риск утечки знаний в страны с менее строгими регуляциями
Статистика по отраслям
Согласно опросу Black Hat 2026, 68% специалистов по безопасности считают, что текущие ограничения негативно влияют на их работу. При этом 42% признались, что уже используют китайские open-source альтернативы из-за проблем с доступом к коммерческим моделям.
Что делать специалистам по кибербезопасности
Эксперты предлагают несколько практических шагов для работы в новых условиях:
- Изучать альтернативные open-source ИИ-инструменты
- Участвовать в программах проверенных исследователей
- Разрабатывать внутренние стандарты работы с ИИ
- Инвестировать в локальные вычислительные мощности
- Создавать собственные датасеты для обучения специализированных моделей
- Участвовать в отраслевых обсуждениях регуляций
Рекомендуемые инструменты
Для локального развёртывания эксперты рекомендуют рассматривать модели типа GPT-J, BLOOM или GLM. Они предлагают разумный баланс между производительностью и требованиями к ресурсам, особенно при использовании квантования.
Вопросы и ответы
Какие ИИ-модели попали под ограничения в 2026 году?
Под экспортный контроль США попали модели Mythos и Fable от Anthropic. Ограничения на Fable 5 были сняты, но Mythos 5 остаётся доступной только проверенным организациям.
Почему исследователи кибербезопасности против guardrails в ИИ?
Защитные механизмы часто блокируют легитимные запросы, связанные с анализом уязвимостей. Это замедляет работу исследователей и вынуждает их искать обходные пути.
Как специалисты по кибербезопасности используют ИИ?
Основные применения: обратное проектирование кода, анализ уязвимостей, автоматизация рутинных задач и создание инструментов для тестирования безопасности.
Какие альтернативы предлагают эксперты вместо жестких ограничений?
Предложения включают более гибкие программы для проверенных исследователей, улучшенные механизмы аудита и развитие локальных ИИ-решений для конфиденциальных задач.
Как guardrails влияют на скорость обнаружения уязвимостей?
По оценкам экспертов, текущие ограничения увеличивают время анализа на 25-35% для стандартных уязвимостей и до 50% для сложных кейсов, требующих глубокого исследования.
Каковы юридические риски использования обходных методов?
Юристы предупреждают, что попытки обхода guardrails могут нарушать условия использования платформ и в крайних случаях привести к судебным искам, особенно при работе с коммерческими моделями.