ИИ нашёл баг возрастом 27 лет. Что это значит для кибербезопасности
В OpenBSD — операционной системе, которую считают одной из самых защищённых в мире и которая лежит в основе брандмауэров и критической инфраструктуры по всему миру, — жил баг. Двадцать семь лет. Ни один аудит, ни один пентест, ни один исследователь безопасности его не нашёл. Затем языковая модель обнаружила его за несколько часов. Полностью автономно. Без какого-либо участия человека.
Это не гипотетический сценарий. Это произошло несколько недель назад в рамках проекта Project Glasswing — инициативы Anthropic по применению передовых моделей ИИ для проактивной защиты мирового программного обеспечения.
И это стоит обдумать внимательно.
Почему это важно именно сейчас
Уязвимости в программном обеспечении существовали всегда. Код пишут люди, люди ошибаются, ошибки накапливаются. Обычный пользователь этого не замечает — потому что где-то есть команда, которая тихо выпускает патчи. Но иногда одна ошибка в библиотеке, которую использует половина интернета, превращается в глобальную проблему.
Что изменилось сейчас: скорость и масштаб.
Раньше поиск уязвимостей был медленным, дорогим и требовал редкой экспертизы. Хороший специалист по безопасности может потратить день на анализ одного компонента. Если больших языковых моделей хватает для написания кода уровня лучших разработчиков в мире — а это уже реальность — они могут с той же эффективностью искать ошибки и строить эксплойты.
Окно между обнаружением уязвимости и её эксплуатацией сжалось. То, на что раньше уходили месяцы, сейчас занимает минуты.
Что нашла модель
За несколько недель работы Claude Mythos Preview — модель, специально не обученная для кибербезопасности, но ставшая в ней хорошей как побочный эффект от умения писать код — обнаружила тысячи zero-day уязвимостей в каждой крупной операционной системе и каждом крупном браузере.
Три примера, которые уже пропатчены:
OpenBSD, 27 лет. Уязвимость позволяла удалённо обрушить любую машину с этой ОС, просто подключившись к ней. Отправить несколько фрагментов данных — и сервер падает. Модель нашла это полностью автономно.
FFmpeg, 16 лет. FFmpeg используется в бесчисленном количестве приложений для работы с видео. Баг сидел в одной строке кода, которую автоматизированные инструменты тестирования проверяли пять миллионов раз — и никогда не поймали.
Linux kernel, цепочка уязвимостей. Модель самостоятельно нашла и связала в цепочку несколько уязвимостей ядра Linux, позволяющих обычному пользователю без прав администратора получить полный контроль над машиной.
Это не просто нахождение отдельных багов. Это способность выстраивать цепочки: три, четыре, пять уязвимостей, каждая из которых по отдельности незначительна, но в последовательности дающих сложный и опасный результат. Исследователь безопасности занимается этим целый день. Модель делает это автономно.
Симметричная угроза
Здесь важно честно обозначить проблему, которую авторы проекта сами не пытаются скрыть: те же возможности, которые позволяют находить и закрывать уязвимости, могут быть использованы для их поиска и эксплуатации.
Модель настолько мощная, что Anthropic не планирует делать её публично доступной. Claude Mythos Preview — это не следующая версия ассистента в чате. Это инструмент, который намеренно держат в ограниченном круге партнёров именно потому, что его возможности создают серьёзные риски при широком доступе.
Это честная позиция. И одновременно — трезвое признание: если эта модель существует, аналогичные возможности рано или поздно появятся у других. Вопрос не в том, случится ли это, а в том, кто окажется готов.
Именно поэтому логика проекта сводится к простой идее: нужно дать защитникам фору. Передать модель в руки тех, кто отвечает за критически важный код мира — раньше, чем аналогичные возможности окажутся у атакующих.
Project Glasswing: что это такое
Project Glasswing — партнёрская инициатива, в которой Anthropic работает с организациями, обеспечивающими работу критической инфраструктуры: AWS, Microsoft, Google, Cisco, CrowdStrike, JPMorganChase, Palo Alto Networks, Linux Foundation.
Суть: участники получают доступ к Claude Mythos Preview для поиска и устранения уязвимостей в своих фундаментальных системах — системах, которые составляют огромную долю общей поверхности кибератак в мире.
Антропик вкладывает $100 млн в виде кредитов на использование модели для участников проекта. Дополнительно — $2,5 млн в Alpha-Omega и OpenSSF через Linux Foundation и $1,5 млн в Apache Software Foundation, чтобы мейнтейнеры open source могли адаптироваться к этому изменению.
Это важная деталь. Большая часть кода, который лежит в основе интернета — операционные системы, веб-серверы, криптографические библиотеки — поддерживается небольшими командами или вообще одним человеком. У них нет security-команды. У них нет бюджета на пентесты. Они буквально не могут позволить себе тот уровень проверки, который сейчас становится необходимым.
ИИ-модели, способные проактивно находить уязвимости в масштабе, — это возможность изменить это уравнение. Впервые в истории безопасность высокого уровня может стать доступной не только крупным корпорациям.
Что это значит на практике
Несколько выводов, которые кажутся мне важными:
Старые подходы к защите систем больше недостаточны. Это не алармизм — это прямая цитата из заявления Cisco. Регулярные аудиты, сканеры уязвимостей, ручные пентесты раз в год — это инфраструктура прошлого. Скорость, с которой ИИ может находить уязвимости, требует соответствующей скорости в их устранении.
Открытый исходный код — главная точка риска и главная точка приложения усилий. Open source составляет большинство кода в современных системах. Его уязвимости — это уязвимости всех. Инвестиции в безопасность open source — это не благотворительность, это базовая гигиена для всей индустрии.
Стандарты раскрытия уязвимостей нуждаются в пересмотре. Традиционный процесс: нашёл уязвимость, сообщил мейнтейнеру, дал 90 дней на патч, опубликовал детали. Этот процесс не рассчитан на мир, где тысячи zero-day обнаруживаются за несколько недель. Anthropic обещает в течение 90 дней опубликовать выводы и рекомендации по пересмотру этих стандартов.
Разрыв между атакующими и защитниками будет расти — если не действовать активно. Если модели такого уровня будут доступны только атакующим сторонам, или если защитники не успеют перестроить свои процессы, преимущество сместится в неправильную сторону. Проект Glasswing — это попытка создать противовес заранее, до того как это стало кризисом.
Почему это не паника, но серьёзно
Программное обеспечение всегда было несовершенным. Уязвимости существовали, существуют и будут существовать. Разница в том, что инструменты для их поиска — с обеих сторон — становятся принципиально мощнее.
Хорошая новость: те же инструменты, которые создают угрозу, создают и возможность. Впервые у нас есть технология, способная систематически находить уязвимости в критическом коде быстрее, чем это делают люди. Это меняет уравнение в сторону защиты — если правильно расставить приоритеты.
Наш мир сейчас полностью зависит от программного обеспечения. Каждый аналоговый аспект жизни имеет цифровое представление. Стабильность всего, что мы считаем само собой разумеющимся, основана на идее, что мы можем полагаться на системы, которые обеспечивают эту стабильность. Кибербезопасность — это не техническая деталь. Это безопасность общества.
Баг в OpenBSD, который жил 27 лет, теперь закрыт. Это конкретный результат. Сколько таких багов ещё ждёт — вопрос открытый. Но теперь у нас есть инструменты, чтобы их искать.