Цикл атаки от идеи до эксплуатации уязвимости сократился до минут. Пока мы обсуждаем, опасен ли ИИ, Claude от Anthropic уже за 53 минуты сделал из 11-летней уязвимости Linux рабочий эксплойт. Защита обязана отвечать с той же скоростью. О том, как «Группа Астра» строит обвязку вокруг ИИ, рассказал Владимир Нелюб, управляющий партнер «Астра ИИ», директор по науке и ИИ «Группы Астра».
Тезис об «энтузиастах, заглядывающих в репозиторий на выходных», звучит жестко, но он честный. Мы жили в модели, где безопасность зависела от внимания сообщества: кто-то заметил, кто-то сообщил, кто-то выпустил патч. Но если атакующая сторона перешла на конвейер — почти тысяча синтезированных эксплойтов по 1280 долларов за каждый, — защита не может оставаться ремесленной. Она тоже должна стать конвейером, только упреждающим. Это смена логики: от «найти и закрыть» к «непрерывно проверять и доказывать устойчивость». Иначе патчи будут появляться позже, чем появляются новые векторы атак.
«Группа Астра» уже работает в этой логике — не на уровне деклараций. Такой подход становится возможным благодаря собственным защищенным средствам защиты информации, встроенным в технологический стек by design. Кроме того, необходима команда, которая в режиме реального времени анализирует ванильное ядро Linux, выявляет уязвимости, тестирует патчи и превращает открытый код в защищенный фундамент для корпоративных систем. Так формируется «фабрика устойчивости».
Безопасность становится свойством среды, в которую помещена ИИ-модель. Разница принципиальная. Модель не может быть «безопасной» по своей природе: она вероятностна. Безопасной может быть только обвязка: права доступа, изоляция, политики и аудит, которые ограничивают то, что модель способна сделать, независимо от «ее решений».
Поэтому важно создавать среду с едиными правилами, где агентная операционная система задает уровни доверия и целостности: определяет не то, что агенту разрешено, но и к каким данным он имеет доступ и какие действия с ними может выполнять. Необходимо работать в закрытом контуре без исходящих соединений: код не должен покидать периметр. Слагаемые успеха можно свести к перечню: изоляция среды исполнения, управление ролями и ресурсами, оценка зрелости процессов, работа с данными внутри периметра. Поверх всего — аудит каждого запроса, политики для моделей и человеко-машинное согласование критических действий.
Ключевое здесь — принцип последней команды: там, где последствия необратимы, решение остается за человеком. Фактически это установка границ для ИИ. В заданных рамках ИИ ускоряет анализ и генерацию, но не получает права на необратимые действия. Именно такая обвязка превращает модель из источника риска в инженерную систему с предсказуемым поведением. Она ограничивает поверхность атаки и фиксирует каждое действие, а не «доверяет» модели.
Таким образом, обвязка превращает ИИ из источника новых рисков в инструмент усиления защиты. Выбор невелик, и сделать его нужно сейчас: либо мы строим обвязку и используем ИИ в своих интересах, либо чужие конвейеры будут проверять нашу инфраструктуру на прочность.
Возврат к списку