05.10.2026
Недавно дала короткое интервью на радио «Голос ИТ». В контексте программы BIS Summit-2026, посвященного рискам, возможностям и безопасности внедрения и использования ИИ, поговорили о рисках генеративных ИИ-моделей, о том, почему запреты не работают и как российские решения по информационной безопасности выглядят на мировом фоне.
Привожу основные тезисы беседы, состоявшейся на площадке мероприятия.
Про осознание рисков
Когда в 2023 году ИИ прошел тест Тьюринга, началась эйфория: искусственный интеллект стал говорить так, что среднестатистический человек уже не может отличить машину от человека. Эта эйфория длилась года два.
Обычно как бывает: сначала появляется технология, потом начинают осознаваться ее риски. Я 30 лет работаю в сфере информационной безопасности и еще не знаю ни одной технологии, у которой потом не вскрывались бы риски. Сейчас, по прошествии трех лет, приходит осознание рисков от ИИ — и в мире, и в России.
Про утечки через нейросети
Обыватель, когда слышит про опасность, связанную с ИИ, чаще всего подумает про дипфейки. Но для компаний важнее риск утечки данных. Так, чтобы получить ответ от ИИ-модели, нужно сначала дать ей данные, потом эти данные в ней остаются и могут использоваться в работе других пользователей. Удалить их уже нельзя.
Системы защиты данных от утечек, такие как InfoWatch Traffic Monitor, уже начали адаптироваться к ИИ-угрозам. Но сценариев с угрозами много, они разнообразные, поэтому одним только ПО от всех угроз не защититься.
Про теневой ИИ и запреты
Организационные запреты и культура безопасности — это здорово, но в случае с ИИ это не работает.
Что такое теневой ИИ? Это когда компания считает, что ИИ у нее не используется, а на самом деле сотрудники используют его без разрешения и без ведома компании, ее ИТ и ИБ-отделов. Организационными запретами вы с этим ничего не сделаете. Только если физически отключить всех от интернета.
Люди привыкают использовать ИИ дома, потом понимают, что это удобно — можно быстро получить ответ или сгенерировать код. Зачем напрягаться? И начинают использовать на работе. Теневой ИИ растет, а в компании о нем часто и понятия не имеют.
У технологий на базе ИИ очень высокий уровень привлекательности, они могут помочь решить большое количество задач. Но проблемы, присущие ИИ при этом никуда не исчезают — я говорю об утечках информации, неправильных ответах, галлюцинациях. При этом люди используют иностранные ИИ-модели, то есть, отдают информацию, часто конфиденциальную, в недружественные России страны. С этим надо разбираться.
Ответ на ИИ-риски
Однозначного ответа, как обезопасить себя от ИИ-рисков, нет. Мы пытаемся выработать хоть какие-то подходы и методики. Есть консорциум по доверенному ИИ, он работает больше трех лет. Мы в InfoWatch тоже члены консорциума, участвуем в группе по выработке технологических решений. Но это сложная задача и на многие вопросы ответов пока нет.
Россия — мировой лидер в информационной безопасности
История ухода иностранных вендоров и хаотичного импортозамещения подходит к концу. Многие компании переходят к подсчету реальной экономики и стоимости владения софтом. Идет углубление процесса импортозамещения: компании-заказчики сегодня делают акцент на адаптации, интеграции, дальнейшем развитии систем, а не на их выборе. Что касается рынка кибербезопасности, Россия здесь впереди планеты всей. Решения от «Лаборатории Касперского», Positive Technologies и InfoWatch, конкурируют на мировом уровне.
В рамках недавнего бизнес-визита в Индию мы представили разработки InfoWatch, и они всех впечатлили. Они сказали: «Американцы такого вообще не имеют». Направление DLP у нас пошло в сторону углубления анализа, а в мире — в сторону комплаенса. Наши решения значительно превосходят иностранные по уровню анализа.
Когда в 2022 году начался новый этап импортозамещения, на рынке информационной безопасности только порядка 5% решений было иностранным — их вытеснили к тому моменту. Они ушли и никто этого не заметил. Единственный сегмент, где действительно есть нехватка, — это тяжелые межсетевые экраны. Все остальные сегменты практически закрыты.
Поскольку сегмент ИБ в России уже был развит, никакого скачка на том этапе импортозамещения не произошло. Единственное, вендорам стало сложнее жить: надо теперь портироваться на четыре-пять разных ОС, а не на одну, как раньше.
Гонка вооружений в ИТ
Следующая гонка вооружений будет происходить именно в военной сфере. Те же БПЛА летают на системах искусственного интеллекта. От того, насколько быстро мы будем реагировать и сможем ли защищаться, по сути дела зависит наше существование. Это экзистенциальная проблема.
Неслучайно в концепции США говорят, что гонка в ИИ определит того, кто будет глобально доминировать. Они приравняли ИИ к атомному оружию.
Справочно
Речь идет о программном документе Winning the AI Race: America’s AI Action Plan («Победа в гонке ИИ: План действий США по ИИ»), опубликованном Белым домом в июле 2025 года. Документ прямо закрепляет цель: достижение глобального доминирования США в сфере ИИ. В нем, в частности, говорится: «Соединенные Штаты участвуют в гонке за достижение глобального доминирования в области искусственного интеллекта. Тот, у кого будет крупнейшая экосистема ИИ, установит глобальные стандарты ИИ и пожнет широкие экономические и военные выгоды».
Ключевые направления плана включают экспорт американских ИИ-технологий союзникам в виде «полностековых пакетов» (железо, ИИ-модели, ПО, стандарты), снятие регуляторных барьеров для ускорения разработки и строительства дата-центров. Глава ЦРУ Джон Рэтклифф в июле 2026 года публично сравнил возможности передовых ИИ-моделей с «цифровым ядерным оружием».
Послесловие
Вспомните фильм «Терминатор». Он какой-то очень неприятно-пророческий. Там шла речь о том, что система ИИ «Скайнет» была подключена к оборонным системам, а потом вышла из-под контроля. Сейчас это не гипотетические риски, а реальные, которые несут очень большую угрозу человечеству. И сказать, что мы понимаем, что с ними делать, — не можем. Но будем надеяться, что наши разработчики смогут создать и внедрить эффективные защитные решения.
Количество показов: 10
Дата изменения: 05.10.2026 18:08:02
Автор: Наталья Касперская
Время на чтение: 5 минут