Применение ИИ нужно ограничить там, где оно может нанести вред человеку

Применение ИИ нужно ограничить там, где оно может нанести вред человеку
20.10.2026

На портале Anti-Malware.ru вышло мое интервью Илье Шабанову — главному редактору. Разговаривали с Ильей о том, как регулировать применение ИИ, что происходит с импортозамещением и есть ли у российских решений экспортный потенциал. Приведу краткое содержание нашей беседы здесь.

Про регулирование ИИ

С регулированием ИИ на государственном уровне сложилась интересная ситуация. Сперва прорабатывалось регулирование в ответ на технологические (например, утечки данных, заражение запросов к ИИ-моделям), гуманитарные (потеря компетенций, навыков), рыночные и другие риски. Я участвовала в рабочей группе при Совете Федерации, которая разработала свою версию законопроекта. Минцифры предложило свою. В итоге обе версии отвергли и приняли концепцию поддержки технологий.

Но поддержка не отменяет вопросов безопасности. Технологии на базе искусственного интеллекта меняются так быстро, что описывать и регулировать конкретную технологию бессмысленно — всегда будешь опаздывать. Регулировать нужно применение. Применение ИИ должно быть ограничено там, где он может нанести вред человеку — в образовании, медицине, судопроизводстве и сфере государственного управления.

Про безопасность генеративного ИИ

InfoWatch занимается вопросом безопасности генеративного ИИ больше года. Наши специалисты работают с основными сценариями утечек через фундаментальные модели и агентские системы. Они закрывают пока далеко не все бреши, но большинство крупных разработчиков DLP-систем (т.е. систем, противодействующим утечкам конфиденциальной информации) на эту тему даже не думали.

Сейчас рынок безопасности систем на базе искусственного интеллекта активно развивается. Появилось около двух десятков типов продуктов, но пока в них больше «пены», чем реальных решений. Это напоминает начало 2000-х в сфере борьбы с malware: тогда большая часть стартапов закрылась, а категория malware влилась в антивирусный рынок. Думаю, защита от угроз искусственного интеллекта пойдет тем же путем, вольется в общий рынок информационной безопасности. Пока же мы ждем того, чтобы решения по защите от рисков генеративного ИИ становились все более зрелыми.

Про гонку больших моделей

Российские большие языковые модели (БЯМ) вторичны и уступают мировым, но их надо развивать. При этом искусственный интеллект — это не только БЯМ. Машинное зрение, беспилотники, распознавание лиц — здесь Россия лидер. Даже современные DLP — это давно системы ИИ. А что касается средств защиты информации в целом — они зачастую превосходят иностранные продукты.

Про импортозамещение

Отрасль информационной безопасности в России была на высоком уровне еще до 2022 года, до ухода из нашей страны иностранных разработчиков программных продуктов — почти все средства защиты информации у нас были было отечественными, кроме межсетевого экрана нового поколения (от англ. NGFW — Next-Generation Firewall). За 4 года созданы работающие межсетевые экраны: да, они пока отстают от Cisco, но прогресс очевиден. Из 70 игроков сейчас осталось около 30.

В остальном на ИТ-рынке ситуация неравномерная: там, где раньше были заделы — стало лучше, где не было (средства разработки, платформы, языки) — решений так и нет. К качеству и ценам есть претензии, но цена программного обеспечения напрямую зависит от числа клиентов: у Microsoft затраты распределяются между миллионами, у нас — между гораздо меньшим числом. В этом отличие программного обеспечения как товара от многих других продуктов.

Про российские решения по защите от утечек

Наши отечественные системы защиты от утечек существенно разошлись в развитии с иностранными. Мировой рынок движется в направлении регуляторики и соответствия требованиям, в основном американским. Российские же решения, в отличие от мировых, развились в сторону глубокого анализа контента.

Мы показывали наши решения индийским коллегам, и они оценили их как очень продвинутые. А ведь мы на какое-то время замкнулись на нашем рынке и, казалось, должны были отстать. Но из-за высокой конкуренции в сегменте защиты предприятий от утечек российские продукты выросли в качестве и стали лучше зарубежных.

Про доверие к западным вендорам

Западные вендоры сами способствовали импортозамещению: отключали облачные сервисы, прекращали поддержку, отказывались продавать лицензии, не возвращали деньги. Доверие российского заказчика к ним, конечно, очень снизилось, если не исчезло совсем. Даже если иностранные разработчики вернутся — восстанавливать утраченное доверие они будут долго, а заказчики вряд ли снова захотят менять технологический стек — это требует больших денег, времени и ресурсов.

Про экспорт отечественных программных продуктов

С экспортом российского ПО я вижу четыре проблемы:

  • Расхождение технологических стеков: для мира нужны одни операционные системы и системы управления базами данных, для России — другие. Это создает дополнительные сложности и повышает затраты на разработку.

  • Российские решения на мировом рынке сейчас ждут еще меньше, чем раньше.

  • Отсутствие целостной системы поддержки экспорта: каждый вендор действует самостоятельно, государственные инструменты работают не слишком хорошо.

  • Скоординированное противодействие недружественных государств, в частности США.

Стоит перенять китайский опыт: когда государство поддерживает отрасль, лоббирует ее интересы за рубежом. Там, где рынок уже есть, он развивается сам. Но там, где рынок сложный — специфические системы, технологии двойного назначения, — без поддержки государства не обойтись.


Количество показов: 31
Дата изменения: 21.10.2026 12:52:52
Автор:  Наталья Касперская
Время на чтение:  5 минут

Возврат к списку