Наталья Касперская: «Любая система ИИ - потенциальная модель рисков и угроз, которые “Кодекс этики ИИ” не снизит, если человек не будет развиваться»

28.10.2022

Год назад, 26 октября, в ходе первого международного форума «Этика искусственного интеллекта (ИИ): начало доверия», представителями ведущих российских высокотехнологичных компаний, в том числе входящих в Альянс в сфере ИИ, был подписан «Кодекс этики искусственного интеллекта». Главной причиной для его подписания, по общему мнению участников мероприятия, стала «неустойчивая этика применения ИИ, которая ведет к неустойчивому бизнесу».

Наталья Касперская.jpg

Наталья Касперская и Александр Ведяхин: «Финальное решение — за человеком»

В тот момент, отвечая на вопрос президента ГК InfoWatch Натальи Ивановны Касперской, о том, как быть человеку, которому ИИ, например, отказал в кредите за минуту, куда обращаться и что делать, первый заместитель председателя Сбербанка Александр Ведяхин отметил, что именно Сбербанк ввел в систему кредитования стратегию, при которой алгоритм ИИ оценивает шансы клиента на получение кредита. Алгоритм ИИ делает это, исходя из способности клиента выдержать долговую нагрузку, но финальное решение по выдаче кредита всегда принимает человек, так как алгоритм ИИ не может посмотреть человеку в глаза, когда он, скажем, берет кредит на развитие бизнеса. Именно поэтому у ИИ нет права вето. А неверное решение нужно опротестовывать. При этом без баланса интересов люди отказываются от работы с компаниями, то есть, при участии ИИ в принятии решения создаются проблемы этического свойства, которые кодекс этики ИИ призван разрешить, хоть его и непросто «приземлить» как норму в сознание людей и корпоративную культуру компаний.

Наталья Касперская о рисках ИИ

Напомним, что именно Наталья Ивановна Касперская, одной из первых в России озвучила основные и дополнительные риски использования искусственного интеллекта. Так, главным риском для России эксперт посчитала отставание по внедрениям и развитию ИИ от более передовых стран. Дополнительными рисками, по ее мнению, можно считать общую зависимость России от иностранных технологий, ряд технологических рисков, криминальных и социально-экономических. В частности, использование Россией иностранных платформ, на которых базируются системы ИИ влечет за собой риск закладок и недокументированных функций, риск получения несовременных, устаревших разработок и опасность удаленного доступа иностранного производителя. К технологическим рискам относится низкое качество работы ИИ в целом и большой процент ошибок на больших объемах реальных данных, опасная ситуация черного ящика, отсутствие средств контроля систем ИИ и риск выхода систем с ИИ из-под контроля человека. К социально-экономическим рискам относятся манипулирование общественным мнением, риск роста социальной напряженности, вмешательство в частную жизнь и др.

Наталья Касперская: «Вопрос доверия к цифре — это вопрос учета ошибки ИИ»

По мнению Натальи Касперской, как соавтора и разработчика кодекса ИИ, этика человека по отношению к ИИ заключена в осторожности. Обязательно нужно учитывать возможность ошибки ИИ или принятия неправильного решения, а не испытывать азарт от роста использования машинного интеллекта, который наблюдается во всем мире и ведет к массовому оглуплению.

Дмитрий Чернышенко: «Ключевые принципы внедрения ИИ — прозрачность, правдивость, ответственность, надежность»

По словам заместитель председателя правительства России Дмитрия Чернышенко, в подписанном кодексе этики ИИ в ответ на основные риски его использования утверждены главные принципы внедрения искусственного интеллекта – прозрачность, правдивость, ответственность, надежность, инклюзивность, беспристрастность, безопасность и конфиденциальность. Принятие кодекса этики ИИ также дает России право требования от иностранных соцсетей и крупных платформ соблюдения российского законодательства.

Отметим, что в подписанном год назад документе два раздела. В эти разделы входят такие важные темы, как стимулирование развития ИИ, повышение осведомленности об этике применения ИИ, идентификация ИИ в общении с человеком и информационная безопасность при применении искусственного интеллекта.


Количество показов: 275
Дата создания: 28.10.2022 16:57:44
Дата изменения: 28.10.2022 18:27:46
Автор:  Наталья Касперская
Время на чтение:  10 минут

Возврат к списку