Укрепление позиций страны в сфере безопасности, доверия и объяснимости работы ИИ-технологий станет одним из ключевых направлений работы в рамках Национальной стратегии развития искусственного интеллекта на период до 2030 года. Об этом директор департамента стратегического развития и инноваций Минэкономразвития России Оксана Сотникова заявила на III Форуме «Технологии доверенного искусственного интеллекта».
В прошлом году по инициативе министерства был проведен форсайт, определивший стратегические направления развития и изучения технологии ИИ. Ученые, эксперты и представители бизнеса выделили отдельный вектор исследований, посвященный безопасности и доверию ИИ. В его рамках сформированы четыре ключевых поднаправления: обеспечение соответствия ИИ ценностям человека и общества, объяснимость работы ИИ-систем, безопасная разработка и эксплуатация технологий, защита ИИ от кибератак.
«Безопасность и доверие — краеугольные камни развития ИИ. Наш форсайт-2024 показал, что без решения этих задач невозможно устойчивое внедрение технологий. Уже в этом месяце завершится отбор ИЦ ИИ третьей волны, которые займутся прорывными проектами, включая развитие доверенного ИИ. Кроме того, по поручению Президента мы запускаем международный форсайт с участием экспертов из Китая, Индии, ОАЭ и других стран. Это станет основой для глобального сотрудничества, но с фокусом на российские стратегические приоритеты», — отметила Оксана Сотникова.
Для государственного управления критически важен доверенный ИИ — технологии, соответствующие стандартам безопасности, не нарушающие права человека, с объяснимостью, надежностью и эффективностью. Доверие возникает через прозрачность применения и ясность результатов, считает начальник управления Президента Российской Федерации по развитию информационно-коммуникационных технологий и инфраструктуры связи Татьяна Матвеева.
«Согласно социологическим исследованиям, проведенным АНО „Диалог“, россияне готовы доверять ИИ в услугах, промышленности, торговле и науке, но скептичны к его использованию в транспорте, здравоохранении, финансах и образовании. Основные причины недоверия — риск утечек данных и ошибки в работе. Повысить доверие к технологиям искусственного интеллекта могут отсутствие ошибок в работе технологии, уверенность в защищенности персональных, в том числе биометрических, данных, отсутствие предвзятости технологии, интуитивная понятность технологии и сертификация. Одним из элементов системы доверия к технологиям искусственного интеллекта является саморегулирование. В России принят Кодекс этики в сфере искусственного интеллекта. Он закладывает базовые стандарты и правила разработки и применения искусственного интеллекта в нашей стране. На текущий момент совокупно к Кодексу присоединились 902 организации, включая 51 организацию из иностранных юрисдикций», — подчеркнула Татьяна Матвеева.
Институт системного программирования РАН (ИСП РАН), получивший финансирование в рамках первой волны отбора исследовательских центров ИИ, подтвердил статус ведущей научной организации в этой сфере. В 2024 году из девяти российских публикаций категории A* (высший мировой уровень) по темам безопасности и доверия ИИ семь подготовлены при участии ученых ИСП РАН. Среди соавторов — ведущие вузы и организации: ВШЭ, Сколтех, МГУ им. М. В. Ломоносова, МФТИ и AIRI.
«Наши исследования — это не только фундаментальная наука, но и реальные продукты: облачная платформа ACloud, разработанная с компанией „Системные решения“; репозиторий доверенного системного ПО, где ведутся совместные работы с такими компаниями, как „Лаборатория Касперского“ и Postgres Professional; многие другие технологии. Уверен, что объединение усилий науки, бизнеса и государства позволит России стать одним из архитекторов безопасного цифрового будущего», — заявил директор Института системного программирования РАН Арутюн Аветисян.
В дискуссии также приняли участие заместитель министра цифрового развития, связи и массовых коммуникаций Александр Шойтов, президент группы компании InfoWatch, сооснователь компании «Лаборатория Касперского» Наталья Касперская, директор по информационным и цифровым технологиям Госкорпорации «Росатом» Евгений Абакумов, генеральный директор Ассоциации ФинТех Максим Григорьев, советник по специальным проектам АНО «НТЦ ЦК», секретарь Консорциума исследований безопасности технологий ИИ Дмитрий Служеникин.