Российское правительство инвестирует 8,1 млрд рублей в проверку ИИ на безопасность

Российское правительство планирует внедрение комплексной проверки ИИ-систем на возможные угрозы национальной безопасности и обороны, передает Arbat.media.

Как пишет "Коммерсант", в 2025-2026 годах начнётся научно-исследовательская работа по созданию принципов анализа ИИ-моделей, обученных на государственных данных. В свою очередь, в 2027-2028 годах будет разработана и внедрена первая версия программы, способной осуществлять такие анализы.

Для реализации этих мероприятий из федерального бюджета будет выделено 8,1 млрд рублей до 2030 года. Ответственным за проект назначено Федеральное агентство безопасности (ФСБ). Ожидается, что к концу десятилетия пять ИИ-систем получат официальное подтверждение о "допустимости безопасного использования", что позволит интегрировать эти технологии в экономику данных.

Эксперты отмечают, что среди основных рисков, с которыми столкнутся государственные ИИ-системы, — это утечки данных, возможная манипуляция обучающими моделями, а также проблемы с достоверностью предсказаний.

"Ошибки в обучении или преднамеренные манипуляции могут привести к искажению рекомендаций для стратегических решений и госуправления", — говорит специалист по машинному обучению Надежда Гаврикова из компании "Инфосистемы Джет".

Также она подчеркивает, что модели с уязвимостями могут стать целью атак на критические государственные системы.

Ранее стало известно, что искусственный интеллект будет помогать казахстанским депутатам.