Сбер сделал открытой обновлённую модель киберугроз для систем искусственного интеллекта Сбер сделал открытой обновлённую модель киберугроз для систем искусственного интеллекта

Сбер опубликовал в открытом доступе обновлённую модель угроз для систем искусственного интеллекта. Документ размещён на портале «Кибрарий» в разделе «Экспертам» и отражает современные риски, возникающие при использовании генеративного ИИ, мультиагентных систем, технологий RAG и LLM-адаптеров. Обновлённая модель содержит описание 37 угроз и 51 способа их реализации. Для каждого сценария приведены возможные последствия, указаны затрагиваемые свойства информации, объекты защиты и этапы жизненного цикла, на которых может возникнуть риск. Авторы отмечают, что подобные угрозы способны привести к: — утечке и подмене данных — сбоям в работе ИИ-систем — компрометации моделей и инфраструктуры — выполнению искусственным интеллектом несанкционированных действий В документе угрозы распределены по типам потенциальных нарушителей с учётом их уровня подготовки, технических возможностей и доступа к компонентам ИИ-решений. Кроме того, расширен перечень объектов защиты — в него включены элементы, которые ещё недавно не считались критичными, но сегодня всё чаще становятся целями кибератак. Это позволяет более точно оценивать риски с учётом особенностей конкретной архитектуры и условий эксплуатации. Модель рассчитана на широкий круг специалистов, среди которых: — разработчики ИИ-решений — MLOps-инженеры — архитекторы — специалисты по информационной безопасности — руководители, отвечающие за управление рисками Документ охватывает весь жизненный цикл ИИ — от сбора и подготовки данных до обучения моделей, их эксплуатации и интеграции с корпоративными сервисами. Его можно использовать при проектировании, разработке и сопровождении генеративных, агентных и мультиагентных систем. В основе модели лежат анализ актуальных киберугроз, мировые практики в сфере защиты искусственного интеллекта и опыт Сбера по обеспечению безопасности собственной инфраструктуры разработки, обучения и эксплуатации ИИ. Как считают в компании, открытая публикация модели позволит российским государственным структурам и частным компаниям использовать готовый инструмент для раннего выявления угроз, определения приоритетов по их снижению и распределения ответственности за защиту ИИ-решений.