Маркировка ИИ-контента защитит от "галлюцинаций" и обмана на доверии — Минцифры

Восстановить доверие граждан к публикациям в интернете можно путем обязательной маркировки ИИ-контента, отметил директор Департамента развития искусственного интеллекта и больших данных Министерства цифрового развития, связи и массовых коммуникаций РФ Сергей Сергиенко. «Появление искусственного интеллекта породило множество изменений, среди которых — это беспрецедентные объемы данных, новые киберугрозы, вопросы доверия к контенту. В этих условиях классических подходов к безопасности уже недостаточно», — уточнил Сергиенко на Национальном форуме информационной безопасности «Инфофорум-2026». Как считает эксперт, каждый сталкивался с «галлюцинациями» от просмотра ИИ-контента. При этом нейросеть ведет себя настолько убедительно, что ей хочется доверять. Однако за этой «благодушностью» могут скрываться недостоверные и фейковые материалы. В качестве решения подобной проблемы Сергиенко назвал системную маркировку контента — как созданного ИИ, так и полученного из проверенных источников. Это должно стать инструментом против деградации качества данных и потери доверия к информационным системам, особенно когда для обучения алгоритмов используются синтетические данные. Необходимость квалифицированных кадров «В условиях активного внедрения ИИ-технологий именно человеческий фактор и грамотность специалистов становятся основой для минимизации киберрисков и получения максимального эффекта от инновационных решений», — подчеркнул Сергиенко. По словам эксперта, критически важно, чтобы за разработку и эксплуатацию ИИ-решений отвечали подготовленные люди, а сценарии их использования были тщательно подобраны. Особенно это касается медицины и транспорта, где случайная ошибка системы может создать угрозу для жизни и здоровья. Сергиенко также отметил, что для поддержки регионов Минцифры совместно с Центром развития искусственного интеллекта развивает ресурс «Цифровой регион». Платформа создана для демонстрации лучших практик внедрения ИИ и создания среды для обмена опытом между субъектами РФ, добавил он. С 28 по 29 января в Москве проходит 28-й Большой Национальный форум информационной безопасности «Инфофорум-2026». Эксперты обсуждают стратегии защиты информации и безопасности значимых объектов критической информационной инфраструктуры, в том числе укрепление доверия к цифровым инструментам. Подписаться на канал РАПСИ в MAX >>>