Услуга направлена на выявление и устранение уязвимостей в системах использующих языковые модели (LLM)* и построенных на их основе агентских систем**. Цель услуги — устранить уязвимости которые могут привести к несанкционированному доступу к конфиденциальной информации, манипуляции результатами работы системы или компрометации данных заказчика.
В результате проведения услуги заказчик получает комплексный аудит безопасности, включающий тестирование на наиболее распространённые атаки.
Услуга соответствует требованиям Федерального закона "О защите персональных данных" (ФЗ-152), а также Приказу ФСТЭК России №117 (пункт 3.18 "Обеспечение защиты информации при использовании искусственного интеллекта"), вступившему в силу 1 марта 2026 года и методическим рекомендациям 3МР ЦБ РФ. Для систем критической информационной инфраструктуры применяются требования проекта ГОСТ Р "Искусственный интеллект в критической информационной инфраструктуре"
*Языковая модель - это специализированная нейросетевая система, обученная на больших объемах текстовых данных и используемая для генерации, анализа и обработки естественного языка.
**Агентские системы представляют собой автономные решения на базе LLM, способные самостоятельно выполнять действия и взаимодействовать с внешними приложениями.
Состав услуги
В рамках услуги проведём комплексный аудит безопасности языковых моделей и агентских систем, который включает в себя:
- Тестирование на уязвимости — в соответствии со стандартом OWASP Top 10 for LLM;
- Анализ системы управления данными — проверим механизмы защиты от внесения вредоносного контента, утечки конфиденциальной информации и обработку персональных данных;
- Оценку архитектуры и интеграций — исследуем безопасность API, плагинов, интеграций с внешними системами, цепочки обработки данных;
- Проверим соответствие нормативным требованиям Центрального банка РФ и ФСТЭК для систем, обрабатывающих защищённые данные (методические рекомендации 3-МР по технологическим мерам защиты информации);
- Подготовим детальный отчёт с классификацией выявленных уязвимостей по уровням критичности, оценкой рисков и приоритизированным планом исправлений;
- Предоставим рекомендации по усиленной защите, включая процедуры мониторинга, обновления моделей и управление инцидентам.
