SPL(Security Perimeter Layer) — система безопасности и контроля для продуктов и сервисов, использующих искусственный интеллект. Проект решает одну из ключевых проблем внедрения ИИ в реальные бизнес-процессы: традиционные средства информационной безопасности не всегда учитывают специфику ИИ-систем, которые самостоятельно обрабатывают информацию, обращаются к внешним инструментам и выполняют действия.
SPL создаёт дополнительный контур контроля и позволяет анализировать не только пользовательские запросы и ответы модели, но и события, возникающие в процессе работы ИИ. Система отслеживает действия ИИ-агентов, обращения к внешним инструментам и сервисам, работу с данными и другие значимые параметры.
Основная задача SPL — выявлять потенциально опасные или нетипичные сценарии: вредоносные инструкции, несанкционированный доступ к данным, утечки чувствительной информации, недопустимые действия и отклонения от заданного поведения.
При анализе SPL учитывает особенности конкретной системы: её назначение, допустимые действия, используемые данные и нормальные сценарии работы. На основании этой информации формируется оценка риска, в зависимости от которой операция может быть разрешена, направлена на дополнительную проверку, ограничена или заблокирована.
Важной частью SPL являются наблюдаемость и аудит. Система сохраняет информацию о событиях, выявленных рисках и принятых решениях, позволяя восстановить цепочку действий, определить причины срабатывания защиты и использовать накопленные данные для последующего анализа.
Цель SPL — сделать применение искусственного интеллекта в реальных продуктах и бизнес-процессах более безопасным, прозрачным и управляемым. SPL формирует единый механизм контроля, который позволяет организациям расширять использование ИИ, сохраняя необходимый уровень безопасности.

На страницу проекта