Экспертные заключения: 0
Консультации: 0

РУБЕЖ-ИИ: шлюз доверенного доступа к ИИ-ассистентам

Организации хотят дать сотрудникам ИИ-ассистента по внутренним документам, но не решаются: нельзя гарантировать, что ассистент не покажет человеку то, что ему видеть не положено, и потом никто не разберёт, почему он ответил именно так. Мы делаем шлюз, который встаёт между ассистентом и языковой моделью: проверяет права доступа, собирает для модели только разрешённый пользователю контекст, сверяет ответ с источниками, при риске отказывает и объясняет причину, пишет журнал всех обращений. Вся начинка (политики, детекторы, проверка ответов, аудит) - наша собственная разработка, языковая модель подключается отдельно, берём только отечественные, и заменить её можно без переписывания политик. За акселератор доводим до рабочего прототипа в вузе и проверяем на 500 сценариях, из которых 200 - попытки обойти ограничения.

Ссылка

На страницу проекта

Направление

IT

Рынки

NeuroNet

Сквозные технологии

Искусственный интеллект, Технологии машинного обучения и когнитивные технологии, Технологии информационной безопасности