РУБЕЖ-ИИ: шлюз доверенного доступа к ИИ-ассистентам
Организации хотят дать сотрудникам ИИ-ассистента по внутренним документам, но не решаются: нельзя гарантировать, что ассистент не покажет человеку то, что ему видеть не положено, и потом никто не разберёт, почему он ответил именно так. Мы делаем шлюз, который встаёт между ассистентом и языковой моделью: проверяет права доступа, собирает для модели только разрешённый пользователю контекст, сверяет ответ с источниками, при риске отказывает и объясняет причину, пишет журнал всех обращений. Вся начинка (политики, детекторы, проверка ответов, аудит) - наша собственная разработка, языковая модель подключается отдельно, берём только отечественные, и заменить её можно без переписывания политик. За акселератор доводим до рабочего прототипа в вузе и проверяем на 500 сценариях, из которых 200 - попытки обойти ограничения.
