Hasta: безопасный шлюз к нейросетям для бизнеса
Hasta — корпоративный шлюз, который позволяет компаниям безопасно пользоваться нейросетями. Сегодня бизнес хочет внедрять LLM, но служба безопасности их запрещает: договоры и данные клиентов уходят внешним провайдерам, а это нарушение 152-ФЗ и риск крупных штрафов. Сотрудники всё равно пользуются чат-ботами через VPN, и компания этого не контролирует.
Hasta ставится внутри инфраструктуры компании и становится единой точкой доступа ко всем моделям: GigaChat, YandexGPT, локальным и зарубежным. Перед отправкой запроса в модель он находит в тексте паспорта, СНИЛС, ИНН, ФИО, телефоны, номера карт и счетов и заменяет их метками, а в ответе возвращает настоящие значения. Модель работает с текстом, но реальных данных не видит. Встроенный роутер определяет сложность и чувствительность каждого запроса: простые и чувствительные отправляет на дешёвые локальные модели, сложные и обезличенные на сильные, и этим сокращает расходы. Все запросы попадают в защищённый журнал, а служба безопасности получает полный контроль: лимиты по отделам, вход через корпоративные учётные записи и выгрузку событий в SIEM.
Продукт построен на открытом LLM-шлюзе LiteLLM, который поддерживает больше 100 моделей через единый API. Наши модули подключаются к нему как плагины: распознавание персональных данных на русском языке (правила с проверкой контрольных сумм и дообученная NER-модель), роутер-классификатор на компактной языковой модели, который дообучается на запросах конкретного клиента, и журнал аудита с цепочкой хешей, который нельзя незаметно изменить. Hasta разворачивается в Docker в контуре компании или в российском облаке и может работать без доступа в интернет.
Продукт нужен средним и крупным компаниям, которые работают с персональными данными клиентов и хотят внедрить нейросети без конфликта со службой безопасности. Первый сегмент — ритейл, где много данных покупателей и большие объёмы запросов. Дальше банки, медицина, юридические фирмы и интеграторы, которые встраивают нейросети в решения для заказчиков.
