AIDM-RAG-System - RAG система структурного подразделения крупной компании
Идея проекта
Локальная мультиагентная RAG-система для структурного подразделения крупной организации. Пользователь задаёт вопрос на естественном языке и получает краткий ответ с проверенными цитатами из внутренних документов: приказов, положений, ФЗ, ЛНА. Каждая цитата ссылается на документ, страницу и пункт. Для каждого типа документов есть свой LLM-агент, а работу агентов распределяет оркестратор. От галлюцинаций защищает конструктор без LLM: он пропускает цитату в ответ, только если она точно совпадает с текстом документа. При загрузке документов агент-предиктор предлагает задачи для канбан-доски и дообучается на правках пользователя.
Связь с НПТЛ
Проект «AIDM-RAG-System — RAG-система структурного подразделения крупной компании» соотносится с национальным проектом технологического лидерства «Микроэлектроника» через уровни «Устройства обработки видеоинформации» и «Системы управления с применением искусственного интеллекта (робототехника)» и элементы «Видеопроцессоры с поддержкой Н.264, Н.265 и т.п., в том числе со встроенными ускорителями ИИ» и «Процессоры с встроенными ускорителями ИИ», что соответствует косвенной связи, поскольку система использует вычислительную технику и ИИ-обработку данных для поиска, нормализации, контроля качества и визуализации внутренних документов организации, но не создаёт саму микроэлектронную компонентную базу.
Дополнительно проект соотносится: с НПТЛ «Микроэлектроника» через уровень «Машины вычислительные электронные цифровые (серверы, компьютерное и периферийное оборудование, контроллеры управления сетью и т.д.)» — тип связи косвенная, поскольку система разворачивается локально на серверах организации, и на них же выполняется LLM-инференс, что формирует спрос на отечественные серверы и процессоры.
Цель проекта
Сократить время на формирование ответов на вопросы по бизнес-процессам, поиск регламентирующих документов и постановку задач сотрудникам подразделения.
Задачи проекта
- Спроектировать мультиагентную архитектуру: оркестратор, профильные агенты по типам документов, агент-предиктор и конструктор с валидацией JSON.
- Организовать иерархическое хранилище документов на основе Unit с автоматической переиндексацией.
- Реализовать поиск с ответом в HTML: верифицированные цитаты, ссылки на документы и рекурсивный переход по упоминаниям с глубиной не более 5.
- Реализовать добавление документов: определение основного документа, его ключевых характеристик и дубликатов, генерацию задач с помощью предиктора.
- Реализовать массовое добавление и удаление Unit с подтверждением и откатом на 5 операций.
- Обработать негативные сценарии: 5 неудачных попыток агента, отсутствующий документ, недоступность API LLM.
- Обеспечить локальное развёртывание, разграничение доступа, логирование операций и горячую перезагрузку системных промптов.
Ожидаемые результаты
Рабочая локальная система со следующими показателями:
- доля успешных ответов не ниже 85% на 100 тестовых запросах;
- среднее время ответа не более 5 секунд;
- ошибки валидации JSON не более 10%;
- ошибки определения основного документа и его характеристик не более 25%;
- точность агента-предиктора не ниже 60% на первых 100 Unit.
Последние две метрики будут расти без изменения кода по мере накопления решений пользователя. Дальнейшее развитие проекта включает интеграцию с канбан-сервисами и ИС организации, парсинг открытых источников для обновления ФЗ и ЛНА и автоматическую кластеризацию документов.
