RAG для PDF, который не ломается на 100+ страницах

В DocuChat мы собрали пайплайн для PDF: документ → чанки → эмбеддинги → векторная БД → контекст для LLM. Пользователь просто загружает файл и общается с ним как в чате — без квеста “где это было на 78-й странице?”.

Главный челлендж — большие документы. Если скормить LLM договор на 100+ страниц целиком, она быстро уходит в режим “кажется, я всё понял”. Поэтому мы сделали chunking + retrieval: модель получает только релевантные куски, но не теряет общую логику документа.

Плюс добавили юридическую проверку через чат: правки показываются как diff-предложения, при этом сохраняются layout, таблицы и нумерация. То есть не “умный редактор всё переписал заново”, а аккуратные изменения, которые не стыдно показать юристу.

На фоне бума AI-ассистентов в 2025 это уже не фича, а must-have для доков, с которыми нельзя факапнуть.