RAG для PDF, который не ломает юрдоки

Мы в DocuChat собрали RAG-пайплайн для PDF: документ → чанки → эмбеддинги → векторная БД → контекст для LLM. Пользователь просто загружает PDF и общается с ним в чате — без квеста «найди пункт 7.4 на 113-й странице».

Главная боль была с файлами на 100+ страниц: если скормить всё LLM целиком, она быстро теряет нить. Поэтому сделали chunking + retrieval, чтобы модель вытаскивала релевантные куски, но не забывала общую логику документа.

Отдельный кайф — редактирование через чат. Модель не переписывает PDF “как попало”, а показывает diff-предложения, при этом сохраняет layout, таблицы и нумерацию. Для юридической проверки это прям must-have: когда правки нужны аккуратно, а не в стиле “ой, съехала вся разметка”.

На фоне хайпа вокруг AI-ассистентов для документов это уже не nice-to-have, а рабочий инструмент команды.