Как мы душили галлюцинации LLM в юрке

В DocuChat столкнулись с классикой AI-эпохи: модель уверенно пишет ссылку на закон, которого… никогда не существовало. Красиво, убедительно, но для legal — это уже не баг, а мини-катастрофа.

Что сделали: внедрили ground truth верификацию. Теперь каждая ссылка на нормативный акт не принимается на веру, а проверяется по базе. Если акта нет — значит, LLM опять «фантазирует», и мы это режем на входе.

С длинными документами тоже было весело: 100+ страниц, chunking + retrieval, а модель по дороге теряет большую картину. Прям как мы после пятого созвона за день. Поэтому балансировали размер чанков и качество retrieval, чтобы не потерять ни контекст, ни точность.

На фоне хайпа вокруг AI agents и copilots это база: в чувствительных доменах без верификации уже никуда.