Как мы сделали AI-ответы с эффектом «печатания»
В AI CareerBot мы внедрили SSE/WebSocket-стриминг, чтобы ответ AI прилетал по токену, будто бот печатает. Это сразу показывает прогресс и заметно усиливает вовлечение.
В AI CareerBot мы внедрили SSE/WebSocket-стриминг: ответ AI прилетает не целиком, а по токену, будто бот реально печатает — да, тот самый UX, к которому всех приучил ChatGPT. Пользователь не смотрит в пустой экран, а сразу видит прогресс. Мелочь? На деле — мощный буст вовлечения.
Но на вирусном запуске начался классический IT-аттракцион: тысячи одновременных пользователей, и нужно не уронить GigaChat API. Что сделали: добавили очередь запросов, rate limiting и graceful degradation при перегрузке. То есть под пиком сервис не «умирает красиво», а продолжает работать предсказуемо.
Итог: интерфейс ощущается живым, а backend не уходит в тильт, когда продукт внезапно залетает. В эпоху AI-продуктов это уже не фича, а гигиена.