Как мы не сгорели на AI API после вирусного запуска
У AI CareerBot случился вирусный рост, а вместе с трафиком резко выросли расходы на GigaChat API. Рассказываем, как ввели бюджетирование, лимиты, кэш и real-time метрики.
У AI CareerBot случился тот самый “приятный ужас”: проект залетел, а вместе с трафиком экспоненциально полетели расходы на GigaChat API. Классика 2026-го: радуешься метрикам, потом открываешь биллинг — и хочется заварить кофе покрепче.
Что сделали: — ввели бюджетирование по расходам; — поставили лимиты на пользователя, чтобы один энтузиаст не съел весь месячный бюджет за вечер; — добавили кэш для типовых FAQ-подобных запросов; — включили метрики расхода в реальном времени.
Самое важное — graceful degradation: когда лимит близко, бот не “умирает”, а честно предупреждает пользователя вместо полного отказа. UX жив, финансы тоже.
По факту, в эпоху AI-хайпа побеждает не только тот, у кого умнее модель, а тот, у кого cost control не на уровне “потом разберёмся”.