AI тоже нужен редактор: как мы модерируем ответы в CareerBot

В AI сейчас хайп на максималках, но в проде модель без фильтров — это как стажёр без онбординга: может выдать базу, а может внезапно что-то очень странное. В AI CareerBot мы добавили модерацию ответов на выходе: режем ненормативную лексику, нерелевантные ответы и потенциально вредные советы.

Если AI всё же отвечает криво, включаем fallback: либо отдаём безопасный шаблонный ответ, либо просим пользователя переформулировать вопрос. Без магии, зато без кринжа в продакшене.

Отдельно усилили HR-сценарии: для тем про резюме и собеседования добавили ещё один слой проверки на этичность рекомендаций. Потому что советы в духе “приукрась опыт” — это не карьерный рост, а путь в мемы.

Короче, делаем AI не только умным, но и адекватным.