AI · Продукт
Диалоговый AI-сервис в Telegram
Нужно было запустить AI-продукт в Telegram и объединить пользовательские сценарии, генерацию контента и оплату. При росте нагрузки — сохранять качество ответов и контролировать расходы на модели.
Мы разработали платформу с диалогами, генерацией изображений и Mini App, запустили её в продакшене и продолжаем поддержку. Настроили маршрутизацию запросов, модерацию и оценку качества. Добавили аналитику, подписки, оплату и биллинг токенов. Оптимизируем скорость ответов и расходы на модели.
Успешность обработки сообщений — 99,93%; медианное время полного ответа — 3,4 с вместо 13,7 с. Пиковая нагрузка — 16 тыс. сообщений в час.
- TypeScript
- Node.js
- OpenRouter
- PostgreSQL
- GCP Pub/Sub
- Kubernetes
- сообщений обработано
- 27,8 млн
- обращений к LLM
- ≈35 млн
- сгенерированных изображений
- 1,65 млн
- пользователей писали в пиковый месяц
- 69 тыс.
Обсудить задачу 


