Batch или online inference: выберите режим по требованиям
Продуктовая команда задаёт объём пользователей, частоту обновления рекомендаций и требования к задержке. Выберите режим инференса, который соответствует описанному сценарию. Разбор подготовки данных, оценки и деплоя моделей продолжайте в платном курсе «Data Scientist: от данных до деплоя моделей» — откройте программу.
Продуктовая команда говорит: «нам нужно обновлять рекомендации для всех 5 млн пользователей раз в сутки, строгих требований к latency нет». Какой режим инференса оптимален?
Без регистрации · результат не сохраняется
Связанные задачи
- float32 is not JSON serializable: задача про /predict
- Uvicorn в Docker: почему недоступен /predict
- Dockerfile ML-сервиса: порядок COPY и установки зависимостей
- Docker build: исключите data и CSV из контекста
- KL-дивергенция одинаковых распределений: задача
- Cooldown в алертах модели: какую проблему он решает
