ML-сервис: инференс, Docker и мониторинг дрейфа — задачи
Модель уже обучена, но сервис должен возвращать корректный JSON, запускаться в контейнере и сообщать, когда данные перестали соответствовать ожиданиям. Эта подборка посвящена пути от предсказания до работающего мониторинга.
Вы разберёте выбор batch или online inference, сериализацию NumPy, адрес Uvicorn, порядок слоёв Dockerfile и состав контекста сборки. Затем перейдёте к data/prediction drift, KS и PSI, свежести дашборда и паузам между повторными алертами.
Вопросы содержат конкретную конфигурацию или ситуацию; выберите действие, подходящее к ней. В задаче на pandas показатели дрейфа уже рассчитаны: нужно применить правила алертов к готовой таблице.
Инференс, контейнер и мониторинг
- Batch или online inference: выберите режим по требованиям
- float32 is not JSON serializable: задача про /predict
- Uvicorn в Docker: почему недоступен /predict
- Dockerfile ML-сервиса: порядок COPY и установки зависимостей
- Docker build: исключите data и CSV из контекста
- Data drift: ожидаемое число ложных срабатываний
- KS и PSI: добавьте флаги алертов в pandas DataFrame
- Prediction drift и качество модели: границы мониторинга
- Дашборд ML-модели: как заметить устаревшие данные
- KL-дивергенция одинаковых распределений: задача
- Cooldown в алертах модели: какую проблему он решает
Пройдите весь путь ML-сервиса
Для подготовки табличной модели и её применения откройте программу платного курса ML Engineer / Data Scientist. Ещё один маршрут от таблицы до работающей модели — платный курс «Data Scientist: от данных до деплоя моделей». Сопоставьте программы со своей подготовкой и задачей проекта.
Если сначала нужен разбор входа модели после деплоя, прочитайте проверку имён и порядка признаков. Для сервиса с изображениями пригодится сравнение RGB/BGR и нормализации перед ONNX.
- Batch или online inference: выберите режим по требованиям
Подберите режим инференса для ежедневного обновления рекомендаций миллионам пользователей. Задача по требованиям к ML-системе.
Data Scientist: от данных до деплоя моделей - float32 is not JSON serializable: задача про /predict
Выберите исправление ошибки JSON-сериализации NumPy float32 в ответе inference API. Практическая задача по ML-serving.
ML Engineer / Data Scientist: табличные модели в продакшн - Uvicorn в Docker: почему недоступен /predict
Разберите недоступный FastAPI-сервис в контейнере: сопоставьте публикацию порта и команду запуска Uvicorn. Задача с выбором ответа.
ML Engineer / Data Scientist: табличные модели в продакшн - Dockerfile ML-сервиса: порядок COPY и установки зависимостей
Выберите причину, по которой зависимости устанавливают до копирования остального кода приложения. Задача на сборку Docker-образа.
ML Engineer / Data Scientist: табличные модели в продакшн - Docker build: исключите data и CSV из контекста
Выберите файл для исключения датасетов из контекста сборки Docker-образа ML-приложения. Практическая задача по контейнеризации.
ML Engineer / Data Scientist: табличные модели в продакшн - Data drift: ожидаемое число ложных срабатываний
Рассчитайте ожидаемое число ложных сигналов при проверке 50 признаков на дрейф. Задача на уровень значимости и мониторинг модели.
Data Scientist: от данных до деплоя моделей - KS и PSI: добавьте флаги алертов в pandas DataFrame
Реализуйте булевы флаги по KS p-value и PSI, обработайте пропуски и сохраните исходные метрики. Задача Python с проверкой.
Data Scientist: от данных до деплоя моделей - Prediction drift и качество модели: границы мониторинга
Выберите, почему стабильное распределение скоров не заменяет оценку качества модели. Задача по production-мониторингу.
Data Scientist: от данных до деплоя моделей - Дашборд ML-модели: как заметить устаревшие данные
Выберите практику мониторинга, которая помогает обнаружить отсутствие свежих данных на дашборде модели. Задача с проверкой.
Data Scientist: от данных до деплоя моделей - KL-дивергенция одинаковых распределений: задача
Определите значение KL(P||Q), когда два распределения совпадают. Задача на базовый случай метрики для мониторинга предсказаний.
ML Engineer / Data Scientist: табличные модели в продакшн - Cooldown в алертах модели: какую проблему он решает
Выберите назначение cooldown-периода при отправке алертов о деградации ML-модели. Задача по production-мониторингу.
ML Engineer / Data Scientist: табличные модели в продакшн
