Расходы на LLM резко выросли: с чего начать проверку

Сервис продолжает работать, но затраты на вызовы модели выросли. Пока неизвестно, изменились ли объём запросов, длина контекста или число повторов. Выберите первое действие, которое даст данные для следующего решения, прежде чем менять модель и ограничения.

Ответьте на вопрос и проверьте свой выбор на странице.

Продолжить практику: программа курса «LLMOps & Evaluation: из песочницы в продакшн».