RAG с цитатами: что проверять автоматическим тестом
Проверка цитат начинается с формальных свойств: ссылка должна указывать на известный источник, а идентификатор — существовать в доступном контексте. Такие требования легче автоматизировать, чем общую оценку «ответ хороший».
Формальная корректность ссылки не доказывает, что источник подтверждает утверждение. Для этого нужна отдельная оценка содержания. В упражнении отделите простой тестируемый инвариант от более сложной проверки качества.
Это бесплатное упражнение из платного курса. Проверьте решение без регистрации. Объяснения и последовательная практика — в курсе «LLMOps & Evaluation: из песочницы в продакшн».
Что из ниже — валидный юнит-инвариант для RAG-ответа с цитатами?
Без регистрации · результат не сохраняется
Связанные задачи
- PromptOps: почему хороший промпт требует версий и тестов
- LLM streaming: задержка первого токена и полный ответ
- JSON-лог вызовов LLM на Python: задача с проверкой
- Quality Gate для LLM: задача на допуск релиза
- Валидация JSON и retries на Python: задача Guardrails
- Retry backoff, Retry-After и jitter: задача на Python
