Rate limit и quota в LLM-сервисе: разница

Приложение ограничивает и скорость обращений, и суммарное потребление за период. Эти меры решают разные задачи при контроле нагрузки и расходов. Выберите точное различие, не привязывая каждый механизм только к одному виду единиц измерения.

Ответьте на вопрос и проверьте свой выбор на странице.

Продолжить практику: программа курса «LLM Security PRO: Prompt Injection, утечки, tool-abuse».

Какое из утверждений точнее всего описывает разницу между rate limit и quota?

Выберите один вариантRate limit контролирует мгновенную скорость потребления (запросов или токенов в единицу времени), а quota — совокупный объём за периодRate limit применяется только на уровне пользователя, а quota — только на глобальном уровне сервисаRate limit измеряется в токенах, а quota — в количестве запросовRate limit защищает от медленного перерасхода, а quota — от пиковых всплесковRate limit и quota — это два названия одного и того же механизма с разными единицами измерения

Без регистрации · результат не сохраняется

Связанные задачи