LLM tool calling: ограничение limit в аргументах

Разрешённое имя инструмента не означает разрешённые значения любых аргументов. Для числовых параметров полезны явные границы, для объектов — проверка доступа, для объёма результата — серверный лимит.

Проверка должна выполняться перед чтением или выгрузкой данных. В задаче модель предлагает чрезмерный limit: отделите контроль параметра от текстовых инструкций и проверки названия инструмента.

Это бесплатное упражнение из платного курса. Проверьте решение без регистрации. Объяснения и последовательная практика — в курсе «LLM Security PRO: Prompt Injection, утечки, tool-abuse».

Модель под влиянием инъекции пытается вызвать инструмент export_all_data с параметром limit=999999. Какой механизм защиты остановит этот вызов на этапе проверки параметров?

Выберите один вариант
Без регистрации · результат не сохраняется

Связанные задачи