LLM tool calling: ограничение limit в аргументах
Разрешённое имя инструмента не означает разрешённые значения любых аргументов. Для числовых параметров полезны явные границы, для объектов — проверка доступа, для объёма результата — серверный лимит.
Проверка должна выполняться перед чтением или выгрузкой данных. В задаче модель предлагает чрезмерный limit: отделите контроль параметра от текстовых инструкций и проверки названия инструмента.
Это бесплатное упражнение из платного курса. Проверьте решение без регистрации. Объяснения и последовательная практика — в курсе «LLM Security PRO: Prompt Injection, утечки, tool-abuse».
Модель под влиянием инъекции пытается вызвать инструмент export_all_data с параметром limit=999999. Какой механизм защиты остановит этот вызов на этапе проверки параметров?
