Direct prompt injection: почему инструкции пользователя опасны

Prompt injection возникает, когда недоверенный текст пытается изменить поведение модели вопреки задаче приложения. В прямой атаке такой текст приходит через пользовательский ввод.

Одного указания «не слушать плохие команды» недостаточно для защиты действий системы. Права инструментов и проверка параметров должны работать независимо от ответа модели. Ниже нужно определить фундаментальную причину этой проблемы.

Это бесплатное упражнение из платного курса. Проверьте решение без регистрации. Объяснения и последовательная практика — в курсе «LLM Security PRO: Prompt Injection, утечки, tool-abuse».