Задачи курса «LLM Security PRO: Prompt Injection, утечки, tool-abuse»

Выберите задачу и проверьте решение прямо на странице. Регистрация не нужна.

• Direct prompt injection: почему инструкции пользователя опасны

  Разберите смешение доверенных инструкций и пользовательских данных. Задача по безопасности LLM с проверкой ответа.

• Blacklist против prompt injection: ложные срабатывания

  Почему блокировка отдельных слов мешает обычным вопросам? Разберите пример фильтра LLM-ввода и проверьте ответ.

• LLM-агент удаляет файлы: как ограничить опасное действие

  Выберите безопасную архитектуру удаления файлов через ассистента. Задача на авторизацию и проверку действий LLM.

• Allowlist инструментов LLM-агента: задача на права

  Проверьте понимание фиксированного списка разрешённых инструментов агента. Бесплатное упражнение по LLM Security.

• JSON Schema additionalProperties false: проверка tool arguments

  Разберите запрет лишних полей в аргументах инструмента LLM. Практическая задача с проверкой ответа.

• LLM tool calling: ограничение limit в аргументах

  Агент пытается выгрузить слишком много данных. Определите, какая проверка параметров остановит вызов инструмента.