SQL от LLM: риск прямого выполнения запроса
Модель сформировала SQL на основе пользовательского запроса. Разработчик передаёт его базе без дополнительного контроля. Определите главный риск такого перехода от сгенерированного текста к действию и отличите его от обычной синтаксической ошибки.
Ответьте на вопрос и проверьте свой выбор на странице.
Продолжить практику: программа курса «LLM Security PRO: Prompt Injection, утечки, tool-abuse».
Разработчик получает от LLM строку SQL и выполняет её так:
cursor.execute(llm_sql_string)
Какой главный риск безопасности это создаёт?
Без регистрации · результат не сохраняется
Связанные задачи
- Direct prompt injection: почему инструкции пользователя опасны
- Blacklist против prompt injection: ложные срабатывания
- LLM-агент удаляет файлы: как ограничить опасное действие
- Allowlist инструментов LLM-агента: задача на права
- Allowlist инструментов агента для чтения документов
- JSON Schema additionalProperties false: проверка tool arguments
