Redaction в логах LLM: маскирование чувствительных данных
В журнал может попасть запрос пользователя или результат инструмента с секретом. Нужно понимать, на каком этапе и каким способом изменяются такие данные. Выберите определение redaction и отличите его от шифрования файла или скрытия текста только в интерфейсе.
Ответьте на вопрос и проверьте свой выбор на странице.
Продолжить практику: программа курса «LLM Security PRO: Prompt Injection, утечки, tool-abuse».
Что такое redaction в контексте логирования LLM-систем?
Без регистрации · результат не сохраняется
Связанные задачи
- Direct prompt injection: почему инструкции пользователя опасны
- Blacklist против prompt injection: ложные срабатывания
- LLM-агент удаляет файлы: как ограничить опасное действие
- Allowlist инструментов LLM-агента: задача на права
- Allowlist инструментов агента для чтения документов
- JSON Schema additionalProperties false: проверка tool arguments
