LLM-агент удаляет файлы: как ограничить опасное действие

Удаление файла — действие приложения с реальными последствиями. Модель может предложить операцию, но сервер должен проверить владельца, допустимый путь, полномочия и необходимость подтверждения.

Не превращайте текст ответа модели в произвольную команду оболочки. Используйте ограниченный инструмент с проверяемыми аргументами. В упражнении выберите архитектуру, в которой ошибка или инъекция в диалоге не обходят эти ограничения.

Это бесплатное упражнение из платного курса. Проверьте решение без регистрации. Объяснения и последовательная практика — в курсе «LLM Security PRO: Prompt Injection, утечки, tool-abuse».