Blacklist против prompt injection: ложные срабатывания

Фильтр по запрещённым словам оценивает форму текста, а не полномочия действия. Обычный технический вопрос может содержать слово из списка, тогда как опасная инструкция выражается другим языком или перефразируется.

Проверяйте ложные блокировки на легитимных запросах вместе с пропущенными атаками. В задаче рассмотрен простой blacklist: нужно предсказать его поведение, не выдавая такой фильтр за полноценную защиту.

Это бесплатное упражнение из платного курса. Проверьте решение без регистрации. Объяснения и последовательная практика — в курсе «LLM Security PRO: Prompt Injection, утечки, tool-abuse».