Квантизация LLM: память, точность и локальный запуск

Квантизация уменьшает точность численного представления параметров модели. Это может снизить требования к памяти и изменить скорость, но выигрыш зависит от оборудования и способа исполнения.

Размер файла модели не описывает всю память процесса: есть контекст, промежуточные данные и служебные расходы. В вопросе ниже отделите смысл квантизации от обучения, сжатия текста и простого уменьшения числа параметров.

Это бесплатное упражнение из платного курса. Проверьте решение без регистрации. Объяснения и последовательная практика — в курсе «Vibecoding: Claude Code, Codex, Cursor и agentic development».