Локальные LLM: Ollama, квантизация и приватность — тест

Перед запуском локальной модели полезно разделить три вопроса: где исполняется запрос, как размещаются веса и каким интерфейсом пользуется приложение. Название модели не отвечает на все три сразу.

Квантизация меняет численное представление параметров и требования к памяти. Серверный интерфейс позволяет обращаться к модели из программы. Приватность зависит от того, куда реально отправляются данные, а не только от доступности весов.

В подборке три короткие проверяемые ситуации. Это проверка базовых понятий, а не инструкция по установке Ollama и не обещание, что любая модель поместится на вашем компьютере.

Упражнения

1. Квантизация LLM: память, точность и локальный запуск
2. Open-weight модель через API: где остаются данные
3. Ollama serve: зачем запускать сервер локальной модели

Каждое упражнение проверяется без регистрации. Полная программа соответствующего курса доступна по ссылке на странице задачи.