Регрессия и первый проект

MAE, MSE, RMSE и единицы ошибки

Содержание курса

В прошлом уроке вы научились читать коэффициенты модели и вручную воспроизводить предсказание по формуле. Но коэффициенты сами по себе не говорят, насколько точна модель в целом. Чтобы это выяснить, нужно сравнить предсказания на тестовой выборке с истинными значениями — и измерить расхождение конкретным числом.

MAE, MSE и RMSE: формулы, единицы и поведение штрафа

Все три метрики измеряют одно и то же — насколько предсказание расходится с истинным значением — но по-разному реагируют на величину ошибки.

MAE — это просто среднее абсолютных отклонений:

MAE = (1/n) * Σ |y_pred[i] - y_true[i]|

Абсолютное значение убирает знак, и ошибка на 10 единиц вносит ровно вдвое больший вклад, чем ошибка на 5. Единицы MAE совпадают с единицами целевой переменной — если цель в рублях, MAE тоже в рублях.

MSE возводит каждое отклонение в квадрат перед усреднением:

MSE = (1/n) * Σ (y_pred[i] - y_true[i])²

Здесь ошибка на 10 единиц вносит уже в четыре раза больший вклад, чем ошибка на 5, — потому что 10² / 5² = 4. Это «непропорциональный» штраф: крупная единичная ошибка доминирует над многими мелкими. Обратная сторона — единицы MSE становятся квадратными. Если целевая переменная в рублях, MSE окажется в рублях², и это число интуитивно не читается.

RMSE исправляет проблему единиц, извлекая корень:

RMSE = √MSE

Единицы RMSE снова совпадают с целевой переменной, как у MAE. Но чувствительность к крупным ошибкам никуда не делась — квадрат внутри MSE всё ещё работает. Поэтому на одних и тех же данных RMSE ≥ MAE всегда. Если все ошибки одинаковы по модулю, RMSE = MAE; как только разброс ошибок растёт, разрыв увеличивается.

Сравните три ошибки на мини-примере вручную, чтобы почувствовать разницу:

i y_true y_pred ошибка абсолютная ошибка ошибка²
1 100 105 +5 5 25
2 200 190 −10 10 100
3 150 180 +30 30 900

MAE = (5 + 10 + 30) / 3 = 15 MSE = (25 + 100 + 900) / 3 = 341.7 RMSE = √341.7 ≈ 18.5

Ошибка на третьей строке (30) в MAE вносит вклад пропорционально своей величине. В MSE её квадрат (900) составляет 88% суммарного штрафа из трёх строк — именно так квадратичный штраф выделяет крупные промахи.

Вклад ошибок 5, 10 и 30 в суммы модулей и квадратов: третья ошибка даёт 67 и 88 процентов
При ошибках 5, 10 и 30 третья даёт 67% суммы модулей и 88% суммы квадратов. Поэтому MSE сильнее выделяет крупный промах.