Переобучение и недообучение модели: как отличить

Недообучение возникает, когда модель или признаки не способны описать полезную закономерность: ошибка высока и на train, и на validation. Переобучение — когда модель хорошо подстроилась под train, включая шум, но заметно хуже работает на новых данных.

Сравнивать нужно одну и ту же целевую метрику на согласованных частях. Низкая train loss и высокая validation loss указывают на большой generalization gap, но сначала исключите разные preprocessing, утечку, сдвиг распределения и ошибку расчёта.

Сложность модели сама по себе не определяет overfitting. Большая модель с достаточными данными и регуляризацией может обобщать лучше маленькой. Важен наблюдаемый результат на корректном holdout.