Бутстреп: стандартные ошибки и доверительные интервалы
Содержание курса
Процентильный и базовый доверительные интервалы

На тех же репликах, что в коде, границы процентильного интервала равны 2,3 и 21,0. Сплошная линия показывает исходную оценку 12,7.
Имея распределение бутстреп-реплик , можно построить доверительный интервал для неизвестного параметра с номинальным уровнем доверия . В практике чаще всего рассматривают два базовых подхода.
1. Процентильный интервал
Эмпирический способ: взять выборочные квантили самих бутстреп-оценок уровня и :
При номинальном уровне берутся 2.5-й и 97.5-й процентили массива boot_estimates.
2. Базовый (эмпирический) интервал
Базовый интервал опирается на центрированную ошибку оценки . Предполагается, что при состоятельности бутстреп-аппроксимации закон распределения ошибки приближается законом бутстреп-ошибки .
Обозначим квантили распределения через . Из соотношения следует точное равенство . Замена распределения истинной ошибки бутстреп-аналогом дает приближенную вероятность накрытия:
Границы интервала берутся включёнными с нестрогими неравенствами. Обращая их относительно неизвестного параметра , получаем алгебраически эквивалентную цепочку:
Подставим выражение через квантили бутстреп-оценок :
Преобразование представляет собой отражение квантилей относительно точечной оценки . В силу смены знака концы переставляются: правый квантиль формирует нижнюю границу, а левый — верхнюю. Следует помнить, что оба интервала дают лишь приближенное покрытие, а инверсия квантилей в базовом интервале сама по себе не гарантирует автоматического улучшения реальной вероятности накрытия по сравнению с процентильным методом.
Рассчитаем оба интервала на нашем массиве реплик дисперсии:
alpha = 0.05
q_low = float(np.quantile(boot_estimates, alpha / 2))
q_high = float(np.quantile(boot_estimates, 1 - alpha / 2))
perc_interval = (q_low, q_high)
basic_interval = (2 * point_estimate - q_high, 2 * point_estimate - q_low)
print(f"Процентильный интервал: [{perc_interval[0]:.6f}, {perc_interval[1]:.6f}]")
print(f"Базовый интервал: [{basic_interval[0]:.6f}, {basic_interval[1]:.6f}]")
Вывод программы:
Процентильный интервал: [2.300000, 21.000000]
Базовый интервал: [4.400000, 23.100000]
Для выборки из квантили распределения реплик составили и . Базовый интервал по формуле смещается вправо: . При столь малом объеме данных и дискретности бутстреп-реплик точного совпадения фактического покрытия с номинальным 95% ожидать нельзя: данный пример служит иллюстрацией вычислительной механики методов.
