Урок курса
Broadcasting: правила совместимости форм и исправление несовместимости
NumPy и pandas: практический тренажёрВ предыдущем уроке мы складывали числа по осям и схлопывали массивы до одного значения. Теперь задача противоположная: как выполнять поэлементные операции над массивами, у которых формы не совпадают — и при этом не копировать данные вручную. Именно это и делает broadcasting.
Правила broadcasting: выравнивание форм и растяжение размера 1
Broadcasting — это соглашение NumPy о том, как интерпретировать операцию между массивами разных форм. Ничего физически не копируется: NumPy просто договаривается, какой размер считать «растянутым», и вычисляет результат напрямую.
Всё поведение описывается двумя правилами, которые применяются последовательно.
Правило 1: выравнивание форм справа. Если у массивов разное число осей, к форме с меньшим числом осей добавляются единицы слева — до тех пор, пока число осей не совпадёт.
Например, массив с формой (4,) и массив с формой (3, 4): первый становится (1, 4). Выравнивание всегда идёт справа — именно поэтому вектор-строка из 4 элементов совместим с матрицей из 3 строк по 4 столбца, а не наоборот.
Правило 2: размер 1 растягивается. После выравнивания NumPy смотрит на каждую ось по очереди. Если размеры совпадают — всё хорошо. Если один из них равен 1 — он «растягивается» до размера другого. Результирующий размер по этой оси равен большему из двух.
Операция возможна, если после выравнивания для каждой пары размеров выполняется хотя бы одно условие:
- размеры равны,
- или один из них равен 1.
Если ни то ни другое — NumPy выбросит ошибку. Но об этом в следующем разделе.
Покажем, как работает логика на практике:
import numpy as np
# Случай 1: (3, 4) и (4,)
# Шаг 1 — выравнивание: (3, 4) и (1, 4)
# Шаг 2 — растяжение: ось 0 у второго операнда — размер 1, растягиваем до 3
# Результат: (3, 4)
A = np.ones((3, 4))
v = np.array([1, 2, 3, 4]) # shape (4,)
result = A + v
print(result.shape) # (3, 4)
Вектор v прибавляется к каждой строке матрицы A — без явного копирования, просто по правилу растяжения.
# Случай 2: (3, 1) и (1, 4)
# Оба операнда уже двумерны, выравнивание не нужно
# Ось 0: 3 и 1 → растягиваем 1 до 3
# Ось 1: 1 и 4 → растягиваем 1 до 4
# Результат: (3, 4)
col = np.array([[10], [20], [30]]) # shape (3, 1)
row = np.array([[1, 2, 3, 4]]) # shape (1, 4)
result2 = col + row
print(result2.shape) # (3, 4)
print(result2)
# [[11 12 13 14]
# [21 22 23 24]
# [31 32 33 34]]
Здесь каждый элемент col складывается с каждым элементом row — получается полная комбинаторная таблица из 12 значений. Это классический паттерн broadcasting: два одномерных набора, каждый явно сделан двумерным в разных осях, дают двумерный результат.
Чтобы быстро проверить совместимость любых двух форм в голове, достаточно трёх шагов:
- Выписать оба shape.
- Дополнить более короткий единицами слева.
- Пройтись по осям справа налево: каждая пара должна быть равна или содержать 1.
Если все пары прошли проверку — операция сработает, а результирующая форма — это максимум по каждой оси.
Вот несколько пар для быстрой проверки интуиции:
| Форма A | Форма B | После выравнивания | Совместимы? | Результат |
|---|---|---|---|---|
| (5,) | (3, 5) | (1, 5) и (3, 5) | ✅ | (3, 5) |
| (3, 1) | (3, 4) | без изменений | ✅ | (3, 4) |
| (3, 4) | (3, 4) | без изменений | ✅ | (3, 4) |
| (3, 4) | (3, 5) | без изменений | ❌ | — |
| (2, 3) | (4,) | (2, 3) и (1, 4) | ❌ | — |
Последние два случая — несовместимые формы. Почему именно там возникает сбой и как его прочитать в тексте ошибки — разберём дальше.
Диагностика ошибки несовместимости форм
Когда два массива не проходят проверку совместимости, NumPy бросает ValueError с сообщением вида:
ValueError: operands could not be broadcast together with shapes (3,) (3, 4)
В тексте ошибки всегда написаны обе формы — именно с ними и нужно работать.
Диагностика делается в три шага.
Шаг 1. Выписать оба shape из сообщения об ошибке (или проверить через .shape в коде).
Шаг 2. Выровнять формы справа: к более короткой добавить единицы слева до совпадения числа осей.
Шаг 3. Пройтись по осям слева направо и найти ту, где размеры не равны и ни один из них не равен 1. Это и есть причина ошибки.
Разберём конкретный случай из сообщения выше:
import numpy as np
a = np.array([1, 2, 3]) # shape (3,)
b = np.ones((3, 4)) # shape (3, 4)
# a + b → ValueError
Применяем алгоритм:
- Shape
a:(3,)→ после выравнивания:(1, 3) - Shape
b:(3, 4)→ без изменений - Ось 0:
1и3→ ок, единица растянется - Ось 1:
3и4→ 3 ≠ 4, ни один не равен 1 → несовместимы
Именно ось 1 ломает операцию. Вектор a из трёх элементов выровнялся как строка (1, 3), а у b по оси 1 стоит 4 — растянуть невозможно.
Ещё один пример — чуть менее очевидный:
x = np.ones((2, 3)) # shape (2, 3)
y = np.ones((4,)) # shape (4,)
# x + y → ValueError
Диагностика:
yпосле выравнивания:(1, 4)- Ось 0:
2и1→ ок - Ось 1:
3и4→ 3 ≠ 4, ни один не равен 1 → ошибка
Поверхностно кажется, что 2D-массив и вектор из 4 элементов должны как-то сочетаться. Но после выравнивания вектор встаёт во вторую ось как (1, 4), а там уже стоит 3 — несовместимо.
Главное, что даёт этот разбор: знать, где именно добавить единичную ось, чтобы исправить ошибку. Как только понятно, какая ось проблемная и какому операнду нужна единица в этой позиции — исправление становится механическим. Об этом — в следующем разделе.
Исправление несовместимости через np.newaxis и reshape
Диагностика из предыдущего раздела даёт конкретный ответ: какому операнду нужна единица и в какой позиции. Осталось эту единицу поставить — и операция сработает.
Два инструмента делают это: np.newaxis и reshape.
np.newaxis вставляет единичную ось через индексацию и возвращает view — новый объект-массив, смотрящий на те же данные в памяти.
arr[:, np.newaxis]— добавляет ось после первой:(n,)→(n, 1)arr[np.newaxis, :]— добавляет ось перед первой:(n,)→(1, n)
reshape(-1, 1) и reshape(1, -1) меняют форму явным указанием целевых размеров. -1 означает «вычисли этот размер автоматически». reshape возвращает view, когда это позволяет раскладка данных в памяти, и копию — когда нет (например, для транспонированного массива). Проверить, разделяют ли два массива одну и ту же память, можно через np.shares_memory:
import numpy as np
a = np.array([1, 2, 3]) # обычный contiguous массив
a_col = a.reshape(-1, 1)
print(np.shares_memory(a, a_col)) # True — общая память, это view
a_T = np.ones((3, 4)).T # транспонированный, не contiguous
a_T_flat = a_T.reshape(-1)
print(np.shares_memory(a_T, a_T_flat)) # False — NumPy создал копию
np.shares_memory надёжнее проверки через .base, потому что view может ссылаться на данные через промежуточный базовый объект, и arr.base is source в таком случае даст False даже при реально общей памяти.
Для broadcasting-задач вопрос view-или-копия обычно не критичен: вы вычисляете новый массив, а не изменяете исходные данные через результат. Но знать о np.shares_memory полезно при профилировании памяти.
Какой инструмент выбрать — дело вкуса: np.newaxis читается как намерение («добавить ось»), reshape — как явное указание целевой формы.
Сквозной пример: полный цикл
Возьмём случай из раздела про диагностику: a формы (3,) и b формы (3, 4) — несовместимы.
import numpy as np
a = np.array([1, 2, 3]) # shape (3,)
b = np.ones((3, 4)) # shape (3, 4)
# Диагностика (уже сделана):
# a → после выравнивания (1, 3)
# b → (3, 4)
# Ось 1: 3 ≠ 4, ни один не равен 1 → ValueError
# Что нужно: сделать a формой (3, 1), тогда:
# Ось 0: 3 и 3 → совпадают
# Ось 1: 1 и 4 → единица растянется до 4
# Результат: (3, 4)
a_col = a[:, np.newaxis] # shape (3, 1)
print(a_col.shape) # (3, 1)
result = a_col + b
print(result.shape) # (3, 4)
print(result)
# [[2. 2. 2. 2.]
# [3. 3. 3. 3.]
# [4. 4. 4. 4.]]
Каждый элемент a — 1, 2, 3 — прибавляется ко всей соответствующей строке b. Строка 0 получила +1, строка 1 — +2, строка 2 — +3.
Тот же результат через reshape:
a_col_v2 = a.reshape(-1, 1) # shape (3, 1)
print((a_col_v2 + b).shape) # (3, 4)
Второй пример: операция по столбцам
Теперь обратная задача — прибавить к каждому столбцу матрицы (3, 4) отдельный вектор из 4 элементов. Это тривиальный broadcasting: (4,) выравнивается до (1, 4) и растягивается по строкам. Никакого np.newaxis не нужно:
v = np.array([10, 20, 30, 40]) # shape (4,)
result2 = b + v
print(result2.shape) # (3, 4)
Здесь исправлять нечего — формы уже совместимы. np.newaxis нужен только тогда, когда диагностика показала реальную проблему.
Третий пример: (3, 1) и (1, 4) → полная комбинаторная таблица
col = np.array([10, 20, 30]).reshape(-1, 1) # shape (3, 1)
row = np.array([1, 2, 3, 4]).reshape(1, -1) # shape (1, 4)
table = col + row
print(table.shape) # (3, 4)
print(table)
# [[11 12 13 14]
# [21 22 23 24]
# [31 32 33 34]]
Оба операнда специально сформированы в разных осях: один — столбец, другой — строка. В результате каждый элемент первого складывается с каждым элементом второго. Это стандартный паттерн для построения таблиц попарных операций без вложенных циклов.
Алгоритм исправления в одном месте
- Выписать оба shape.
- Выровнять справа, добавив единицы слева к более короткому.
- Найти ось, где размеры не равны и ни один не равен 1.
- Решить, какому операнду нужна единица в этой позиции.
- Добавить ось через
arr[:, np.newaxis]/arr[np.newaxis, :]илиarr.reshape(-1, 1)/arr.reshape(1, -1). - Проверить
.shapeрезультата — он должен совпасть с ожидаемым.
Шаг 6 стоит делать явно, особенно пока интуиция ещё не отработана: print((a_fixed + b).shape) дешевле, чем разбирать неправильный результат позже.
Broadcasting с оператором @ (матричное умножение) работает по другим правилам — там форма согласуется не поэлементно, а через внутренние размеры матриц. Это отдельная тема следующего урока.
Попробуйте решить
Массивы a и b имеют shape (5, 1) и (1, 4) соответственно. Чему равен shape результата a + b?
Продолжить с проверкой и прогрессом
Откройте интерактивный раннер с заданиями урока.
