heapq.md
1> **Источник:** https://python-all.ru/3.1/library/heapq.html2>3> «Документация Python на русском» – неофициальный перевод официальной документации Python: версии от 2.6 до 3.16, полнотекстовый поиск, английский оригинал рядом с переводом. Эта Markdown-версия страницы предназначена для работы с LLM: вставьте её в ChatGPT, Claude или Cursor.45---67# 8.4. `heapq` – Алгоритм очереди на основе кучи89Этот модуль реализует алгоритм очереди с кучей, также известный как алгоритм приоритетной очереди.1011Кучи – это бинарные деревья, в которых каждый родительский узел имеет значение меньше или равное любому из его дочерних узлов. В данной реализации используются массивы, для которых `heap[k] <= heap[2*k+1]` и `heap[k] <= heap[2*k+2]` для всех *k*, считая элементы с нуля. Для сравнения несуществующие элементы считаются бесконечными. Интересное свойство кучи – наименьший элемент всегда находится в корне, `heap[0]`.1213Приведённый ниже API отличается от классических алгоритмов работы с кучами в двух аспектах: (a) используется индексация с нуля. Это делает связь между индексом узла и индексами его потомков чуть менее очевидной, но более подходящей, поскольку Python использует индексацию с нуля. (b) Метод pop возвращает наименьший элемент, а не наибольший (в учебниках это называется «min heap»; «max heap» чаще встречается в литературе из-за его пригодности для сортировки на месте).1415Эти два свойства позволяют рассматривать кучу как обычный список Python без сюрпризов: `heap[0]` – наименьший элемент, а `heap.sort()` сохраняет инвариант кучи!1617Чтобы создать кучу, используйте список, инициализированный значением `[]`, или можно преобразовать заполненный список в кучу с помощью функции [`heapify()`](https://python-all.ru/3.1/library/heapq.html#heapq.heapify).1819Предоставляются следующие функции:2021#### `heapq.heappush(heap, item)`2223Помещает значение2425*item*2627в2829*heap*3031, сохраняя инвариант кучи.3233#### `heapq.heappop(heap)`3435Извлекает и возвращает наименьший элемент из3637*кучи*3839, сохраняя инвариант кучи. Если куча пуста, возникает исключение4041[`IndexError`](https://python-all.ru/3.1/library/exceptions.html#IndexError)4243.4445#### `heapq.heappushpop(heap, item)`4647Помещает4849*item*5051в кучу, затем извлекает и возвращает наименьший элемент из5253*heap*5455. Совместное действие выполняется эффективнее, чем5657[`heappush()`](https://python-all.ru/3.1/library/heapq.html#heapq.heappush)5859с последующим отдельным вызовом6061[`heappop()`](https://python-all.ru/3.1/library/heapq.html#heapq.heappop)6263.6465#### `heapq.heapify(x)`6667Преобразует список6869*x*7071в кучу на месте за линейное время.7273#### `heapq.heapreplace(heap, item)`7475Извлекает и возвращает наименьший элемент из *heap*, а также помещает новый *item*. Размер кучи не меняется. Если куча пуста, вызывается исключение [`IndexError`](https://python-all.ru/3.1/library/exceptions.html#IndexError).7677Эта одношаговая операция эффективнее, чем [`heappop()`](https://python-all.ru/3.1/library/heapq.html#heapq.heappop) с последующим [`heappush()`](https://python-all.ru/3.1/library/heapq.html#heapq.heappush), и может быть более подходящей при использовании кучи фиксированного размера. Комбинация pop/push всегда возвращает элемент из кучи и заменяет его на *item*.7879Возвращаемое значение может быть больше добавленного *item*. Если это нежелательно, рассмотрите использование [`heappushpop()`](https://python-all.ru/3.1/library/heapq.html#heapq.heappushpop). Его комбинация push/pop возвращает меньшее из двух значений, оставляя большее значение в куче.8081Модуль также предоставляет три универсальные функции на основе куч.8283#### `heapq.merge(*iterables)`8485Сливает несколько отсортированных входных последовательностей в одну отсортированную выходную (например, объединяет записи с временными метками из нескольких файлов журналов). Возвращает [*итератор*](https://python-all.ru/3.1/glossary.html#term-iterator) по отсортированным значениям.8687Похож на `sorted(itertools.chain(*iterables))`, но возвращает итератор, не загружает все данные в память сразу и предполагает, что каждый из входных потоков уже отсортирован (от меньшего к большему).8889#### `heapq.nlargest(n, iterable, key=None)`9091Возвращает список из9293*n*9495наибольших элементов из набора данных, заданного9697*iterable*9899. Если указан100101*key*102103, он задаёт функцию одного аргумента, используемую для извлечения ключа сравнения из каждого элемента итератора:104105`key=str.lower`106107Эквивалентно:108109`sorted(iterable, key=key, reverse=True)[:n]`110111#### `heapq.nsmallest(n, iterable, key=None)`112113Возвращает список из114115*n*116117наименьших элементов из набора данных, заданного118119*iterable*120121. Если указан122123*key*124125, он задаёт функцию одного аргумента, используемую для извлечения ключа сравнения из каждого элемента итератора:126127`key=str.lower`128129Эквивалентно:130131`sorted(iterable, key=key)[:n]`132133Последние две функции работают лучше для небольших значений *n*. Для больших значений эффективнее использовать функцию [`sorted()`](https://python-all.ru/3.1/library/functions.html#sorted). Кроме того, когда `n==1`, эффективнее использовать встроенные функции [`min()`](https://python-all.ru/3.1/library/functions.html#min) и [`max()`](https://python-all.ru/3.1/library/functions.html#max).134135## 8.4.1. Базовые примеры136137Кучную сортировку ([heapsort](https://python-all.ru/3.1/library/heapq.html)) можно реализовать, помещая все значения в кучу, а затем извлекая наименьшие значения одно за другим:138139```python140>>> def heapsort(iterable):141... 'Equivalent to sorted(iterable)'142... h = []143... for value in iterable:144... heappush(h, value)145... return [heappop(h) for i in range(len(h))]146...147>>> heapsort([1, 3, 5, 7, 9, 2, 4, 6, 8, 0])148[0, 1, 2, 3, 4, 5, 6, 7, 8, 9]149```150151Элементами кучи могут быть кортежи. Это удобно для присвоения значений сравнения (например, приоритетов задач) вместе с основной отслеживаемой записью:152153```python154>>> h = []155>>> heappush(h, (5, 'write code'))156>>> heappush(h, (7, 'release product'))157>>> heappush(h, (1, 'write spec'))158>>> heappush(h, (3, 'create tests'))159>>> heappop(h)160(1, 'write spec')161```162163## 8.4.2. Примечания к реализации очереди с приоритетом164165[Очередь с приоритетом](https://python-all.ru/3.1/library/heapq.html) – распространённое применение кучи, и она ставит несколько задач при реализации:166167- Устойчивость сортировки: как добиться, чтобы две задачи с одинаковыми приоритетами возвращались в порядке их добавления?168- Сравнение кортежей нарушается для пар (приоритет, задача), если приоритеты равны, а задачи не имеют порядка сравнения по умолчанию.169- Если приоритет задачи изменился, как переместить её на новую позицию в куче?170- Или если ожидающую задачу нужно удалить, как найти её и убрать из очереди?171172Решение первых двух задач – хранить записи в виде списка из трёх элементов: приоритет, счётчик записей и задача. Счётчик записей служит разрешителем равенства, так что две задачи с одинаковым приоритетом возвращаются в порядке их добавления. А поскольку все счётчики записей различны, сравнение кортежей никогда не попытается сравнивать задачи напрямую.173174Остальные трудности связаны с поиском ожидающей задачи и изменением её приоритета или полным удалением. Задачу можно найти с помощью словаря, указывающего на запись в очереди.175176Удаление записи или изменение её приоритета сложнее, поскольку это нарушит инварианты структуры кучи. Поэтому возможное решение – пометить запись как недействительную и при необходимости добавить новую запись с изменённым приоритетом:177178```python179pq = [] # список очереди с приоритетом180counter = itertools.count(1) # уникальный счётчик последовательности181task_finder = {} # отображение задач на записи182INVALID = 0 # пометить запись как удалённую183184def add_task(priority, task, count=None):185 if count is None:186 count = next(counter)187 entry = [priority, count, task]188 task_finder[task] = entry189 heappush(pq, entry)190191def get_top_priority():192 while True:193 priority, count, task = heappop(pq)194 del task_finder[task]195 if count is not INVALID:196 return task197198def delete_task(task):199 entry = task_finder[task]200 entry[1] = INVALID201202def reprioritize(priority, task):203 entry = task_finder[task]204 add_task(priority, task, entry[1])205 entry[1] = INVALID206```207208## 8.4.3. Теория209210Кучи – это массивы, для которых `a[k] <= a[2*k+1]` и `a[k] <= a[2*k+2]` для всех *k*, считая элементы с нуля. Для сравнения несуществующие элементы считаются бесконечными. Интересное свойство кучи заключается в том, что `a[0]` всегда является её наименьшим элементом.211212Странный инвариант выше предназначен для эффективного представления турнира в памяти. Числа ниже – это *k*, а не `a[k]`:213214```python215 0216217 1 2218219 3 4 5 6220221 7 8 9 10 11 12 13 1422222315 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30224```225226В дереве выше каждая ячейка *k* находится над `2*k+1` и `2*k+2`. В обычном бинарном турнире, который мы видим в спорте, каждая ячейка является победителем над двумя ячейками, которые она возглавляет, и мы можем проследить победителя вниз по дереву, чтобы увидеть всех его противников. Однако во многих компьютерных приложениях таких турниров нам не нужно отслеживать историю победителя. Чтобы быть более эффективными по памяти, когда победитель продвигается вверх, мы пытаемся заменить его чем-то другим на более низком уровне, и правило становится таким, что ячейка и две ячейки, которые она возглавляет, содержат три разных элемента, но верхняя ячейка «выигрывает» у двух нижних ячеек.227228Если этот инвариант кучи всегда сохраняется, то индекс 0, очевидно, является общим победителем. Самый простой алгоритмический способ удалить его и найти «следующего» победителя – переместить какого-то проигравшего (скажем, ячейку 30 на диаграмме выше) на позицию 0, а затем просеивать этот новый 0 вниз по дереву, обменивая значения, пока инвариант не будет восстановлен. Это, очевидно, логарифмическая зависимость от общего количества элементов в дереве. Перебирая все элементы, получается сортировка O(n log n).229230Хорошая особенность такой сортировки в том, что можно эффективно вставлять новые элементы, пока сортировка выполняется, при условии, что вставляемые элементы не «лучше» последнего извлечённого элемента с индексом 0. Это особенно полезно в контексте симуляций, где дерево хранит все входящие события, а условие «выигрыша» означает наименьшее запланированное время. Когда событие планирует выполнение других событий, они планируются на будущее, так что их легко добавить в кучу. Таким образом, куча – хорошая структура для реализации планировщиков (именно это я использовал для своего MIDI-секвенсора :-).231232Различные структуры для реализации планировщиков были тщательно изучены, и кучи для этого хороши: они достаточно быстры, скорость почти постоянна, и наихудший случай мало отличается от среднего. Однако существуют и другие представления, которые в целом более эффективны, хотя наихудшие случаи могут быть ужасными.233234Кучи также очень полезны при большой сортировке на диске. Вероятно, всем известно, что большая сортировка подразумевает создание «прогонов» (предварительно отсортированных последовательностей, размер которых обычно связан с объемом оперативной памяти), за которыми следуют проходы слияния для этих прогонов, причем слияние часто организовано очень умно [\[1\]](https://python-all.ru/3.1/library/heapq.html#id2). Очень важно, чтобы начальная сортировка создавала как можно более длинные прогоны. Турниры – хороший способ для этого. Если, используя всю доступную память для проведения турнира, заменять и просеивать элементы, которые вписываются в текущий прогон, то получаются прогоны, вдвое превышающие размер памяти для случайного ввода, и гораздо лучше для ввода с нечеткой упорядоченностью.235236Более того, если вы выводите нулевой элемент на диск и получаете входное значение, которое не помещается в текущий турнир (потому что оно «выигрывает» у последнего выведенного значения), то оно не может поместиться в кучу, и размер кучи уменьшается. Освободившуюся память можно сразу с умом использовать для постепенного построения второй кучи, которая растёт ровно с той же скоростью, с какой тает первая. Когда первая куча полностью исчезает, вы переключаетесь на вторую и начинаете новую серию. Умно и весьма эффективно!237238Одним словом, кучи – полезные структуры данных, которые стоит знать. Я использую их в нескольких приложениях и считаю, что полезно иметь модуль «heap» под рукой. :-)239240Сноски241242| [\[1\]](https://python-all.ru/3.1/library/heapq.html#id1) | Современные алгоритмы балансировки дисков раздражают больше, чем впечатляют, и это следствие возможностей позиционирования дисков. На устройствах без произвольного доступа, таких как большие ленточные накопители, ситуация была совсем иной, и приходилось проявлять большую изобретательность, чтобы заранее гарантировать, что каждое перемещение ленты будет максимально эффективным (то есть наилучшим образом способствует «продвижению» слияния). Некоторые ленты умели даже читать в обратном направлении, и это использовали, чтобы избежать перемотки. Поверьте, по-настоящему хорошие ленточные сортировки были впечатляющим зрелищем! Во все времена сортировка была Великим Искусством! :-) |243| --- | --- |244