13.1. zlib – Сжатие, совместимое с gzip¶zlib – Compression compatible with gzip

Для приложений, которым требуется сжатие данных, функции этого модуля позволяют выполнять сжатие и распаковку с помощью библиотеки zlib. Библиотека zlib имеет собственную домашнюю страницу по адресу http://www.zlib.net. Существуют известные несовместимости между модулем Python и версиями библиотеки zlib старше 1.1.3; в версии 1.1.3 есть уязвимость безопасности, поэтому рекомендуется использовать версию 1.1.4 или новее.

Функции zlib имеют множество опций и зачастую должны вызываться в определённом порядке. Данная документация не пытается охватить все комбинации; за авторитетной информацией обращайтесь к руководству zlib по адресу http://www.zlib.net/manual.html.

Для чтения и записи файлов .gz обратитесь к модулю gzip.

Доступные исключение и функции в этом модуле:

exception zlib.error¶

Исключение, возникающее при ошибках сжатия и распаковки.

zlib.adler32(data[, value])¶

Вычисляет контрольную сумму Адлера-32 для data. (Контрольная сумма Адлера-32 почти так же надёжна, как CRC32, но вычисляется гораздо быстрее.) Результат – 32-битное целое число без знака. Если указан value, он используется как начальное значение контрольной суммы; в противном случае используется значение 1 по умолчанию. Передача value позволяет вычислять накопленную контрольную сумму для объединения нескольких входных данных. Алгоритм не является криптостойким и не должен использоваться для аутентификации или цифровых подписей. Поскольку алгоритм разработан для использования в качестве алгоритма контрольной суммы, он не подходит для использования в качестве общего алгоритма хеширования.

Изменено в версии 3.0: Всегда возвращает беззнаковое значение. Чтобы получить одинаковое числовое значение во всех версиях Python и на всех платформах, используйте adler32(data) & 0xffffffff.

zlib.compress(data[, level])¶

Сжимает байты в data, возвращая объект bytes со сжатыми данными. level – целое число от 0 до 9, задающее степень сжатия; 1 – самое быстрое и даёт наименьшее сжатие, 9 – самое медленное и даёт наибольшее. 0 – без сжатия. Значение по умолчанию – 6. При возникновении ошибки возбуждается исключение error.

zlib.compressobj(level=-1, method=DEFLATED, wbits=15, memLevel=8, strategy=Z_DEFAULT_STRATEGY[, zdict])¶

Возвращает объект сжатия, который используется для сжатия потоков данных, не помещающихся в память целиком.

level – степень сжатия: целое число от 0 до 9 или -1. Значение 1 – самое быстрое и даёт наименьшее сжатие, а значение 9 – самое медленное и даёт наибольшее. 0 – без сжатия. Значение по умолчанию – -1 (Z_DEFAULT_COMPRESSION). Z_DEFAULT_COMPRESSION представляет собой компромисс между скоростью и степенью сжатия (в настоящее время соответствует уровню 6).

method – алгоритм сжатия. В настоящее время поддерживается только значение DEFLATED.

Аргумент wbits управляет размером буфера истории (или «размером окна»), используемого при сжатии данных, а также определяет, включать ли заголовок и концевик в выходные данные. Он может принимать несколько диапазонов значений:

• +9 … +15: двоичный логарифм размера окна, который соответственно находится в диапазоне от 512 до 32768. Большие значения дают лучшее сжатие за счёт большего расхода памяти. Полученный выходной поток будет включать заголовок и концевик, специфичные для zlib.
• −9 … −15: использует абсолютное значение wbits как логарифм размера окна, при этом создаётся необработанный выходной поток без заголовка и концевой контрольной суммы.
• +25 … +31 = 16 + (9 … 15): использует младшие 4 бита значения как логарифм размера окна, при этом в выходные данные включается простой заголовок gzip и концевая контрольная сумма.

Аргумент memLevel управляет объёмом памяти, используемой для внутреннего состояния сжатия. Допустимые значения – от 1 до 9. Большие значения используют больше памяти, но работают быстрее и дают меньший выходной поток.

strategy используется для настройки алгоритма сжатия. Возможные значения: Z_DEFAULT_STRATEGY, Z_FILTERED и Z_HUFFMAN_ONLY.

zdict – предопределённый словарь сжатия. Это последовательность байтов (например, объект bytes), содержащая подпоследовательности, которые, как ожидается, часто встречаются в сжимаемых данных. Подпоследовательности, которые, как ожидается, встречаются чаще всего, должны располагаться в конце словаря.

Изменено в версии 3.3: Добавлен параметр zdict и поддержка именованных аргументов.

zlib.crc32(data[, value])¶

Вычисляет контрольную сумму CRC (Cyclic Redundancy Check) для data. Результат – 32-битное целое число без знака. Если указан value, он используется как начальное значение контрольной суммы; в противном случае используется значение 0 по умолчанию. Передача value позволяет вычислять накопленную контрольную сумму для объединения нескольких входных данных. Алгоритм не является криптостойким и не должен использоваться для аутентификации или цифровых подписей. Поскольку алгоритм разработан для использования в качестве алгоритма контрольной суммы, он не подходит для использования в качестве общего алгоритма хеширования.

Изменено в версии 3.0: Всегда возвращает беззнаковое значение. Чтобы получить одинаковое числовое значение во всех версиях Python и на всех платформах, используйте crc32(data) & 0xffffffff.

zlib.decompress(data[, wbits[, bufsize]])¶

Распаковывает байты в data и возвращает объект bytes, содержащий несжатые данные. Параметр wbits зависит от формата data; подробнее это обсуждается ниже. Если указан bufsize, он используется как начальный размер выходного буфера. Возбуждает исключение error в случае возникновения ошибки.

Параметр wbits управляет размером буфера истории (или «размером окна»), а также тем, какой формат заголовка и трейлера ожидается. Он аналогичен параметру для compressobj(), но принимает больше диапазонов значений:

• +8 … +15: двоичный логарифм размера окна. Входные данные должны содержать заголовок и трейлер zlib.
• 0: автоматически определять размер окна из заголовка zlib. Поддерживается только начиная с zlib 1.2.3.5.
• −8 … −15: использует абсолютное значение wbits как логарифм размера окна. Входные данные должны быть сырым потоком без заголовка или трейлера.
• +24 … +31 = 16 + (8 … 15): использует младшие 4 бита значения как логарифм размера окна. Входные данные должны содержать заголовок и трейлер gzip.
• +40 … +47 = 32 + (8 … 15): использует младшие 4 бита значения как логарифм размера окна и автоматически принимает как формат zlib, так и gzip.

При декомпрессии потока размер окна не должен быть меньше размера, использованного при сжатии потока; слишком маленькое значение может привести к исключению error. Значение wbits по умолчанию равно 15, что соответствует наибольшему размеру окна и требует включения заголовка и концевика zlib.

bufsize – начальный размер буфера для хранения распакованных данных. Если требуется больше места, размер буфера будет увеличен по мере необходимости, так что не нужно точно подбирать это значение; его настройка лишь сэкономит несколько вызовов malloc(). Размер по умолчанию – 16384.

zlib.decompressobj(wbits=15[, zdict])¶

Возвращает объект распаковки, предназначенный для распаковки потоков данных, которые не помещаются в память целиком.

Параметр wbits управляет размером буфера истории (или «размером окна») и тем, какой формат заголовка и трейлера ожидается. Он имеет то же значение, что и описанный для decompress().

Параметр zdict задаёт предопределённый словарь сжатия. Если он указан, это должен быть тот же словарь, который использовался компрессором, создавшим подлежащие распаковке данные.

Примечание

Если zdict является изменяемым объектом (например, bytearray), его содержимое нельзя изменять между вызовом decompressobj() и первым вызовом метода decompress() распаковщика.

Изменено в версии 3.3: Добавлен параметр zdict.

Объекты сжатия поддерживают следующие методы:

Compress.compress(data)¶

Сжимает data, возвращая объект bytes, содержащий сжатые данные, по крайней мере для части данных из data. Эти данные следует добавить к выводу, полученному от любых предыдущих вызовов метода compress(). Некоторые входные данные могут быть сохранены во внутренних буферах для последующей обработки.

Compress.flush([mode])¶

Все ожидающие входные данные обрабатываются, и возвращается объект bytes, содержащий оставшиеся сжатые выходные данные. mode можно выбрать из констант Z_SYNC_FLUSH, Z_FULL_FLUSH или Z_FINISH, по умолчанию Z_FINISH. Z_SYNC_FLUSH и Z_FULL_FLUSH позволяют продолжать сжатие следующих строк байтов, а Z_FINISH завершает сжатый поток и запрещает дальнейшее сжатие. После вызова flush() с mode, установленным в Z_FINISH, метод compress() нельзя вызывать снова; единственное разумное действие – удалить объект.

Compress.copy()¶

Возвращает копию объекта сжатия. Это может быть использовано для эффективного сжатия набора данных, имеющих общий начальный префикс.

Объекты распаковки поддерживают следующие методы и атрибуты:

Decompress.unused_data¶

Объект bytes, содержащий любые байты после конца сжатых данных. То есть он остаётся b"" до тех пор, пока не станет доступен последний байт, содержащий сжатые данные. Если вся строка байт оказалась состоящей из сжатых данных, это b"", пустой объект bytes.

Decompress.unconsumed_tail¶

Объект bytes, содержащий любые данные, которые не были потреблены последним вызовом decompress(), так как они превысили лимит буфера распакованных данных. Эти данные ещё не были обработаны механизмом zlib, поэтому их необходимо снова передать (возможно, с добавлением дополнительных данных) в последующий вызов метода decompress(), чтобы получить правильный вывод.

Decompress.eof¶

Логическое значение, указывающее, достигнут ли конец сжатого потока данных.

Это позволяет различать правильно сформированный сжатый поток и неполный или усечённый.

Новое в версии 3.3.

Decompress.decompress(data[, max_length])¶

Распаковывает data, возвращая bytes-объект с распакованными данными, соответствующими по меньшей мере части данных из string. Эти данные следует добавить к результату, полученному от предыдущих вызовов метода decompress(). Некоторые входные данные могут сохраняться во внутренних буферах для последующей обработки.

Если необязательный параметр max_length ненулевой, то возвращаемое значение будет не длиннее max_length. Это может означать, что не все сжатые входные данные могут быть обработаны; неиспользованные данные будут сохранены в атрибуте unconsumed_tail. Эту байтовую строку необходимо передать последующему вызову decompress(), если декомпрессия должна быть продолжена. Если max_length не указан, то декомпрессируется весь входной поток, и unconsumed_tail пуст.

Decompress.flush([length])¶

Все ожидающие обработки входные данные обрабатываются, и возвращается bytes-объект, содержащий оставшиеся распакованные выходные данные. После вызова flush() метод decompress() больше нельзя вызывать; единственное разумное действие – удалить объект.

Необязательный параметр length задаёт начальный размер выходного буфера.

Decompress.copy()¶

Возвращает копию объекта распаковки. Это можно использовать для сохранения состояния распаковщика на середине потока данных, чтобы ускорить произвольный доступ к потоку в будущем.

Информацию о версии используемой библиотеки zlib можно получить через следующие константы:

zlib.ZLIB_VERSION¶

Строка версии библиотеки zlib, использовавшейся для сборки модуля. Она может отличаться от библиотеки zlib, фактически используемой во время выполнения, которая доступна как ZLIB_RUNTIME_VERSION.

zlib.ZLIB_RUNTIME_VERSION¶

Строка версии библиотеки zlib, фактически загруженной интерпретатором.

Новое в версии 3.3.