multiprocessing.md

1> **Источник:** https://python-all.ru/3.7/library/multiprocessing.html2>3> «Документация Python на русском» – неофициальный перевод официальной документации Python: версии от 2.6 до 3.16, полнотекстовый поиск, английский оригинал рядом с переводом. Эта Markdown-версия страницы предназначена для работы с LLM: вставьте её в ChatGPT, Claude или Cursor.45---67# [`multiprocessing`](https://python-all.ru/3.7/library/multiprocessing.html#module-multiprocessing) – параллелизм на основе процессов89**Исходный код:** [Lib/multiprocessing/](https://python-all.ru/src/3.7/Lib/multiprocessing)1011---1213## Введение1415[`multiprocessing`](https://python-all.ru/3.7/library/multiprocessing.html#module-multiprocessing) – это пакет, который поддерживает порождение процессов с помощью API, похожего на модуль [`threading`](https://python-all.ru/3.7/library/threading.html#module-threading). Пакет [`multiprocessing`](https://python-all.ru/3.7/library/multiprocessing.html#module-multiprocessing) обеспечивает как локальный, так и удалённый параллелизм, эффективно обходя [Глобальную блокировку интерпретатора](https://python-all.ru/3.7/glossary.html#term-global-interpreter-lock), используя подпроцессы вместо потоков. Благодаря этому модуль [`multiprocessing`](https://python-all.ru/3.7/library/multiprocessing.html#module-multiprocessing) позволяет программисту полностью использовать несколько процессоров на данной машине. Он работает как на Unix, так и на Windows.1617Модуль [`multiprocessing`](https://python-all.ru/3.7/library/multiprocessing.html#module-multiprocessing) также предоставляет API, у которых нет аналогов в модуле [`threading`](https://python-all.ru/3.7/library/threading.html#module-threading). Яркий пример – объект [`Pool`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.pool.Pool), который предоставляет удобный способ распараллеливания выполнения функции для нескольких входных значений, распределяя входные данные между процессами (параллелизм данных). Следующий пример демонстрирует обычную практику определения таких функций в модуле, чтобы дочерние процессы могли успешно импортировать этот модуль. Этот базовый пример параллелизма данных с использованием [`Pool`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.pool.Pool),1819```python20from multiprocessing import Pool2122def f(x):23    return x*x2425if __name__ == '__main__':26    with Pool(5) as p:27        print(p.map(f, [1, 2, 3]))28```2930будет выводить на стандартный вывод3132```python33[1, 4, 9]34```3536### Класс [`Process`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Process)3738В [`multiprocessing`](https://python-all.ru/3.7/library/multiprocessing.html#module-multiprocessing) процессы порождаются созданием объекта [`Process`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Process) и последующим вызовом его метода [`start()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Process.start). [`Process`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Process) следует API [`threading.Thread`](https://python-all.ru/3.7/library/threading.html#threading.Thread). Простой пример многопроцессной программы:3940```python41from multiprocessing import Process4243def f(name):44    print('hello', name)4546if __name__ == '__main__':47    p = Process(target=f, args=('bob',))48    p.start()49    p.join()50```5152Чтобы показать идентификаторы задействованных процессов, вот расширенный пример:5354```python55from multiprocessing import Process56import os5758def info(title):59    print(title)60    print('module name:', __name__)61    print('parent process:', os.getppid())62    print('process id:', os.getpid())6364def f(name):65    info('function f')66    print('hello', name)6768if __name__ == '__main__':69    info('main line')70    p = Process(target=f, args=('bob',))71    p.start()72    p.join()73```7475Объяснение того, зачем нужна часть `if __name__ == '__main__'`, см. в [руководстве по программированию](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing-programming).7677### Контексты и методы запуска7879В зависимости от платформы [`multiprocessing`](https://python-all.ru/3.7/library/multiprocessing.html#module-multiprocessing) поддерживает три способа запуска процесса. Эти *методы запуска*:8081> ***spawn***82>83> Родительский процесс запускает новый процесс интерпретатора Python. Дочерний процесс наследует только те ресурсы, которые необходимы для запуска метода [`run()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Process.run) объектов процесса. В частности, ненужные файловые дескрипторы и дескрипторы (handles) родительского процесса не наследуются. Запуск процесса с помощью этого метода довольно медленный по сравнению с использованием *fork* или *forkserver*.84>85> Доступен на Unix и Windows. По умолчанию на Windows.86>87> ***fork***88>89> Родительский процесс использует [`os.fork()`](https://python-all.ru/3.7/library/os.html#os.fork) для форка интерпретатора Python. Дочерний процесс в начале своего выполнения фактически идентичен родительскому процессу. Все ресурсы родительского процесса наследуются дочерним процессом. Обратите внимание, что безопасный форк многопоточного процесса проблематичен.90>91> Доступно только на Unix. По умолчанию используется на Unix.92>93> ***forkserver***94>95> Когда программа запускается и выбирает метод запуска *forkserver*, запускается серверный процесс. После этого каждый раз, когда требуется новый процесс, родительский процесс подключается к серверу и запрашивает создание (fork) нового процесса. Серверный процесс (fork server) является однопоточным, поэтому ему безопасно использовать [`os.fork()`](https://python-all.ru/3.7/library/os.html#os.fork). Ненужные ресурсы не наследуются.96>97> Доступно на платформах Unix, которые поддерживают передачу файловых дескрипторов через каналы Unix.9899Изменено в версии 3.4: *spawn* добавлен на всех платформах Unix, а *forkserver* добавлен для некоторых платформ Unix. Дочерние процессы больше не наследуют все наследуемые дескрипторы родительского процесса в Windows.100101На Unix при использовании методов запуска *spawn* или *forkserver* также запускается процесс *отслеживатель семафоров*, который отслеживает именованные семафоры, созданные процессами программы и оставшиеся без связи. Когда все процессы завершатся, отслеживатель семафоров удаляет все оставшиеся семафоры. Обычно их быть не должно, но если процесс был убит сигналом, могут остаться «утекшие» семафоры. (Удаление именованных семафоров – серьёзное дело, поскольку система допускает лишь ограниченное количество, и они не будут автоматически удалены до следующей перезагрузки.)102103Для выбора метода запуска используется [`set_start_method()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.set_start_method) в блоке `if __name__ == '__main__'` главного модуля. Например:104105```python106import multiprocessing as mp107108def foo(q):109    q.put('hello')110111if __name__ == '__main__':112    mp.set_start_method('spawn')113    q = mp.Queue()114    p = mp.Process(target=foo, args=(q,))115    p.start()116    print(q.get())117    p.join()118```119120[`set_start_method()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.set_start_method) не должен использоваться более одного раза в программе.121122В качестве альтернативы можно использовать [`get_context()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.get_context) для получения объекта контекста. Объекты контекста имеют тот же API, что и модуль multiprocessing, и позволяют использовать несколько методов запуска в одной программе.123124```python125import multiprocessing as mp126127def foo(q):128    q.put('hello')129130if __name__ == '__main__':131    ctx = mp.get_context('spawn')132    q = ctx.Queue()133    p = ctx.Process(target=foo, args=(q,))134    p.start()135    print(q.get())136    p.join()137```138139Обратите внимание: объекты, связанные с одним контекстом, могут быть несовместимы с процессами другого контекста. В частности, блокировки, созданные с помощью контекста *fork*, нельзя передавать процессам, запущенным с помощью методов запуска *spawn* или *forkserver*.140141Библиотека, которая хочет использовать определённый метод запуска, вероятно, должна использовать [`get_context()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.get_context), чтобы не мешать выбору пользователя библиотеки.142143> **Предупреждение**144>145> Методы запуска `'spawn'` и `'forkserver'` в настоящее время не могут использоваться с «замороженными» исполняемыми файлами (т.е. бинарными файлами, созданными такими пакетами, как **PyInstaller** и **cx\_Freeze**) на Unix. Метод запуска `'fork'` работает.146147### Обмен объектами между процессами148149[`multiprocessing`](https://python-all.ru/3.7/library/multiprocessing.html#module-multiprocessing) поддерживает два типа каналов связи между процессами:150151**Очереди**152153> Класс [`Queue`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Queue) является почти точной копией [`queue.Queue`](https://python-all.ru/3.7/library/queue.html#queue.Queue). Например:154>155> ```python156> from multiprocessing import Process, Queue157>158> def f(q):159>     q.put([42, None, 'hello'])160>161> if __name__ == '__main__':162>     q = Queue()163>     p = Process(target=f, args=(q,))164>     p.start()165>     print(q.get())    # печатает "[42, None, 'hello']"166>     p.join()167> ```168>169> Очереди потокобезопасны и безопасны для процессов.170171**Каналы**172173> Функция [`Pipe()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Pipe) возвращает пару объектов соединения, связанных каналом, который по умолчанию является дуплексным (двунаправленным). Например:174>175> ```python176> from multiprocessing import Process, Pipe177>178> def f(conn):179>     conn.send([42, None, 'hello'])180>     conn.close()181>182> if __name__ == '__main__':183>     parent_conn, child_conn = Pipe()184>     p = Process(target=f, args=(child_conn,))185>     p.start()186>     print(parent_conn.recv())   # печатает "[42, None, 'hello']"187>     p.join()188> ```189>190> Два объекта соединения, возвращаемые [`Pipe()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Pipe), представляют два конца канала. Каждый объект соединения имеет методы `send()` и `recv()` (среди прочих). Обратите внимание: данные в канале могут быть повреждены, если два процесса (или потока) попытаются одновременно читать или писать в *один и тот же* конец канала. Разумеется, нет риска повреждения, если процессы одновременно используют разные концы канала.191192### Синхронизация между процессами193194[`multiprocessing`](https://python-all.ru/3.7/library/multiprocessing.html#module-multiprocessing) содержит эквиваленты всех примитивов синхронизации из [`threading`](https://python-all.ru/3.7/library/threading.html#module-threading). Например, можно использовать блокировку, чтобы гарантировать, что только один процесс одновременно выводит на стандартный вывод:195196```python197from multiprocessing import Process, Lock198199def f(l, i):200    l.acquire()201    try:202        print('hello world', i)203    finally:204        l.release()205206if __name__ == '__main__':207    lock = Lock()208209    for num in range(10):210        Process(target=f, args=(lock, num)).start()211```212213Без использования блокировки вывод от разных процессов может полностью перепутаться.214215### Совместное использование состояния между процессами216217Как уже упоминалось, при параллельном программировании обычно лучше избегать использования общего состояния, насколько это возможно. Это особенно верно при использовании нескольких процессов.218219Однако если действительно необходимо использовать некоторые общие данные, то [`multiprocessing`](https://python-all.ru/3.7/library/multiprocessing.html#module-multiprocessing) предоставляет несколько способов сделать это.220221**Разделяемая память**222223> Данные могут храниться в отображении разделяемой памяти с помощью [`Value`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Value) или [`Array`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Array). Например, следующий код224>225> ```python226> from multiprocessing import Process, Value, Array227>228> def f(n, a):229>     n.value = 3.1415927230>     for i in range(len(a)):231>         a[i] = -a[i]232>233> if __name__ == '__main__':234>     num = Value('d', 0.0)235>     arr = Array('i', range(10))236>237>     p = Process(target=f, args=(num, arr))238>     p.start()239>     p.join()240>241>     print(num.value)242>     print(arr[:])243> ```244>245> выведет246>247> ```python248> 3.1415927249> [0, -1, -2, -3, -4, -5, -6, -7, -8, -9]250> ```251>252> Аргументы `'d'` и `'i'`, используемые при создании `num` и `arr`, – это коды типов, аналогичные используемым модулем [`array`](https://python-all.ru/3.7/library/array.html#module-array): `'d'` означает число с плавающей запятой двойной точности, а `'i'` – целое число со знаком. Эти разделяемые объекты будут безопасными для процессов и потоков.253>254> Для большей гибкости при работе с разделяемой памятью можно использовать модуль [`multiprocessing.sharedctypes`](https://python-all.ru/3.7/library/multiprocessing.html#module-multiprocessing.sharedctypes), который поддерживает создание произвольных объектов ctypes, выделенных из разделяемой памяти.255256**Серверный процесс**257258> Объект-менеджер, возвращаемый `Manager()`, управляет серверным процессом, который содержит объекты Python и позволяет другим процессам манипулировать ими с помощью прокси.259>260> Менеджер, возвращаемый `Manager()`, поддерживает типы [`list`](https://python-all.ru/3.7/library/stdtypes.html#list), [`dict`](https://python-all.ru/3.7/library/stdtypes.html#dict), [`Namespace`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.managers.Namespace), [`Lock`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Lock), [`RLock`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.RLock), [`Semaphore`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Semaphore), [`BoundedSemaphore`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.BoundedSemaphore), [`Condition`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Condition), [`Event`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Event), [`Barrier`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Barrier), [`Queue`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Queue), [`Value`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Value) и [`Array`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Array). Например,261>262> ```python263> from multiprocessing import Process, Manager264>265> def f(d, l):266>     d[1] = '1'267>     d['2'] = 2268>     d[0.25] = None269>     l.reverse()270>271> if __name__ == '__main__':272>     with Manager() as manager:273>         d = manager.dict()274>         l = manager.list(range(10))275>276>         p = Process(target=f, args=(d, l))277>         p.start()278>         p.join()279>280>         print(d)281>         print(l)282> ```283>284> выведет285>286> ```python287> {0.25: None, 1: '1', '2': 2}288> [9, 8, 7, 6, 5, 4, 3, 2, 1, 0]289> ```290>291> Серверные менеджеры процессов более гибкие, чем использование объектов разделяемой памяти, потому что их можно настроить на поддержку произвольных типов объектов. Кроме того, один менеджер может быть разделён между процессами на разных компьютерах через сеть. Однако они медленнее, чем использование разделяемой памяти.292293### Использование пула рабочих процессов294295Класс [`Pool`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.pool.Pool) представляет пул рабочих процессов. Он имеет методы, которые позволяют передавать задачи рабочим процессам несколькими различными способами.296297Например:298299```python300from multiprocessing import Pool, TimeoutError301import time302import os303304def f(x):305    return x*x306307if __name__ == '__main__':308    # запустить 4 рабочих процесса309    with Pool(processes=4) as pool:310311        # печатает "[0, 1, 4,..., 81]"312        print(pool.map(f, range(10)))313314        # печатает те же числа в произвольном порядке315        for i in pool.imap_unordered(f, range(10)):316            print(i)317318        # вычисляет "f(20)" асинхронно319        res = pool.apply_async(f, (20,))      # выполняется *только* в одном процессе320        print(res.get(timeout=1))             # печатает "400"321322        # вычисляет "os.getpid()" асинхронно323        res = pool.apply_async(os.getpid, ()) # выполняется *только* в одном процессе324        print(res.get(timeout=1))             # печатает PID этого процесса325326        # запуск нескольких асинхронных вычислений *может* задействовать больше процессов327        multiple_results = [pool.apply_async(os.getpid, ()) for i in range(4)]328        print([res.get(timeout=1) for res in multiple_results])329330        # заставить один рабочий процесс спать 10 секунд331        res = pool.apply_async(time.sleep, (10,))332        try:333            print(res.get(timeout=1))334        except TimeoutError:335            print("We lacked patience and got a multiprocessing.TimeoutError")336337        print("For the moment, the pool remains available for more work")338339    # выход из блока 'with' остановил пул340    print("Now the pool is closed and no longer available")341```342343Обратите внимание: методы пула должны использоваться только тем процессом, который его создал.344345> **Примечание**346>347> Для функциональности этого пакета требуется, чтобы модуль `__main__` был импортируемым дочерними процессами. Это описано в [Рекомендациях по программированию](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing-programming), но стоит упомянуть об этом и здесь. Это означает, что некоторые примеры, такие как примеры [`multiprocessing.pool.Pool`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.pool.Pool), не будут работать в интерактивном интерпретаторе. Например:348>349> ```python350> >>> from multiprocessing import Pool351> >>> p = Pool(5)352> >>> def f(x):353> ...     return x*x354> ...355> >>> with p:356> ...   p.map(f, [1,2,3])357> Process PoolWorker-1:358> Process PoolWorker-2:359> Process PoolWorker-3:360> Traceback (most recent call last):361> Traceback (most recent call last):362> Traceback (most recent call last):363> AttributeError: 'module' object has no attribute 'f'364> AttributeError: 'module' object has no attribute 'f'365> AttributeError: 'module' object has no attribute 'f'366> ```367>368> (Если попробовать это сделать, на самом деле будут выведены три полные трассировки стека, перемешанные в полу-случайном порядке, и затем, возможно, придётся как-то остановить главный процесс.)369370## Ссылка371372Пакет [`multiprocessing`](https://python-all.ru/3.7/library/multiprocessing.html#module-multiprocessing) в основном повторяет API модуля [`threading`](https://python-all.ru/3.7/library/threading.html#module-threading).373374### [`Process`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Process) и исключения375376#### `class multiprocessing.Process(group=None, target=None, name=None, args=(), kwargs={}, *, daemon=None)`377378Объекты Process представляют активность, выполняемую в отдельном процессе. Класс [`Process`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Process) имеет эквиваленты всех методов [`threading.Thread`](https://python-all.ru/3.7/library/threading.html#threading.Thread).379380Конструктор всегда следует вызывать с именованными аргументами. *group* всегда должен быть `None`; он существует только для совместимости с [`threading.Thread`](https://python-all.ru/3.7/library/threading.html#threading.Thread). *target* – это вызываемый объект, который будет вызван методом [`run()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Process.run). По умолчанию `None`, то есть ничего не вызывается. *name* – это имя процесса (см. [`name`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Process.name) для подробностей). *args* – кортеж аргументов для вызова целевой функции. *kwargs* – это словарь именованных аргументов для вызова целевой функции. Если указан, аргумент только по ключевому слову *daemon* устанавливает флаг процесса [`daemon`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Process.daemon) в `True` или `False`. Если `None` (по умолчанию), этот флаг будет унаследован от создающего процесса.381382По умолчанию в *target* не передаётся никаких аргументов.383384Если подкласс переопределяет конструктор, он должен вызывать конструктор базового класса (`Process.__init__()`) перед любыми другими действиями над процессом.385386Изменено в версии 3.3: Добавлен аргумент *daemon*.387388#### `run()`389390Метод, представляющий активность процесса.391392Этот метод можно переопределить в подклассе. Стандартный метод [`run()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Process.run) вызывает вызываемый объект, переданный конструктору объекта в качестве аргумента target, если он есть, с позиционными и именованными аргументами, взятыми из аргументов *args* и *kwargs* соответственно.393394#### `start()`395396Запускает активность процесса.397398Этот метод должен быть вызван не более одного раза для каждого объекта процесса. Он обеспечивает вызов метода [`run()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Process.run) объекта в отдельном процессе.399400#### `join([timeout])`401402Если необязательный аргумент *timeout* равен `None` (по умолчанию), метод блокируется до завершения процесса, у которого вызывается метод [`join()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Process.join). Если *timeout* – положительное число, блокировка длится не более *timeout* секунд. Обратите внимание: метод возвращает `None`, если процесс завершился или истекло время ожидания. Проверьте [`exitcode`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Process.exitcode) процесса, чтобы определить, завершился ли он.403404Процесс может быть присоединён много раз.405406Процесс не может присоединить сам себя, так как это приведёт к взаимоблокировке. Попытка вызвать join для процесса до его запуска является ошибкой.407408#### `name`409410Имя процесса. Имя – это строка, используемая только для идентификации. Оно не имеет семантического значения. Несколько процессов могут иметь одно и то же имя.411412Начальное имя устанавливается конструктором. Если явное имя не передано конструктору, создаётся имя вида ‘Process-N1:N2:…:Nk’, где каждая Nk – это N-й дочерний процесс своего родителя.413414#### `is_alive()`415416Возвращает, жив ли процесс.417418Грубо говоря, объект процесса живёт с момента возврата метода [`start()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Process.start) до завершения дочернего процесса.419420#### `daemon`421422Флаг демона процесса (логическое значение). Должен быть установлен до вызова [`start()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Process.start).423424Начальное значение наследуется от создающего процесса.425426Когда процесс завершается, он пытается завершить все свои дочерние процессы-демоны.427428Обратите внимание, что процессу-демону не разрешается создавать дочерние процессы. Иначе процесс-демон оставил бы своих потомков осиротевшими, если бы он был завершён при выходе своего родительского процесса. Кроме того, это **не** демоны или службы Unix, а обычные процессы, которые будут завершены (и не присоединены), если не-демонические процессы завершились.429430В дополнение к API [`threading.Thread`](https://python-all.ru/3.7/library/threading.html#threading.Thread) объекты [`Process`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Process) также поддерживают следующие атрибуты и методы:431432#### `pid`433434Возвращает идентификатор процесса. До запуска процесса это будет `None`.435436#### `exitcode`437438Код завершения дочернего процесса. Он будет равен `None`, если процесс ещё не завершён. Отрицательное значение *-N* означает, что дочерний процесс был завершён сигналом *N*.439440#### `authkey`441442Ключ аутентификации процесса (байтовая строка).443444При инициализации [`multiprocessing`](https://python-all.ru/3.7/library/multiprocessing.html#module-multiprocessing) главному процессу назначается случайная строка с помощью [`os.urandom()`](https://python-all.ru/3.7/library/os.html#os.urandom).445446При создании объекта [`Process`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Process) он наследует ключ аутентификации своего родительского процесса, хотя его можно изменить, установив [`authkey`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Process.authkey) в другую байтовую строку.447448См. [Ключи аутентификации](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing-auth-keys).449450#### `sentinel`451452Числовой дескриптор системного объекта, который становится «готов» по завершении процесса.453454Это значение можно использовать для ожидания нескольких событий одновременно с помощью [`multiprocessing.connection.wait()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.connection.wait). В противном случае вызов [`join()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Process.join) проще.455456В Windows это дескриптор ОС, который можно использовать с семейством `WaitForSingleObject` и `WaitForMultipleObjects` вызовов API. В Unix это файловый дескриптор, который можно использовать с примитивами из модуля [`select`](https://python-all.ru/3.7/library/select.html#module-select).457458Новое в версии 3.3.459460#### `terminate()`461462Завершает процесс. На Unix это делается с помощью сигнала `SIGTERM`; на Windows используется `TerminateProcess()`. Обратите внимание, что обработчики выхода и блоки finally и т.д. выполняться не будут.463464Обратите внимание, что процессы-потомки *не* будут завершены – они просто станут осиротевшими.465466> **Предупреждение**467>468> Если этот метод используется, когда связанный процесс использует канал или очередь, то канал или очередь могут быть повреждены и стать непригодными для использования другими процессами. Аналогично, если процесс захватил блокировку или семафор и т.п., то его завершение может привести к взаимной блокировке других процессов.469470#### `kill()`471472То же, что и [`terminate()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Process.terminate), но с использованием сигнала `SIGKILL` в Unix.473474Добавлено в версии 3.7.475476#### `close()`477478Закрывает объект [`Process`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Process), освобождая все связанные с ним ресурсы. Если соответствующий процесс ещё выполняется, возбуждается [`ValueError`](https://python-all.ru/3.7/library/exceptions.html#ValueError). После успешного возврата из [`close()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Process.close) большинство других методов и атрибутов объекта [`Process`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Process) будут возбуждать [`ValueError`](https://python-all.ru/3.7/library/exceptions.html#ValueError).479480Добавлено в версии 3.7.481482Обратите внимание: методы [`start()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Process.start), [`join()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Process.join), [`is_alive()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Process.is_alive), [`terminate()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Process.terminate) и [`exitcode`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Process.exitcode) должны вызываться только тем процессом, который создал объект процесса.483484Пример использования некоторых методов [`Process`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Process):485486```pycon487>>> import multiprocessing, time, signal488>>> p = multiprocessing.Process(target=time.sleep, args=(1000,))489>>> print(p, p.is_alive())490<Process(Process-1, initial)> False491>>> p.start()492>>> print(p, p.is_alive())493<Process(Process-1, started)> True494>>> p.terminate()495>>> time.sleep(0.1)496>>> print(p, p.is_alive())497<Process(Process-1, stopped[SIGTERM])> False498>>> p.exitcode == -signal.SIGTERM499True500```501502#### `exception multiprocessing.ProcessError`503504Базовый класс всех исключений [`multiprocessing`](https://python-all.ru/3.7/library/multiprocessing.html#module-multiprocessing).505506#### `exception multiprocessing.BufferTooShort`507508Исключение, возбуждаемое `Connection.recv_bytes_into()`, когда предоставленный буфер слишком мал для чтения сообщения.509510Если `e` является экземпляром [`BufferTooShort`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.BufferTooShort), то `e.args[0]` вернёт сообщение в виде байтовой строки.511512#### `exception multiprocessing.AuthenticationError`513514Возбуждается при ошибке аутентификации.515516#### `exception multiprocessing.TimeoutError`517518Возбуждается методами с тайм-аутом по истечении тайм-аута.519520### Каналы и очереди521522При использовании нескольких процессов обычно применяется передача сообщений для взаимодействия между процессами, что позволяет избежать использования примитивов синхронизации, таких как блокировки.523524Для передачи сообщений можно использовать [`Pipe()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Pipe) (для соединения между двумя процессами) или очередь (которая допускает несколько производителей и потребителей).525526Типы [`Queue`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Queue), [`SimpleQueue`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.SimpleQueue) и [`JoinableQueue`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.JoinableQueue) – это очереди с несколькими производителями и потребителями, работающие по принципу FIFO и созданные по образцу класса [`queue.Queue`](https://python-all.ru/3.7/library/queue.html#queue.Queue) из стандартной библиотеки. Они отличаются тем, что в [`Queue`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Queue) отсутствуют методы [`task_done()`](https://python-all.ru/3.7/library/queue.html#queue.Queue.task_done) и [`join()`](https://python-all.ru/3.7/library/queue.html#queue.Queue.join), введённые в класс [`queue.Queue`](https://python-all.ru/3.7/library/queue.html#queue.Queue) в Python 2.5.527528Если используется [`JoinableQueue`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.JoinableQueue), то **обязательно** вызывайте [`JoinableQueue.task_done()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.JoinableQueue.task_done) для каждой задачи, извлечённой из очереди; в противном случае семафор, используемый для подсчёта незавершённых задач, может переполниться, что приведёт к возбуждению исключения.529530Обратите внимание, что общую очередь также можно создать с помощью объекта-менеджера – см. [Менеджеры](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing-managers).531532> **Примечание**533>534> [`multiprocessing`](https://python-all.ru/3.7/library/multiprocessing.html#module-multiprocessing) использует обычные исключения [`queue.Empty`](https://python-all.ru/3.7/library/queue.html#queue.Empty) и [`queue.Full`](https://python-all.ru/3.7/library/queue.html#queue.Full) для сигнализации тайм-аута. Они недоступны в пространстве имён [`multiprocessing`](https://python-all.ru/3.7/library/multiprocessing.html#module-multiprocessing), поэтому их необходимо импортировать из [`queue`](https://python-all.ru/3.7/library/queue.html#module-queue).535536> **Примечание**537>538> Когда объект помещается в очередь, он сериализуется с помощью модуля pickle, и фоновый поток позднее сбрасывает сериализованные данные в нижележащий канал. Это имеет некоторые неожиданные последствия, но обычно не вызывает практических трудностей – если это действительно беспокоит, можно вместо этого использовать очередь, созданную с помощью [менеджера](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing-managers).539>540> 1. После помещения объекта в пустую очередь может пройти бесконечно малая задержка, прежде чем метод [`empty()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Queue.empty) очереди вернёт [`False`](https://python-all.ru/3.7/library/constants.html#False) и [`get_nowait()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Queue.get_nowait) сможет вернуться без возбуждения [`queue.Empty`](https://python-all.ru/3.7/library/queue.html#queue.Empty).541> 2. Если несколько процессов помещают объекты в очередь, возможно получение объектов на другом конце не по порядку. Однако объекты, помещённые в очередь одним и тем же процессом, всегда будут идти друг за другом в ожидаемом порядке.542543> **Предупреждение**544>545> Если процесс завершается принудительно с помощью [`Process.terminate()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Process.terminate) или [`os.kill()`](https://python-all.ru/3.7/library/os.html#os.kill) в то время, как он пытается использовать [`Queue`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Queue), данные в очереди могут быть повреждены. Это может привести к тому, что любой другой процесс при попытке использовать очередь получит исключение.546547> **Предупреждение**548>549> Как упоминалось выше, если дочерний процесс поместил элементы в очередь (и не использовал [`JoinableQueue.cancel_join_thread`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Queue.cancel_join_thread)), он не завершится, пока все буферизованные элементы не будут сброшены в канал.550>551> Это означает, что при попытке присоединиться к этому процессу может возникнуть взаимоблокировка, если не быть уверенным, что все помещённые в очередь элементы были потреблены. Аналогично, если дочерний процесс не является демоническим, родительский процесс может зависнуть при завершении, когда попытается присоединиться ко всем своим недемоническим потомкам.552>553> Обратите внимание, что очередь, созданная с помощью менеджера, не имеет этой проблемы. См. [Рекомендации по программированию](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing-programming).554555Пример использования очередей для межпроцессного взаимодействия см. в разделе [Примеры](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing-examples).556557#### `multiprocessing.Pipe([duplex])`558559Возвращает пару `(conn1, conn2)` объектов [`Connection`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.connection.Connection), представляющих концы канала.560561Если *duplex* равно `True` (по умолчанию), то канал двунаправленный. Если *duplex* равно `False`, то канал однонаправленный: `conn1` можно использовать только для получения сообщений, а `conn2` – только для отправки.562563#### `class multiprocessing.Queue([maxsize])`564565Возвращает общедоступную очередь для процессов, реализованную с помощью канала и нескольких блокировок/семафоров. Когда процесс впервые помещает элемент в очередь, запускается поток-загрузчик, который передаёт объекты из буфера в канал.566567Обычные исключения [`queue.Empty`](https://python-all.ru/3.7/library/queue.html#queue.Empty) и [`queue.Full`](https://python-all.ru/3.7/library/queue.html#queue.Full) из модуля [`queue`](https://python-all.ru/3.7/library/queue.html#module-queue) стандартной библиотеки возбуждаются для сигнализации тайм-аутов.568569[`Queue`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Queue) реализует все методы [`queue.Queue`](https://python-all.ru/3.7/library/queue.html#queue.Queue), за исключением [`task_done()`](https://python-all.ru/3.7/library/queue.html#queue.Queue.task_done) и [`join()`](https://python-all.ru/3.7/library/queue.html#queue.Queue.join).570571#### `qsize()`572573Возвращает приблизительный размер очереди. Из-за семантики многопоточности/многопроцессности это число не является надёжным.574575Обратите внимание, что это может вызвать [`NotImplementedError`](https://python-all.ru/3.7/library/exceptions.html#NotImplementedError) на Unix-платформах, таких как Mac OS X, где `sem_getvalue()` не реализован.576577#### `empty()`578579Возвращает `True`, если очередь пуста, иначе `False`. Из-за семантики многопоточности/многопроцессности это ненадёжно.580581#### `full()`582583Возвращает `True`, если очередь заполнена, иначе `False`. Из-за семантики многопоточности/многопроцессности это ненадёжно.584585#### `put(obj[, block[, timeout]])`586587Помещает obj в очередь. Если необязательный аргумент *block* равен `True` (по умолчанию) и *timeout* равен `None` (по умолчанию), при необходимости блокируется до появления свободного места. Если *timeout* положительное число, блокируется не более чем на *timeout* секунд и возбуждает исключение [`queue.Full`](https://python-all.ru/3.7/library/queue.html#queue.Full), если за это время свободное место не появилось. В противном случае (*block* равен `False`) помещает элемент в очередь, если свободное место доступно немедленно, иначе возбуждает исключение [`queue.Full`](https://python-all.ru/3.7/library/queue.html#queue.Full) (*timeout* в этом случае игнорируется).588589#### `put_nowait(obj)`590591Эквивалентно `put(obj, False)`.592593#### `get([block[, timeout]])`594595Удаляет и возвращает элемент из очереди. Если необязательный аргумент *block* равен `True` (по умолчанию) и *timeout* равен `None` (по умолчанию), при необходимости блокируется до появления элемента. Если *timeout* положительное число, блокируется не более чем на *timeout* секунд и возбуждает исключение [`queue.Empty`](https://python-all.ru/3.7/library/queue.html#queue.Empty), если за это время элемент не появился. В противном случае (block равен `False`) возвращает элемент, если он доступен немедленно, иначе возбуждает исключение [`queue.Empty`](https://python-all.ru/3.7/library/queue.html#queue.Empty) (*timeout* в этом случае игнорируется).596597#### `get_nowait()`598599Эквивалентно `get(False)`.600601[`multiprocessing.Queue`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Queue) имеет несколько дополнительных методов, отсутствующих в [`queue.Queue`](https://python-all.ru/3.7/library/queue.html#queue.Queue). Обычно эти методы не нужны в большинстве кода:602603#### `close()`604605Указывает, что текущий процесс больше не будет помещать данные в эту очередь. Фоновый поток завершится после того, как сбросит все буферизованные данные в канал. Этот метод вызывается автоматически при сборке мусора очереди.606607#### `join_thread()`608609Присоединяет фоновый поток. Этот метод можно использовать только после вызова [`close()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Queue.close). Он блокируется до завершения фонового потока, гарантируя, что все данные из буфера сброшены в канал.610611По умолчанию, если процесс не является создателем очереди, при завершении он попытается присоединить фоновый поток очереди. Процесс может вызвать [`cancel_join_thread()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Queue.cancel_join_thread), чтобы сделать [`join_thread()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Queue.join_thread) бездействующим.612613#### `cancel_join_thread()`614615Предотвращает блокировку [`join_thread()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Queue.join_thread). В частности, это предотвращает автоматическое присоединение фонового потока при завершении процесса – см. [`join_thread()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Queue.join_thread).616617Более подходящим именем для этого метода могло бы быть `allow_exit_without_flush()`. Он, скорее всего, приведёт к потере поставленных в очередь данных, и почти наверняка вам не понадобится его использовать. Он нужен только в том случае, если текущий процесс должен немедленно завершиться, не дожидаясь сброса поставленных в очередь данных в нижележащий канал, и вас не волнует потеря данных.618619> **Примечание**620>621> Функциональность этого класса требует работающей реализации общего семафора в хост-операционной системе. Без неё функциональность класса будет отключена, а попытки создать экземпляр [`Queue`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Queue) приведут к [`ImportError`](https://python-all.ru/3.7/library/exceptions.html#ImportError). См. [bpo-3770](https://python-all.ru/3.7/library/multiprocessing.html) для дополнительной информации. То же самое относится и ко всем специализированным типам очередей, перечисленным ниже.622623#### `class multiprocessing.SimpleQueue`624625Это упрощённый тип [`Queue`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Queue), очень похожий на [`Pipe`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Pipe) с блокировкой.626627#### `empty()`628629Возвращает `True`, если очередь пуста, иначе `False`.630631#### `get()`632633Извлекает и возвращает элемент из очереди.634635#### `put(item)`636637Помещает *item* в очередь.638639#### `class multiprocessing.JoinableQueue([maxsize])`640641[`JoinableQueue`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.JoinableQueue), подкласс [`Queue`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Queue), – это очередь, которая дополнительно имеет методы [`task_done()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.JoinableQueue.task_done) и [`join()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.JoinableQueue.join).642643#### `task_done()`644645Указывает, что ранее поставленная в очередь задача завершена. Используется потребителями очереди. Для каждого [`get()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Queue.get), используемого для получения задачи, последующий вызов [`task_done()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.JoinableQueue.task_done) сообщает очереди, что обработка задачи завершена.646647Если [`join()`](https://python-all.ru/3.7/library/queue.html#queue.Queue.join) в данный момент заблокирован, он возобновится, когда все элементы будут обработаны (то есть для каждого элемента, который был [`put()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Queue.put) в очередь, был получен вызов [`task_done()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.JoinableQueue.task_done)).648649Вызывает [`ValueError`](https://python-all.ru/3.7/library/exceptions.html#ValueError), если вызывается больше раз, чем было помещено элементов в очередь.650651#### `join()`652653Блокируется до тех пор, пока все элементы в очереди не будут извлечены и обработаны.654655Счётчик незавершённых задач увеличивается каждый раз, когда элемент добавляется в очередь. Счётчик уменьшается, когда потребитель вызывает [`task_done()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.JoinableQueue.task_done), чтобы указать, что элемент извлечён и вся работа над ним завершена. Когда счётчик незавершённых задач падает до нуля, [`join()`](https://python-all.ru/3.7/library/queue.html#queue.Queue.join) разблокируется.656657### Разное658659#### `multiprocessing.active_children()`660661Возвращает список всех активных дочерних процессов текущего процесса.662663Вызов этой функции имеет побочный эффект – «присоединение» всех уже завершённых процессов.664665#### `multiprocessing.cpu_count()`666667Возвращает количество процессоров в системе.668669Это число не равно количеству процессоров, которые текущий процесс может использовать. Количество доступных процессоров можно получить с помощью `len(os.sched_getaffinity(0))`670671Может вызвать [`NotImplementedError`](https://python-all.ru/3.7/library/exceptions.html#NotImplementedError).672673> **См. также**674>675> [`os.cpu_count()`](https://python-all.ru/3.7/library/os.html#os.cpu_count)676677#### `multiprocessing.current_process()`678679Возвращает объект [`Process`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Process), соответствующий текущему процессу.680681Аналог [`threading.current_thread()`](https://python-all.ru/3.7/library/threading.html#threading.current_thread).682683#### `multiprocessing.freeze_support()`684685Добавляет поддержку для случая, когда программа, использующая [`multiprocessing`](https://python-all.ru/3.7/library/multiprocessing.html#module-multiprocessing), была заморожена для создания исполняемого файла Windows. (Протестировано с **py2exe**, **PyInstaller** и **cx\_Freeze**.)686687Эту функцию необходимо вызвать сразу после строки `if __name__ == '__main__'` в главном модуле. Например:688689```python690from multiprocessing import Process, freeze_support691692def f():693    print('hello world!')694695if __name__ == '__main__':696    freeze_support()697    Process(target=f).start()698```699700Если строка `freeze_support()` опущена, то попытка запустить замороженный исполняемый файл вызовет [`RuntimeError`](https://python-all.ru/3.7/library/exceptions.html#RuntimeError).701702Вызов `freeze_support()` не имеет эффекта при запуске на любой операционной системе, кроме Windows. Кроме того, если модуль запускается обычным образом интерпретатором Python в Windows (программа не была заморожена), то `freeze_support()` также не имеет эффекта.703704#### `multiprocessing.get_all_start_methods()`705706Возвращает список поддерживаемых методов запуска, первый из которых является методом по умолчанию. Возможными методами запуска являются `'fork'`, `'spawn'` и `'forkserver'`. В Windows доступен только `'spawn'`. В Unix `'fork'` и `'spawn'` всегда поддерживаются, причём `'fork'` используется по умолчанию.707708Новое в версии 3.4.709710#### `multiprocessing.get_context(method=None)`711712Возвращает объект контекста, который имеет те же атрибуты, что и модуль [`multiprocessing`](https://python-all.ru/3.7/library/multiprocessing.html#module-multiprocessing).713714Если *method* равен `None`, то возвращается контекст по умолчанию. В противном случае *method* должен быть `'fork'`, `'spawn'`, `'forkserver'`. [`ValueError`](https://python-all.ru/3.7/library/exceptions.html#ValueError) вызывается, если указанный метод запуска недоступен.715716Новое в версии 3.4.717718#### `multiprocessing.get_start_method(allow_none=False)`719720Возвращает имя метода запуска, используемого для запуска процессов.721722Если метод запуска не был задан и *allow\_none* равен false, то метод запуска фиксируется как используемый по умолчанию, и возвращается его название. Если метод запуска не был задан и *allow\_none* равен true, то возвращается `None`.723724Возвращаемое значение может быть `'fork'`, `'spawn'`, `'forkserver'` или `None`. `'fork'` – значение по умолчанию на Unix, а `'spawn'` – значение по умолчанию на Windows.725726Новое в версии 3.4.727728#### `multiprocessing.set_executable()`729730Устанавливает путь к интерпретатору Python, используемому при запуске дочернего процесса. (По умолчанию используется [`sys.executable`](https://python-all.ru/3.7/library/sys.html#sys.executable)). Встраивающим пользователям, вероятно, потребуется сделать что-то вроде731732```python733set_executable(os.path.join(sys.exec_prefix, 'pythonw.exe'))734```735736прежде чем они смогут создавать дочерние процессы.737738Изменено в версии 3.4: Теперь поддерживается в Unix при использовании метода запуска `'spawn'`.739740#### `multiprocessing.set_start_method(method)`741742Задаёт метод, который будет использоваться для запуска дочерних процессов. *method* может быть `'fork'`, `'spawn'` или `'forkserver'`.743744Обратите внимание, что эта функция должна вызываться не более одного раза, и она должна быть защищена внутри блока `if __name__ == '__main__'` главного модуля.745746Новое в версии 3.4.747748> **Примечание**749>750> [`multiprocessing`](https://python-all.ru/3.7/library/multiprocessing.html#module-multiprocessing) не содержит аналогов [`threading.active_count()`](https://python-all.ru/3.7/library/threading.html#threading.active_count), [`threading.enumerate()`](https://python-all.ru/3.7/library/threading.html#threading.enumerate), [`threading.settrace()`](https://python-all.ru/3.7/library/threading.html#threading.settrace), [`threading.setprofile()`](https://python-all.ru/3.7/library/threading.html#threading.setprofile), [`threading.Timer`](https://python-all.ru/3.7/library/threading.html#threading.Timer) или [`threading.local`](https://python-all.ru/3.7/library/threading.html#threading.local).751752### Объекты подключения753754Объекты подключения позволяют отправлять и получать сериализуемые (picklable) объекты или строки. Их можно рассматривать как ориентированные на сообщения соединённые сокеты.755756Объекты подключения обычно создаются с помощью [`Pipe`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Pipe) – см. также [Слушатели и клиенты](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing-listeners-clients).757758#### `class multiprocessing.connection.Connection`759760#### `send(obj)`761762Отправляет объект на другой конец подключения; его следует читать с помощью [`recv()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.connection.Connection.recv).763764Объект должен быть сериализуемым. Очень большие сериализованные объекты (примерно от 32 МиБ, хотя зависит от ОС) могут вызвать исключение [`ValueError`](https://python-all.ru/3.7/library/exceptions.html#ValueError).765766#### `recv()`767768Возвращает объект, отправленный с другого конца подключения с помощью [`send()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.connection.Connection.send). Блокируется, пока не появятся данные для получения. Вызывает [`EOFError`](https://python-all.ru/3.7/library/exceptions.html#EOFError), если больше нечего получать и другой конец был закрыт.769770#### `fileno()`771772Возвращает файловый дескриптор или дескриптор (handle), используемый подключением.773774#### `close()`775776Закрывает подключение.777778Вызывается автоматически при сборке мусора для подключения.779780#### `poll([timeout])`781782Возвращает, есть ли данные для чтения.783784Если *timeout* не указан, то метод возвращается немедленно. Если *timeout* – число, то оно задаёт максимальное время блокировки в секундах. Если *timeout* равно `None`, то используется бесконечное ожидание.785786Обратите внимание: с помощью [`multiprocessing.connection.wait()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.connection.wait) можно одновременно опрашивать несколько объектов подключения.787788#### `send_bytes(buffer[, offset[, size]])`789790Отправляет байтовые данные из [байтоподобного объекта](https://python-all.ru/3.7/glossary.html#term-bytes-like-object) как полное сообщение.791792Если задан *offset*, то данные читаются с этой позиции в *buffer*. Если задан *size*, то из буфера будет прочитано соответствующее количество байт. Очень большие буферы (примерно от 32 МиБ, хотя это зависит от ОС) могут возбудить исключение [`ValueError`](https://python-all.ru/3.7/library/exceptions.html#ValueError)793794#### `recv_bytes([maxlength])`795796Возвращает полное сообщение из байтовых данных, отправленное с другого конца подключения, в виде строки. Блокируется, пока не появятся данные для получения. Вызывает [`EOFError`](https://python-all.ru/3.7/library/exceptions.html#EOFError), если больше нечего получать и другой конец закрыт.797798Если указан *maxlength* и сообщение длиннее *maxlength*, то вызывается [`OSError`](https://python-all.ru/3.7/library/exceptions.html#OSError), и подключение больше не будет доступно для чтения.799800Изменено в версии 3.3: Ранее эта функция вызывала [`IOError`](https://python-all.ru/3.7/library/exceptions.html#IOError), которая теперь является псевдонимом [`OSError`](https://python-all.ru/3.7/library/exceptions.html#OSError).801802#### `recv_bytes_into(buffer[, offset])`803804Читает в *buffer* полное сообщение с байтовыми данными, отправленное с другого конца соединения, и возвращает количество байтов в сообщении. Блокирует выполнение, пока не появится что-то для приёма. Возбуждает [`EOFError`](https://python-all.ru/3.7/library/exceptions.html#EOFError), если больше нечего принимать и другой конец был закрыт.805806*buffer* должен быть доступным для записи [байтоподобным объектом](https://python-all.ru/3.7/glossary.html#term-bytes-like-object). Если задан *offset*, то сообщение будет записано в буфер, начиная с этой позиции. Offset должен быть неотрицательным целым числом, меньшим длины *buffer* (в байтах).807808Если буфер слишком мал, то вызывается исключение `BufferTooShort` и полное сообщение доступно как `e.args[0]`, где `e` экземпляр исключения.809810Изменено в версии 3.3: Теперь объекты подключения могут передаваться между процессами с помощью [`Connection.send()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.connection.Connection.send) и [`Connection.recv()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.connection.Connection.recv).811812Новое в версии 3.3: Объекты Connection теперь поддерживают протокол управления контекстом – см. [Типы менеджеров контекста](https://python-all.ru/3.7/library/stdtypes.html#typecontextmanager). [`__enter__()`](https://python-all.ru/3.7/library/stdtypes.html#contextmanager.__enter__) возвращает объект соединения, а [`__exit__()`](https://python-all.ru/3.7/library/stdtypes.html#contextmanager.__exit__) вызывает [`close()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.connection.Connection.close).813814Например:815816```pycon817>>> from multiprocessing import Pipe818>>> a, b = Pipe()819>>> a.send([1, 'hello', None])820>>> b.recv()821[1, 'hello', None]822>>> b.send_bytes(b'thank you')823>>> a.recv_bytes()824b'thank you'825>>> import array826>>> arr1 = array.array('i', range(5))827>>> arr2 = array.array('i', [0] * 10)828>>> a.send_bytes(arr1)829>>> count = b.recv_bytes_into(arr2)830>>> assert count == len(arr1) * arr1.itemsize831>>> arr2832array('i', [0, 1, 2, 3, 4, 0, 0, 0, 0, 0])833```834835> **Предупреждение**836>837> Метод [`Connection.recv()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.connection.Connection.recv) автоматически десериализует полученные данные, что может быть угрозой безопасности, если нельзя доверять процессу, отправившему сообщение.838>839> Поэтому, если объект подключения не был создан с помощью `Pipe()` следует использовать методы [`recv()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.connection.Connection.recv) и [`send()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.connection.Connection.send) только после выполнения некоторой аутентификации. См. [Ключи аутентификации](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing-auth-keys).840841> **Предупреждение**842>843> Если процесс завершается принудительно во время чтения или записи в канал, данные в канале, скорее всего, повредятся, так как может стать невозможно определить границы сообщений.844845### Примитивы синхронизации846847В целом, в многопроцессных программах примитивы синхронизации требуются не так часто, как в многопоточных. См. документацию модуля [`threading`](https://python-all.ru/3.7/library/threading.html#module-threading).848849Обратите внимание, что примитивы синхронизации можно также создавать с помощью объекта менеджера – см. [Менеджеры](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing-managers).850851#### `class multiprocessing.Barrier(parties[, action[, timeout]])`852853Объект барьера: клон [`threading.Barrier`](https://python-all.ru/3.7/library/threading.html#threading.Barrier).854855Новое в версии 3.3.856857#### `class multiprocessing.BoundedSemaphore([value])`858859Объект ограниченного семафора: близкий аналог [`threading.BoundedSemaphore`](https://python-all.ru/3.7/library/threading.html#threading.BoundedSemaphore).860861Имеется единственное отличие от его близкого аналога: первый аргумент метода `acquire` называется *block*, что согласуется с [`Lock.acquire()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Lock.acquire).862863> **Примечание**864>865> На Mac OS X это неотличимо от [`Semaphore`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Semaphore), поскольку `sem_getvalue()` не реализован на этой платформе.866867#### `class multiprocessing.Condition([lock])`868869Условная переменная: псевдоним для [`threading.Condition`](https://python-all.ru/3.7/library/threading.html#threading.Condition).870871Если указана *блокировка*, то она должна быть объектом [`Lock`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Lock) или [`RLock`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.RLock) из [`multiprocessing`](https://python-all.ru/3.7/library/multiprocessing.html#module-multiprocessing).872873Изменено в версии 3.3: Был добавлен метод [`wait_for()`](https://python-all.ru/3.7/library/threading.html#threading.Condition.wait_for).874875#### `class multiprocessing.Event`876877Клон [`threading.Event`](https://python-all.ru/3.7/library/threading.html#threading.Event).878879#### `class multiprocessing.Lock`880881Нерекурсивный объект блокировки: близкий аналог [`threading.Lock`](https://python-all.ru/3.7/library/threading.html#threading.Lock). Когда процесс или поток захватывает блокировку, последующие попытки захватить её из любого процесса или потока будут блокироваться до её освобождения; любой процесс или поток может её освободить. Концепции и поведение [`threading.Lock`](https://python-all.ru/3.7/library/threading.html#threading.Lock) применительно к потокам воспроизводятся здесь в [`multiprocessing.Lock`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Lock) применительно к процессам или потокам, за исключением отмеченных случаев.882883Обратите внимание, что [`Lock`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Lock) на самом деле является фабричной функцией, которая возвращает экземпляр `multiprocessing.synchronize.Lock`, инициализированный контекстом по умолчанию.884885[`Lock`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Lock) поддерживает протокол [менеджера контекста](https://python-all.ru/3.7/glossary.html#term-context-manager) и поэтому может использоваться в операторах [`with`](https://python-all.ru/3.7/reference/compound_stmts.html#with).886887#### `acquire(block=True, timeout=None)`888889Захватывает блокировку, блокирующую или неблокирующую.890891Если аргумент *block* установлен в `True` (по умолчанию), вызов метода будет блокироваться, пока блокировка не окажется в разблокированном состоянии, затем установит её в заблокированное состояние и вернёт `True`. Обратите внимание, что имя этого первого аргумента отличается от имени в [`threading.Lock.acquire()`](https://python-all.ru/3.7/library/threading.html#threading.Lock.acquire).892893Если аргумент *block* установлен в `False`, вызов метода не блокируется. Если блокировка в данный момент находится в заблокированном состоянии, возвращается `False`; в противном случае блокировка устанавливается в заблокированное состояние и возвращается `True`.894895При вызове с положительным значением с плавающей точкой для *timeout* блокировка выполняется не дольше числа секунд, указанного в *timeout*, пока блокировку не удастся захватить. Вызовы с отрицательным значением *timeout* эквивалентны *timeout*, равному нулю. Вызовы со значением *timeout* равным `None` (по умолчанию) устанавливают бесконечный период ожидания. Обратите внимание, что обработка отрицательных или `None` значений для *timeout* отличается от реализованного поведения в [`threading.Lock.acquire()`](https://python-all.ru/3.7/library/threading.html#threading.Lock.acquire). Аргумент *timeout* не имеет практического значения, если аргумент *block* установлен в `False`, и поэтому игнорируется. Возвращает `True`, если блокировка была захвачена, или `False`, если период ожидания истёк.896897#### `release()`898899Освобождает блокировку. Может вызываться из любого процесса или потока, а не только из того, который изначально захватил блокировку.900901Поведение аналогично [`threading.Lock.release()`](https://python-all.ru/3.7/library/threading.html#threading.Lock.release) за исключением того, что при вызове на незаблокированной блокировке возбуждается [`ValueError`](https://python-all.ru/3.7/library/exceptions.html#ValueError).902903#### `class multiprocessing.RLock`904905Объект рекурсивной блокировки: близкий аналог [`threading.RLock`](https://python-all.ru/3.7/library/threading.html#threading.RLock). Рекурсивная блокировка должна быть освобождена тем же процессом или потоком, который её захватил. После того как процесс или поток захватил рекурсивную блокировку, тот же процесс или поток может захватить её снова без блокировки; этот процесс или поток должен освободить её по одному разу за каждый захват.906907Обратите внимание, что [`RLock`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.RLock) на самом деле является фабричной функцией, которая возвращает экземпляр `multiprocessing.synchronize.RLock`, инициализированный контекстом по умолчанию.908909[`RLock`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.RLock) поддерживает протокол [менеджера контекста](https://python-all.ru/3.7/glossary.html#term-context-manager) и поэтому может использоваться в операторах [`with`](https://python-all.ru/3.7/reference/compound_stmts.html#with).910911#### `acquire(block=True, timeout=None)`912913Захватывает блокировку, блокирующую или неблокирующую.914915При вызове с аргументом *block*, установленным в `True`, блокируется до тех пор, пока блокировка не окажется в разблокированном состоянии (не принадлежит ни одному процессу или потоку), если только блокировка уже не принадлежит текущему процессу или потоку. Затем текущий процесс или поток получает владение блокировкой (если ещё не владеет ею), и уровень рекурсии внутри блокировки увеличивается на единицу, возвращая значение `True`. Обратите внимание, что имеется несколько различий в поведении этого первого аргумента по сравнению с реализацией [`threading.RLock.acquire()`](https://python-all.ru/3.7/library/threading.html#threading.RLock.acquire), начиная с названия самого аргумента.916917При вызове с аргументом *block*, установленным в `False`, не блокируется. Если блокировка уже была захвачена (и, следовательно, принадлежит) другим процессом или потоком, текущий процесс или поток не получает владение, а уровень рекурсии внутри блокировки не изменяется, возвращая значение `False`. Если блокировка находится в разблокированном состоянии, текущий процесс или поток получает владение, а уровень рекурсии увеличивается, возвращая значение `True`.918919Использование и поведение аргумента *timeout* такие же, как в [`Lock.acquire()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Lock.acquire). Обратите внимание, что некоторые из этих особенностей *timeout* отличаются от реализованного поведения в [`threading.RLock.acquire()`](https://python-all.ru/3.7/library/threading.html#threading.RLock.acquire).920921#### `release()`922923Освобождает блокировку, уменьшая уровень рекурсии. Если после уменьшения уровень рекурсии становится нулевым, переводит блокировку в разблокированное состояние (не принадлежит ни одному процессу или потоку), и если какие-либо другие процессы или потоки ожидают разблокировки, позволяет ровно одному из них продолжить. Если после уменьшения уровень рекурсии всё ещё ненулевой, блокировка остаётся заблокированной и принадлежащей вызывающему процессу или потоку.924925Вызывайте этот метод только когда вызывающий процесс или поток владеет блокировкой. Исключение [`AssertionError`](https://python-all.ru/3.7/library/exceptions.html#AssertionError) возбуждается, если этот метод вызывается процессом или потоком, не являющимся владельцем, или если блокировка находится в разблокированном (непринадлежащем) состоянии. Обратите внимание, что тип возбуждаемого исключения в этой ситуации отличается от реализованного поведения в [`threading.RLock.release()`](https://python-all.ru/3.7/library/threading.html#threading.RLock.release).926927#### `class multiprocessing.Semaphore([value])`928929Объект семафора: близкий аналог [`threading.Semaphore`](https://python-all.ru/3.7/library/threading.html#threading.Semaphore).930931Имеется единственное отличие от его близкого аналога: первый аргумент метода `acquire` называется *block*, что согласуется с [`Lock.acquire()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Lock.acquire).932933> **Примечание**934>935> На Mac OS X `sem_timedwait` не поддерживается, поэтому вызов `acquire()` с тайм-аутом будет эмулировать поведение этой функции с помощью спящего цикла.936937> **Примечание**938>939> Если сигнал SIGINT, сгенерированный `Ctrl-C`, поступает, когда главный поток блокирован вызовом `BoundedSemaphore.acquire()`, [`Lock.acquire()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Lock.acquire), [`RLock.acquire()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.RLock.acquire), `Semaphore.acquire()`, `Condition.acquire()` или `Condition.wait()`, то вызов будет немедленно прерван и возбуждено [`KeyboardInterrupt`](https://python-all.ru/3.7/library/exceptions.html#KeyboardInterrupt).940>941> Это отличается от поведения [`threading`](https://python-all.ru/3.7/library/threading.html#module-threading), где SIGINT игнорируется, пока выполняются эквивалентные блокирующие вызовы.942943> **Примечание**944>945> Некоторые функции этого пакета требуют работающей реализации общего семафора в операционной системе. При её отсутствии модуль `multiprocessing.synchronize` будет отключён, а попытки импортировать его приведут к [`ImportError`](https://python-all.ru/3.7/library/exceptions.html#ImportError). См. [bpo-3770](https://python-all.ru/3.7/library/multiprocessing.html) для получения дополнительной информации.946947### Общие [`ctypes`](https://python-all.ru/3.7/library/ctypes.html#module-ctypes) объекты948949Можно создавать общие объекты с помощью разделяемой памяти, которые могут наследоваться дочерними процессами.950951#### `multiprocessing.Value(typecode_or_type, *args, lock=True)`952953Возвращает объект [`ctypes`](https://python-all.ru/3.7/library/ctypes.html#module-ctypes), выделенный из разделяемой памяти. По умолчанию возвращаемое значение на самом деле является синхронизированной обёрткой для объекта. Сам объект можно получить через атрибут *value* объекта [`Value`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Value).954955*typecode\_or\_type* определяет тип возвращаемого объекта: это либо тип ctypes, либо однобуквенный код типа, используемый модулем [`array`](https://python-all.ru/3.7/library/array.html#module-array). *\*args* передаётся конструктору типа.956957Если *блокировка* равна `True` (по умолчанию), то создаётся новый рекурсивный объект блокировки для синхронизации доступа к значению. Если *блокировка* является объектом [`Lock`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Lock) или [`RLock`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.RLock), то она будет использоваться для синхронизации доступа к значению. Если *блокировка* равна `False`, то доступ к возвращаемому объекту не будет автоматически защищён блокировкой, поэтому он не обязательно будет "процессобезопасным".958959Операции, подобные `+=`, которые включают чтение и запись, не являются атомарными. Поэтому, если, например, требуется атомарно увеличить разделяемое значение, недостаточно просто сделать960961```python962counter.value += 1963```964965При условии, что связанная блокировка рекурсивна (по умолчанию она такой и является), можно вместо этого сделать966967```python968with counter.get_lock():969    counter.value += 1970```971972Обратите внимание, что *блокировка* – это аргумент, передаваемый только по ключевому слову.973974#### `multiprocessing.Array(typecode_or_type, size_or_initializer, *, lock=True)`975976Возвращает массив ctypes, выделенный из разделяемой памяти. По умолчанию возвращаемое значение на самом деле является синхронизированной обёрткой для массива.977978*typecode\_or\_type* определяет тип элементов возвращаемого массива: это либо ctypes-тип, либо однобуквенный код типа, используемый модулем [`array`](https://python-all.ru/3.7/library/array.html#module-array). Если *size\_or\_initializer* – целое число, то оно определяет длину массива, и массив будет заполнен нулями. В противном случае *size\_or\_initializer* – это последовательность, которая используется для инициализации массива, и её длина определяет длину массива.979980Если *блокировка* равен `True` (по умолчанию), создаётся новый объект блокировки для синхронизации доступа к значению. Если *блокировка* – объект [`Lock`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Lock) или [`RLock`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.RLock), то он будет использоваться для синхронизации доступа к значению. Если *блокировка* равен `False`, доступ к возвращаемому объекту не будет автоматически защищён блокировкой, поэтому он не обязательно будет «процесс-безопасным».981982Обратите внимание, что *блокировка* – это аргумент, передаваемый только по ключевому слову.983984Обратите внимание, что массив типа [`ctypes.c_char`](https://python-all.ru/3.7/library/ctypes.html#ctypes.c_char) имеет атрибуты *value* и *raw*, которые позволяют использовать его для хранения и извлечения строк.985986#### Модуль [`multiprocessing.sharedctypes`](https://python-all.ru/3.7/library/multiprocessing.html#module-multiprocessing.sharedctypes)987988Модуль [`multiprocessing.sharedctypes`](https://python-all.ru/3.7/library/multiprocessing.html#module-multiprocessing.sharedctypes) предоставляет функции для выделения объектов [`ctypes`](https://python-all.ru/3.7/library/ctypes.html#module-ctypes) из разделяемой памяти, которые могут быть унаследованы дочерними процессами.989990> **Примечание**991>992> Хотя можно сохранить указатель в разделяемой памяти, следует помнить, что он будет ссылаться на местоположение в адресном пространстве конкретного процесса. Однако указатель, скорее всего, будет недействительным в контексте второго процесса, и попытка разыменования указателя из второго процесса может привести к аварийному завершению.993994#### `multiprocessing.sharedctypes.RawArray(typecode_or_type, size_or_initializer)`995996Возвращает массив ctypes, выделенный из разделяемой памяти.997998*typecode\_or\_type* определяет тип элементов возвращаемого массива: это либо тип ctypes, либо однобуквенный код типа, используемый модулем [`array`](https://python-all.ru/3.7/library/array.html#module-array). Если *size\_or\_initializer* – целое число, то оно определяет длину массива, и массив будет изначально заполнен нулями. В противном случае *size\_or\_initializer* – это последовательность, которая используется для инициализации массива, и её длина определяет длину массива.9991000Обратите внимание, что установка и получение элемента потенциально неатомарны – используйте вместо этого [`Array()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.sharedctypes.Array), чтобы гарантировать автоматическую синхронизацию доступа с помощью блокировки.10011002#### `multiprocessing.sharedctypes.RawValue(typecode_or_type, *args)`10031004Возвращает объект ctypes, выделенный из разделяемой памяти.10051006*typecode\_or\_type* определяет тип возвращаемого объекта: это либо тип ctypes, либо однобуквенный код типа, используемый модулем [`array`](https://python-all.ru/3.7/library/array.html#module-array). *\*args* передаётся конструктору типа.10071008Обратите внимание, что установка и получение значения потенциально неатомарны – используйте вместо этого [`Value()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.sharedctypes.Value), чтобы гарантировать автоматическую синхронизацию доступа с помощью блокировки.10091010Обратите внимание, что массив [`ctypes.c_char`](https://python-all.ru/3.7/library/ctypes.html#ctypes.c_char) имеет атрибуты `value` и `raw`, которые позволяют использовать его для сохранения и извлечения строк – см. документацию к [`ctypes`](https://python-all.ru/3.7/library/ctypes.html#module-ctypes).10111012#### `multiprocessing.sharedctypes.Array(typecode_or_type, size_or_initializer, *, lock=True)`10131014То же, что и [`RawArray()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.sharedctypes.RawArray), за исключением того, что в зависимости от значения *блокировка* может возвращаться процессобезопасная синхронизирующая обёртка вместо необработанного массива ctypes.10151016Если *блокировка* равна `True` (по умолчанию), то создаётся новый объект блокировки для синхронизации доступа к значению. Если *блокировка* является объектом [`Lock`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Lock) или [`RLock`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.RLock), то она будет использоваться для синхронизации доступа к значению. Если *блокировка* равна `False`, то доступ к возвращаемому объекту не будет автоматически защищён блокировкой, поэтому он не обязательно будет "процессобезопасным".10171018Обратите внимание, что *блокировка* – это аргумент, передаваемый только по ключевому слову.10191020#### `multiprocessing.sharedctypes.Value(typecode_or_type, *args, lock=True)`10211022То же, что и [`RawValue()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.sharedctypes.RawValue), за исключением того, что в зависимости от значения *блокировка* может возвращаться процессобезопасная синхронизирующая обёртка вместо необработанного объекта ctypes.10231024Если *блокировка* равен `True` (по умолчанию), создаётся новый объект блокировки для синхронизации доступа к значению. Если *блокировка* – объект [`Lock`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Lock) или [`RLock`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.RLock), то он будет использоваться для синхронизации доступа к значению. Если *блокировка* равен `False`, доступ к возвращаемому объекту не будет автоматически защищён блокировкой, поэтому он не обязательно будет «процесс-безопасным».10251026Обратите внимание, что *блокировка* – это аргумент, передаваемый только по ключевому слову.10271028#### `multiprocessing.sharedctypes.copy(obj)`10291030Возвращает объект ctypes, выделенный в общей памяти и являющийся копией объекта ctypes *obj*.10311032#### `multiprocessing.sharedctypes.synchronized(obj[, lock])`10331034Возвращает процесс-безопасную обёртку для объекта ctypes, которая использует *блокировка* для синхронизации доступа. Если *блокировка* равен `None` (по умолчанию), объект [`multiprocessing.RLock`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.RLock) создаётся автоматически.10351036Синхронизированная обёртка будет иметь два дополнительных метода (помимо методов обёрнутого объекта): `get_obj()` возвращает обёрнутый объект, а `get_lock()` – объект блокировки, используемый для синхронизации.10371038Обратите внимание, что доступ к объекту ctypes через обёртку может быть значительно медленнее, чем доступ к исходному объекту ctypes.10391040Изменено в версии 3.5: Синхронизированные объекты поддерживают протокол [контекстного менеджера](https://python-all.ru/3.7/glossary.html#term-context-manager).10411042В таблице ниже сравнивается синтаксис создания разделяемых объектов ctypes из общей памяти с обычным синтаксисом ctypes. (В таблице `MyStruct` – это некоторый подкласс [`ctypes.Structure`](https://python-all.ru/3.7/library/ctypes.html#ctypes.Structure).)10431044| ctypes | sharedctypes с типом | sharedctypes с typecode |1045| --- | --- | --- |1046| c\_double(2.4) | RawValue(c\_double, 2.4) | RawValue(‘d’, 2.4) |1047| MyStruct(4, 6) | RawValue(MyStruct, 4, 6) |  |1048| (c\_short \* 7)() | RawArray(c\_short, 7) | RawArray(‘h’, 7) |1049| (c\_int \* 3)(9, 2, 8) | RawArray(c\_int, (9, 2, 8)) | RawArray(‘i’, (9, 2, 8)) |10501051Ниже приведён пример, в котором дочерний процесс изменяет несколько объектов ctypes:10521053```python1054from multiprocessing import Process, Lock1055from multiprocessing.sharedctypes import Value, Array1056from ctypes import Structure, c_double10571058class Point(Structure):1059    _fields_ = [('x', c_double), ('y', c_double)]10601061def modify(n, x, s, A):1062    n.value **= 21063    x.value **= 21064    s.value = s.value.upper()1065    for a in A:1066        a.x **= 21067        a.y **= 210681069if __name__ == '__main__':1070    lock = Lock()10711072    n = Value('i', 7)1073    x = Value(c_double, 1.0/3.0, lock=False)1074    s = Array('c', b'hello world', lock=lock)1075    A = Array(Point, [(1.875,-6.25), (-5.75,2.0), (2.375,9.5)], lock=lock)10761077    p = Process(target=modify, args=(n, x, s, A))1078    p.start()1079    p.join()10801081    print(n.value)1082    print(x.value)1083    print(s.value)1084    print([(a.x, a.y) for a in A])1085```10861087Выводятся следующие результаты:10881089```text10904910910.11111111111111111092HELLO WORLD1093[(3.515625, 39.0625), (33.0625, 4.0), (5.640625, 90.25)]1094```10951096### Менеджеры10971098Менеджеры предоставляют способ создания данных, которыми можно обмениваться между разными процессами, в том числе по сети между процессами, выполняющимися на разных машинах. Объект менеджера управляет серверным процессом, который управляет *разделяемыми объектами*. Другие процессы могут получать доступ к разделяемым объектам через прокси.10991100#### `multiprocessing.Manager()`11011102Возвращает запущенный объект [`SyncManager`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.managers.SyncManager), который можно использовать для совместного использования объектов между процессами. Возвращаемый объект менеджера соответствует порождённому дочернему процессу и имеет методы, которые создают разделяемые объекты и возвращают соответствующие прокси.11031104Процессы менеджера завершаются, как только они будут собраны сборщиком мусора или завершится их родительский процесс. Классы менеджера определены в модуле [`multiprocessing.managers`](https://python-all.ru/3.7/library/multiprocessing.html#module-multiprocessing.managers):11051106#### `class multiprocessing.managers.BaseManager([address[, authkey]])`11071108Создает объект BaseManager.11091110После создания необходимо вызвать [`start()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.managers.BaseManager.start) или `get_server().serve_forever()`, чтобы объект менеджера ссылался на запущенный процесс менеджера.11111112*address* – адрес, на котором процесс менеджера ожидает новые подключения. Если *address* равно `None`, то выбирается произвольный адрес.11131114*authkey* – ключ аутентификации, который будет использоваться для проверки подлинности входящих подключений к серверному процессу. Если *authkey* равно `None`, используется `current_process().authkey`. В противном случае используется *authkey*, и он должен быть байтовой строкой.11151116#### `start([initializer[, initargs]])`11171118Запускает подпроцесс для запуска менеджера. Если *initializer* не равно `None`, то подпроцесс вызовет `initializer(*initargs)` при запуске.11191120#### `get_server()`11211122Возвращает объект `Server`, представляющий реальный сервер, управляемый менеджером. Объект `Server` поддерживает метод `serve_forever()`:11231124```python1125>>> from multiprocessing.managers import BaseManager1126>>> manager = BaseManager(address=('', 50000), authkey=b'abc')1127>>> server = manager.get_server()1128>>> server.serve_forever()1129```11301131`Server` также имеет атрибут [`address`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.managers.BaseManager.address).11321133#### `connect()`11341135Подключает локальный объект менеджера к удаленному процессу менеджера:11361137```python1138>>> from multiprocessing.managers import BaseManager1139>>> m = BaseManager(address=('127.0.0.1', 50000), authkey=b'abc')1140>>> m.connect()1141```11421143#### `shutdown()`11441145Останавливает процесс, используемый менеджером. Это доступно только если [`start()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.managers.BaseManager.start) был использован для запуска серверного процесса.11461147Этот метод можно вызывать несколько раз.11481149#### `register(typeid[, callable[, proxytype[, exposed[, method_to_typeid[, create_method]]]]])`11501151Метод класса, который можно использовать для регистрации типа или вызываемого объекта в классе менеджера.11521153*typeid* – это «идентификатор типа», который используется для идентификации определенного типа разделяемого объекта. Должен быть строкой.11541155*callable* – это вызываемый объект, используемый для создания объектов для данного идентификатора типа. Если экземпляр менеджера будет подключен к серверу с помощью метода [`connect()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.managers.BaseManager.connect), или если аргумент *create\_method* равен `False`, то этот параметр можно оставить как `None`.11561157*proxytype* – это подкласс [`BaseProxy`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.managers.BaseProxy), который используется для создания прокси для разделяемых объектов с данным *typeid*. Если `None`, то класс прокси создается автоматически.11581159*exposed* используется для указания последовательности имен методов, к которым прокси для данного typeid должны иметь доступ через [`BaseProxy._callmethod()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.managers.BaseProxy._callmethod). (Если *exposed* равно `None`, то вместо него используется `proxytype._exposed_`, если он существует.) Если список exposed не указан, то все «публичные методы» разделяемого объекта будут доступны. (Здесь «публичный метод» означает любой атрибут, у которого есть метод [`__call__()`](https://python-all.ru/3.7/reference/datamodel.html#object.__call__) и имя которого не начинается с `'_'`.)11601161*method\_to\_typeid* – это отображение, используемое для указания возвращаемого типа тех открытых методов, которые должны возвращать прокси. Оно отображает имена методов в строки typeid. (Если *method\_to\_typeid* равно `None`, то вместо него используется `proxytype._method_to_typeid_`, если он существует.) Если имя метода не является ключом этого отображения или отображение равно `None`, то объект, возвращаемый методом, будет скопирован по значению.11621163*create\_method* определяет, следует ли создать метод с именем *typeid*, который можно использовать, чтобы указать серверному процессу создать новый разделяемый объект и вернуть для него прокси. По умолчанию `True`.11641165Экземпляры [`BaseManager`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.managers.BaseManager) также имеют одно свойство только для чтения:11661167#### `address`11681169Адрес, используемый менеджером.11701171Изменено в версии 3.3: Объекты Manager поддерживают протокол управления контекстом – см. [Типы менеджеров контекста](https://python-all.ru/3.7/library/stdtypes.html#typecontextmanager). [`__enter__()`](https://python-all.ru/3.7/library/stdtypes.html#contextmanager.__enter__) запускает серверный процесс (если он еще не запущен), а затем возвращает объект менеджера. [`__exit__()`](https://python-all.ru/3.7/library/stdtypes.html#contextmanager.__exit__) вызывает [`shutdown()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.managers.BaseManager.shutdown).11721173В предыдущих версиях [`__enter__()`](https://python-all.ru/3.7/library/stdtypes.html#contextmanager.__enter__) не запускал серверный процесс менеджера, если он ещё не был запущен.11741175#### `class multiprocessing.managers.SyncManager`11761177Подкласс [`BaseManager`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.managers.BaseManager), который можно использовать для синхронизации процессов. Объекты этого типа возвращаются `multiprocessing.Manager()`.11781179Его методы создают и возвращают [объекты-прокси](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing-proxy-objects) для ряда часто используемых типов данных, которые нужно синхронизировать между процессами. Сюда в первую очередь входят общие списки и словари.11801181#### `Barrier(parties[, action[, timeout]])`11821183Создать общий объект [`threading.Barrier`](https://python-all.ru/3.7/library/threading.html#threading.Barrier) и вернуть для него прокси.11841185Новое в версии 3.3.11861187#### `BoundedSemaphore([value])`11881189Создать общий объект [`threading.BoundedSemaphore`](https://python-all.ru/3.7/library/threading.html#threading.BoundedSemaphore) и вернуть для него прокси.11901191#### `Condition([lock])`11921193Создать общий объект [`threading.Condition`](https://python-all.ru/3.7/library/threading.html#threading.Condition) и вернуть прокси для него.11941195Если *блокировка* предоставлена, то она должна быть прокси для объекта [`threading.Lock`](https://python-all.ru/3.7/library/threading.html#threading.Lock) или [`threading.RLock`](https://python-all.ru/3.7/library/threading.html#threading.RLock).11961197Изменено в версии 3.3: Был добавлен метод [`wait_for()`](https://python-all.ru/3.7/library/threading.html#threading.Condition.wait_for).11981199#### `Event()`12001201Создать общий объект [`threading.Event`](https://python-all.ru/3.7/library/threading.html#threading.Event) и вернуть прокси для него.12021203#### `Lock()`12041205Создать общий объект [`threading.Lock`](https://python-all.ru/3.7/library/threading.html#threading.Lock) и вернуть прокси для него.12061207#### `Namespace()`12081209Создать общий объект [`Namespace`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.managers.Namespace) и вернуть прокси для него.12101211#### `Queue([maxsize])`12121213Создать общий объект [`queue.Queue`](https://python-all.ru/3.7/library/queue.html#queue.Queue) и вернуть прокси для него.12141215#### `RLock()`12161217Создать общий объект [`threading.RLock`](https://python-all.ru/3.7/library/threading.html#threading.RLock) и вернуть прокси для него.12181219#### `Semaphore([value])`12201221Создать общий объект [`threading.Semaphore`](https://python-all.ru/3.7/library/threading.html#threading.Semaphore) и вернуть прокси для него.12221223#### `Array(typecode, sequence)`12241225Создать массив и вернуть для него прокси.12261227#### `Value(typecode, value)`12281229Создать объект с атрибутом `value`, доступным для записи, и вернуть прокси для него.12301231#### `dict()`12321233#### `dict(mapping)`12341235#### `dict(sequence)`12361237Создать общий объект [`dict`](https://python-all.ru/3.7/library/stdtypes.html#dict) и вернуть прокси для него.12381239#### `list()`12401241#### `list(sequence)`12421243Создать общий объект [`list`](https://python-all.ru/3.7/library/stdtypes.html#list) и вернуть прокси для него.12441245Изменено в версии 3.6: Общие объекты могут быть вложенными. Например, общий объект-контейнер, такой как общий список, может содержать другие общие объекты, и все они будут управляться и синхронизироваться [`SyncManager`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.managers.SyncManager).12461247#### `class multiprocessing.managers.Namespace`12481249Тип, который можно зарегистрировать с помощью [`SyncManager`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.managers.SyncManager).12501251Объект пространства имён не имеет открытых методов, но имеет изменяемые атрибуты. Его представление показывает значения его атрибутов.12521253Однако при использовании прокси для объекта пространства имён атрибут, начинающийся с `'_'`, будет атрибутом прокси, а не атрибутом референта:12541255```pycon1256>>> manager = multiprocessing.Manager()1257>>> Global = manager.Namespace()1258>>> Global.x = 101259>>> Global.y = 'hello'1260>>> Global._z = 12.3    # это атрибут прокси1261>>> print(Global)1262Namespace(x=10, y='hello')1263```12641265#### Настраиваемые менеджеры12661267Чтобы создать собственный менеджер, создаётся подкласс [`BaseManager`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.managers.BaseManager) и используется метод класса [`register()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.managers.BaseManager.register) для регистрации новых типов или вызываемых объектов в классе менеджера. Например:12681269```python1270from multiprocessing.managers import BaseManager12711272class MathsClass:1273    def add(self, x, y):1274        return x + y1275    def mul(self, x, y):1276        return x * y12771278class MyManager(BaseManager):1279    pass12801281MyManager.register('Maths', MathsClass)12821283if __name__ == '__main__':1284    with MyManager() as manager:1285        maths = manager.Maths()1286        print(maths.add(4, 3))         # выводит 71287        print(maths.mul(7, 8))         # выводит 561288```12891290#### Использование удалённого менеджера12911292Можно запустить сервер менеджера на одной машине и позволить клиентам использовать его с других машин (при условии, что соответствующие брандмауэры это разрешают).12931294Выполнение следующих команд создаёт сервер для одной общей очереди, к которой удалённые клиенты могут обращаться:12951296```python1297>>> from multiprocessing.managers import BaseManager1298>>> from queue import Queue1299>>> queue = Queue()1300>>> class QueueManager(BaseManager): pass1301>>> QueueManager.register('get_queue', callable=lambda:queue)1302>>> m = QueueManager(address=('', 50000), authkey=b'abracadabra')1303>>> s = m.get_server()1304>>> s.serve_forever()1305```13061307Один клиент может получить доступ к серверу следующим образом:13081309```python1310>>> from multiprocessing.managers import BaseManager1311>>> class QueueManager(BaseManager): pass1312>>> QueueManager.register('get_queue')1313>>> m = QueueManager(address=('foo.bar.org', 50000), authkey=b'abracadabra')1314>>> m.connect()1315>>> queue = m.get_queue()1316>>> queue.put('hello')1317```13181319Другой клиент также может использовать его:13201321```python1322>>> from multiprocessing.managers import BaseManager1323>>> class QueueManager(BaseManager): pass1324>>> QueueManager.register('get_queue')1325>>> m = QueueManager(address=('foo.bar.org', 50000), authkey=b'abracadabra')1326>>> m.connect()1327>>> queue = m.get_queue()1328>>> queue.get()1329'hello'1330```13311332Локальные процессы также могут получить доступ к этой очереди, используя приведённый выше код на клиенте для удалённого доступа к ней:13331334```python1335>>> from multiprocessing import Process, Queue1336>>> from multiprocessing.managers import BaseManager1337>>> class Worker(Process):1338...     def __init__(self, q):1339...         self.q = q1340...         super(Worker, self).__init__()1341...     def run(self):1342...         self.q.put('local hello')1343...1344>>> queue = Queue()1345>>> w = Worker(queue)1346>>> w.start()1347>>> class QueueManager(BaseManager): pass1348...1349>>> QueueManager.register('get_queue', callable=lambda: queue)1350>>> m = QueueManager(address=('', 50000), authkey=b'abracadabra')1351>>> s = m.get_server()1352>>> s.serve_forever()1353```13541355### Объекты-прокси13561357Прокси – это объект, который *ссылается* на общий объект, находящийся (предположительно) в другом процессе. Общий объект называется *референтом* этого прокси. Несколько объектов-прокси могут иметь один и тот же референт.13581359Объект-прокси имеет методы, которые вызывают соответствующие методы его референта (хотя не каждый метод референта обязательно будет доступен через прокси). Таким образом, прокси можно использовать так же, как и его референт:13601361```pycon1362>>> from multiprocessing import Manager1363>>> manager = Manager()1364>>> l = manager.list([i*i for i in range(10)])1365>>> print(l)1366[0, 1, 4, 9, 16, 25, 36, 49, 64, 81]1367>>> print(repr(l))1368<ListProxy object, typeid 'list' at 0x...>1369>>> l[4]1370161371>>> l[2:5]1372[4, 9, 16]1373```13741375Обратите внимание, что применение [`str()`](https://python-all.ru/3.7/library/stdtypes.html#str) к прокси вернёт представление референта, тогда как применение [`repr()`](https://python-all.ru/3.7/library/functions.html#repr) вернёт представление прокси.13761377Важная особенность объектов-прокси – они сериализуемы (picklable), поэтому их можно передавать между процессами. Таким образом, референт может содержать [Объекты-прокси](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing-proxy-objects). Это допускает вложение управляемых списков, словарей и других [Объектов-прокси](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing-proxy-objects):13781379```pycon1380>>> a = manager.list()1381>>> b = manager.list()1382>>> a.append(b)         # референт a теперь содержит референт b1383>>> print(a, b)1384[<ListProxy object, typeid 'list' at ...>] []1385>>> b.append('hello')1386>>> print(a[0], b)1387['hello'] ['hello']1388```13891390Аналогично, прокси словарей и списков могут быть вложены друг в друга:13911392```python1393>>> l_outer = manager.list([ manager.dict() for i in range(2) ])1394>>> d_first_inner = l_outer[0]1395>>> d_first_inner['a'] = 11396>>> d_first_inner['b'] = 21397>>> l_outer[1]['c'] = 31398>>> l_outer[1]['z'] = 261399>>> print(l_outer[0])1400{'a': 1, 'b': 2}1401>>> print(l_outer[1])1402{'c': 3, 'z': 26}1403```14041405Если в референт входят стандартные (не прокси) объекты [`list`](https://python-all.ru/3.7/library/stdtypes.html#list) или [`dict`](https://python-all.ru/3.7/library/stdtypes.html#dict), изменения этих изменяемых значений не будут распространяться через менеджер, потому что прокси не может узнать, когда значения, содержащиеся внутри, изменяются. Однако сохранение значения в прокси-контейнере (что вызывает `__setitem__` на объекте-прокси) распространяется через менеджер, поэтому для эффективного изменения такого элемента можно присвоить изменённое значение обратно в прокси-контейнер:14061407```python1408# создать прокси для списка и добавить изменяемый объект (словарь)1409lproxy = manager.list()1410lproxy.append({})1411# теперь изменить словарь1412d = lproxy[0]1413d['a'] = 11414d['b'] = 21415# на данный момент изменения в d еще не синхронизированы, но при1416# обновлении словаря прокси уведомляется об изменении1417lproxy[0] = d1418```14191420Этот подход, возможно, менее удобен, чем использование вложенных [Объектов-прокси](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing-proxy-objects) в большинстве случаев, но также демонстрирует степень контроля над синхронизацией.14211422> **Примечание**1423>1424> Типы прокси в [`multiprocessing`](https://python-all.ru/3.7/library/multiprocessing.html#module-multiprocessing) не поддерживают сравнение по значению. Так, например:1425>1426> ```pycon1427> >>> manager.list([1,2,3]) == [1,2,3]1428> False1429> ```1430>1431> При сравнении следует просто использовать копию референта.14321433#### `class multiprocessing.managers.BaseProxy`14341435Прокси-объекты являются экземплярами подклассов [`BaseProxy`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.managers.BaseProxy).14361437#### `_callmethod(methodname[, args[, kwds]])`14381439Вызывает метод референта прокси и возвращает результат.14401441Если `proxy` – это прокси, чей референт – `obj`, то выражение14421443```python1444proxy._callmethod(methodname, args, kwds)1445```14461447вычислит выражение14481449```python1450getattr(obj, methodname)(*args, **kwds)1451```14521453в процессе менеджера.14541455Возвращаемое значение будет копией результата вызова или прокси для нового разделяемого объекта – см. документацию по аргументу *method\_to\_typeid* функции [`BaseManager.register()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.managers.BaseManager.register).14561457Если при вызове возникло исключение, то оно повторно возбуждается с помощью [`_callmethod()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.managers.BaseProxy._callmethod). Если в процессе менеджера возникло другое исключение, то оно преобразуется в исключение `RemoteError` и возбуждается с помощью [`_callmethod()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.managers.BaseProxy._callmethod).14581459Обратите внимание, что исключение будет возбуждаться, если *methodname* не был *экспонирован*.14601461Пример использования [`_callmethod()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.managers.BaseProxy._callmethod):14621463```pycon1464>>> l = manager.list(range(10))1465>>> l._callmethod('__len__')1466101467>>> l._callmethod('__getitem__', (slice(2, 7),)) # эквивалентно l[2:7]1468[2, 3, 4, 5, 6]1469>>> l._callmethod('__getitem__', (20,))          # эквивалентно l[20]1470Traceback (most recent call last):1471...1472IndexError: list index out of range1473```14741475#### `_getvalue()`14761477Возвращает копию референта.14781479Если референт не может быть сериализован (unpicklable), то это вызовет исключение.14801481#### `__repr__()`14821483Возвращает представление прокси-объекта.14841485#### `__str__()`14861487Возвращает представление референта.14881489#### Очистка14901491Прокси-объект использует колбэк слабой ссылки: когда он собирается сборщиком мусора, он отменяет свою регистрацию у менеджера, которому принадлежит его референт.14921493Разделяемый объект удаляется из процесса менеджера, когда на него больше не ссылается ни один прокси.14941495### Пулы процессов14961497Можно создать пул процессов, который будет выполнять задачи, отправленные ему с помощью класса [`Pool`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.pool.Pool).14981499#### `class multiprocessing.pool.Pool([processes[, initializer[, initargs[, maxtasksperchild[, context]]]]])`15001501Объект пула процессов, который управляет пулом рабочих процессов, которым можно отправлять задачи. Он поддерживает асинхронные результаты с тайм-аутами и колбэками, а также имеет параллельную реализацию map.15021503*processes* – количество используемых рабочих процессов. Если *processes* равно `None`, то используется число, возвращаемое [`os.cpu_count()`](https://python-all.ru/3.7/library/os.html#os.cpu_count).15041505Если *initializer* не равно `None`, то каждый рабочий процесс вызовет `initializer(*initargs)` при запуске.15061507*maxtasksperchild* – количество задач, которое рабочий процесс может выполнить до завершения и замены новым рабочим процессом, чтобы освободить неиспользуемые ресурсы. Значение по умолчанию *maxtasksperchild* равно `None`, что означает, что рабочие процессы будут жить столько же, сколько и пул.15081509*context* используется для указания контекста, в котором запускаются рабочие процессы. Обычно пул создаётся с помощью функции `multiprocessing.Pool()` или метода [`Pool()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.pool.Pool) объекта контекста. В обоих случаях *context* устанавливается соответствующим образом.15101511Обратите внимание, что методы объекта пула должны вызываться только тем процессом, который создал пул.15121513> **Предупреждение**1514>1515> Объекты [`multiprocessing.pool`](https://python-all.ru/3.7/library/multiprocessing.html#module-multiprocessing.pool) имеют внутренние ресурсы, которые необходимо должным образом управлять (как и любыми другими ресурсами): используйте пул как контекстный менеджер или вызывайте [`close()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.pool.Pool.close) и [`terminate()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.pool.Pool.terminate) вручную. Несоблюдение этого может привести к зависанию процесса при завершении.1516>1517> Обратите внимание, что **неверно** полагаться на сборщик мусора для уничтожения пула поскольку CPython не гарантирует, что финализатор пула будет вызван (см. [`object.__del__()`](https://python-all.ru/3.7/reference/datamodel.html#object.__del__) для получения дополнительной информации).15181519Новое в версии 3.2: *maxtasksperchild*15201521Новое в версии 3.4: *context*15221523> **Примечание**1524>1525> Рабочие процессы внутри [`Pool`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.pool.Pool) обычно существуют в течение всего времени работы очереди пула. Часто используемый в других системах (например, Apache, mod\_wsgi и т.д.) подход для освобождения ресурсов, удерживаемых рабочими процессами, заключается в том, чтобы позволить рабочему процессу в пуле выполнить только определённый объём работы, после чего он завершается, очищается, и на его место запускается новый процесс. Аргумент *maxtasksperchild* функции [`Pool`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.pool.Pool) предоставляет эту возможность конечному пользователю.15261527#### `apply(func[, args[, kwds]])`15281529Вызывает *func* с аргументами *args* и именованными аргументами *kwds*. Блокируется до получения результата. Поскольку этот метод блокируется, [`apply_async()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.pool.Pool.apply_async) лучше подходит для параллельного выполнения работы. Кроме того, *func* выполняется только в одном из рабочих процессов пула.15301531#### `apply_async(func[, args[, kwds[, callback[, error_callback]]]])`15321533Вариант метода [`apply()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.pool.Pool.apply), возвращающий объект результата.15341535Если указан *колбэк*, то это должен быть вызываемый объект, принимающий один аргумент. Когда результат готов, к нему применяется *колбэк*, если только вызов не завершился ошибкой – в этом случае вместо него применяется *колбэк ошибки*.15361537Если указан *error\_callback*, то это должен быть вызываемый объект, принимающий один аргумент. Если целевая функция завершается ошибкой, то *error\_callback* вызывается с экземпляром исключения.15381539Колбэки должны завершаться немедленно, иначе поток, обрабатывающий результаты, будет заблокирован.15401541#### `map(func, iterable[, chunksize])`15421543Параллельный аналог встроенной функции [`map()`](https://python-all.ru/3.7/library/functions.html#map) (однако поддерживает только один аргумент *iterable*, для нескольких итерируемых объектов см. [`starmap()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.pool.Pool.starmap)). Блокируется до получения результата.15441545Этот метод разбивает итерируемый объект на несколько частей (chunks), которые отправляет в пул процессов как отдельные задачи. Приблизительный размер этих частей можно задать, установив *chunksize* в положительное целое число.15461547Обратите внимание, что для очень длинных итерируемых объектов это может привести к высокому потреблению памяти. Для повышения эффективности рассмотрите возможность использования [`imap()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.pool.Pool.imap) или [`imap_unordered()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.pool.Pool.imap_unordered) с явным указанием *chunksize*.15481549#### `map_async(func, iterable[, chunksize[, callback[, error_callback]]])`15501551Вариант метода [`map()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.pool.Pool.map), возвращающий объект результата.15521553Если указан *колбэк*, то это должен быть вызываемый объект, принимающий один аргумент. Когда результат готов, к нему применяется *колбэк*, если только вызов не завершился ошибкой – в этом случае вместо него применяется *колбэк ошибки*.15541555Если указан *error\_callback*, то это должен быть вызываемый объект, принимающий один аргумент. Если целевая функция завершается ошибкой, то *error\_callback* вызывается с экземпляром исключения.15561557Колбэки должны завершаться немедленно, иначе поток, обрабатывающий результаты, будет заблокирован.15581559#### `imap(func, iterable[, chunksize])`15601561Более ленивая версия [`map()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.pool.Pool.map).15621563Аргумент *chunksize* совпадает с тем, что используется в методе [`map()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.pool.Pool.map). Для очень длинных итерируемых объектов использование большого значения *chunksize* может привести к завершению задачи **значительно** быстрее, чем при использовании значения по умолчанию `1`.15641565Кроме того, если *chunksize* равно `1`, то метод `next()` итератора, возвращаемого методом [`imap()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.pool.Pool.imap), имеет необязательный параметр *timeout*: `next(timeout)` возбудит [`multiprocessing.TimeoutError`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.TimeoutError), если результат не может быть возвращён в течение *timeout* секунд.15661567#### `imap_unordered(func, iterable[, chunksize])`15681569То же, что и [`imap()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.pool.Pool.imap), за исключением того, что порядок результатов из возвращаемого итератора считается произвольным. (Только когда есть только один рабочий процесс, порядок гарантированно будет «правильным».)15701571#### `starmap(func, iterable[, chunksize])`15721573Как [`map()`](https://python-all.ru/3.7/library/functions.html#map), за исключением того, что элементы *iterable* должны быть итерабельными объектами, которые распаковываются как аргументы.15741575Таким образом, *iterable* из `[(1,2), (3, 4)]` приводит к `[func(1,2), func(3,4)]`.15761577Новое в версии 3.3.15781579#### `starmap_async(func, iterable[, chunksize[, callback[, error_callback]]])`15801581Комбинация [`starmap()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.pool.Pool.starmap) и [`map_async()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.pool.Pool.map_async), которая перебирает *iterable* из итерируемых объектов и вызывает *func* с распакованными итерируемыми объектами. Возвращает объект результата.15821583Новое в версии 3.3.15841585#### `close()`15861587Предотвращает отправку новых задач в пул. После завершения всех задач рабочие процессы завершаются.15881589#### `terminate()`15901591Немедленно останавливает рабочие процессы, не дожидаясь завершения незаконченных задач. Когда объект пула будет собран сборщиком мусора, [`terminate()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.pool.Pool.terminate) будет вызван немедленно.15921593#### `join()`15941595Ожидает завершения рабочих процессов. Перед использованием [`join()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.pool.Pool.join) необходимо вызвать [`close()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.pool.Pool.close) или [`terminate()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.pool.Pool.terminate).15961597Новое в версии 3.3: Объекты Pool теперь поддерживают протокол управления контекстом – см.\\n[Context Manager Types](https://python-all.ru/3.7/library/stdtypes.html#typecontextmanager). [`__enter__()`](https://python-all.ru/3.7/library/stdtypes.html#contextmanager.__enter__) возвращает объект pool, а [`__exit__()`](https://python-all.ru/3.7/library/stdtypes.html#contextmanager.__exit__) вызывает [`terminate()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.pool.Pool.terminate).15981599#### `class multiprocessing.pool.AsyncResult`16001601Класс результата, возвращаемого [`Pool.apply_async()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.pool.Pool.apply_async) и [`Pool.map_async()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.pool.Pool.map_async).16021603#### `get([timeout])`16041605Возвращает результат, когда он будет получен. Если *timeout* не равен `None` и результат не поступает в течение *timeout* секунд, то вызывается [`multiprocessing.TimeoutError`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.TimeoutError). Если удалённый вызов вызвал исключение, то это исключение будет повторно возбуждено [`get()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.pool.AsyncResult.get).16061607#### `wait([timeout])`16081609Ожидает, пока результат не станет доступен или пока не пройдёт *timeout* секунд.16101611#### `ready()`16121613Возвращает, завершён ли вызов.16141615#### `successful()`16161617Возвращает, завершился ли вызов без возникновения исключения. Возбуждает [`ValueError`](https://python-all.ru/3.7/library/exceptions.html#ValueError), если результат ещё не готов.16181619Следующий пример демонстрирует использование пула:16201621```python1622from multiprocessing import Pool1623import time16241625def f(x):1626    return x*x16271628if __name__ == '__main__':1629    with Pool(processes=4) as pool:         # запустить 4 рабочих процесса1630        result = pool.apply_async(f, (10,)) # вычислить "f(10)" асинхронно в одном процессе1631        print(result.get(timeout=1))        # выводит "100", если компьютер не *очень* медленный16321633        print(pool.map(f, range(10)))       # выводит "[0, 1, 4,..., 81]"16341635        it = pool.imap(f, range(10))1636        print(next(it))                     # выводит "0"1637        print(next(it))                     # выводит "1"1638        print(it.next(timeout=1))           # выводит "4", если компьютер не *очень* медленный16391640        result = pool.apply_async(time.sleep, (10,))1641        print(result.get(timeout=1))        # вызывает multiprocessing.TimeoutError1642```16431644### Слушатели и клиенты16451646Обычно обмен сообщениями между процессами осуществляется с помощью очередей или объектов [`Connection`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.connection.Connection), возвращаемых [`Pipe()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Pipe).16471648Однако модуль [`multiprocessing.connection`](https://python-all.ru/3.7/library/multiprocessing.html#module-multiprocessing.connection) обеспечивает дополнительную гибкость. По сути, он предоставляет высокоуровневый API, ориентированный на сообщения, для работы с сокетами или именованными каналами Windows. Также поддерживается *аутентификация на основе дайджеста* с использованием модуля [`hmac`](https://python-all.ru/3.7/library/hmac.html#module-hmac) и опрос нескольких подключений одновременно.16491650#### `multiprocessing.connection.deliver_challenge(connection, authkey)`16511652Отправляет случайно сгенерированное сообщение на другой конец соединения и ожидает ответа.16531654Если ответ совпадает с дайджестом сообщения, используя *authkey* в качестве ключа, то на другой конец соединения отправляется приветственное сообщение. В противном случае возбуждается [`AuthenticationError`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.AuthenticationError).16551656#### `multiprocessing.connection.answer_challenge(connection, authkey)`16571658Принимает сообщение, вычисляет дайджест сообщения, используя *authkey* в качестве ключа, а затем отправляет дайджест обратно.16591660Если приветственное сообщение не получено, то возбуждается [`AuthenticationError`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.AuthenticationError).16611662#### `multiprocessing.connection.Client(address[, family[, authkey]])`16631664Пытается установить соединение с слушателем, использующим адрес *address*, возвращая [`Connection`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.connection.Connection).16651666Тип соединения определяется аргументом *family*, но его обычно можно опустить, поскольку он обычно определяется по формату *address*. (См. [Address Formats](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing-address-formats))16671668Если *authkey* задан и не None, он должен быть байтовой строкой и будет использоваться как секретный ключ для проверки подлинности на основе HMAC. Если *authkey* равно None, аутентификация не выполняется. В случае неудачи аутентификации возбуждается исключение [`AuthenticationError`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.AuthenticationError). См. [Ключи аутентификации](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing-auth-keys).16691670#### `class multiprocessing.connection.Listener([address[, family[, backlog[, authkey]]]])`16711672Обёртка для привязанного сокета или именованного канала Windows, который «прослушивает» подключения.16731674*address* – это адрес, который будет использоваться привязанным сокетом или именованным каналом объекта слушателя.16751676> **Примечание**1677>1678> Если используется адрес ‘0.0.0.0’, он не будет доступной точкой подключения в Windows. Если требуется доступная точка подключения, следует использовать ‘127.0.0.1’.16791680*family* – тип используемого сокета (или именованного канала). Может быть одной из строк `'AF_INET'` (для TCP-сокета), `'AF_UNIX'` (для сокета домена Unix) или `'AF_PIPE'` (для именованного канала Windows). Из них гарантированно доступна только первая. Если *family* равно `None`, то семейство определяется по формату *address*. Если *address* также равно `None`, выбирается значение по умолчанию. По умолчанию выбирается семейство, которое считается самым быстрым из доступных. См. [Форматы адресов](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing-address-formats). Обратите внимание: если *family* равно `'AF_UNIX'`, а address равен `None`, то сокет будет создан в частной временной директории, созданной с помощью [`tempfile.mkstemp()`](https://python-all.ru/3.7/library/tempfile.html#tempfile.mkstemp).16811682Если объект listener использует сокет, то *backlog* (по умолчанию 1) передаётся методу [`listen()`](https://python-all.ru/3.7/library/socket.html#socket.socket.listen) сокета после его привязки.16831684Если *authkey* задан и не None, он должен быть байтовой строкой и будет использоваться как секретный ключ для проверки подлинности на основе HMAC. Если *authkey* равно None, аутентификация не выполняется. В случае неудачи аутентификации возбуждается исключение [`AuthenticationError`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.AuthenticationError). См. [Ключи аутентификации](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing-auth-keys).16851686#### `accept()`16871688Принимает соединение на привязанном сокете или именованном канале объекта listener и возвращает объект [`Connection`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.connection.Connection). Если предпринята попытка аутентификации и она не удалась, возбуждается [`AuthenticationError`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.AuthenticationError).16891690#### `close()`16911692Закрывает привязанный сокет или именованный канал объекта listener. Этот метод вызывается автоматически при сборке мусора listener'а. Однако рекомендуется вызывать его явно.16931694Объекты Listener имеют следующие свойства только для чтения:16951696#### `address`16971698Адрес, используемый объектом Listener.16991700#### `last_accepted`17011702Адрес, с которого поступило последнее принятое соединение. Если он недоступен, то равен `None`.17031704Новое в версии 3.3: Объекты Listener теперь поддерживают протокол управления контекстом – см.\\n[Context Manager Types](https://python-all.ru/3.7/library/stdtypes.html#typecontextmanager). [`__enter__()`](https://python-all.ru/3.7/library/stdtypes.html#contextmanager.__enter__) возвращает объект listener, а [`__exit__()`](https://python-all.ru/3.7/library/stdtypes.html#contextmanager.__exit__) вызывает [`close()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.connection.Listener.close).17051706#### `multiprocessing.connection.wait(object_list, timeout=None)`17071708Ожидает, пока объект из *object\_list* не будет готов. Возвращает список тех объектов из *object\_list*, которые готовы. Если *timeout* – число с плавающей точкой, вызов блокируется не более чем на указанное количество секунд. Если *timeout* равен `None`, блокировка будет неограниченной. Отрицательный тайм-аут эквивалентен нулевому.17091710Как в Unix, так и в Windows объект может появиться в *object\_list*, если он17111712- читаемый объект [`Connection`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.connection.Connection);1713- подключенный и читаемый объект [`socket.socket`](https://python-all.ru/3.7/library/socket.html#socket.socket); или1714- атрибут [`sentinel`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Process.sentinel) объекта [`Process`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Process).17151716Объект соединения или сокета готов, когда из него доступны для чтения данные или другой конец был закрыт.17171718**Unix**: `wait(object_list, timeout)` почти эквивалентен `select.select(object_list, [], [], timeout)`. Разница в том, что если [`select.select()`](https://python-all.ru/3.7/library/select.html#select.select) прерван сигналом, он может возбудить [`OSError`](https://python-all.ru/3.7/library/exceptions.html#OSError) с кодом ошибки `EINTR`, тогда как [`wait()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.connection.wait) этого не сделает.17191720**Windows**: Элемент в *object\_list* должен быть либо целочисленным дескриптором, который ожидаем (согласно определению из документации функции Win32 `WaitForMultipleObjects()`), либо объектом с методом `fileno()`, возвращающим дескриптор сокета или канала. (Обратите внимание: дескрипторы каналов и сокетов **не** являются ожидаемыми дескрипторами.)17211722Новое в версии 3.3.17231724**Примеры**17251726Следующий серверный код создаёт listener, который использует `'secret password'` в качестве ключа аутентификации. Затем он ожидает соединения и отправляет некоторые данные клиенту:17271728```python1729from multiprocessing.connection import Listener1730from array import array17311732address = ('localhost', 6000)     # семейство определяется как 'AF_INET'17331734with Listener(address, authkey=b'secret password') as listener:1735    with listener.accept() as conn:1736        print('connection accepted from', listener.last_accepted)17371738        conn.send([2.25, None, 'junk', float])17391740        conn.send_bytes(b'hello')17411742        conn.send_bytes(array('i', [42, 1729]))1743```17441745Следующий код подключается к серверу и получает от него некоторые данные:17461747```python1748from multiprocessing.connection import Client1749from array import array17501751address = ('localhost', 6000)17521753with Client(address, authkey=b'secret password') as conn:1754    print(conn.recv())                  # => [2.25, None, 'junk', float]17551756    print(conn.recv_bytes())            # => 'hello'17571758    arr = array('i', [0, 0, 0, 0, 0])1759    print(conn.recv_bytes_into(arr))    # => 81760    print(arr)                          # => array('i', [42, 1729, 0, 0, 0])1761```17621763Следующий код использует [`wait()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.connection.wait) для ожидания сообщений от нескольких процессов одновременно:17641765```python1766import time, random1767from multiprocessing import Process, Pipe, current_process1768from multiprocessing.connection import wait17691770def foo(w):1771    for i in range(10):1772        w.send((i, current_process().name))1773    w.close()17741775if __name__ == '__main__':1776    readers = []17771778    for i in range(4):1779        r, w = Pipe(duplex=False)1780        readers.append(r)1781        p = Process(target=foo, args=(w,))1782        p.start()1783        # Закрываем записывающий конец канала, чтобы убедиться, что1784        # p – единственный процесс, владеющий дескриптором канала. Это1785        # гарантирует, что когда p закроет свой дескриптор для записывающего конца,1786        # wait() немедленно сообщит, что читающий конец готов1787        w.close()17881789    while readers:1790        for r in wait(readers):1791            try:1792                msg = r.recv()1793            except EOFError:1794                readers.remove(r)1795            else:1796                print(msg)1797```17981799#### Форматы адресов18001801- Адрес `'AF_INET'` – это кортеж вида `(hostname, port)`, где *hostname* – строка, а *port* – целое число.1802- Адрес `'AF_UNIX'` – это строка, представляющая имя файла в файловой системе.1803- **Адрес `'AF_PIPE'` – это строка вида**18041805  `r'\.\pipe{PipeName}'`. Чтобы использовать [`Client()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.connection.Client) для подключения к именованному каналу на удалённом компьютере *ServerName*, следует использовать адрес вида `r'\ServerName\pipe{PipeName}'`.18061807Обратите внимание: любая строка, начинающаяся с двух обратных слешей, по умолчанию считается адресом `'AF_PIPE'`, а не `'AF_UNIX'`.18081809### Ключи аутентификации18101811При использовании [`Connection.recv`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.connection.Connection.recv) полученные данные автоматически распиковываются. К сожалению, распиковка данных из ненадёжного источника представляет угрозу безопасности. Поэтому [`Listener`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.connection.Listener) и [`Client()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.connection.Client) используют модуль [`hmac`](https://python-all.ru/3.7/library/hmac.html#module-hmac) для обеспечения дайджест-аутентификации.18121813Ключ аутентификации – это байтовая строка, которую можно рассматривать как пароль: после установления соединения обе стороны требуют доказательства, что другая сторона знает ключ аутентификации. (Демонстрация того, что обе стороны используют один и тот же ключ, **не** предполагает отправку ключа по соединению.)18141815Если запрошена аутентификация, но ключ аутентификации не указан, то используется возвращаемое значение `current_process().authkey` (см. [`Process`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Process)). Это значение автоматически наследуется любым объектом [`Process`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Process), который создаёт текущий процесс. Это означает, что (по умолчанию) все процессы многопроцессной программы используют один ключ аутентификации, который можно применять для настройки соединений между ними.18161817Подходящие ключи аутентификации также можно сгенерировать с помощью [`os.urandom()`](https://python-all.ru/3.7/library/os.html#os.urandom).18181819### Журналирование18201821Доступна поддержка журналирования. Однако обратите внимание, что пакет [`logging`](https://python-all.ru/3.7/library/logging.html#module-logging) не использует блокировки, разделяемые между процессами, поэтому сообщения от разных процессов могут перемешиваться (в зависимости от типа обработчика).18221823#### `multiprocessing.get_logger()`18241825Возвращает логгер, используемый модулем [`multiprocessing`](https://python-all.ru/3.7/library/multiprocessing.html#module-multiprocessing). При необходимости создаётся новый.18261827При первом создании логгер имеет уровень `logging.NOTSET` и не имеет обработчика по умолчанию. Сообщения, отправленные этому логгеру, по умолчанию не распространяются на корневой логгер.18281829Обратите внимание, что в Windows дочерние процессы наследуют только уровень логгера родительского процесса – любые другие настройки логгера не наследуются.18301831#### `multiprocessing.log_to_stderr()`18321833Эта функция вызывает [`get_logger()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.get_logger), но помимо возврата регистратора, созданного get\_logger, добавляет обработчик, который отправляет вывод на [`sys.stderr`](https://python-all.ru/3.7/library/sys.html#sys.stderr), используя формат `'[%(levelname)s/%(processName)s] %(message)s'`.18341835Ниже приведён пример сеанса с включённым журналированием:18361837```python1838>>> import multiprocessing, logging1839>>> logger = multiprocessing.log_to_stderr()1840>>> logger.setLevel(logging.INFO)1841>>> logger.warning('doomed')1842[WARNING/MainProcess] doomed1843>>> m = multiprocessing.Manager()1844[INFO/SyncManager-...] child process calling self.run()1845[INFO/SyncManager-...] created temp directory /.../pymp-...1846[INFO/SyncManager-...] manager serving at '/.../listener-...'1847>>> del m1848[INFO/MainProcess] sending shutdown message to manager1849[INFO/SyncManager-...] manager exiting with exitcode 01850```18511852Полную таблицу уровней журналирования см. в модуле [`logging`](https://python-all.ru/3.7/library/logging.html#module-logging).18531854### Модуль [`multiprocessing.dummy`](https://python-all.ru/3.7/library/multiprocessing.html#module-multiprocessing.dummy)18551856[`multiprocessing.dummy`](https://python-all.ru/3.7/library/multiprocessing.html#module-multiprocessing.dummy) воспроизводит API модуля [`multiprocessing`](https://python-all.ru/3.7/library/multiprocessing.html#module-multiprocessing), но является не более чем обёрткой вокруг модуля [`threading`](https://python-all.ru/3.7/library/threading.html#module-threading).18571858В частности, функция `Pool`, предоставляемая модулем [`multiprocessing.dummy`](https://python-all.ru/3.7/library/multiprocessing.html#module-multiprocessing.dummy), возвращает экземпляр [`ThreadPool`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.pool.ThreadPool), который является подклассом [`Pool`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.pool.Pool), поддерживающим все те же вызовы методов, но использующим пул рабочих потоков вместо рабочих процессов.18591860#### `class multiprocessing.pool.ThreadPool([processes[, initializer[, initargs]]])`18611862Объект пула потоков, который управляет пулом рабочих потоков, которым можно отправлять задачи. Экземпляры [`ThreadPool`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.pool.ThreadPool) полностью совместимы по интерфейсу с экземплярами [`Pool`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.pool.Pool), и их ресурсами необходимо правильно управлять – либо используя пул как контекстный менеджер, либо вызывая [`close()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.pool.Pool.close) и [`terminate()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.pool.Pool.terminate) вручную.18631864*processes* – это количество используемых рабочих потоков. Если *processes* равно `None`, то используется число, возвращаемое [`os.cpu_count()`](https://python-all.ru/3.7/library/os.html#os.cpu_count).18651866Если *initializer* не равно `None`, то каждый рабочий процесс вызовет `initializer(*initargs)` при запуске.18671868В отличие от [`Pool`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.pool.Pool), *maxtasksperchild* и *context* не могут быть заданы.18691870> > **Примечание**1871> >1872> > [`ThreadPool`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.pool.ThreadPool) имеет тот же интерфейс, что и [`Pool`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.pool.Pool), который разработан вокруг пула процессов и появился до введения модуля [`concurrent.futures`](https://python-all.ru/3.7/library/concurrent.futures.html#module-concurrent.futures). Таким образом, он наследует некоторые операции, которые не имеют смысла для пула на основе потоков, и имеет собственный тип для представления статуса асинхронных задач – [`AsyncResult`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.pool.AsyncResult), который не распознаётся другими библиотеками.1873> >1874> > Пользователям обычно следует отдавать предпочтение использованию [`concurrent.futures.ThreadPoolExecutor`](https://python-all.ru/3.7/library/concurrent.futures.html#concurrent.futures.ThreadPoolExecutor), который имеет более простой интерфейс, изначально разработанный для потоков, и возвращает экземпляры [`concurrent.futures.Future`](https://python-all.ru/3.7/library/concurrent.futures.html#concurrent.futures.Future), совместимые со многими другими библиотеками, включая [`asyncio`](https://python-all.ru/3.7/library/asyncio.html#module-asyncio).18751876## Рекомендации по программированию18771878Существуют определённые рекомендации и идиомы, которых следует придерживаться при использовании [`multiprocessing`](https://python-all.ru/3.7/library/multiprocessing.html#module-multiprocessing).18791880### Все методы запуска18811882Нижеследующее относится ко всем методам запуска.18831884Избегайте разделяемого состояния18851886> По возможности следует стараться избегать передачи больших объёмов данных между процессами.1887>1888> Вероятно, лучше всего ограничиться использованием очередей или каналов для связи между процессами, а не использовать низкоуровневые примитивы синхронизации.18891890Сериализуемость18911892> Убедитесь, что аргументы методов прокси-объектов сериализуемы.18931894Потокобезопасность прокси18951896> Не используйте прокси-объект из более чем одного потока, если не защищаете его блокировкой.1897>1898> (С разными процессами, использующими *один и тот же* прокси, проблем не возникает.)18991900Присоединение процессов-зомби19011902> В Unix, когда процесс завершается, но к нему не присоединились (joined), он становится зомби. Таких процессов не должно быть много, потому что каждый раз при запуске нового процесса (или вызове [`active_children()`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.active_children)) все завершённые процессы, к которым ещё не присоединились, будут присоединены. Кроме того, вызов [`Process.is_alive`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Process.is_alive) для завершённого процесса присоединяет его. Тем не менее, рекомендуется явно присоединять все запущенные процессы.19031904Лучше наследовать, чем упаковывать/распаковывать19051906> При использовании методов запуска *spawn* или *forkserver* многие типы из [`multiprocessing`](https://python-all.ru/3.7/library/multiprocessing.html#module-multiprocessing) должны быть упаковываемыми (picklable), чтобы дочерние процессы могли их использовать. Однако обычно следует избегать отправки разделяемых объектов другим процессам через каналы или очереди. Вместо этого стоит организовать программу так, чтобы процесс, которому требуется доступ к разделяемому ресурсу, созданному в другом месте, мог унаследовать его от родительского процесса.19071908Избегайте завершения процессов19091910> Использование метода [`Process.terminate`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Process.terminate) для остановки процесса может привести к тому, что любые разделяемые ресурсы (такие как блокировки, семафоры, каналы и очереди), которые в данный момент используются процессом, станут повреждёнными или недоступными для других процессов.1911>1912> Поэтому, вероятно, лучше рассматривать использование [`Process.terminate`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Process.terminate) только для процессов, которые никогда не используют разделяемые ресурсы.19131914Присоединение процессов, использующих очереди19151916> Имейте в виду, что процесс, поместивший элементы в очередь, будет ждать перед завершением, пока все буферизованные элементы не будут переданы потоком «feeder» в нижележащий канал. (Дочерний процесс может вызвать метод [`Queue.cancel_join_thread`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Queue.cancel_join_thread) очереди, чтобы избежать такого поведения.)1917>1918> Это означает, что при использовании очереди нужно убедиться, что все элементы, помещённые в очередь, будут в конечном итоге удалены до того, как процесс будет присоединён. В противном случае нельзя быть уверенным, что процессы, поместившие элементы в очередь, завершатся. Также помните, что недемонические процессы присоединяются автоматически.1919>1920> Пример, который приведёт к взаимоблокировке:1921>1922> ```python1923> from multiprocessing import Process, Queue1924>1925> def f(q):1926>     q.put('X' * 1000000)1927>1928> if __name__ == '__main__':1929>     queue = Queue()1930>     p = Process(target=f, args=(queue,))1931>     p.start()1932>     p.join()                    # это приводит к взаимоблокировке1933>     obj = queue.get()1934> ```1935>1936> Исправление заключается в замене двух последних строк местами (или просто удалении строки с `p.join()`).19371938Явная передача ресурсов дочерним процессам19391940> В Unix при использовании метода запуска *fork* дочерний процесс может использовать общий ресурс, созданный в родительском процессе с помощью глобального ресурса. Однако лучше передавать объект в качестве аргумента конструктору дочернего процесса.1941>1942> Помимо того, что это делает код (потенциально) совместимым с Windows и другими методами запуска, это также гарантирует, что пока дочерний процесс жив, объект не будет собран сборщиком мусора в родительском процессе. Это может быть важно, если некоторый ресурс освобождается при сборке мусора объекта в родительском процессе.1943>1944> Так, например1945>1946> ```python1947> from multiprocessing import Process, Lock1948>1949> def f():1950>     ... do something using "lock" ...1951>1952> if __name__ == '__main__':1953>     lock = Lock()1954>     for i in range(10):1955>         Process(target=f).start()1956> ```1957>1958> следует переписать как1959>1960> ```python1961> from multiprocessing import Process, Lock1962>1963> def f(l):1964>     ... do something using "l" ...1965>1966> if __name__ == '__main__':1967>     lock = Lock()1968>     for i in range(10):1969>         Process(target=f, args=(lock,)).start()1970> ```19711972Остерегайтесь замены [`sys.stdin`](https://python-all.ru/3.7/library/sys.html#sys.stdin) на «файлоподобный объект»19731974> [`multiprocessing`](https://python-all.ru/3.7/library/multiprocessing.html#module-multiprocessing) изначально безусловно вызывал:1975>1976> ```python1977> os.close(sys.stdin.fileno())1978> ```1979>1980> в методе `multiprocessing.Process._bootstrap()` – это приводило к проблемам с процессами внутри процессов. Теперь это изменено на:1981>1982> ```python1983> sys.stdin.close()1984> sys.stdin = open(os.open(os.devnull, os.O_RDONLY), closefd=False)1985> ```1986>1987> Это решает основную проблему столкновения процессов друг с другом, приводящую к ошибке неверного файлового дескриптора, но вносит потенциальную опасность для приложений, которые заменяют [`sys.stdin()`](https://python-all.ru/3.7/library/sys.html#sys.stdin) на «файлоподобный объект» с буферизацией вывода. Опасность в том, что если несколько процессов вызовут [`close()`](https://python-all.ru/3.7/library/io.html#io.IOBase.close) для этого файлоподобного объекта, одни и те же данные могут быть сброшены в объект несколько раз, что приведёт к повреждению.1988>1989> Если вы пишете файлоподобный объект и реализуете собственное кэширование, вы можете сделать его устойчивым к fork, сохраняя pid при каждом добавлении в кэш и сбрасывая кэш при изменении pid. Например:1990>1991> ```python1992> @property1993> def cache(self):1994>     pid = os.getpid()1995>     if pid != self._pid:1996>         self._pid = pid1997>         self._cache = []1998>     return self._cache1999> ```2000>2001> Для получения дополнительной информации см. [bpo-5155](https://python-all.ru/3.7/library/multiprocessing.html), [bpo-5313](https://python-all.ru/3.7/library/multiprocessing.html) и [bpo-5331](https://python-all.ru/3.7/library/multiprocessing.html)20022003### Методы запуска *spawn* и *forkserver*20042005Есть несколько дополнительных ограничений, которые не применяются к *fork* методу запуска.20062007Упаковываемость20082009> Убедитесь, что все аргументы `Process.__init__()` можно сериализовать с помощью pickle. Кроме того, если вы создаёте подкласс [`Process`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Process), убедитесь, что экземпляры будут сериализуемы при вызове метода [`Process.start`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Process.start).20102011Глобальные переменные20122013> Имейте в виду, что если код, выполняемый в дочернем процессе, попытается обратиться к глобальной переменной, то значение, которое он увидит (если оно есть), может не совпадать со значением в родительском процессе на момент вызова [`Process.start`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.Process.start).2014>2015> Однако глобальные переменные, которые представляют собой просто константы уровня модуля, не вызывают проблем.20162017Безопасный импорт главного модуля20182019> Необходимо убедиться, что главный модуль может быть безопасно импортирован новым интерпретатором Python без непреднамеренных побочных эффектов (например, запуска нового процесса).2020>2021> Например, при использовании методов запуска *spawn* или *forkserver* выполнение следующего модуля приведёт к ошибке [`RuntimeError`](https://python-all.ru/3.7/library/exceptions.html#RuntimeError):2022>2023> ```python2024> from multiprocessing import Process2025>2026> def foo():2027>     print('hello')2028>2029> p = Process(target=foo)2030> p.start()2031> ```2032>2033> Вместо этого следует защитить «точку входа» программы с помощью `if __name__ == '__main__':` следующим образом:2034>2035> ```python2036> from multiprocessing import Process, freeze_support, set_start_method2037>2038> def foo():2039>     print('hello')2040>2041> if __name__ == '__main__':2042>     freeze_support()2043>     set_start_method('spawn')2044>     p = Process(target=foo)2045>     p.start()2046> ```2047>2048> (Строку `freeze_support()` можно опустить, если программа будет запускаться обычным образом, а не как замороженное приложение.)2049>2050> Это позволяет только что порождённому интерпретатору Python безопасно импортировать модуль и затем выполнить функцию `foo()` этого модуля.2051>2052> Аналогичные ограничения действуют, если пул или менеджер создаются в главном модуле.20532054## Примеры20552056Демонстрация создания и использования настраиваемых менеджеров и прокси:20572058```python2059from multiprocessing import freeze_support2060from multiprocessing.managers import BaseManager, BaseProxy2061import operator20622063##20642065class Foo:2066    def f(self):2067        print('you called Foo.f()')2068    def g(self):2069        print('you called Foo.g()')2070    def _h(self):2071        print('you called Foo._h()')20722073# Простая функция-генератор2074def baz():2075    for i in range(10):2076        yield i*i20772078# Тип прокси для объектов-генераторов2079class GeneratorProxy(BaseProxy):2080    _exposed_ = ['__next__']2081    def __iter__(self):2082        return self2083    def __next__(self):2084        return self._callmethod('__next__')20852086# Функция для возврата модуля operator2087def get_operator_module():2088    return operator20892090##20912092class MyManager(BaseManager):2093    pass20942095# зарегистрировать класс Foo; сделать `f()` и `g()` доступными через прокси2096MyManager.register('Foo1', Foo)20972098# зарегистрировать класс Foo; сделать `g()` и `_h()` доступными через прокси2099MyManager.register('Foo2', Foo, exposed=('g', '_h'))21002101# зарегистрировать функцию-генератор baz; использовать `GeneratorProxy` для создания прокси2102MyManager.register('baz', baz, proxytype=GeneratorProxy)21032104# зарегистрировать get_operator_module(); сделать публичные функции доступными через прокси2105MyManager.register('operator', get_operator_module)21062107##21082109def test():2110    manager = MyManager()2111    manager.start()21122113    print('-' * 20)21142115    f1 = manager.Foo1()2116    f1.f()2117    f1.g()2118    assert not hasattr(f1, '_h')2119    assert sorted(f1._exposed_) == sorted(['f', 'g'])21202121    print('-' * 20)21222123    f2 = manager.Foo2()2124    f2.g()2125    f2._h()2126    assert not hasattr(f2, 'f')2127    assert sorted(f2._exposed_) == sorted(['g', '_h'])21282129    print('-' * 20)21302131    it = manager.baz()2132    for i in it:2133        print('<%d>' % i, end=' ')2134    print()21352136    print('-' * 20)21372138    op = manager.operator()2139    print('op.add(23, 45) =', op.add(23, 45))2140    print('op.pow(2, 94) =', op.pow(2, 94))2141    print('op._exposed_ =', op._exposed_)21422143##21442145if __name__ == '__main__':2146    freeze_support()2147    test()2148```21492150Использование [`Pool`](https://python-all.ru/3.7/library/multiprocessing.html#multiprocessing.pool.Pool):21512152```python2153import multiprocessing2154import time2155import random2156import sys21572158#2159# Функции, используемые тестовым кодом2160#21612162def calculate(func, args):2163    result = func(*args)2164    return '%s says that %s%s = %s' % (2165        multiprocessing.current_process().name,2166        func.__name__, args, result2167        )21682169def calculatestar(args):2170    return calculate(*args)21712172def mul(a, b):2173    time.sleep(0.5 * random.random())2174    return a * b21752176def plus(a, b):2177    time.sleep(0.5 * random.random())2178    return a + b21792180def f(x):2181    return 1.0 / (x - 5.0)21822183def pow3(x):2184    return x ** 321852186def noop(x):2187    pass21882189#2190# Тестовый код2191#21922193def test():2194    PROCESSES = 42195    print('Creating pool with %d processes\n' % PROCESSES)21962197    with multiprocessing.Pool(PROCESSES) as pool:2198        #2199        # Тесты2200        #22012202        TASKS = [(mul, (i, 7)) for i in range(10)] + \2203                [(plus, (i, 8)) for i in range(10)]22042205        results = [pool.apply_async(calculate, t) for t in TASKS]2206        imap_it = pool.imap(calculatestar, TASKS)2207        imap_unordered_it = pool.imap_unordered(calculatestar, TASKS)22082209        print('Ordered results using pool.apply_async():')2210        for r in results:2211            print('\t', r.get())2212        print()22132214        print('Ordered results using pool.imap():')2215        for x in imap_it:2216            print('\t', x)2217        print()22182219        print('Unordered results using pool.imap_unordered():')2220        for x in imap_unordered_it:2221            print('\t', x)2222        print()22232224        print('Ordered results using pool.map() --- will block till complete:')2225        for x in pool.map(calculatestar, TASKS):2226            print('\t', x)2227        print()22282229        #2230        # Тестирование обработки ошибок2231        #22322233        print('Testing error handling:')22342235        try:2236            print(pool.apply(f, (5,)))2237        except ZeroDivisionError:2238            print('\tGot ZeroDivisionError as expected from pool.apply()')2239        else:2240            raise AssertionError('expected ZeroDivisionError')22412242        try:2243            print(pool.map(f, list(range(10))))2244        except ZeroDivisionError:2245            print('\tGot ZeroDivisionError as expected from pool.map()')2246        else:2247            raise AssertionError('expected ZeroDivisionError')22482249        try:2250            print(list(pool.imap(f, list(range(10)))))2251        except ZeroDivisionError:2252            print('\tGot ZeroDivisionError as expected from list(pool.imap())')2253        else:2254            raise AssertionError('expected ZeroDivisionError')22552256        it = pool.imap(f, list(range(10)))2257        for i in range(10):2258            try:2259                x = next(it)2260            except ZeroDivisionError:2261                if i == 5:2262                    pass2263            except StopIteration:2264                break2265            else:2266                if i == 5:2267                    raise AssertionError('expected ZeroDivisionError')22682269        assert i == 92270        print('\tGot ZeroDivisionError as expected from IMapIterator.next()')2271        print()22722273        #2274        # Тестирование тайм-аутов2275        #22762277        print('Testing ApplyResult.get() with timeout:', end=' ')2278        res = pool.apply_async(calculate, TASKS[0])2279        while 1:2280            sys.stdout.flush()2281            try:2282                sys.stdout.write('\n\t%s' % res.get(0.02))2283                break2284            except multiprocessing.TimeoutError:2285                sys.stdout.write('.')2286        print()2287        print()22882289        print('Testing IMapIterator.next() with timeout:', end=' ')2290        it = pool.imap(calculatestar, TASKS)2291        while 1:2292            sys.stdout.flush()2293            try:2294                sys.stdout.write('\n\t%s' % it.next(0.02))2295            except StopIteration:2296                break2297            except multiprocessing.TimeoutError:2298                sys.stdout.write('.')2299        print()2300        print()23012302if __name__ == '__main__':2303    multiprocessing.freeze_support()2304    test()2305```23062307Пример использования очередей для передачи задач набору рабочих процессов и сбора результатов:23082309```python2310import time2311import random23122313from multiprocessing import Process, Queue, current_process, freeze_support23142315#2316# Функция, выполняемая рабочими процессами2317#23182319def worker(input, output):2320    for func, args in iter(input.get, 'STOP'):2321        result = calculate(func, args)2322        output.put(result)23232324#2325# Функция, используемая для вычисления результата2326#23272328def calculate(func, args):2329    result = func(*args)2330    return '%s says that %s%s = %s' % \2331        (current_process().name, func.__name__, args, result)23322333#2334# Функции, на которые ссылаются задачи2335#23362337def mul(a, b):2338    time.sleep(0.5*random.random())2339    return a * b23402341def plus(a, b):2342    time.sleep(0.5*random.random())2343    return a + b23442345#2346#2347#23482349def test():2350    NUMBER_OF_PROCESSES = 42351    TASKS1 = [(mul, (i, 7)) for i in range(20)]2352    TASKS2 = [(plus, (i, 8)) for i in range(10)]23532354    # Создание очередей2355    task_queue = Queue()2356    done_queue = Queue()23572358    # Отправка задач2359    for task in TASKS1:2360        task_queue.put(task)23612362    # Запуск рабочих процессов2363    for i in range(NUMBER_OF_PROCESSES):2364        Process(target=worker, args=(task_queue, done_queue)).start()23652366    # Получение и вывод результатов2367    print('Unordered results:')2368    for i in range(len(TASKS1)):2369        print('\t', done_queue.get())23702371    # Добавить ещё задач с помощью `put()`2372    for task in TASKS2:2373        task_queue.put(task)23742375    # Получить и вывести ещё несколько результатов2376    for i in range(len(TASKS2)):2377        print('\t', done_queue.get())23782379    # Сообщить дочерним процессам об остановке2380    for i in range(NUMBER_OF_PROCESSES):2381        task_queue.put('STOP')23822383if __name__ == '__main__':2384    freeze_support()2385    test()2386```2387