multiprocessing.md
1> **Источник:** https://python-all.ru/3.6/library/multiprocessing.html2>3> «Документация Python на русском» – неофициальный перевод официальной документации Python: версии от 2.6 до 3.16, полнотекстовый поиск, английский оригинал рядом с переводом. Эта Markdown-версия страницы предназначена для работы с LLM: вставьте её в ChatGPT, Claude или Cursor.45---67# 17.2. [`multiprocessing`](https://python-all.ru/3.6/library/multiprocessing.html#module-multiprocessing) – Параллелизм на основе процессов89**Исходный код:** [Lib/multiprocessing/](https://python-all.ru/src/3.6/Lib/multiprocessing)1011---1213## 17.2.1. Введение1415[`multiprocessing`](https://python-all.ru/3.6/library/multiprocessing.html#module-multiprocessing) – это пакет, который поддерживает порождение процессов с помощью API, похожего на модуль [`threading`](https://python-all.ru/3.6/library/threading.html#module-threading). Пакет [`multiprocessing`](https://python-all.ru/3.6/library/multiprocessing.html#module-multiprocessing) обеспечивает как локальный, так и удалённый параллелизм, эффективно обходя [Глобальную блокировку интерпретатора](https://python-all.ru/3.6/glossary.html#term-global-interpreter-lock), используя подпроцессы вместо потоков. Благодаря этому модуль [`multiprocessing`](https://python-all.ru/3.6/library/multiprocessing.html#module-multiprocessing) позволяет программисту полностью использовать несколько процессоров на данной машине. Он работает как на Unix, так и на Windows.1617Модуль [`multiprocessing`](https://python-all.ru/3.6/library/multiprocessing.html#module-multiprocessing) также предоставляет API, у которых нет аналогов в модуле [`threading`](https://python-all.ru/3.6/library/threading.html#module-threading). Яркий пример – объект [`Pool`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.pool.Pool), который предоставляет удобный способ распараллеливания выполнения функции для нескольких входных значений, распределяя входные данные между процессами (параллелизм данных). Следующий пример демонстрирует обычную практику определения таких функций в модуле, чтобы дочерние процессы могли успешно импортировать этот модуль. Этот базовый пример параллелизма данных с использованием [`Pool`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.pool.Pool),1819```python20from multiprocessing import Pool2122def f(x):23 return x*x2425if __name__ == '__main__':26 with Pool(5) as p:27 print(p.map(f, [1, 2, 3]))28```2930будет выводить на стандартный вывод3132```python33[1, 4, 9]34```3536### 17.2.1.1. Класс [`Process`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Process)3738В [`multiprocessing`](https://python-all.ru/3.6/library/multiprocessing.html#module-multiprocessing) процессы порождаются созданием объекта [`Process`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Process) и последующим вызовом его метода [`start()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Process.start). [`Process`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Process) следует API [`threading.Thread`](https://python-all.ru/3.6/library/threading.html#threading.Thread). Простой пример многопроцессной программы:3940```python41from multiprocessing import Process4243def f(name):44 print('hello', name)4546if __name__ == '__main__':47 p = Process(target=f, args=('bob',))48 p.start()49 p.join()50```5152Чтобы показать идентификаторы задействованных процессов, вот расширенный пример:5354```python55from multiprocessing import Process56import os5758def info(title):59 print(title)60 print('module name:', __name__)61 print('parent process:', os.getppid())62 print('process id:', os.getpid())6364def f(name):65 info('function f')66 print('hello', name)6768if __name__ == '__main__':69 info('main line')70 p = Process(target=f, args=('bob',))71 p.start()72 p.join()73```7475Объяснение того, зачем нужна часть `if __name__ == '__main__'`, см. в [руководстве по программированию](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing-programming).7677### 17.2.1.2. Контексты и методы запуска7879В зависимости от платформы [`multiprocessing`](https://python-all.ru/3.6/library/multiprocessing.html#module-multiprocessing) поддерживает три способа запуска процесса. Эти *методы запуска*:8081> ***spawn***82>83> Родительский процесс запускает новый процесс интерпретатора Python. Дочерний процесс наследует только те ресурсы, которые необходимы для запуска метода [`run()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Process.run) объектов процесса. В частности, ненужные файловые дескрипторы и дескрипторы (handles) родительского процесса не наследуются. Запуск процесса с помощью этого метода довольно медленный по сравнению с использованием *fork* или *forkserver*.84>85> Доступен на Unix и Windows. По умолчанию на Windows.86>87> ***fork***88>89> Родительский процесс использует [`os.fork()`](https://python-all.ru/3.6/library/os.html#os.fork) для форка интерпретатора Python. Дочерний процесс в начале своего выполнения фактически идентичен родительскому процессу. Все ресурсы родительского процесса наследуются дочерним процессом. Обратите внимание, что безопасный форк многопоточного процесса проблематичен.90>91> Доступно только на Unix. По умолчанию используется на Unix.92>93> ***forkserver***94>95> Когда программа запускается и выбирает метод запуска *forkserver*, запускается серверный процесс. После этого каждый раз, когда требуется новый процесс, родительский процесс подключается к серверу и запрашивает создание (fork) нового процесса. Серверный процесс (fork server) является однопоточным, поэтому ему безопасно использовать [`os.fork()`](https://python-all.ru/3.6/library/os.html#os.fork). Ненужные ресурсы не наследуются.96>97> Доступно на платформах Unix, которые поддерживают передачу файловых дескрипторов через каналы Unix.9899Изменено в версии 3.4: *spawn* добавлен на всех платформах Unix, а *forkserver* добавлен для некоторых платформ Unix. Дочерние процессы больше не наследуют все наследуемые дескрипторы родительского процесса в Windows.100101На Unix при использовании методов запуска *spawn* или *forkserver* также запускается процесс *отслеживатель семафоров*, который отслеживает именованные семафоры, созданные процессами программы и оставшиеся без связи. Когда все процессы завершатся, отслеживатель семафоров удаляет все оставшиеся семафоры. Обычно их быть не должно, но если процесс был убит сигналом, могут остаться «утекшие» семафоры. (Удаление именованных семафоров – серьёзное дело, поскольку система допускает лишь ограниченное количество, и они не будут автоматически удалены до следующей перезагрузки.)102103Для выбора метода запуска используется [`set_start_method()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.set_start_method) в блоке `if __name__ == '__main__'` главного модуля. Например:104105```python106import multiprocessing as mp107108def foo(q):109 q.put('hello')110111if __name__ == '__main__':112 mp.set_start_method('spawn')113 q = mp.Queue()114 p = mp.Process(target=foo, args=(q,))115 p.start()116 print(q.get())117 p.join()118```119120[`set_start_method()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.set_start_method) не должен использоваться более одного раза в программе.121122В качестве альтернативы можно использовать [`get_context()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.get_context) для получения объекта контекста. Объекты контекста имеют тот же API, что и модуль multiprocessing, и позволяют использовать несколько методов запуска в одной программе.123124```python125import multiprocessing as mp126127def foo(q):128 q.put('hello')129130if __name__ == '__main__':131 ctx = mp.get_context('spawn')132 q = ctx.Queue()133 p = ctx.Process(target=foo, args=(q,))134 p.start()135 print(q.get())136 p.join()137```138139Обратите внимание: объекты, связанные с одним контекстом, могут быть несовместимы с процессами другого контекста. В частности, блокировки, созданные с помощью контекста *fork*, нельзя передавать процессам, запущенным с помощью методов запуска *spawn* или *forkserver*.140141Библиотека, которая хочет использовать определённый метод запуска, вероятно, должна использовать [`get_context()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.get_context), чтобы не мешать выбору пользователя библиотеки.142143### 17.2.1.3. Обмен объектами между процессами144145[`multiprocessing`](https://python-all.ru/3.6/library/multiprocessing.html#module-multiprocessing) поддерживает два типа каналов связи между процессами:146147**Очереди**148149> Класс [`Queue`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Queue) является почти точной копией [`queue.Queue`](https://python-all.ru/3.6/library/queue.html#queue.Queue). Например:150>151> ```python152> from multiprocessing import Process, Queue153>154> def f(q):155> q.put([42, None, 'hello'])156>157> if __name__ == '__main__':158> q = Queue()159> p = Process(target=f, args=(q,))160> p.start()161> print(q.get()) # печатает "[42, None, 'hello']"162> p.join()163> ```164>165> Очереди потокобезопасны и безопасны для процессов.166167**Каналы**168169> Функция [`Pipe()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Pipe) возвращает пару объектов соединения, связанных каналом, который по умолчанию является дуплексным (двунаправленным). Например:170>171> ```python172> from multiprocessing import Process, Pipe173>174> def f(conn):175> conn.send([42, None, 'hello'])176> conn.close()177>178> if __name__ == '__main__':179> parent_conn, child_conn = Pipe()180> p = Process(target=f, args=(child_conn,))181> p.start()182> print(parent_conn.recv()) # печатает "[42, None, 'hello']"183> p.join()184> ```185>186> Два объекта соединения, возвращаемые [`Pipe()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Pipe), представляют два конца канала. Каждый объект соединения имеет методы `send()` и `recv()` (среди прочих). Обратите внимание: данные в канале могут быть повреждены, если два процесса (или потока) попытаются одновременно читать или писать в *один и тот же* конец канала. Разумеется, нет риска повреждения, если процессы одновременно используют разные концы канала.187188### 17.2.1.4. Синхронизация между процессами189190[`multiprocessing`](https://python-all.ru/3.6/library/multiprocessing.html#module-multiprocessing) содержит эквиваленты всех примитивов синхронизации из [`threading`](https://python-all.ru/3.6/library/threading.html#module-threading). Например, можно использовать блокировку, чтобы гарантировать, что только один процесс одновременно выводит на стандартный вывод:191192```python193from multiprocessing import Process, Lock194195def f(l, i):196 l.acquire()197 try:198 print('hello world', i)199 finally:200 l.release()201202if __name__ == '__main__':203 lock = Lock()204205 for num in range(10):206 Process(target=f, args=(lock, num)).start()207```208209Без использования блокировки вывод от разных процессов может полностью перепутаться.210211### 17.2.1.5. Обмен состоянием между процессами212213Как уже упоминалось, при параллельном программировании обычно лучше избегать использования общего состояния, насколько это возможно. Это особенно верно при использовании нескольких процессов.214215Однако если действительно необходимо использовать некоторые общие данные, то [`multiprocessing`](https://python-all.ru/3.6/library/multiprocessing.html#module-multiprocessing) предоставляет несколько способов сделать это.216217**Разделяемая память**218219> Данные могут храниться в отображении разделяемой памяти с помощью [`Value`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Value) или [`Array`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Array). Например, следующий код220>221> ```python222> from multiprocessing import Process, Value, Array223>224> def f(n, a):225> n.value = 3.1415927226> for i in range(len(a)):227> a[i] = -a[i]228>229> if __name__ == '__main__':230> num = Value('d', 0.0)231> arr = Array('i', range(10))232>233> p = Process(target=f, args=(num, arr))234> p.start()235> p.join()236>237> print(num.value)238> print(arr[:])239> ```240>241> выведет242>243> ```python244> 3.1415927245> [0, -1, -2, -3, -4, -5, -6, -7, -8, -9]246> ```247>248> Аргументы `'d'` и `'i'`, используемые при создании `num` и `arr`, – это коды типов, аналогичные используемым модулем [`array`](https://python-all.ru/3.6/library/array.html#module-array): `'d'` означает число с плавающей запятой двойной точности, а `'i'` – целое число со знаком. Эти разделяемые объекты будут безопасными для процессов и потоков.249>250> Для большей гибкости при работе с разделяемой памятью можно использовать модуль [`multiprocessing.sharedctypes`](https://python-all.ru/3.6/library/multiprocessing.html#module-multiprocessing.sharedctypes), который поддерживает создание произвольных объектов ctypes, выделенных из разделяемой памяти.251252**Серверный процесс**253254> Объект-менеджер, возвращаемый `Manager()`, управляет серверным процессом, который содержит объекты Python и позволяет другим процессам манипулировать ими с помощью прокси.255>256> Менеджер, возвращаемый `Manager()`, поддерживает типы [`list`](https://python-all.ru/3.6/library/stdtypes.html#list), [`dict`](https://python-all.ru/3.6/library/stdtypes.html#dict), [`Namespace`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.managers.Namespace), [`Lock`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Lock), [`RLock`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.RLock), [`Semaphore`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Semaphore), [`BoundedSemaphore`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.BoundedSemaphore), [`Condition`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Condition), [`Event`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Event), [`Barrier`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Barrier), [`Queue`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Queue), [`Value`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Value) и [`Array`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Array). Например,257>258> ```python259> from multiprocessing import Process, Manager260>261> def f(d, l):262> d[1] = '1'263> d['2'] = 2264> d[0.25] = None265> l.reverse()266>267> if __name__ == '__main__':268> with Manager() as manager:269> d = manager.dict()270> l = manager.list(range(10))271>272> p = Process(target=f, args=(d, l))273> p.start()274> p.join()275>276> print(d)277> print(l)278> ```279>280> выведет281>282> ```python283> {0.25: None, 1: '1', '2': 2}284> [9, 8, 7, 6, 5, 4, 3, 2, 1, 0]285> ```286>287> Серверные менеджеры процессов более гибкие, чем использование объектов разделяемой памяти, потому что их можно настроить на поддержку произвольных типов объектов. Кроме того, один менеджер может быть разделён между процессами на разных компьютерах через сеть. Однако они медленнее, чем использование разделяемой памяти.288289### 17.2.1.6. Использование пула процессов290291Класс [`Pool`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.pool.Pool) представляет пул рабочих процессов. Он имеет методы, которые позволяют передавать задачи рабочим процессам несколькими различными способами.292293Например:294295```python296from multiprocessing import Pool, TimeoutError297import time298import os299300def f(x):301 return x*x302303if __name__ == '__main__':304 # запустить 4 рабочих процесса305 with Pool(processes=4) as pool:306307 # печатает "[0, 1, 4,..., 81]"308 print(pool.map(f, range(10)))309310 # печатает те же числа в произвольном порядке311 for i in pool.imap_unordered(f, range(10)):312 print(i)313314 # вычисляет "f(20)" асинхронно315 res = pool.apply_async(f, (20,)) # выполняется *только* в одном процессе316 print(res.get(timeout=1)) # печатает "400"317318 # вычисляет "os.getpid()" асинхронно319 res = pool.apply_async(os.getpid, ()) # выполняется *только* в одном процессе320 print(res.get(timeout=1)) # печатает PID этого процесса321322 # запуск нескольких асинхронных вычислений *может* задействовать больше процессов323 multiple_results = [pool.apply_async(os.getpid, ()) for i in range(4)]324 print([res.get(timeout=1) for res in multiple_results])325326 # заставить один рабочий процесс спать 10 секунд327 res = pool.apply_async(time.sleep, (10,))328 try:329 print(res.get(timeout=1))330 except TimeoutError:331 print("We lacked patience and got a multiprocessing.TimeoutError")332333 print("For the moment, the pool remains available for more work")334335 # выход из блока 'with' остановил пул336 print("Now the pool is closed and no longer available")337```338339Обратите внимание: методы пула должны использоваться только тем процессом, который его создал.340341> **Примечание**342>343> Для функциональности этого пакета требуется, чтобы модуль `__main__` был импортируемым дочерними процессами. Это описано в [Рекомендациях по программированию](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing-programming), но стоит упомянуть об этом и здесь. Это означает, что некоторые примеры, такие как примеры [`multiprocessing.pool.Pool`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.pool.Pool), не будут работать в интерактивном интерпретаторе. Например:344>345> ```python346> >>> from multiprocessing import Pool347> >>> p = Pool(5)348> >>> def f(x):349> ... return x*x350> ...351> >>> p.map(f, [1,2,3])352> Process PoolWorker-1:353> Process PoolWorker-2:354> Process PoolWorker-3:355> Traceback (most recent call last):356> Traceback (most recent call last):357> Traceback (most recent call last):358> AttributeError: 'module' object has no attribute 'f'359> AttributeError: 'module' object has no attribute 'f'360> AttributeError: 'module' object has no attribute 'f'361> ```362>363> (Если попробовать это сделать, на самом деле будут выведены три полные трассировки стека, перемешанные в полу-случайном порядке, и затем, возможно, придётся как-то остановить главный процесс.)364365## 17.2.2. Справочник366367Пакет [`multiprocessing`](https://python-all.ru/3.6/library/multiprocessing.html#module-multiprocessing) в основном повторяет API модуля [`threading`](https://python-all.ru/3.6/library/threading.html#module-threading).368369### 17.2.2.1. [`Process`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Process) и исключения370371#### `class multiprocessing.Process(group=None, target=None, name=None, args=(), kwargs={}, *, daemon=None)`372373Объекты Process представляют активность, выполняемую в отдельном процессе. Класс [`Process`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Process) имеет эквиваленты всех методов [`threading.Thread`](https://python-all.ru/3.6/library/threading.html#threading.Thread).374375Конструктор всегда следует вызывать с именованными аргументами. *group* всегда должен быть `None`; он существует только для совместимости с [`threading.Thread`](https://python-all.ru/3.6/library/threading.html#threading.Thread). *target* – это вызываемый объект, который будет вызван методом [`run()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Process.run). По умолчанию `None`, то есть ничего не вызывается. *name* – это имя процесса (см. [`name`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Process.name) для подробностей). *args* – кортеж аргументов для вызова целевой функции. *kwargs* – это словарь именованных аргументов для вызова целевой функции. Если указан, аргумент только по ключевому слову *daemon* устанавливает флаг процесса [`daemon`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Process.daemon) в `True` или `False`. Если `None` (по умолчанию), этот флаг будет унаследован от создающего процесса.376377По умолчанию в *target* не передаётся никаких аргументов.378379Если подкласс переопределяет конструктор, он должен вызывать конструктор базового класса (`Process.__init__()`) перед любыми другими действиями над процессом.380381Изменено в версии 3.3: Добавлен аргумент *daemon*.382383#### `run()`384385Метод, представляющий активность процесса.386387Этот метод можно переопределить в подклассе. Стандартный метод [`run()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Process.run) вызывает вызываемый объект, переданный конструктору объекта в качестве аргумента target, если он есть, с позиционными и именованными аргументами, взятыми из аргументов *args* и *kwargs* соответственно.388389#### `start()`390391Запускает активность процесса.392393Этот метод должен быть вызван не более одного раза для каждого объекта процесса. Он обеспечивает вызов метода [`run()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Process.run) объекта в отдельном процессе.394395#### `join([timeout])`396397Если необязательный аргумент *timeout* равен `None` (по умолчанию), метод блокируется до завершения процесса, у которого вызывается метод [`join()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Process.join). Если *timeout* – положительное число, блокировка длится не более *timeout* секунд. Обратите внимание: метод возвращает `None`, если процесс завершился или истекло время ожидания. Проверьте [`exitcode`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Process.exitcode) процесса, чтобы определить, завершился ли он.398399Процесс может быть присоединён много раз.400401Процесс не может присоединить сам себя, так как это приведёт к взаимоблокировке. Попытка вызвать join для процесса до его запуска является ошибкой.402403#### `name`404405Имя процесса. Имя – это строка, используемая только для идентификации. Оно не имеет семантического значения. Несколько процессов могут иметь одно и то же имя.406407Начальное имя устанавливается конструктором. Если явное имя не передано конструктору, создаётся имя вида ‘Process-N1:N2:…:Nk’, где каждая Nk – это N-й дочерний процесс своего родителя.408409#### `is_alive()`410411Возвращает, жив ли процесс.412413Грубо говоря, объект процесса живёт с момента возврата метода [`start()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Process.start) до завершения дочернего процесса.414415#### `daemon`416417Флаг демона процесса (логическое значение). Должен быть установлен до вызова [`start()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Process.start).418419Начальное значение наследуется от создающего процесса.420421Когда процесс завершается, он пытается завершить все свои дочерние процессы-демоны.422423Обратите внимание, что процессу-демону не разрешается создавать дочерние процессы. Иначе процесс-демон оставил бы своих потомков осиротевшими, если бы он был завершён при выходе своего родительского процесса. Кроме того, это **не** демоны или службы Unix, а обычные процессы, которые будут завершены (и не присоединены), если не-демонические процессы завершились.424425В дополнение к API [`threading.Thread`](https://python-all.ru/3.6/library/threading.html#threading.Thread) объекты [`Process`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Process) также поддерживают следующие атрибуты и методы:426427#### `pid`428429Возвращает идентификатор процесса. До запуска процесса это будет `None`.430431#### `exitcode`432433Код завершения дочернего процесса. Он будет равен `None`, если процесс ещё не завершён. Отрицательное значение *-N* означает, что дочерний процесс был завершён сигналом *N*.434435#### `authkey`436437Ключ аутентификации процесса (байтовая строка).438439При инициализации [`multiprocessing`](https://python-all.ru/3.6/library/multiprocessing.html#module-multiprocessing) главному процессу назначается случайная строка с помощью [`os.urandom()`](https://python-all.ru/3.6/library/os.html#os.urandom).440441При создании объекта [`Process`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Process) он наследует ключ аутентификации своего родительского процесса, хотя его можно изменить, установив [`authkey`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Process.authkey) в другую байтовую строку.442443См. [Ключи аутентификации](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing-auth-keys).444445#### `sentinel`446447Числовой дескриптор системного объекта, который становится «готов» по завершении процесса.448449Это значение можно использовать для ожидания нескольких событий одновременно с помощью [`multiprocessing.connection.wait()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.connection.wait). В противном случае вызов [`join()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Process.join) проще.450451В Windows это дескриптор ОС, который можно использовать с семейством `WaitForSingleObject` и `WaitForMultipleObjects` вызовов API. В Unix это файловый дескриптор, который можно использовать с примитивами из модуля [`select`](https://python-all.ru/3.6/library/select.html#module-select).452453Новое в версии 3.3.454455#### `terminate()`456457Завершает процесс. На Unix это делается с помощью сигнала `SIGTERM`; на Windows используется `TerminateProcess()`. Обратите внимание, что обработчики выхода и блоки finally и т.д. выполняться не будут.458459Обратите внимание, что процессы-потомки *не* будут завершены – они просто станут осиротевшими.460461> **Предупреждение**462>463> Если этот метод используется, когда связанный процесс использует канал или очередь, то канал или очередь могут быть повреждены и стать непригодными для использования другими процессами. Аналогично, если процесс захватил блокировку или семафор и т.п., то его завершение может привести к взаимной блокировке других процессов.464465Обратите внимание: методы [`start()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Process.start), [`join()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Process.join), [`is_alive()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Process.is_alive), [`terminate()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Process.terminate) и [`exitcode`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Process.exitcode) должны вызываться только тем процессом, который создал объект процесса.466467Пример использования некоторых методов [`Process`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Process):468469```pycon470>>> import multiprocessing, time, signal471>>> p = multiprocessing.Process(target=time.sleep, args=(1000,))472>>> print(p, p.is_alive())473<Process(Process-1, initial)> False474>>> p.start()475>>> print(p, p.is_alive())476<Process(Process-1, started)> True477>>> p.terminate()478>>> time.sleep(0.1)479>>> print(p, p.is_alive())480<Process(Process-1, stopped[SIGTERM])> False481>>> p.exitcode == -signal.SIGTERM482True483```484485#### `exception multiprocessing.ProcessError`486487Базовый класс всех исключений [`multiprocessing`](https://python-all.ru/3.6/library/multiprocessing.html#module-multiprocessing).488489#### `exception multiprocessing.BufferTooShort`490491Исключение, возбуждаемое `Connection.recv_bytes_into()`, когда предоставленный буфер слишком мал для чтения сообщения.492493Если `e` является экземпляром [`BufferTooShort`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.BufferTooShort), то `e.args[0]` вернёт сообщение в виде байтовой строки.494495#### `exception multiprocessing.AuthenticationError`496497Возбуждается при ошибке аутентификации.498499#### `exception multiprocessing.TimeoutError`500501Возбуждается методами с тайм-аутом по истечении тайм-аута.502503### 17.2.2.2. Каналы и очереди504505При использовании нескольких процессов обычно применяется передача сообщений для взаимодействия между процессами, что позволяет избежать использования примитивов синхронизации, таких как блокировки.506507Для передачи сообщений можно использовать [`Pipe()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Pipe) (для соединения между двумя процессами) или очередь (которая допускает несколько производителей и потребителей).508509Типы [`Queue`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Queue), [`SimpleQueue`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.SimpleQueue) и [`JoinableQueue`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.JoinableQueue) – это очереди с несколькими производителями и потребителями, работающие по принципу FIFO и созданные по образцу класса [`queue.Queue`](https://python-all.ru/3.6/library/queue.html#queue.Queue) из стандартной библиотеки. Они отличаются тем, что в [`Queue`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Queue) отсутствуют методы [`task_done()`](https://python-all.ru/3.6/library/queue.html#queue.Queue.task_done) и [`join()`](https://python-all.ru/3.6/library/queue.html#queue.Queue.join), введённые в класс [`queue.Queue`](https://python-all.ru/3.6/library/queue.html#queue.Queue) в Python 2.5.510511Если используется [`JoinableQueue`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.JoinableQueue), то **обязательно** вызывайте [`JoinableQueue.task_done()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.JoinableQueue.task_done) для каждой задачи, извлечённой из очереди; в противном случае семафор, используемый для подсчёта незавершённых задач, может переполниться, что приведёт к возбуждению исключения.512513Обратите внимание, что общую очередь также можно создать с помощью объекта-менеджера – см. [Менеджеры](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing-managers).514515> **Примечание**516>517> [`multiprocessing`](https://python-all.ru/3.6/library/multiprocessing.html#module-multiprocessing) использует обычные исключения [`queue.Empty`](https://python-all.ru/3.6/library/queue.html#queue.Empty) и [`queue.Full`](https://python-all.ru/3.6/library/queue.html#queue.Full) для сигнализации тайм-аута. Они недоступны в пространстве имён [`multiprocessing`](https://python-all.ru/3.6/library/multiprocessing.html#module-multiprocessing), поэтому их необходимо импортировать из [`queue`](https://python-all.ru/3.6/library/queue.html#module-queue).518519> **Примечание**520>521> Когда объект помещается в очередь, он сериализуется с помощью модуля pickle, и фоновый поток позднее сбрасывает сериализованные данные в нижележащий канал. Это имеет некоторые неожиданные последствия, но обычно не вызывает практических трудностей – если это действительно беспокоит, можно вместо этого использовать очередь, созданную с помощью [менеджера](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing-managers).522>523> 1. После помещения объекта в пустую очередь может пройти бесконечно малая задержка, прежде чем метод [`empty()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Queue.empty) очереди вернёт [`False`](https://python-all.ru/3.6/library/constants.html#False) и [`get_nowait()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Queue.get_nowait) сможет вернуться без возбуждения [`queue.Empty`](https://python-all.ru/3.6/library/queue.html#queue.Empty).524> 2. Если несколько процессов помещают объекты в очередь, возможно получение объектов на другом конце не по порядку. Однако объекты, помещённые в очередь одним и тем же процессом, всегда будут идти друг за другом в ожидаемом порядке.525526> **Предупреждение**527>528> Если процесс завершается принудительно с помощью [`Process.terminate()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Process.terminate) или [`os.kill()`](https://python-all.ru/3.6/library/os.html#os.kill) в то время, как он пытается использовать [`Queue`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Queue), данные в очереди могут быть повреждены. Это может привести к тому, что любой другой процесс при попытке использовать очередь получит исключение.529530> **Предупреждение**531>532> Как упоминалось выше, если дочерний процесс поместил элементы в очередь (и не использовал [`JoinableQueue.cancel_join_thread`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Queue.cancel_join_thread)), он не завершится, пока все буферизованные элементы не будут сброшены в канал.533>534> Это означает, что при попытке присоединиться к этому процессу может возникнуть взаимоблокировка, если не быть уверенным, что все помещённые в очередь элементы были потреблены. Аналогично, если дочерний процесс не является демоническим, родительский процесс может зависнуть при завершении, когда попытается присоединиться ко всем своим недемоническим потомкам.535>536> Обратите внимание, что очередь, созданная с помощью менеджера, не имеет этой проблемы. См. [Рекомендации по программированию](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing-programming).537538Пример использования очередей для межпроцессного взаимодействия см. в разделе [Примеры](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing-examples).539540#### `multiprocessing.Pipe([duplex])`541542Возвращает пару `(conn1, conn2)` объектов [`Connection`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.connection.Connection), представляющих концы канала.543544Если *duplex* равно `True` (по умолчанию), то канал двунаправленный. Если *duplex* равно `False`, то канал однонаправленный: `conn1` можно использовать только для получения сообщений, а `conn2` – только для отправки.545546#### `class multiprocessing.Queue([maxsize])`547548Возвращает общедоступную очередь для процессов, реализованную с помощью канала и нескольких блокировок/семафоров. Когда процесс впервые помещает элемент в очередь, запускается поток-загрузчик, который передаёт объекты из буфера в канал.549550Обычные исключения [`queue.Empty`](https://python-all.ru/3.6/library/queue.html#queue.Empty) и [`queue.Full`](https://python-all.ru/3.6/library/queue.html#queue.Full) из модуля [`queue`](https://python-all.ru/3.6/library/queue.html#module-queue) стандартной библиотеки возбуждаются для сигнализации тайм-аутов.551552[`Queue`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Queue) реализует все методы [`queue.Queue`](https://python-all.ru/3.6/library/queue.html#queue.Queue), за исключением [`task_done()`](https://python-all.ru/3.6/library/queue.html#queue.Queue.task_done) и [`join()`](https://python-all.ru/3.6/library/queue.html#queue.Queue.join).553554#### `qsize()`555556Возвращает приблизительный размер очереди. Из-за семантики многопоточности/многопроцессности это число не является надёжным.557558Обратите внимание, что это может вызвать [`NotImplementedError`](https://python-all.ru/3.6/library/exceptions.html#NotImplementedError) на Unix-платформах, таких как Mac OS X, где `sem_getvalue()` не реализован.559560#### `empty()`561562Возвращает `True`, если очередь пуста, иначе `False`. Из-за семантики многопоточности/многопроцессности это ненадёжно.563564#### `full()`565566Возвращает `True`, если очередь заполнена, иначе `False`. Из-за семантики многопоточности/многопроцессности это ненадёжно.567568#### `put(obj[, block[, timeout]])`569570Помещает obj в очередь. Если необязательный аргумент *block* равен `True` (по умолчанию) и *timeout* равен `None` (по умолчанию), при необходимости блокируется до появления свободного места. Если *timeout* положительное число, блокируется не более чем на *timeout* секунд и возбуждает исключение [`queue.Full`](https://python-all.ru/3.6/library/queue.html#queue.Full), если за это время свободное место не появилось. В противном случае (*block* равен `False`) помещает элемент в очередь, если свободное место доступно немедленно, иначе возбуждает исключение [`queue.Full`](https://python-all.ru/3.6/library/queue.html#queue.Full) (*timeout* в этом случае игнорируется).571572#### `put_nowait(obj)`573574Эквивалентно `put(obj, False)`.575576#### `get([block[, timeout]])`577578Удаляет и возвращает элемент из очереди. Если необязательный аргумент *block* равен `True` (по умолчанию) и *timeout* равен `None` (по умолчанию), при необходимости блокируется до появления элемента. Если *timeout* положительное число, блокируется не более чем на *timeout* секунд и возбуждает исключение [`queue.Empty`](https://python-all.ru/3.6/library/queue.html#queue.Empty), если за это время элемент не появился. В противном случае (block равен `False`) возвращает элемент, если он доступен немедленно, иначе возбуждает исключение [`queue.Empty`](https://python-all.ru/3.6/library/queue.html#queue.Empty) (*timeout* в этом случае игнорируется).579580#### `get_nowait()`581582Эквивалентно `get(False)`.583584[`multiprocessing.Queue`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Queue) имеет несколько дополнительных методов, отсутствующих в [`queue.Queue`](https://python-all.ru/3.6/library/queue.html#queue.Queue). Обычно эти методы не нужны в большинстве кода:585586#### `close()`587588Указывает, что текущий процесс больше не будет помещать данные в эту очередь. Фоновый поток завершится после того, как сбросит все буферизованные данные в канал. Этот метод вызывается автоматически при сборке мусора очереди.589590#### `join_thread()`591592Присоединяет фоновый поток. Этот метод можно использовать только после вызова [`close()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Queue.close). Он блокируется до завершения фонового потока, гарантируя, что все данные из буфера сброшены в канал.593594По умолчанию, если процесс не является создателем очереди, при завершении он попытается присоединить фоновый поток очереди. Процесс может вызвать [`cancel_join_thread()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Queue.cancel_join_thread), чтобы сделать [`join_thread()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Queue.join_thread) бездействующим.595596#### `cancel_join_thread()`597598Предотвращает блокировку [`join_thread()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Queue.join_thread). В частности, это предотвращает автоматическое присоединение фонового потока при завершении процесса – см. [`join_thread()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Queue.join_thread).599600Более подходящим именем для этого метода могло бы быть `allow_exit_without_flush()`. Он, скорее всего, приведёт к потере поставленных в очередь данных, и почти наверняка вам не понадобится его использовать. Он нужен только в том случае, если текущий процесс должен немедленно завершиться, не дожидаясь сброса поставленных в очередь данных в нижележащий канал, и вас не волнует потеря данных.601602> **Примечание**603>604> Функциональность этого класса требует работающей реализации общего семафора в хост-операционной системе. Без неё функциональность класса будет отключена, а попытки создать экземпляр [`Queue`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Queue) приведут к [`ImportError`](https://python-all.ru/3.6/library/exceptions.html#ImportError). См. [bpo-3770](https://python-all.ru/3.6/library/multiprocessing.html) для дополнительной информации. То же самое относится и ко всем специализированным типам очередей, перечисленным ниже.605606#### `class multiprocessing.SimpleQueue`607608Это упрощённый тип [`Queue`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Queue), очень похожий на [`Pipe`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Pipe) с блокировкой.609610#### `empty()`611612Возвращает `True`, если очередь пуста, иначе `False`.613614#### `get()`615616Извлекает и возвращает элемент из очереди.617618#### `put(item)`619620Помещает *item* в очередь.621622#### `class multiprocessing.JoinableQueue([maxsize])`623624[`JoinableQueue`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.JoinableQueue), подкласс [`Queue`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Queue), – это очередь, которая дополнительно имеет методы [`task_done()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.JoinableQueue.task_done) и [`join()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.JoinableQueue.join).625626#### `task_done()`627628Указывает, что ранее поставленная в очередь задача завершена. Используется потребителями очереди. Для каждого [`get()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Queue.get), используемого для получения задачи, последующий вызов [`task_done()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.JoinableQueue.task_done) сообщает очереди, что обработка задачи завершена.629630Если [`join()`](https://python-all.ru/3.6/library/queue.html#queue.Queue.join) в данный момент заблокирован, он возобновится, когда все элементы будут обработаны (то есть для каждого элемента, который был [`put()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Queue.put) в очередь, был получен вызов [`task_done()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.JoinableQueue.task_done)).631632Вызывает [`ValueError`](https://python-all.ru/3.6/library/exceptions.html#ValueError), если вызывается больше раз, чем было помещено элементов в очередь.633634#### `join()`635636Блокируется до тех пор, пока все элементы в очереди не будут извлечены и обработаны.637638Счётчик незавершённых задач увеличивается каждый раз, когда элемент добавляется в очередь. Счётчик уменьшается, когда потребитель вызывает [`task_done()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.JoinableQueue.task_done), чтобы указать, что элемент извлечён и вся работа над ним завершена. Когда счётчик незавершённых задач падает до нуля, [`join()`](https://python-all.ru/3.6/library/queue.html#queue.Queue.join) разблокируется.639640### 17.2.2.3. Разное641642#### `multiprocessing.active_children()`643644Возвращает список всех активных дочерних процессов текущего процесса.645646Вызов этой функции имеет побочный эффект – «присоединение» всех уже завершённых процессов.647648#### `multiprocessing.cpu_count()`649650Возвращает количество процессоров в системе.651652Это число не равно количеству процессоров, которые текущий процесс может использовать. Количество доступных процессоров можно получить с помощью `len(os.sched_getaffinity(0))`653654Может вызвать [`NotImplementedError`](https://python-all.ru/3.6/library/exceptions.html#NotImplementedError).655656> **См. также**657>658> [`os.cpu_count()`](https://python-all.ru/3.6/library/os.html#os.cpu_count)659660#### `multiprocessing.current_process()`661662Возвращает объект [`Process`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Process), соответствующий текущему процессу.663664Аналог [`threading.current_thread()`](https://python-all.ru/3.6/library/threading.html#threading.current_thread).665666#### `multiprocessing.freeze_support()`667668Добавляет поддержку для случая, когда программа, использующая [`multiprocessing`](https://python-all.ru/3.6/library/multiprocessing.html#module-multiprocessing), была заморожена для создания исполняемого файла Windows. (Протестировано с **py2exe**, **PyInstaller** и **cx\_Freeze**.)669670Эту функцию необходимо вызвать сразу после строки `if __name__ == '__main__'` в главном модуле. Например:671672```python673from multiprocessing import Process, freeze_support674675def f():676 print('hello world!')677678if __name__ == '__main__':679 freeze_support()680 Process(target=f).start()681```682683Если строка `freeze_support()` опущена, то попытка запустить замороженный исполняемый файл вызовет [`RuntimeError`](https://python-all.ru/3.6/library/exceptions.html#RuntimeError).684685Вызов `freeze_support()` не имеет эффекта при запуске на любой операционной системе, кроме Windows. Кроме того, если модуль запускается обычным образом интерпретатором Python в Windows (программа не была заморожена), то `freeze_support()` также не имеет эффекта.686687#### `multiprocessing.get_all_start_methods()`688689Возвращает список поддерживаемых методов запуска, первый из которых является методом по умолчанию. Возможными методами запуска являются `'fork'`, `'spawn'` и `'forkserver'`. В Windows доступен только `'spawn'`. В Unix `'fork'` и `'spawn'` всегда поддерживаются, причём `'fork'` используется по умолчанию.690691Новое в версии 3.4.692693#### `multiprocessing.get_context(method=None)`694695Возвращает объект контекста, который имеет те же атрибуты, что и модуль [`multiprocessing`](https://python-all.ru/3.6/library/multiprocessing.html#module-multiprocessing).696697Если *method* равен `None`, то возвращается контекст по умолчанию. В противном случае *method* должен быть `'fork'`, `'spawn'`, `'forkserver'`. [`ValueError`](https://python-all.ru/3.6/library/exceptions.html#ValueError) вызывается, если указанный метод запуска недоступен.698699Новое в версии 3.4.700701#### `multiprocessing.get_start_method(allow_none=False)`702703Возвращает имя метода запуска, используемого для запуска процессов.704705Если метод запуска не был задан и *allow\_none* равен false, то метод запуска фиксируется как используемый по умолчанию, и возвращается его название. Если метод запуска не был задан и *allow\_none* равен true, то возвращается `None`.706707Возвращаемое значение может быть `'fork'`, `'spawn'`, `'forkserver'` или `None`. `'fork'` – значение по умолчанию на Unix, а `'spawn'` – значение по умолчанию на Windows.708709Новое в версии 3.4.710711#### `multiprocessing.set_executable()`712713Устанавливает путь к интерпретатору Python, используемому при запуске дочернего процесса. (По умолчанию используется [`sys.executable`](https://python-all.ru/3.6/library/sys.html#sys.executable)). Встраивающим пользователям, вероятно, потребуется сделать что-то вроде714715```python716set_executable(os.path.join(sys.exec_prefix, 'pythonw.exe'))717```718719прежде чем они смогут создавать дочерние процессы.720721Изменено в версии 3.4: Теперь поддерживается в Unix при использовании метода запуска `'spawn'`.722723#### `multiprocessing.set_start_method(method)`724725Задаёт метод, который будет использоваться для запуска дочерних процессов. *method* может быть `'fork'`, `'spawn'` или `'forkserver'`.726727Обратите внимание, что эта функция должна вызываться не более одного раза, и она должна быть защищена внутри блока `if __name__ == '__main__'` главного модуля.728729Новое в версии 3.4.730731> **Примечание**732>733> [`multiprocessing`](https://python-all.ru/3.6/library/multiprocessing.html#module-multiprocessing) не содержит аналогов [`threading.active_count()`](https://python-all.ru/3.6/library/threading.html#threading.active_count), [`threading.enumerate()`](https://python-all.ru/3.6/library/threading.html#threading.enumerate), [`threading.settrace()`](https://python-all.ru/3.6/library/threading.html#threading.settrace), [`threading.setprofile()`](https://python-all.ru/3.6/library/threading.html#threading.setprofile), [`threading.Timer`](https://python-all.ru/3.6/library/threading.html#threading.Timer) или [`threading.local`](https://python-all.ru/3.6/library/threading.html#threading.local).734735### 17.2.2.4. Объекты соединений736737Объекты подключения позволяют отправлять и получать сериализуемые (picklable) объекты или строки. Их можно рассматривать как ориентированные на сообщения соединённые сокеты.738739Объекты подключения обычно создаются с помощью [`Pipe`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Pipe) – см. также [Слушатели и клиенты](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing-listeners-clients).740741#### `class multiprocessing.connection.Connection`742743#### `send(obj)`744745Отправляет объект на другой конец подключения; его следует читать с помощью [`recv()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.connection.Connection.recv).746747Объект должен быть сериализуемым. Очень большие сериализованные объекты (примерно 32 МБ+, хотя это зависит от ОС) могут вызвать исключение [`ValueError`](https://python-all.ru/3.6/library/exceptions.html#ValueError).748749#### `recv()`750751Возвращает объект, отправленный с другого конца подключения с помощью [`send()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.connection.Connection.send). Блокируется, пока не появятся данные для получения. Вызывает [`EOFError`](https://python-all.ru/3.6/library/exceptions.html#EOFError), если больше нечего получать и другой конец был закрыт.752753#### `fileno()`754755Возвращает файловый дескриптор или дескриптор (handle), используемый подключением.756757#### `close()`758759Закрывает подключение.760761Вызывается автоматически при сборке мусора для подключения.762763#### `poll([timeout])`764765Возвращает, есть ли данные для чтения.766767Если *timeout* не указан, то метод возвращается немедленно. Если *timeout* – число, то оно задаёт максимальное время блокировки в секундах. Если *timeout* равно `None`, то используется бесконечное ожидание.768769Обратите внимание: с помощью [`multiprocessing.connection.wait()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.connection.wait) можно одновременно опрашивать несколько объектов подключения.770771#### `send_bytes(buffer[, offset[, size]])`772773Отправляет байтовые данные из [байтоподобного объекта](https://python-all.ru/3.6/glossary.html#term-bytes-like-object) как полное сообщение.774775Если указан *offset*, то данные читаются с этой позиции в *buffer*. Если указан *size*, то из буфера будет прочитано соответствующее количество байт. Очень большие буферы (примерно 32 МБ+, хотя это зависит от ОС) могут вызвать исключение [`ValueError`](https://python-all.ru/3.6/library/exceptions.html#ValueError)776777#### `recv_bytes([maxlength])`778779Возвращает полное сообщение из байтовых данных, отправленное с другого конца подключения, в виде строки. Блокируется, пока не появятся данные для получения. Вызывает [`EOFError`](https://python-all.ru/3.6/library/exceptions.html#EOFError), если больше нечего получать и другой конец закрыт.780781Если указан *maxlength* и сообщение длиннее *maxlength*, то вызывается [`OSError`](https://python-all.ru/3.6/library/exceptions.html#OSError), и подключение больше не будет доступно для чтения.782783Изменено в версии 3.3: Ранее эта функция вызывала [`IOError`](https://python-all.ru/3.6/library/exceptions.html#IOError), которая теперь является псевдонимом [`OSError`](https://python-all.ru/3.6/library/exceptions.html#OSError).784785#### `recv_bytes_into(buffer[, offset])`786787Читает в *buffer* полное сообщение с байтовыми данными, отправленное с другого конца соединения, и возвращает количество байтов в сообщении. Блокирует выполнение, пока не появится что-то для приёма. Возбуждает [`EOFError`](https://python-all.ru/3.6/library/exceptions.html#EOFError), если больше нечего принимать и другой конец был закрыт.788789*buffer* должен быть доступным для записи [байтоподобным объектом](https://python-all.ru/3.6/glossary.html#term-bytes-like-object). Если задан *offset*, то сообщение будет записано в буфер, начиная с этой позиции. Offset должен быть неотрицательным целым числом, меньшим длины *buffer* (в байтах).790791Если буфер слишком мал, то вызывается исключение `BufferTooShort` и полное сообщение доступно как `e.args[0]`, где `e` экземпляр исключения.792793Изменено в версии 3.3: Теперь объекты подключения могут передаваться между процессами с помощью [`Connection.send()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.connection.Connection.send) и [`Connection.recv()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.connection.Connection.recv).794795Новое в версии 3.3: Объекты Connection теперь поддерживают протокол управления контекстом – см. [Типы менеджеров контекста](https://python-all.ru/3.6/library/stdtypes.html#typecontextmanager). [`__enter__()`](https://python-all.ru/3.6/library/stdtypes.html#contextmanager.__enter__) возвращает объект соединения, а [`__exit__()`](https://python-all.ru/3.6/library/stdtypes.html#contextmanager.__exit__) вызывает [`close()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.connection.Connection.close).796797Например:798799```pycon800>>> from multiprocessing import Pipe801>>> a, b = Pipe()802>>> a.send([1, 'hello', None])803>>> b.recv()804[1, 'hello', None]805>>> b.send_bytes(b'thank you')806>>> a.recv_bytes()807b'thank you'808>>> import array809>>> arr1 = array.array('i', range(5))810>>> arr2 = array.array('i', [0] * 10)811>>> a.send_bytes(arr1)812>>> count = b.recv_bytes_into(arr2)813>>> assert count == len(arr1) * arr1.itemsize814>>> arr2815array('i', [0, 1, 2, 3, 4, 0, 0, 0, 0, 0])816```817818> **Предупреждение**819>820> Метод [`Connection.recv()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.connection.Connection.recv) автоматически десериализует полученные данные, что может быть угрозой безопасности, если нельзя доверять процессу, отправившему сообщение.821>822> Поэтому, если объект подключения не был создан с помощью `Pipe()` следует использовать методы [`recv()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.connection.Connection.recv) и [`send()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.connection.Connection.send) только после выполнения некоторой аутентификации. См. [Ключи аутентификации](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing-auth-keys).823824> **Предупреждение**825>826> Если процесс завершается принудительно во время чтения или записи в канал, данные в канале, скорее всего, повредятся, так как может стать невозможно определить границы сообщений.827828### 17.2.2.5. Примитивы синхронизации829830В целом, в многопроцессных программах примитивы синхронизации требуются не так часто, как в многопоточных. См. документацию модуля [`threading`](https://python-all.ru/3.6/library/threading.html#module-threading).831832Обратите внимание, что примитивы синхронизации можно также создавать с помощью объекта менеджера – см. [Менеджеры](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing-managers).833834#### `class multiprocessing.Barrier(parties[, action[, timeout]])`835836Объект барьера: клон [`threading.Barrier`](https://python-all.ru/3.6/library/threading.html#threading.Barrier).837838Новое в версии 3.3.839840#### `class multiprocessing.BoundedSemaphore([value])`841842Объект ограниченного семафора: близкий аналог [`threading.BoundedSemaphore`](https://python-all.ru/3.6/library/threading.html#threading.BoundedSemaphore).843844Имеется единственное отличие от его близкого аналога: первый аргумент метода `acquire` называется *block*, что согласуется с [`Lock.acquire()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Lock.acquire).845846> **Примечание**847>848> На Mac OS X это неотличимо от [`Semaphore`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Semaphore), поскольку `sem_getvalue()` не реализован на этой платформе.849850#### `class multiprocessing.Condition([lock])`851852Условная переменная: псевдоним для [`threading.Condition`](https://python-all.ru/3.6/library/threading.html#threading.Condition).853854Если указана *блокировка*, то она должна быть объектом [`Lock`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Lock) или [`RLock`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.RLock) из [`multiprocessing`](https://python-all.ru/3.6/library/multiprocessing.html#module-multiprocessing).855856Изменено в версии 3.3: Был добавлен метод [`wait_for()`](https://python-all.ru/3.6/library/threading.html#threading.Condition.wait_for).857858#### `class multiprocessing.Event`859860Клон [`threading.Event`](https://python-all.ru/3.6/library/threading.html#threading.Event).861862#### `class multiprocessing.Lock`863864Нерекурсивный объект блокировки: близкий аналог [`threading.Lock`](https://python-all.ru/3.6/library/threading.html#threading.Lock). Когда процесс или поток захватывает блокировку, последующие попытки захватить её из любого процесса или потока будут блокироваться до её освобождения; любой процесс или поток может её освободить. Концепции и поведение [`threading.Lock`](https://python-all.ru/3.6/library/threading.html#threading.Lock) применительно к потокам воспроизводятся здесь в [`multiprocessing.Lock`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Lock) применительно к процессам или потокам, за исключением отмеченных случаев.865866Обратите внимание, что [`Lock`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Lock) на самом деле является фабричной функцией, которая возвращает экземпляр `multiprocessing.synchronize.Lock`, инициализированный контекстом по умолчанию.867868[`Lock`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Lock) поддерживает протокол [менеджера контекста](https://python-all.ru/3.6/glossary.html#term-context-manager) и поэтому может использоваться в операторах [`with`](https://python-all.ru/3.6/reference/compound_stmts.html#with).869870#### `acquire(block=True, timeout=None)`871872Захватывает блокировку, блокирующую или неблокирующую.873874Если аргумент *block* установлен в `True` (по умолчанию), вызов метода будет блокироваться, пока блокировка не окажется в разблокированном состоянии, затем установит её в заблокированное состояние и вернёт `True`. Обратите внимание, что имя этого первого аргумента отличается от имени в [`threading.Lock.acquire()`](https://python-all.ru/3.6/library/threading.html#threading.Lock.acquire).875876Если аргумент *block* установлен в `False`, вызов метода не блокируется. Если блокировка в данный момент находится в заблокированном состоянии, возвращается `False`; в противном случае блокировка устанавливается в заблокированное состояние и возвращается `True`.877878При вызове с положительным значением с плавающей точкой для *timeout* блокировка выполняется не дольше числа секунд, указанного в *timeout*, пока блокировку не удастся захватить. Вызовы с отрицательным значением *timeout* эквивалентны *timeout*, равному нулю. Вызовы со значением *timeout* равным `None` (по умолчанию) устанавливают бесконечный период ожидания. Обратите внимание, что обработка отрицательных или `None` значений для *timeout* отличается от реализованного поведения в [`threading.Lock.acquire()`](https://python-all.ru/3.6/library/threading.html#threading.Lock.acquire). Аргумент *timeout* не имеет практического значения, если аргумент *block* установлен в `False`, и поэтому игнорируется. Возвращает `True`, если блокировка была захвачена, или `False`, если период ожидания истёк.879880#### `release()`881882Освобождает блокировку. Может вызываться из любого процесса или потока, а не только из того, который изначально захватил блокировку.883884Поведение аналогично [`threading.Lock.release()`](https://python-all.ru/3.6/library/threading.html#threading.Lock.release) за исключением того, что при вызове на незаблокированной блокировке возбуждается [`ValueError`](https://python-all.ru/3.6/library/exceptions.html#ValueError).885886#### `class multiprocessing.RLock`887888Объект рекурсивной блокировки: близкий аналог [`threading.RLock`](https://python-all.ru/3.6/library/threading.html#threading.RLock). Рекурсивная блокировка должна быть освобождена тем же процессом или потоком, который её захватил. После того как процесс или поток захватил рекурсивную блокировку, тот же процесс или поток может захватить её снова без блокировки; этот процесс или поток должен освободить её по одному разу за каждый захват.889890Обратите внимание, что [`RLock`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.RLock) на самом деле является фабричной функцией, которая возвращает экземпляр `multiprocessing.synchronize.RLock`, инициализированный контекстом по умолчанию.891892[`RLock`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.RLock) поддерживает протокол [менеджера контекста](https://python-all.ru/3.6/glossary.html#term-context-manager) и поэтому может использоваться в операторах [`with`](https://python-all.ru/3.6/reference/compound_stmts.html#with).893894#### `acquire(block=True, timeout=None)`895896Захватывает блокировку, блокирующую или неблокирующую.897898При вызове с аргументом *block*, установленным в `True`, блокируется до тех пор, пока блокировка не окажется в разблокированном состоянии (не принадлежит ни одному процессу или потоку), если только блокировка уже не принадлежит текущему процессу или потоку. Затем текущий процесс или поток получает владение блокировкой (если ещё не владеет ею), и уровень рекурсии внутри блокировки увеличивается на единицу, возвращая значение `True`. Обратите внимание, что имеется несколько различий в поведении этого первого аргумента по сравнению с реализацией [`threading.RLock.acquire()`](https://python-all.ru/3.6/library/threading.html#threading.RLock.acquire), начиная с названия самого аргумента.899900При вызове с аргументом *block*, установленным в `False`, не блокируется. Если блокировка уже была захвачена (и, следовательно, принадлежит) другим процессом или потоком, текущий процесс или поток не получает владение, а уровень рекурсии внутри блокировки не изменяется, возвращая значение `False`. Если блокировка находится в разблокированном состоянии, текущий процесс или поток получает владение, а уровень рекурсии увеличивается, возвращая значение `True`.901902Использование и поведение аргумента *timeout* такие же, как в [`Lock.acquire()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Lock.acquire). Обратите внимание, что некоторые из этих особенностей *timeout* отличаются от реализованного поведения в [`threading.RLock.acquire()`](https://python-all.ru/3.6/library/threading.html#threading.RLock.acquire).903904#### `release()`905906Освобождает блокировку, уменьшая уровень рекурсии. Если после уменьшения уровень рекурсии становится нулевым, переводит блокировку в разблокированное состояние (не принадлежит ни одному процессу или потоку), и если какие-либо другие процессы или потоки ожидают разблокировки, позволяет ровно одному из них продолжить. Если после уменьшения уровень рекурсии всё ещё ненулевой, блокировка остаётся заблокированной и принадлежащей вызывающему процессу или потоку.907908Вызывайте этот метод только когда вызывающий процесс или поток владеет блокировкой. Исключение [`AssertionError`](https://python-all.ru/3.6/library/exceptions.html#AssertionError) возбуждается, если этот метод вызывается процессом или потоком, не являющимся владельцем, или если блокировка находится в разблокированном (непринадлежащем) состоянии. Обратите внимание, что тип возбуждаемого исключения в этой ситуации отличается от реализованного поведения в [`threading.RLock.release()`](https://python-all.ru/3.6/library/threading.html#threading.RLock.release).909910#### `class multiprocessing.Semaphore([value])`911912Объект семафора: близкий аналог [`threading.Semaphore`](https://python-all.ru/3.6/library/threading.html#threading.Semaphore).913914Имеется единственное отличие от его близкого аналога: первый аргумент метода `acquire` называется *block*, что согласуется с [`Lock.acquire()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Lock.acquire).915916> **Примечание**917>918> На Mac OS X `sem_timedwait` не поддерживается, поэтому вызов `acquire()` с тайм-аутом будет эмулировать поведение этой функции с помощью спящего цикла.919920> **Примечание**921>922> Если сигнал SIGINT, сгенерированный `Ctrl-C`, поступает, когда главный поток блокирован вызовом `BoundedSemaphore.acquire()`, [`Lock.acquire()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Lock.acquire), [`RLock.acquire()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.RLock.acquire), `Semaphore.acquire()`, `Condition.acquire()` или `Condition.wait()`, то вызов будет немедленно прерван и возбуждено [`KeyboardInterrupt`](https://python-all.ru/3.6/library/exceptions.html#KeyboardInterrupt).923>924> Это отличается от поведения [`threading`](https://python-all.ru/3.6/library/threading.html#module-threading), где SIGINT игнорируется, пока выполняются эквивалентные блокирующие вызовы.925926> **Примечание**927>928> Некоторые функции этого пакета требуют работающей реализации общего семафора в операционной системе. При её отсутствии модуль `multiprocessing.synchronize` будет отключён, а попытки импортировать его приведут к [`ImportError`](https://python-all.ru/3.6/library/exceptions.html#ImportError). См. [bpo-3770](https://python-all.ru/3.6/library/multiprocessing.html) для получения дополнительной информации.929930### 17.2.2.6. Разделяемые [`ctypes`](https://python-all.ru/3.6/library/ctypes.html#module-ctypes) объекты931932Можно создавать общие объекты с помощью разделяемой памяти, которые могут наследоваться дочерними процессами.933934#### `multiprocessing.Value(typecode_or_type, *args, lock=True)`935936Возвращает объект [`ctypes`](https://python-all.ru/3.6/library/ctypes.html#module-ctypes), выделенный из разделяемой памяти. По умолчанию возвращаемое значение на самом деле является синхронизированной обёрткой для объекта. Сам объект можно получить через атрибут *value* объекта [`Value`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Value).937938*typecode\_or\_type* определяет тип возвращаемого объекта: это либо тип ctypes, либо однобуквенный код типа, используемый модулем [`array`](https://python-all.ru/3.6/library/array.html#module-array). *\*args* передаётся конструктору типа.939940Если *блокировка* равна `True` (по умолчанию), то создаётся новый рекурсивный объект блокировки для синхронизации доступа к значению. Если *блокировка* является объектом [`Lock`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Lock) или [`RLock`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.RLock), то она будет использоваться для синхронизации доступа к значению. Если *блокировка* равна `False`, то доступ к возвращаемому объекту не будет автоматически защищён блокировкой, поэтому он не обязательно будет "процессобезопасным".941942Операции, подобные `+=`, которые включают чтение и запись, не являются атомарными. Поэтому, если, например, требуется атомарно увеличить разделяемое значение, недостаточно просто сделать943944```python945counter.value += 1946```947948При условии, что связанная блокировка рекурсивна (по умолчанию она такой и является), можно вместо этого сделать949950```python951with counter.get_lock():952 counter.value += 1953```954955Обратите внимание, что *блокировка* – это аргумент, передаваемый только по ключевому слову.956957#### `multiprocessing.Array(typecode_or_type, size_or_initializer, *, lock=True)`958959Возвращает массив ctypes, выделенный из разделяемой памяти. По умолчанию возвращаемое значение на самом деле является синхронизированной обёрткой для массива.960961*typecode\_or\_type* определяет тип элементов возвращаемого массива: это либо ctypes-тип, либо однобуквенный код типа, используемый модулем [`array`](https://python-all.ru/3.6/library/array.html#module-array). Если *size\_or\_initializer* – целое число, то оно определяет длину массива, и массив будет заполнен нулями. В противном случае *size\_or\_initializer* – это последовательность, которая используется для инициализации массива, и её длина определяет длину массива.962963Если *блокировка* равен `True` (по умолчанию), создаётся новый объект блокировки для синхронизации доступа к значению. Если *блокировка* – объект [`Lock`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Lock) или [`RLock`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.RLock), то он будет использоваться для синхронизации доступа к значению. Если *блокировка* равен `False`, доступ к возвращаемому объекту не будет автоматически защищён блокировкой, поэтому он не обязательно будет «процесс-безопасным».964965Обратите внимание, что *блокировка* – это аргумент, передаваемый только по ключевому слову.966967Обратите внимание, что массив типа [`ctypes.c_char`](https://python-all.ru/3.6/library/ctypes.html#ctypes.c_char) имеет атрибуты *value* и *raw*, которые позволяют использовать его для хранения и извлечения строк.968969#### 17.2.2.6.1. Модуль [`multiprocessing.sharedctypes`](https://python-all.ru/3.6/library/multiprocessing.html#module-multiprocessing.sharedctypes)970971Модуль [`multiprocessing.sharedctypes`](https://python-all.ru/3.6/library/multiprocessing.html#module-multiprocessing.sharedctypes) предоставляет функции для выделения объектов [`ctypes`](https://python-all.ru/3.6/library/ctypes.html#module-ctypes) из разделяемой памяти, которые могут быть унаследованы дочерними процессами.972973> **Примечание**974>975> Хотя можно сохранить указатель в разделяемой памяти, следует помнить, что он будет ссылаться на местоположение в адресном пространстве конкретного процесса. Однако указатель, скорее всего, будет недействительным в контексте второго процесса, и попытка разыменования указателя из второго процесса может привести к аварийному завершению.976977#### `multiprocessing.sharedctypes.RawArray(typecode_or_type, size_or_initializer)`978979Возвращает массив ctypes, выделенный из разделяемой памяти.980981*typecode\_or\_type* определяет тип элементов возвращаемого массива: это либо тип ctypes, либо однобуквенный код типа, используемый модулем [`array`](https://python-all.ru/3.6/library/array.html#module-array). Если *size\_or\_initializer* – целое число, то оно определяет длину массива, и массив будет изначально заполнен нулями. В противном случае *size\_or\_initializer* – это последовательность, которая используется для инициализации массива, и её длина определяет длину массива.982983Обратите внимание, что установка и получение элемента потенциально неатомарны – используйте вместо этого [`Array()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.sharedctypes.Array), чтобы гарантировать автоматическую синхронизацию доступа с помощью блокировки.984985#### `multiprocessing.sharedctypes.RawValue(typecode_or_type, *args)`986987Возвращает объект ctypes, выделенный из разделяемой памяти.988989*typecode\_or\_type* определяет тип возвращаемого объекта: это либо тип ctypes, либо однобуквенный код типа, используемый модулем [`array`](https://python-all.ru/3.6/library/array.html#module-array). *\*args* передаётся конструктору типа.990991Обратите внимание, что установка и получение значения потенциально неатомарны – используйте вместо этого [`Value()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.sharedctypes.Value), чтобы гарантировать автоматическую синхронизацию доступа с помощью блокировки.992993Обратите внимание, что массив [`ctypes.c_char`](https://python-all.ru/3.6/library/ctypes.html#ctypes.c_char) имеет атрибуты `value` и `raw`, которые позволяют использовать его для сохранения и извлечения строк – см. документацию к [`ctypes`](https://python-all.ru/3.6/library/ctypes.html#module-ctypes).994995#### `multiprocessing.sharedctypes.Array(typecode_or_type, size_or_initializer, *, lock=True)`996997То же, что и [`RawArray()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.sharedctypes.RawArray), за исключением того, что в зависимости от значения *блокировка* может возвращаться процессобезопасная синхронизирующая обёртка вместо необработанного массива ctypes.998999Если *блокировка* равна `True` (по умолчанию), то создаётся новый объект блокировки для синхронизации доступа к значению. Если *блокировка* является объектом [`Lock`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Lock) или [`RLock`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.RLock), то она будет использоваться для синхронизации доступа к значению. Если *блокировка* равна `False`, то доступ к возвращаемому объекту не будет автоматически защищён блокировкой, поэтому он не обязательно будет "процессобезопасным".10001001Обратите внимание, что *блокировка* – это аргумент, передаваемый только по ключевому слову.10021003#### `multiprocessing.sharedctypes.Value(typecode_or_type, *args, lock=True)`10041005То же, что и [`RawValue()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.sharedctypes.RawValue), за исключением того, что в зависимости от значения *блокировка* может возвращаться процессобезопасная синхронизирующая обёртка вместо необработанного объекта ctypes.10061007Если *блокировка* равен `True` (по умолчанию), создаётся новый объект блокировки для синхронизации доступа к значению. Если *блокировка* – объект [`Lock`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Lock) или [`RLock`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.RLock), то он будет использоваться для синхронизации доступа к значению. Если *блокировка* равен `False`, доступ к возвращаемому объекту не будет автоматически защищён блокировкой, поэтому он не обязательно будет «процесс-безопасным».10081009Обратите внимание, что *блокировка* – это аргумент, передаваемый только по ключевому слову.10101011#### `multiprocessing.sharedctypes.copy(obj)`10121013Возвращает объект ctypes, выделенный в общей памяти и являющийся копией объекта ctypes *obj*.10141015#### `multiprocessing.sharedctypes.synchronized(obj[, lock])`10161017Возвращает процесс-безопасную обёртку для объекта ctypes, которая использует *блокировка* для синхронизации доступа. Если *блокировка* равен `None` (по умолчанию), объект [`multiprocessing.RLock`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.RLock) создаётся автоматически.10181019Синхронизированная обёртка будет иметь два дополнительных метода (помимо методов обёрнутого объекта): `get_obj()` возвращает обёрнутый объект, а `get_lock()` – объект блокировки, используемый для синхронизации.10201021Обратите внимание, что доступ к объекту ctypes через обёртку может быть значительно медленнее, чем доступ к исходному объекту ctypes.10221023Изменено в версии 3.5: Синхронизированные объекты поддерживают протокол [контекстного менеджера](https://python-all.ru/3.6/glossary.html#term-context-manager).10241025В таблице ниже сравнивается синтаксис создания разделяемых объектов ctypes из общей памяти с обычным синтаксисом ctypes. (В таблице `MyStruct` – это некоторый подкласс [`ctypes.Structure`](https://python-all.ru/3.6/library/ctypes.html#ctypes.Structure).)10261027| ctypes | sharedctypes с типом | sharedctypes с typecode |1028| --- | --- | --- |1029| c\_double(2.4) | RawValue(c\_double, 2.4) | RawValue(‘d’, 2.4) |1030| MyStruct(4, 6) | RawValue(MyStruct, 4, 6) | |1031| (c\_short \* 7)() | RawArray(c\_short, 7) | RawArray(‘h’, 7) |1032| (c\_int \* 3)(9, 2, 8) | RawArray(c\_int, (9, 2, 8)) | RawArray(‘i’, (9, 2, 8)) |10331034Ниже приведён пример, в котором дочерний процесс изменяет несколько объектов ctypes:10351036```python1037from multiprocessing import Process, Lock1038from multiprocessing.sharedctypes import Value, Array1039from ctypes import Structure, c_double10401041class Point(Structure):1042 _fields_ = [('x', c_double), ('y', c_double)]10431044def modify(n, x, s, A):1045 n.value **= 21046 x.value **= 21047 s.value = s.value.upper()1048 for a in A:1049 a.x **= 21050 a.y **= 210511052if __name__ == '__main__':1053 lock = Lock()10541055 n = Value('i', 7)1056 x = Value(c_double, 1.0/3.0, lock=False)1057 s = Array('c', b'hello world', lock=lock)1058 A = Array(Point, [(1.875,-6.25), (-5.75,2.0), (2.375,9.5)], lock=lock)10591060 p = Process(target=modify, args=(n, x, s, A))1061 p.start()1062 p.join()10631064 print(n.value)1065 print(x.value)1066 print(s.value)1067 print([(a.x, a.y) for a in A])1068```10691070Выводятся следующие результаты:10711072```text10734910740.11111111111111111075HELLO WORLD1076[(3.515625, 39.0625), (33.0625, 4.0), (5.640625, 90.25)]1077```10781079### 17.2.2.7. Менеджеры10801081Менеджеры предоставляют способ создания данных, которыми можно обмениваться между разными процессами, в том числе по сети между процессами, выполняющимися на разных машинах. Объект менеджера управляет серверным процессом, который управляет *разделяемыми объектами*. Другие процессы могут получать доступ к разделяемым объектам через прокси.10821083#### `multiprocessing.Manager()`10841085Возвращает запущенный объект [`SyncManager`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.managers.SyncManager), который можно использовать для совместного использования объектов между процессами. Возвращаемый объект менеджера соответствует порождённому дочернему процессу и имеет методы, которые создают разделяемые объекты и возвращают соответствующие прокси.10861087Процессы менеджера завершаются, как только они будут собраны сборщиком мусора или завершится их родительский процесс. Классы менеджера определены в модуле [`multiprocessing.managers`](https://python-all.ru/3.6/library/multiprocessing.html#module-multiprocessing.managers):10881089#### `class multiprocessing.managers.BaseManager([address[, authkey]])`10901091Создает объект BaseManager.10921093После создания необходимо вызвать [`start()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.managers.BaseManager.start) или `get_server().serve_forever()`, чтобы объект менеджера ссылался на запущенный процесс менеджера.10941095*address* – адрес, на котором процесс менеджера ожидает новые подключения. Если *address* равно `None`, то выбирается произвольный адрес.10961097*authkey* – ключ аутентификации, который будет использоваться для проверки подлинности входящих подключений к серверному процессу. Если *authkey* равно `None`, используется `current_process().authkey`. В противном случае используется *authkey*, и он должен быть байтовой строкой.10981099#### `start([initializer[, initargs]])`11001101Запускает подпроцесс для запуска менеджера. Если *initializer* не равно `None`, то подпроцесс вызовет `initializer(*initargs)` при запуске.11021103#### `get_server()`11041105Возвращает объект `Server`, представляющий реальный сервер, управляемый менеджером. Объект `Server` поддерживает метод `serve_forever()`:11061107```python1108>>> from multiprocessing.managers import BaseManager1109>>> manager = BaseManager(address=('', 50000), authkey=b'abc')1110>>> server = manager.get_server()1111>>> server.serve_forever()1112```11131114`Server` также имеет атрибут [`address`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.managers.BaseManager.address).11151116#### `connect()`11171118Подключает локальный объект менеджера к удаленному процессу менеджера:11191120```python1121>>> from multiprocessing.managers import BaseManager1122>>> m = BaseManager(address=('127.0.0.1', 5000), authkey=b'abc')1123>>> m.connect()1124```11251126#### `shutdown()`11271128Останавливает процесс, используемый менеджером. Это доступно только если [`start()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.managers.BaseManager.start) был использован для запуска серверного процесса.11291130Этот метод можно вызывать несколько раз.11311132#### `register(typeid[, callable[, proxytype[, exposed[, method_to_typeid[, create_method]]]]])`11331134Метод класса, который можно использовать для регистрации типа или вызываемого объекта в классе менеджера.11351136*typeid* – это «идентификатор типа», который используется для идентификации определенного типа разделяемого объекта. Должен быть строкой.11371138*callable* – это вызываемый объект, используемый для создания объектов для данного идентификатора типа. Если экземпляр менеджера будет подключен к серверу с помощью метода [`connect()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.managers.BaseManager.connect), или если аргумент *create\_method* равен `False`, то этот параметр можно оставить как `None`.11391140*proxytype* – это подкласс [`BaseProxy`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.managers.BaseProxy), который используется для создания прокси для разделяемых объектов с данным *typeid*. Если `None`, то класс прокси создается автоматически.11411142*exposed* используется для указания последовательности имен методов, к которым прокси для данного typeid должны иметь доступ через [`BaseProxy._callmethod()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.managers.BaseProxy._callmethod). (Если *exposed* равно `None`, то вместо него используется `proxytype._exposed_`, если он существует.) Если список exposed не указан, то все «публичные методы» разделяемого объекта будут доступны. (Здесь «публичный метод» означает любой атрибут, у которого есть метод [`__call__()`](https://python-all.ru/3.6/reference/datamodel.html#object.__call__) и имя которого не начинается с `'_'`.)11431144*method\_to\_typeid* – это отображение, используемое для указания возвращаемого типа тех открытых методов, которые должны возвращать прокси. Оно отображает имена методов в строки typeid. (Если *method\_to\_typeid* равно `None`, то вместо него используется `proxytype._method_to_typeid_`, если он существует.) Если имя метода не является ключом этого отображения или отображение равно `None`, то объект, возвращаемый методом, будет скопирован по значению.11451146*create\_method* определяет, следует ли создать метод с именем *typeid*, который можно использовать, чтобы указать серверному процессу создать новый разделяемый объект и вернуть для него прокси. По умолчанию `True`.11471148Экземпляры [`BaseManager`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.managers.BaseManager) также имеют одно свойство только для чтения:11491150#### `address`11511152Адрес, используемый менеджером.11531154Изменено в версии 3.3: Объекты Manager поддерживают протокол управления контекстом – см. [Типы менеджеров контекста](https://python-all.ru/3.6/library/stdtypes.html#typecontextmanager). [`__enter__()`](https://python-all.ru/3.6/library/stdtypes.html#contextmanager.__enter__) запускает серверный процесс (если он еще не запущен), а затем возвращает объект менеджера. [`__exit__()`](https://python-all.ru/3.6/library/stdtypes.html#contextmanager.__exit__) вызывает [`shutdown()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.managers.BaseManager.shutdown).11551156В предыдущих версиях [`__enter__()`](https://python-all.ru/3.6/library/stdtypes.html#contextmanager.__enter__) не запускал серверный процесс менеджера, если он ещё не был запущен.11571158#### `class multiprocessing.managers.SyncManager`11591160Подкласс [`BaseManager`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.managers.BaseManager), который можно использовать для синхронизации процессов. Объекты этого типа возвращаются `multiprocessing.Manager()`.11611162Его методы создают и возвращают [объекты-прокси](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing-proxy-objects) для ряда часто используемых типов данных, которые нужно синхронизировать между процессами. Сюда в первую очередь входят общие списки и словари.11631164#### `Barrier(parties[, action[, timeout]])`11651166Создать общий объект [`threading.Barrier`](https://python-all.ru/3.6/library/threading.html#threading.Barrier) и вернуть для него прокси.11671168Новое в версии 3.3.11691170#### `BoundedSemaphore([value])`11711172Создать общий объект [`threading.BoundedSemaphore`](https://python-all.ru/3.6/library/threading.html#threading.BoundedSemaphore) и вернуть для него прокси.11731174#### `Condition([lock])`11751176Создать общий объект [`threading.Condition`](https://python-all.ru/3.6/library/threading.html#threading.Condition) и вернуть прокси для него.11771178Если *блокировка* предоставлена, то она должна быть прокси для объекта [`threading.Lock`](https://python-all.ru/3.6/library/threading.html#threading.Lock) или [`threading.RLock`](https://python-all.ru/3.6/library/threading.html#threading.RLock).11791180Изменено в версии 3.3: Был добавлен метод [`wait_for()`](https://python-all.ru/3.6/library/threading.html#threading.Condition.wait_for).11811182#### `Event()`11831184Создать общий объект [`threading.Event`](https://python-all.ru/3.6/library/threading.html#threading.Event) и вернуть прокси для него.11851186#### `Lock()`11871188Создать общий объект [`threading.Lock`](https://python-all.ru/3.6/library/threading.html#threading.Lock) и вернуть прокси для него.11891190#### `Namespace()`11911192Создать общий объект [`Namespace`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.managers.Namespace) и вернуть прокси для него.11931194#### `Queue([maxsize])`11951196Создать общий объект [`queue.Queue`](https://python-all.ru/3.6/library/queue.html#queue.Queue) и вернуть прокси для него.11971198#### `RLock()`11991200Создать общий объект [`threading.RLock`](https://python-all.ru/3.6/library/threading.html#threading.RLock) и вернуть прокси для него.12011202#### `Semaphore([value])`12031204Создать общий объект [`threading.Semaphore`](https://python-all.ru/3.6/library/threading.html#threading.Semaphore) и вернуть прокси для него.12051206#### `Array(typecode, sequence)`12071208Создать массив и вернуть для него прокси.12091210#### `Value(typecode, value)`12111212Создать объект с атрибутом `value`, доступным для записи, и вернуть прокси для него.12131214#### `dict()`12151216#### `dict(mapping)`12171218#### `dict(sequence)`12191220Создать общий объект [`dict`](https://python-all.ru/3.6/library/stdtypes.html#dict) и вернуть прокси для него.12211222#### `list()`12231224#### `list(sequence)`12251226Создать общий объект [`list`](https://python-all.ru/3.6/library/stdtypes.html#list) и вернуть прокси для него.12271228Изменено в версии 3.6: Общие объекты могут быть вложенными. Например, общий объект-контейнер, такой как общий список, может содержать другие общие объекты, и все они будут управляться и синхронизироваться [`SyncManager`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.managers.SyncManager).12291230#### `class multiprocessing.managers.Namespace`12311232Тип, который можно зарегистрировать с помощью [`SyncManager`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.managers.SyncManager).12331234Объект пространства имён не имеет открытых методов, но имеет изменяемые атрибуты. Его представление показывает значения его атрибутов.12351236Однако при использовании прокси для объекта пространства имён атрибут, начинающийся с `'_'`, будет атрибутом прокси, а не атрибутом референта:12371238```pycon1239>>> manager = multiprocessing.Manager()1240>>> Global = manager.Namespace()1241>>> Global.x = 101242>>> Global.y = 'hello'1243>>> Global._z = 12.3 # это атрибут прокси1244>>> print(Global)1245Namespace(x=10, y='hello')1246```12471248#### 17.2.2.7.1. Настраиваемые менеджеры12491250Чтобы создать собственный менеджер, создаётся подкласс [`BaseManager`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.managers.BaseManager) и используется метод класса [`register()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.managers.BaseManager.register) для регистрации новых типов или вызываемых объектов в классе менеджера. Например:12511252```python1253from multiprocessing.managers import BaseManager12541255class MathsClass:1256 def add(self, x, y):1257 return x + y1258 def mul(self, x, y):1259 return x * y12601261class MyManager(BaseManager):1262 pass12631264MyManager.register('Maths', MathsClass)12651266if __name__ == '__main__':1267 with MyManager() as manager:1268 maths = manager.Maths()1269 print(maths.add(4, 3)) # выводит 71270 print(maths.mul(7, 8)) # выводит 561271```12721273#### 17.2.2.7.2. Использование удалённого менеджера12741275Можно запустить сервер менеджера на одной машине и позволить клиентам использовать его с других машин (при условии, что соответствующие брандмауэры это разрешают).12761277Выполнение следующих команд создаёт сервер для одной общей очереди, к которой удалённые клиенты могут обращаться:12781279```python1280>>> from multiprocessing.managers import BaseManager1281>>> from queue import Queue1282>>> queue = Queue()1283>>> class QueueManager(BaseManager): pass1284>>> QueueManager.register('get_queue', callable=lambda:queue)1285>>> m = QueueManager(address=('', 50000), authkey=b'abracadabra')1286>>> s = m.get_server()1287>>> s.serve_forever()1288```12891290Один клиент может получить доступ к серверу следующим образом:12911292```python1293>>> from multiprocessing.managers import BaseManager1294>>> class QueueManager(BaseManager): pass1295>>> QueueManager.register('get_queue')1296>>> m = QueueManager(address=('foo.bar.org', 50000), authkey=b'abracadabra')1297>>> m.connect()1298>>> queue = m.get_queue()1299>>> queue.put('hello')1300```13011302Другой клиент также может использовать его:13031304```python1305>>> from multiprocessing.managers import BaseManager1306>>> class QueueManager(BaseManager): pass1307>>> QueueManager.register('get_queue')1308>>> m = QueueManager(address=('foo.bar.org', 50000), authkey=b'abracadabra')1309>>> m.connect()1310>>> queue = m.get_queue()1311>>> queue.get()1312'hello'1313```13141315Локальные процессы также могут получить доступ к этой очереди, используя приведённый выше код на клиенте для удалённого доступа к ней:13161317```python1318>>> from multiprocessing import Process, Queue1319>>> from multiprocessing.managers import BaseManager1320>>> class Worker(Process):1321... def __init__(self, q):1322... self.q = q1323... super(Worker, self).__init__()1324... def run(self):1325... self.q.put('local hello')1326...1327>>> queue = Queue()1328>>> w = Worker(queue)1329>>> w.start()1330>>> class QueueManager(BaseManager): pass1331...1332>>> QueueManager.register('get_queue', callable=lambda: queue)1333>>> m = QueueManager(address=('', 50000), authkey=b'abracadabra')1334>>> s = m.get_server()1335>>> s.serve_forever()1336```13371338### 17.2.2.8. Прокси-объекты13391340Прокси – это объект, который *ссылается* на общий объект, находящийся (предположительно) в другом процессе. Общий объект называется *референтом* этого прокси. Несколько объектов-прокси могут иметь один и тот же референт.13411342Объект-прокси имеет методы, которые вызывают соответствующие методы его референта (хотя не каждый метод референта обязательно будет доступен через прокси). Таким образом, прокси можно использовать так же, как и его референт:13431344```pycon1345>>> from multiprocessing import Manager1346>>> manager = Manager()1347>>> l = manager.list([i*i for i in range(10)])1348>>> print(l)1349[0, 1, 4, 9, 16, 25, 36, 49, 64, 81]1350>>> print(repr(l))1351<ListProxy object, typeid 'list' at 0x...>1352>>> l[4]1353161354>>> l[2:5]1355[4, 9, 16]1356```13571358Обратите внимание, что применение [`str()`](https://python-all.ru/3.6/library/stdtypes.html#str) к прокси вернёт представление референта, тогда как применение [`repr()`](https://python-all.ru/3.6/library/functions.html#repr) вернёт представление прокси.13591360Важная особенность объектов-прокси – они сериализуемы (picklable), поэтому их можно передавать между процессами. Таким образом, референт может содержать [Объекты-прокси](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing-proxy-objects). Это допускает вложение управляемых списков, словарей и других [Объектов-прокси](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing-proxy-objects):13611362```pycon1363>>> a = manager.list()1364>>> b = manager.list()1365>>> a.append(b) # референт a теперь содержит референт b1366>>> print(a, b)1367[<ListProxy object, typeid 'list' at ...>] []1368>>> b.append('hello')1369>>> print(a[0], b)1370['hello'] ['hello']1371```13721373Аналогично, прокси словарей и списков могут быть вложены друг в друга:13741375```python1376>>> l_outer = manager.list([ manager.dict() for i in range(2) ])1377>>> d_first_inner = l_outer[0]1378>>> d_first_inner['a'] = 11379>>> d_first_inner['b'] = 21380>>> l_outer[1]['c'] = 31381>>> l_outer[1]['z'] = 261382>>> print(l_outer[0])1383{'a': 1, 'b': 2}1384>>> print(l_outer[1])1385{'c': 3, 'z': 26}1386```13871388Если в референт входят стандартные (не прокси) объекты [`list`](https://python-all.ru/3.6/library/stdtypes.html#list) или [`dict`](https://python-all.ru/3.6/library/stdtypes.html#dict), изменения этих изменяемых значений не будут распространяться через менеджер, потому что прокси не может узнать, когда значения, содержащиеся внутри, изменяются. Однако сохранение значения в прокси-контейнере (что вызывает `__setitem__` на объекте-прокси) распространяется через менеджер, поэтому для эффективного изменения такого элемента можно присвоить изменённое значение обратно в прокси-контейнер:13891390```python1391# создать прокси для списка и добавить изменяемый объект (словарь)1392lproxy = manager.list()1393lproxy.append({})1394# теперь изменить словарь1395d = lproxy[0]1396d['a'] = 11397d['b'] = 21398# на данный момент изменения в d еще не синхронизированы, но при1399# обновлении словаря прокси уведомляется об изменении1400lproxy[0] = d1401```14021403Этот подход, возможно, менее удобен, чем использование вложенных [Объектов-прокси](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing-proxy-objects) в большинстве случаев, но также демонстрирует степень контроля над синхронизацией.14041405> **Примечание**1406>1407> Типы прокси в [`multiprocessing`](https://python-all.ru/3.6/library/multiprocessing.html#module-multiprocessing) не поддерживают сравнение по значению. Так, например:1408>1409> ```pycon1410> >>> manager.list([1,2,3]) == [1,2,3]1411> False1412> ```1413>1414> При сравнении следует просто использовать копию референта.14151416#### `class multiprocessing.managers.BaseProxy`14171418Прокси-объекты являются экземплярами подклассов [`BaseProxy`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.managers.BaseProxy).14191420#### `_callmethod(methodname[, args[, kwds]])`14211422Вызывает метод референта прокси и возвращает результат.14231424Если `proxy` – это прокси, чей референт – `obj`, то выражение14251426```python1427proxy._callmethod(methodname, args, kwds)1428```14291430вычислит выражение14311432```python1433getattr(obj, methodname)(*args, **kwds)1434```14351436в процессе менеджера.14371438Возвращаемое значение будет копией результата вызова или прокси для нового разделяемого объекта – см. документацию по аргументу *method\_to\_typeid* функции [`BaseManager.register()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.managers.BaseManager.register).14391440Если при вызове возникло исключение, то оно повторно возбуждается с помощью [`_callmethod()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.managers.BaseProxy._callmethod). Если в процессе менеджера возникло другое исключение, то оно преобразуется в исключение `RemoteError` и возбуждается с помощью [`_callmethod()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.managers.BaseProxy._callmethod).14411442Обратите внимание, что исключение будет возбуждаться, если *methodname* не был *экспонирован*.14431444Пример использования [`_callmethod()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.managers.BaseProxy._callmethod):14451446```pycon1447>>> l = manager.list(range(10))1448>>> l._callmethod('__len__')1449101450>>> l._callmethod('__getitem__', (slice(2, 7),)) # эквивалентно l[2:7]1451[2, 3, 4, 5, 6]1452>>> l._callmethod('__getitem__', (20,)) # эквивалентно l[20]1453Traceback (most recent call last):1454...1455IndexError: list index out of range1456```14571458#### `_getvalue()`14591460Возвращает копию референта.14611462Если референт не может быть сериализован (unpicklable), то это вызовет исключение.14631464#### `__repr__()`14651466Возвращает представление прокси-объекта.14671468#### `__str__()`14691470Возвращает представление референта.14711472#### 17.2.2.8.1. Очистка14731474Прокси-объект использует колбэк слабой ссылки: когда он собирается сборщиком мусора, он отменяет свою регистрацию у менеджера, которому принадлежит его референт.14751476Разделяемый объект удаляется из процесса менеджера, когда на него больше не ссылается ни один прокси.14771478### 17.2.2.9. Пулы процессов14791480Можно создать пул процессов, который будет выполнять задачи, отправленные ему с помощью класса [`Pool`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.pool.Pool).14811482#### `class multiprocessing.pool.Pool([processes[, initializer[, initargs[, maxtasksperchild[, context]]]]])`14831484Объект пула процессов, который управляет пулом рабочих процессов, которым можно отправлять задачи. Он поддерживает асинхронные результаты с тайм-аутами и колбэками, а также имеет параллельную реализацию map.14851486*processes* – количество используемых рабочих процессов. Если *processes* равно `None`, то используется число, возвращаемое [`os.cpu_count()`](https://python-all.ru/3.6/library/os.html#os.cpu_count).14871488Если *initializer* не равно `None`, то каждый рабочий процесс вызовет `initializer(*initargs)` при запуске.14891490*maxtasksperchild* – количество задач, которое рабочий процесс может выполнить до завершения и замены новым рабочим процессом, чтобы освободить неиспользуемые ресурсы. Значение по умолчанию *maxtasksperchild* равно `None`, что означает, что рабочие процессы будут жить столько же, сколько и пул.14911492*context* используется для указания контекста, в котором запускаются рабочие процессы. Обычно пул создаётся с помощью функции `multiprocessing.Pool()` или метода [`Pool()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.pool.Pool) объекта контекста. В обоих случаях *context* устанавливается соответствующим образом.14931494Обратите внимание, что методы объекта пула должны вызываться только тем процессом, который создал пул.14951496Новое в версии 3.2: *maxtasksperchild*14971498Новое в версии 3.4: *context*14991500> **Примечание**1501>1502> Рабочие процессы внутри [`Pool`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.pool.Pool) обычно существуют в течение всего времени работы очереди пула. Часто используемый в других системах (например, Apache, mod\_wsgi и т.д.) подход для освобождения ресурсов, удерживаемых рабочими процессами, заключается в том, чтобы позволить рабочему процессу в пуле выполнить только определённый объём работы, после чего он завершается, очищается, и на его место запускается новый процесс. Аргумент *maxtasksperchild* функции [`Pool`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.pool.Pool) предоставляет эту возможность конечному пользователю.15031504#### `apply(func[, args[, kwds]])`15051506Вызывает *func* с аргументами *args* и именованными аргументами *kwds*. Блокируется до получения результата. Поскольку этот метод блокируется, [`apply_async()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.pool.Pool.apply_async) лучше подходит для параллельного выполнения работы. Кроме того, *func* выполняется только в одном из рабочих процессов пула.15071508#### `apply_async(func[, args[, kwds[, callback[, error_callback]]]])`15091510Вариант метода [`apply()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.pool.Pool.apply), возвращающий объект результата.15111512Если указан *колбэк*, то это должен быть вызываемый объект, принимающий один аргумент. Когда результат готов, к нему применяется *колбэк*, если только вызов не завершился ошибкой – в этом случае вместо него применяется *колбэк ошибки*.15131514Если указан *error\_callback*, то это должен быть вызываемый объект, принимающий один аргумент. Если целевая функция завершается ошибкой, то *error\_callback* вызывается с экземпляром исключения.15151516Колбэки должны завершаться немедленно, иначе поток, обрабатывающий результаты, будет заблокирован.15171518#### `map(func, iterable[, chunksize])`15191520Параллельный аналог встроенной функции [`map()`](https://python-all.ru/3.6/library/functions.html#map) (однако поддерживает только один аргумент *iterable*). Блокирует выполнение до готовности результата.15211522Этот метод разбивает итерируемый объект на несколько частей (chunks), которые отправляет в пул процессов как отдельные задачи. Приблизительный размер этих частей можно задать, установив *chunksize* в положительное целое число.15231524#### `map_async(func, iterable[, chunksize[, callback[, error_callback]]])`15251526Вариант метода [`map()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.pool.Pool.map), возвращающий объект результата.15271528Если указан *колбэк*, то это должен быть вызываемый объект, принимающий один аргумент. Когда результат готов, к нему применяется *колбэк*, если только вызов не завершился ошибкой – в этом случае вместо него применяется *колбэк ошибки*.15291530Если указан *error\_callback*, то это должен быть вызываемый объект, принимающий один аргумент. Если целевая функция завершается ошибкой, то *error\_callback* вызывается с экземпляром исключения.15311532Колбэки должны завершаться немедленно, иначе поток, обрабатывающий результаты, будет заблокирован.15331534#### `imap(func, iterable[, chunksize])`15351536Более ленивая версия [`map()`](https://python-all.ru/3.6/library/functions.html#map).15371538Аргумент *chunksize* совпадает с тем, что используется в методе [`map()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.pool.Pool.map). Для очень длинных итерируемых объектов использование большого значения *chunksize* может привести к завершению задачи **значительно** быстрее, чем при использовании значения по умолчанию `1`.15391540Кроме того, если *chunksize* равно `1`, то метод `next()` итератора, возвращаемого методом [`imap()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.pool.Pool.imap), имеет необязательный параметр *timeout*: `next(timeout)` возбудит [`multiprocessing.TimeoutError`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.TimeoutError), если результат не может быть возвращён в течение *timeout* секунд.15411542#### `imap_unordered(func, iterable[, chunksize])`15431544То же, что и [`imap()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.pool.Pool.imap), за исключением того, что порядок результатов из возвращаемого итератора считается произвольным. (Только когда есть только один рабочий процесс, порядок гарантированно будет «правильным».)15451546#### `starmap(func, iterable[, chunksize])`15471548Как [`map()`](https://python-all.ru/3.6/library/functions.html#map), за исключением того, что элементы *iterable* должны быть итерабельными объектами, которые распаковываются как аргументы.15491550Таким образом, *iterable* из `[(1,2), (3, 4)]` приводит к `[func(1,2), func(3,4)]`.15511552Новое в версии 3.3.15531554#### `starmap_async(func, iterable[, chunksize[, callback[, error_callback]]])`15551556Комбинация [`starmap()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.pool.Pool.starmap) и [`map_async()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.pool.Pool.map_async), которая перебирает *iterable* из итерируемых объектов и вызывает *func* с распакованными итерируемыми объектами. Возвращает объект результата.15571558Новое в версии 3.3.15591560#### `close()`15611562Предотвращает отправку новых задач в пул. После завершения всех задач рабочие процессы завершаются.15631564#### `terminate()`15651566Немедленно останавливает рабочие процессы, не дожидаясь завершения незаконченных задач. Когда объект пула будет собран сборщиком мусора, [`terminate()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.pool.Pool.terminate) будет вызван немедленно.15671568#### `join()`15691570Ожидает завершения рабочих процессов. Перед использованием [`join()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.pool.Pool.join) необходимо вызвать [`close()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.pool.Pool.close) или [`terminate()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.pool.Pool.terminate).15711572Новое в версии 3.3: Объекты Pool теперь поддерживают протокол управления контекстом – см.\\n[Context Manager Types](https://python-all.ru/3.6/library/stdtypes.html#typecontextmanager). [`__enter__()`](https://python-all.ru/3.6/library/stdtypes.html#contextmanager.__enter__) возвращает объект pool, а [`__exit__()`](https://python-all.ru/3.6/library/stdtypes.html#contextmanager.__exit__) вызывает [`terminate()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.pool.Pool.terminate).15731574#### `class multiprocessing.pool.AsyncResult`15751576Класс результата, возвращаемого [`Pool.apply_async()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.pool.Pool.apply_async) и [`Pool.map_async()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.pool.Pool.map_async).15771578#### `get([timeout])`15791580Возвращает результат, когда он будет получен. Если *timeout* не равен `None` и результат не поступает в течение *timeout* секунд, то вызывается [`multiprocessing.TimeoutError`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.TimeoutError). Если удалённый вызов вызвал исключение, то это исключение будет повторно возбуждено [`get()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.pool.AsyncResult.get).15811582#### `wait([timeout])`15831584Ожидает, пока результат не станет доступен или пока не пройдёт *timeout* секунд.15851586#### `ready()`15871588Возвращает, завершён ли вызов.15891590#### `successful()`15911592Возвращает, завершился ли вызов без возникновения исключения. Возбуждает [`AssertionError`](https://python-all.ru/3.6/library/exceptions.html#AssertionError), если результат ещё не готов.15931594Следующий пример демонстрирует использование пула:15951596```python1597from multiprocessing import Pool1598import time15991600def f(x):1601 return x*x16021603if __name__ == '__main__':1604 with Pool(processes=4) as pool: # запустить 4 рабочих процесса1605 result = pool.apply_async(f, (10,)) # вычислить "f(10)" асинхронно в одном процессе1606 print(result.get(timeout=1)) # выводит "100", если компьютер не *очень* медленный16071608 print(pool.map(f, range(10))) # выводит "[0, 1, 4,..., 81]"16091610 it = pool.imap(f, range(10))1611 print(next(it)) # выводит "0"1612 print(next(it)) # выводит "1"1613 print(it.next(timeout=1)) # выводит "4", если компьютер не *очень* медленный16141615 result = pool.apply_async(time.sleep, (10,))1616 print(result.get(timeout=1)) # вызывает multiprocessing.TimeoutError1617```16181619### 17.2.2.10. Слушатели и клиенты16201621Обычно обмен сообщениями между процессами осуществляется с помощью очередей или объектов [`Connection`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.connection.Connection), возвращаемых [`Pipe()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Pipe).16221623Однако модуль [`multiprocessing.connection`](https://python-all.ru/3.6/library/multiprocessing.html#module-multiprocessing.connection) обеспечивает дополнительную гибкость. По сути, он предоставляет высокоуровневый API, ориентированный на сообщения, для работы с сокетами или именованными каналами Windows. Также поддерживается *аутентификация на основе дайджеста* с использованием модуля [`hmac`](https://python-all.ru/3.6/library/hmac.html#module-hmac) и опрос нескольких подключений одновременно.16241625#### `multiprocessing.connection.deliver_challenge(connection, authkey)`16261627Отправляет случайно сгенерированное сообщение на другой конец соединения и ожидает ответа.16281629Если ответ совпадает с дайджестом сообщения, используя *authkey* в качестве ключа, то на другой конец соединения отправляется приветственное сообщение. В противном случае возбуждается [`AuthenticationError`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.AuthenticationError).16301631#### `multiprocessing.connection.answer_challenge(connection, authkey)`16321633Принимает сообщение, вычисляет дайджест сообщения, используя *authkey* в качестве ключа, а затем отправляет дайджест обратно.16341635Если приветственное сообщение не получено, то возбуждается [`AuthenticationError`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.AuthenticationError).16361637#### `multiprocessing.connection.Client(address[, family[, authkey]])`16381639Пытается установить соединение с слушателем, использующим адрес *address*, возвращая [`Connection`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.connection.Connection).16401641Тип соединения определяется аргументом *family*, но его обычно можно опустить, поскольку он обычно определяется по формату *address*. (См. [Address Formats](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing-address-formats))16421643Если *authkey* задан и не None, он должен быть байтовой строкой и будет использоваться как секретный ключ для проверки подлинности на основе HMAC. Если *authkey* равно None, аутентификация не выполняется. В случае неудачи аутентификации возбуждается исключение [`AuthenticationError`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.AuthenticationError). См. [Ключи аутентификации](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing-auth-keys).16441645#### `class multiprocessing.connection.Listener([address[, family[, backlog[, authkey]]]])`16461647Обёртка для привязанного сокета или именованного канала Windows, который «прослушивает» подключения.16481649*address* – это адрес, который будет использоваться привязанным сокетом или именованным каналом объекта слушателя.16501651> **Примечание**1652>1653> Если используется адрес ‘0.0.0.0’, он не будет доступной точкой подключения в Windows. Если требуется доступная точка подключения, следует использовать ‘127.0.0.1’.16541655*family* – тип используемого сокета (или именованного канала). Может быть одной из строк `'AF_INET'` (для TCP-сокета), `'AF_UNIX'` (для сокета домена Unix) или `'AF_PIPE'` (для именованного канала Windows). Из них гарантированно доступна только первая. Если *family* равно `None`, то семейство определяется по формату *address*. Если *address* также равно `None`, выбирается значение по умолчанию. По умолчанию выбирается семейство, которое считается самым быстрым из доступных. См. [Форматы адресов](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing-address-formats). Обратите внимание: если *family* равно `'AF_UNIX'`, а address равен `None`, то сокет будет создан в частной временной директории, созданной с помощью [`tempfile.mkstemp()`](https://python-all.ru/3.6/library/tempfile.html#tempfile.mkstemp).16561657Если объект listener использует сокет, то *backlog* (по умолчанию 1) передаётся методу [`listen()`](https://python-all.ru/3.6/library/socket.html#socket.socket.listen) сокета после его привязки.16581659Если *authkey* задан и не None, он должен быть байтовой строкой и будет использоваться как секретный ключ для проверки подлинности на основе HMAC. Если *authkey* равно None, аутентификация не выполняется. В случае неудачи аутентификации возбуждается исключение [`AuthenticationError`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.AuthenticationError). См. [Ключи аутентификации](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing-auth-keys).16601661#### `accept()`16621663Принимает соединение на привязанном сокете или именованном канале объекта listener и возвращает объект [`Connection`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.connection.Connection). Если предпринята попытка аутентификации и она не удалась, возбуждается [`AuthenticationError`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.AuthenticationError).16641665#### `close()`16661667Закрывает привязанный сокет или именованный канал объекта listener. Этот метод вызывается автоматически при сборке мусора listener'а. Однако рекомендуется вызывать его явно.16681669Объекты Listener имеют следующие свойства только для чтения:16701671#### `address`16721673Адрес, используемый объектом Listener.16741675#### `last_accepted`16761677Адрес, с которого поступило последнее принятое соединение. Если он недоступен, то равен `None`.16781679Новое в версии 3.3: Объекты Listener теперь поддерживают протокол управления контекстом – см.\\n[Context Manager Types](https://python-all.ru/3.6/library/stdtypes.html#typecontextmanager). [`__enter__()`](https://python-all.ru/3.6/library/stdtypes.html#contextmanager.__enter__) возвращает объект listener, а [`__exit__()`](https://python-all.ru/3.6/library/stdtypes.html#contextmanager.__exit__) вызывает [`close()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.connection.Listener.close).16801681#### `multiprocessing.connection.wait(object_list, timeout=None)`16821683Ожидает, пока объект из *object\_list* не будет готов. Возвращает список тех объектов из *object\_list*, которые готовы. Если *timeout* – число с плавающей точкой, вызов блокируется не более чем на указанное количество секунд. Если *timeout* равен `None`, блокировка будет неограниченной. Отрицательный тайм-аут эквивалентен нулевому.16841685Как в Unix, так и в Windows объект может появиться в *object\_list*, если он16861687- читаемый объект [`Connection`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.connection.Connection);1688- подключенный и читаемый объект [`socket.socket`](https://python-all.ru/3.6/library/socket.html#socket.socket); или1689- атрибут [`sentinel`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Process.sentinel) объекта [`Process`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Process).16901691Объект соединения или сокета готов, когда из него доступны для чтения данные или другой конец был закрыт.16921693**Unix**: `wait(object_list, timeout)` почти эквивалентен `select.select(object_list, [], [], timeout)`. Разница в том, что если [`select.select()`](https://python-all.ru/3.6/library/select.html#select.select) прерван сигналом, он может возбудить [`OSError`](https://python-all.ru/3.6/library/exceptions.html#OSError) с кодом ошибки `EINTR`, тогда как [`wait()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.connection.wait) этого не сделает.16941695**Windows**: Элемент в *object\_list* должен быть либо целочисленным дескриптором, который ожидаем (согласно определению из документации функции Win32 `WaitForMultipleObjects()`), либо объектом с методом `fileno()`, возвращающим дескриптор сокета или канала. (Обратите внимание: дескрипторы каналов и сокетов **не** являются ожидаемыми дескрипторами.)16961697Новое в версии 3.3.16981699**Примеры**17001701Следующий серверный код создаёт listener, который использует `'secret password'` в качестве ключа аутентификации. Затем он ожидает соединения и отправляет некоторые данные клиенту:17021703```python1704from multiprocessing.connection import Listener1705from array import array17061707address = ('localhost', 6000) # семейство определяется как 'AF_INET'17081709with Listener(address, authkey=b'secret password') as listener:1710 with listener.accept() as conn:1711 print('connection accepted from', listener.last_accepted)17121713 conn.send([2.25, None, 'junk', float])17141715 conn.send_bytes(b'hello')17161717 conn.send_bytes(array('i', [42, 1729]))1718```17191720Следующий код подключается к серверу и получает от него некоторые данные:17211722```python1723from multiprocessing.connection import Client1724from array import array17251726address = ('localhost', 6000)17271728with Client(address, authkey=b'secret password') as conn:1729 print(conn.recv()) # => [2.25, None, 'junk', float]17301731 print(conn.recv_bytes()) # => 'hello'17321733 arr = array('i', [0, 0, 0, 0, 0])1734 print(conn.recv_bytes_into(arr)) # => 81735 print(arr) # => array('i', [42, 1729, 0, 0, 0])1736```17371738Следующий код использует [`wait()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.connection.wait) для ожидания сообщений от нескольких процессов одновременно:17391740```python1741import time, random1742from multiprocessing import Process, Pipe, current_process1743from multiprocessing.connection import wait17441745def foo(w):1746 for i in range(10):1747 w.send((i, current_process().name))1748 w.close()17491750if __name__ == '__main__':1751 readers = []17521753 for i in range(4):1754 r, w = Pipe(duplex=False)1755 readers.append(r)1756 p = Process(target=foo, args=(w,))1757 p.start()1758 # Закрываем записывающий конец канала, чтобы убедиться, что1759 # p – единственный процесс, владеющий дескриптором канала. Это1760 # гарантирует, что когда p закроет свой дескриптор для записывающего конца,1761 # wait() немедленно сообщит, что читающий конец готов1762 w.close()17631764 while readers:1765 for r in wait(readers):1766 try:1767 msg = r.recv()1768 except EOFError:1769 readers.remove(r)1770 else:1771 print(msg)1772```17731774#### 17.2.2.10.1. Форматы адресов17751776- Адрес `'AF_INET'` – это кортеж вида `(hostname, port)`, где *hostname* – строка, а *port* – целое число.1777- Адрес `'AF_UNIX'` – это строка, представляющая имя файла в файловой системе.1778- **Адрес `'AF_PIPE'` – это строка вида**17791780 `r'\.\pipe{PipeName}'`. Чтобы использовать [`Client()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.connection.Client) для подключения к именованному каналу на удалённом компьютере *ServerName*, следует использовать адрес вида `r'\ServerName\pipe{PipeName}'`.17811782Обратите внимание: любая строка, начинающаяся с двух обратных слешей, по умолчанию считается адресом `'AF_PIPE'`, а не `'AF_UNIX'`.17831784### 17.2.2.11. Ключи аутентификации17851786При использовании [`Connection.recv`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.connection.Connection.recv) полученные данные автоматически распиковываются. К сожалению, распиковка данных из ненадёжного источника представляет угрозу безопасности. Поэтому [`Listener`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.connection.Listener) и [`Client()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.connection.Client) используют модуль [`hmac`](https://python-all.ru/3.6/library/hmac.html#module-hmac) для обеспечения дайджест-аутентификации.17871788Ключ аутентификации – это байтовая строка, которую можно рассматривать как пароль: после установления соединения обе стороны требуют доказательства, что другая сторона знает ключ аутентификации. (Демонстрация того, что обе стороны используют один и тот же ключ, **не** предполагает отправку ключа по соединению.)17891790Если запрошена аутентификация, но ключ аутентификации не указан, то используется возвращаемое значение `current_process().authkey` (см. [`Process`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Process)). Это значение автоматически наследуется любым объектом [`Process`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Process), который создаёт текущий процесс. Это означает, что (по умолчанию) все процессы многопроцессной программы используют один ключ аутентификации, который можно применять для настройки соединений между ними.17911792Подходящие ключи аутентификации также можно сгенерировать с помощью [`os.urandom()`](https://python-all.ru/3.6/library/os.html#os.urandom).17931794### 17.2.2.12. Логирование17951796Доступна поддержка журналирования. Однако обратите внимание, что пакет [`logging`](https://python-all.ru/3.6/library/logging.html#module-logging) не использует блокировки, разделяемые между процессами, поэтому сообщения от разных процессов могут перемешиваться (в зависимости от типа обработчика).17971798#### `multiprocessing.get_logger()`17991800Возвращает логгер, используемый модулем [`multiprocessing`](https://python-all.ru/3.6/library/multiprocessing.html#module-multiprocessing). При необходимости создаётся новый.18011802При первом создании логгер имеет уровень `logging.NOTSET` и не имеет обработчика по умолчанию. Сообщения, отправленные этому логгеру, по умолчанию не распространяются на корневой логгер.18031804Обратите внимание, что в Windows дочерние процессы наследуют только уровень логгера родительского процесса – любые другие настройки логгера не наследуются.18051806#### `multiprocessing.log_to_stderr()`18071808Эта функция вызывает [`get_logger()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.get_logger), но помимо возврата регистратора, созданного get\_logger, добавляет обработчик, который отправляет вывод на [`sys.stderr`](https://python-all.ru/3.6/library/sys.html#sys.stderr), используя формат `'[%(levelname)s/%(processName)s] %(message)s'`.18091810Ниже приведён пример сеанса с включённым журналированием:18111812```python1813>>> import multiprocessing, logging1814>>> logger = multiprocessing.log_to_stderr()1815>>> logger.setLevel(logging.INFO)1816>>> logger.warning('doomed')1817[WARNING/MainProcess] doomed1818>>> m = multiprocessing.Manager()1819[INFO/SyncManager-...] child process calling self.run()1820[INFO/SyncManager-...] created temp directory /.../pymp-...1821[INFO/SyncManager-...] manager serving at '/.../listener-...'1822>>> del m1823[INFO/MainProcess] sending shutdown message to manager1824[INFO/SyncManager-...] manager exiting with exitcode 01825```18261827Полную таблицу уровней журналирования см. в модуле [`logging`](https://python-all.ru/3.6/library/logging.html#module-logging).18281829### 17.2.2.13. Модуль [`multiprocessing.dummy`](https://python-all.ru/3.6/library/multiprocessing.html#module-multiprocessing.dummy)18301831[`multiprocessing.dummy`](https://python-all.ru/3.6/library/multiprocessing.html#module-multiprocessing.dummy) воспроизводит API модуля [`multiprocessing`](https://python-all.ru/3.6/library/multiprocessing.html#module-multiprocessing), но является не более чем обёрткой вокруг модуля [`threading`](https://python-all.ru/3.6/library/threading.html#module-threading).18321833## 17.2.3. Рекомендации по программированию18341835Существуют определённые рекомендации и идиомы, которых следует придерживаться при использовании [`multiprocessing`](https://python-all.ru/3.6/library/multiprocessing.html#module-multiprocessing).18361837### 17.2.3.1. Все методы запуска18381839Нижеследующее относится ко всем методам запуска.18401841Избегайте разделяемого состояния18421843> По возможности следует стараться избегать передачи больших объёмов данных между процессами.1844>1845> Вероятно, лучше всего ограничиться использованием очередей или каналов для связи между процессами, а не использовать низкоуровневые примитивы синхронизации.18461847Сериализуемость18481849> Убедитесь, что аргументы методов прокси-объектов сериализуемы.18501851Потокобезопасность прокси18521853> Не используйте прокси-объект из более чем одного потока, если не защищаете его блокировкой.1854>1855> (С разными процессами, использующими *один и тот же* прокси, проблем не возникает.)18561857Присоединение процессов-зомби18581859> В Unix, когда процесс завершается, но к нему не присоединились (joined), он становится зомби. Таких процессов не должно быть много, потому что каждый раз при запуске нового процесса (или вызове [`active_children()`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.active_children)) все завершённые процессы, к которым ещё не присоединились, будут присоединены. Кроме того, вызов [`Process.is_alive`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Process.is_alive) для завершённого процесса присоединяет его. Тем не менее, рекомендуется явно присоединять все запущенные процессы.18601861Лучше наследовать, чем упаковывать/распаковывать18621863> При использовании методов запуска *spawn* или *forkserver* многие типы из [`multiprocessing`](https://python-all.ru/3.6/library/multiprocessing.html#module-multiprocessing) должны быть упаковываемыми (picklable), чтобы дочерние процессы могли их использовать. Однако обычно следует избегать отправки разделяемых объектов другим процессам через каналы или очереди. Вместо этого стоит организовать программу так, чтобы процесс, которому требуется доступ к разделяемому ресурсу, созданному в другом месте, мог унаследовать его от родительского процесса.18641865Избегайте завершения процессов18661867> Использование метода [`Process.terminate`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Process.terminate) для остановки процесса может привести к тому, что любые разделяемые ресурсы (такие как блокировки, семафоры, каналы и очереди), которые в данный момент используются процессом, станут повреждёнными или недоступными для других процессов.1868>1869> Поэтому, вероятно, лучше рассматривать использование [`Process.terminate`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Process.terminate) только для процессов, которые никогда не используют разделяемые ресурсы.18701871Присоединение процессов, использующих очереди18721873> Имейте в виду, что процесс, поместивший элементы в очередь, будет ждать перед завершением, пока все буферизованные элементы не будут переданы потоком «feeder» в нижележащий канал. (Дочерний процесс может вызвать метод [`Queue.cancel_join_thread`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Queue.cancel_join_thread) очереди, чтобы избежать такого поведения.)1874>1875> Это означает, что при использовании очереди нужно убедиться, что все элементы, помещённые в очередь, будут в конечном итоге удалены до того, как процесс будет присоединён. В противном случае нельзя быть уверенным, что процессы, поместившие элементы в очередь, завершатся. Также помните, что недемонические процессы присоединяются автоматически.1876>1877> Пример, который приведёт к взаимоблокировке:1878>1879> ```python1880> from multiprocessing import Process, Queue1881>1882> def f(q):1883> q.put('X' * 1000000)1884>1885> if __name__ == '__main__':1886> queue = Queue()1887> p = Process(target=f, args=(queue,))1888> p.start()1889> p.join() # это приводит к взаимоблокировке1890> obj = queue.get()1891> ```1892>1893> Исправление заключается в замене двух последних строк местами (или просто удалении строки с `p.join()`).18941895Явная передача ресурсов дочерним процессам18961897> В Unix при использовании метода запуска *fork* дочерний процесс может использовать общий ресурс, созданный в родительском процессе с помощью глобального ресурса. Однако лучше передавать объект в качестве аргумента конструктору дочернего процесса.1898>1899> Помимо того, что это делает код (потенциально) совместимым с Windows и другими методами запуска, это также гарантирует, что пока дочерний процесс жив, объект не будет собран сборщиком мусора в родительском процессе. Это может быть важно, если некоторый ресурс освобождается при сборке мусора объекта в родительском процессе.1900>1901> Так, например1902>1903> ```python1904> from multiprocessing import Process, Lock1905>1906> def f():1907> ... do something using "lock" ...1908>1909> if __name__ == '__main__':1910> lock = Lock()1911> for i in range(10):1912> Process(target=f).start()1913> ```1914>1915> следует переписать как1916>1917> ```python1918> from multiprocessing import Process, Lock1919>1920> def f(l):1921> ... do something using "l" ...1922>1923> if __name__ == '__main__':1924> lock = Lock()1925> for i in range(10):1926> Process(target=f, args=(lock,)).start()1927> ```19281929Остерегайтесь замены [`sys.stdin`](https://python-all.ru/3.6/library/sys.html#sys.stdin) на «файлоподобный объект»19301931> [`multiprocessing`](https://python-all.ru/3.6/library/multiprocessing.html#module-multiprocessing) изначально безусловно вызывал:1932>1933> ```python1934> os.close(sys.stdin.fileno())1935> ```1936>1937> в методе `multiprocessing.Process._bootstrap()` – это приводило к проблемам с процессами внутри процессов. Теперь это изменено на:1938>1939> ```python1940> sys.stdin.close()1941> sys.stdin = open(os.open(os.devnull, os.O_RDONLY), closefd=False)1942> ```1943>1944> Это решает основную проблему столкновения процессов друг с другом, приводящую к ошибке неверного файлового дескриптора, но вносит потенциальную опасность для приложений, которые заменяют [`sys.stdin()`](https://python-all.ru/3.6/library/sys.html#sys.stdin) на «файлоподобный объект» с буферизацией вывода. Опасность в том, что если несколько процессов вызовут [`close()`](https://python-all.ru/3.6/library/io.html#io.IOBase.close) для этого файлоподобного объекта, одни и те же данные могут быть сброшены в объект несколько раз, что приведёт к повреждению.1945>1946> Если вы пишете файлоподобный объект и реализуете собственное кэширование, вы можете сделать его устойчивым к fork, сохраняя pid при каждом добавлении в кэш и сбрасывая кэш при изменении pid. Например:1947>1948> ```python1949> @property1950> def cache(self):1951> pid = os.getpid()1952> if pid != self._pid:1953> self._pid = pid1954> self._cache = []1955> return self._cache1956> ```1957>1958> Для получения дополнительной информации см. [bpo-5155](https://python-all.ru/3.6/library/multiprocessing.html), [bpo-5313](https://python-all.ru/3.6/library/multiprocessing.html) и [bpo-5331](https://python-all.ru/3.6/library/multiprocessing.html)19591960### 17.2.3.2. Методы запуска *spawn* и *forkserver*19611962Есть несколько дополнительных ограничений, которые не применяются к *fork* методу запуска.19631964Упаковываемость19651966> Убедитесь, что все аргументы `Process.__init__()` можно сериализовать с помощью pickle. Кроме того, если вы создаёте подкласс [`Process`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Process), убедитесь, что экземпляры будут сериализуемы при вызове метода [`Process.start`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Process.start).19671968Глобальные переменные19691970> Имейте в виду, что если код, выполняемый в дочернем процессе, попытается обратиться к глобальной переменной, то значение, которое он увидит (если оно есть), может не совпадать со значением в родительском процессе на момент вызова [`Process.start`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.Process.start).1971>1972> Однако глобальные переменные, которые представляют собой просто константы уровня модуля, не вызывают проблем.19731974Безопасный импорт главного модуля19751976> Необходимо убедиться, что главный модуль может быть безопасно импортирован новым интерпретатором Python без непреднамеренных побочных эффектов (например, запуска нового процесса).1977>1978> Например, при использовании методов запуска *spawn* или *forkserver* выполнение следующего модуля приведёт к ошибке [`RuntimeError`](https://python-all.ru/3.6/library/exceptions.html#RuntimeError):1979>1980> ```python1981> from multiprocessing import Process1982>1983> def foo():1984> print('hello')1985>1986> p = Process(target=foo)1987> p.start()1988> ```1989>1990> Вместо этого следует защитить «точку входа» программы с помощью `if __name__ == '__main__':` следующим образом:1991>1992> ```python1993> from multiprocessing import Process, freeze_support, set_start_method1994>1995> def foo():1996> print('hello')1997>1998> if __name__ == '__main__':1999> freeze_support()2000> set_start_method('spawn')2001> p = Process(target=foo)2002> p.start()2003> ```2004>2005> (Строку `freeze_support()` можно опустить, если программа будет запускаться обычным образом, а не как замороженное приложение.)2006>2007> Это позволяет только что порождённому интерпретатору Python безопасно импортировать модуль и затем выполнить функцию `foo()` этого модуля.2008>2009> Аналогичные ограничения действуют, если пул или менеджер создаются в главном модуле.20102011## 17.2.4. Примеры20122013Демонстрация создания и использования настраиваемых менеджеров и прокси:20142015```python2016from multiprocessing import freeze_support2017from multiprocessing.managers import BaseManager, BaseProxy2018import operator20192020##20212022class Foo:2023 def f(self):2024 print('you called Foo.f()')2025 def g(self):2026 print('you called Foo.g()')2027 def _h(self):2028 print('you called Foo._h()')20292030# Простая функция-генератор2031def baz():2032 for i in range(10):2033 yield i*i20342035# Тип прокси для объектов-генераторов2036class GeneratorProxy(BaseProxy):2037 _exposed_ = ['__next__']2038 def __iter__(self):2039 return self2040 def __next__(self):2041 return self._callmethod('__next__')20422043# Функция для возврата модуля operator2044def get_operator_module():2045 return operator20462047##20482049class MyManager(BaseManager):2050 pass20512052# зарегистрировать класс Foo; сделать `f()` и `g()` доступными через прокси2053MyManager.register('Foo1', Foo)20542055# зарегистрировать класс Foo; сделать `g()` и `_h()` доступными через прокси2056MyManager.register('Foo2', Foo, exposed=('g', '_h'))20572058# зарегистрировать функцию-генератор baz; использовать `GeneratorProxy` для создания прокси2059MyManager.register('baz', baz, proxytype=GeneratorProxy)20602061# зарегистрировать get_operator_module(); сделать публичные функции доступными через прокси2062MyManager.register('operator', get_operator_module)20632064##20652066def test():2067 manager = MyManager()2068 manager.start()20692070 print('-' * 20)20712072 f1 = manager.Foo1()2073 f1.f()2074 f1.g()2075 assert not hasattr(f1, '_h')2076 assert sorted(f1._exposed_) == sorted(['f', 'g'])20772078 print('-' * 20)20792080 f2 = manager.Foo2()2081 f2.g()2082 f2._h()2083 assert not hasattr(f2, 'f')2084 assert sorted(f2._exposed_) == sorted(['g', '_h'])20852086 print('-' * 20)20872088 it = manager.baz()2089 for i in it:2090 print('<%d>' % i, end=' ')2091 print()20922093 print('-' * 20)20942095 op = manager.operator()2096 print('op.add(23, 45) =', op.add(23, 45))2097 print('op.pow(2, 94) =', op.pow(2, 94))2098 print('op._exposed_ =', op._exposed_)20992100##21012102if __name__ == '__main__':2103 freeze_support()2104 test()2105```21062107Использование [`Pool`](https://python-all.ru/3.6/library/multiprocessing.html#multiprocessing.pool.Pool):21082109```python2110import multiprocessing2111import time2112import random2113import sys21142115#2116# Функции, используемые тестовым кодом2117#21182119def calculate(func, args):2120 result = func(*args)2121 return '%s says that %s%s = %s' % (2122 multiprocessing.current_process().name,2123 func.__name__, args, result2124 )21252126def calculatestar(args):2127 return calculate(*args)21282129def mul(a, b):2130 time.sleep(0.5 * random.random())2131 return a * b21322133def plus(a, b):2134 time.sleep(0.5 * random.random())2135 return a + b21362137def f(x):2138 return 1.0 / (x - 5.0)21392140def pow3(x):2141 return x ** 321422143def noop(x):2144 pass21452146#2147# Тестовый код2148#21492150def test():2151 PROCESSES = 42152 print('Creating pool with %d processes\n' % PROCESSES)21532154 with multiprocessing.Pool(PROCESSES) as pool:2155 #2156 # Тесты2157 #21582159 TASKS = [(mul, (i, 7)) for i in range(10)] + \2160 [(plus, (i, 8)) for i in range(10)]21612162 results = [pool.apply_async(calculate, t) for t in TASKS]2163 imap_it = pool.imap(calculatestar, TASKS)2164 imap_unordered_it = pool.imap_unordered(calculatestar, TASKS)21652166 print('Ordered results using pool.apply_async():')2167 for r in results:2168 print('\t', r.get())2169 print()21702171 print('Ordered results using pool.imap():')2172 for x in imap_it:2173 print('\t', x)2174 print()21752176 print('Unordered results using pool.imap_unordered():')2177 for x in imap_unordered_it:2178 print('\t', x)2179 print()21802181 print('Ordered results using pool.map() --- will block till complete:')2182 for x in pool.map(calculatestar, TASKS):2183 print('\t', x)2184 print()21852186 #2187 # Тестирование обработки ошибок2188 #21892190 print('Testing error handling:')21912192 try:2193 print(pool.apply(f, (5,)))2194 except ZeroDivisionError:2195 print('\tGot ZeroDivisionError as expected from pool.apply()')2196 else:2197 raise AssertionError('expected ZeroDivisionError')21982199 try:2200 print(pool.map(f, list(range(10))))2201 except ZeroDivisionError:2202 print('\tGot ZeroDivisionError as expected from pool.map()')2203 else:2204 raise AssertionError('expected ZeroDivisionError')22052206 try:2207 print(list(pool.imap(f, list(range(10)))))2208 except ZeroDivisionError:2209 print('\tGot ZeroDivisionError as expected from list(pool.imap())')2210 else:2211 raise AssertionError('expected ZeroDivisionError')22122213 it = pool.imap(f, list(range(10)))2214 for i in range(10):2215 try:2216 x = next(it)2217 except ZeroDivisionError:2218 if i == 5:2219 pass2220 except StopIteration:2221 break2222 else:2223 if i == 5:2224 raise AssertionError('expected ZeroDivisionError')22252226 assert i == 92227 print('\tGot ZeroDivisionError as expected from IMapIterator.next()')2228 print()22292230 #2231 # Тестирование тайм-аутов2232 #22332234 print('Testing ApplyResult.get() with timeout:', end=' ')2235 res = pool.apply_async(calculate, TASKS[0])2236 while 1:2237 sys.stdout.flush()2238 try:2239 sys.stdout.write('\n\t%s' % res.get(0.02))2240 break2241 except multiprocessing.TimeoutError:2242 sys.stdout.write('.')2243 print()2244 print()22452246 print('Testing IMapIterator.next() with timeout:', end=' ')2247 it = pool.imap(calculatestar, TASKS)2248 while 1:2249 sys.stdout.flush()2250 try:2251 sys.stdout.write('\n\t%s' % it.next(0.02))2252 except StopIteration:2253 break2254 except multiprocessing.TimeoutError:2255 sys.stdout.write('.')2256 print()2257 print()22582259if __name__ == '__main__':2260 multiprocessing.freeze_support()2261 test()2262```22632264Пример использования очередей для передачи задач набору рабочих процессов и сбора результатов:22652266```python2267import time2268import random22692270from multiprocessing import Process, Queue, current_process, freeze_support22712272#2273# Функция, выполняемая рабочими процессами2274#22752276def worker(input, output):2277 for func, args in iter(input.get, 'STOP'):2278 result = calculate(func, args)2279 output.put(result)22802281#2282# Функция, используемая для вычисления результата2283#22842285def calculate(func, args):2286 result = func(*args)2287 return '%s says that %s%s = %s' % \2288 (current_process().name, func.__name__, args, result)22892290#2291# Функции, на которые ссылаются задачи2292#22932294def mul(a, b):2295 time.sleep(0.5*random.random())2296 return a * b22972298def plus(a, b):2299 time.sleep(0.5*random.random())2300 return a + b23012302#2303#2304#23052306def test():2307 NUMBER_OF_PROCESSES = 42308 TASKS1 = [(mul, (i, 7)) for i in range(20)]2309 TASKS2 = [(plus, (i, 8)) for i in range(10)]23102311 # Создание очередей2312 task_queue = Queue()2313 done_queue = Queue()23142315 # Отправка задач2316 for task in TASKS1:2317 task_queue.put(task)23182319 # Запуск рабочих процессов2320 for i in range(NUMBER_OF_PROCESSES):2321 Process(target=worker, args=(task_queue, done_queue)).start()23222323 # Получение и вывод результатов2324 print('Unordered results:')2325 for i in range(len(TASKS1)):2326 print('\t', done_queue.get())23272328 # Добавить ещё задач с помощью `put()`2329 for task in TASKS2:2330 task_queue.put(task)23312332 # Получить и вывести ещё несколько результатов2333 for i in range(len(TASKS2)):2334 print('\t', done_queue.get())23352336 # Сообщить дочерним процессам об остановке2337 for i in range(NUMBER_OF_PROCESSES):2338 task_queue.put('STOP')23392340if __name__ == '__main__':2341 freeze_support()2342 test()2343```2344