multiprocessing.md
1> **Источник:** https://python-all.ru/3.8/library/multiprocessing.html2>3> «Документация Python на русском» – неофициальный перевод официальной документации Python: версии от 2.6 до 3.16, полнотекстовый поиск, английский оригинал рядом с переводом. Эта Markdown-версия страницы предназначена для работы с LLM: вставьте её в ChatGPT, Claude или Cursor.45---67# [`multiprocessing`](https://python-all.ru/3.8/library/multiprocessing.html#module-multiprocessing) – параллелизм на основе процессов89**Исходный код:** [Lib/multiprocessing/](https://python-all.ru/src/3.8/Lib/multiprocessing)1011---1213## Введение1415[`multiprocessing`](https://python-all.ru/3.8/library/multiprocessing.html#module-multiprocessing) – это пакет, который поддерживает порождение процессов с помощью API, похожего на модуль [`threading`](https://python-all.ru/3.8/library/threading.html#module-threading). Пакет [`multiprocessing`](https://python-all.ru/3.8/library/multiprocessing.html#module-multiprocessing) предоставляет как локальную, так и удалённую конкурентность, обходя [глобальную блокировку интерпретатора](https://python-all.ru/3.8/glossary.html#term-global-interpreter-lock) за счёт использования подпроцессов вместо потоков. Благодаря этому модуль [`multiprocessing`](https://python-all.ru/3.8/library/multiprocessing.html#module-multiprocessing) позволяет программисту полностью задействовать несколько процессоров на данной машине. Он работает как в Unix, так и в Windows.1617Модуль [`multiprocessing`](https://python-all.ru/3.8/library/multiprocessing.html#module-multiprocessing) также предоставляет API, у которых нет аналогов в модуле [`threading`](https://python-all.ru/3.8/library/threading.html#module-threading). Яркий пример – объект [`Pool`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.pool.Pool), который предоставляет удобный способ распараллеливания выполнения функции для нескольких входных значений, распределяя входные данные между процессами (параллелизм данных). Следующий пример демонстрирует обычную практику определения таких функций в модуле, чтобы дочерние процессы могли успешно импортировать этот модуль. Этот базовый пример параллелизма данных с использованием [`Pool`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.pool.Pool),1819```python20from multiprocessing import Pool2122def f(x):23 return x*x2425if __name__ == '__main__':26 with Pool(5) as p:27 print(p.map(f, [1, 2, 3]))28```2930будет выводить на стандартный вывод3132```python33[1, 4, 9]34```3536### Класс [`Process`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Process)3738В [`multiprocessing`](https://python-all.ru/3.8/library/multiprocessing.html#module-multiprocessing) процессы порождаются созданием объекта [`Process`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Process) и последующим вызовом его метода [`start()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Process.start). [`Process`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Process) следует API [`threading.Thread`](https://python-all.ru/3.8/library/threading.html#threading.Thread). Простой пример многопроцессной программы:3940```python41from multiprocessing import Process4243def f(name):44 print('hello', name)4546if __name__ == '__main__':47 p = Process(target=f, args=('bob',))48 p.start()49 p.join()50```5152Чтобы показать идентификаторы задействованных процессов, вот расширенный пример:5354```python55from multiprocessing import Process56import os5758def info(title):59 print(title)60 print('module name:', __name__)61 print('parent process:', os.getppid())62 print('process id:', os.getpid())6364def f(name):65 info('function f')66 print('hello', name)6768if __name__ == '__main__':69 info('main line')70 p = Process(target=f, args=('bob',))71 p.start()72 p.join()73```7475Объяснение того, зачем нужна часть `if __name__ == '__main__'`, см. в [руководстве по программированию](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing-programming).7677### Контексты и методы запуска7879В зависимости от платформы [`multiprocessing`](https://python-all.ru/3.8/library/multiprocessing.html#module-multiprocessing) поддерживает три способа запуска процесса. Эти *методы запуска*:8081> ***spawn***82>83> Родительский процесс запускает новый процесс интерпретатора python. Дочерний процесс наследует только те ресурсы, которые необходимы для выполнения метода [`run()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Process.run) объекта процесса. В частности, ненужные файловые дескрипторы и дескрипторы из родительского процесса не наследуются. Запуск процесса с помощью этого метода довольно медленный по сравнению с использованием *fork* или *forkserver*.84>85> Доступно на Unix и Windows. По умолчанию используется на Windows и macOS.86>87> ***fork***88>89> Родительский процесс использует [`os.fork()`](https://python-all.ru/3.8/library/os.html#os.fork) для форка интерпретатора Python. Дочерний процесс в начале своего выполнения фактически идентичен родительскому процессу. Все ресурсы родительского процесса наследуются дочерним процессом. Обратите внимание, что безопасный форк многопоточного процесса проблематичен.90>91> Доступно только на Unix. По умолчанию используется на Unix.92>93> ***forkserver***94>95> Когда программа запускается и выбирает метод запуска *forkserver*, запускается серверный процесс. После этого каждый раз, когда требуется новый процесс, родительский процесс подключается к серверу и запрашивает создание (fork) нового процесса. Серверный процесс (fork server) является однопоточным, поэтому ему безопасно использовать [`os.fork()`](https://python-all.ru/3.8/library/os.html#os.fork). Ненужные ресурсы не наследуются.96>97> Доступно на платформах Unix, которые поддерживают передачу файловых дескрипторов через каналы Unix.9899Изменено в версии 3.8: В macOS метод запуска *spawn* теперь используется по умолчанию. Метод запуска *fork* следует считать небезопасным, так как он может привести к краху подпроцесса. См. [bpo-33725](https://python-all.ru/3.8/library/multiprocessing.html).100101Изменено в версии 3.4: *spawn* добавлен на всех платформах Unix, а *forkserver* добавлен для некоторых платформ Unix. Дочерние процессы больше не наследуют все наследуемые дескрипторы родительского процесса в Windows.102103On Unix using the *spawn* or *forkserver* start methods will also start a *resource tracker* process which tracks the unlinked named system resources (such as named semaphores or [`SharedMemory`](https://python-all.ru/3.8/library/multiprocessing.shared_memory.html#multiprocessing.shared_memory.SharedMemory) objects) created by processes of the program. When all processes have exited the resource tracker unlinks any remaining tracked object. Usually there should be none, but if a process was killed by a signal there may be some “leaked” resources. (Neither leaked semaphores nor shared memory segments will be automatically unlinked until the next reboot. This is problematic for both objects because the system allows only a limited number of named semaphores, and shared memory segments occupy some space in the main memory.)104105Для выбора метода запуска используется [`set_start_method()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.set_start_method) в блоке `if __name__ == '__main__'` главного модуля. Например:106107```python108import multiprocessing as mp109110def foo(q):111 q.put('hello')112113if __name__ == '__main__':114 mp.set_start_method('spawn')115 q = mp.Queue()116 p = mp.Process(target=foo, args=(q,))117 p.start()118 print(q.get())119 p.join()120```121122[`set_start_method()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.set_start_method) не должен использоваться более одного раза в программе.123124В качестве альтернативы можно использовать [`get_context()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.get_context) для получения объекта контекста. Объекты контекста имеют тот же API, что и модуль multiprocessing, и позволяют использовать несколько методов запуска в одной программе.125126```python127import multiprocessing as mp128129def foo(q):130 q.put('hello')131132if __name__ == '__main__':133 ctx = mp.get_context('spawn')134 q = ctx.Queue()135 p = ctx.Process(target=foo, args=(q,))136 p.start()137 print(q.get())138 p.join()139```140141Обратите внимание: объекты, связанные с одним контекстом, могут быть несовместимы с процессами другого контекста. В частности, блокировки, созданные с помощью контекста *fork*, нельзя передавать процессам, запущенным с помощью методов запуска *spawn* или *forkserver*.142143Библиотека, которая хочет использовать определённый метод запуска, вероятно, должна использовать [`get_context()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.get_context), чтобы не мешать выбору пользователя библиотеки.144145> **Предупреждение**146>147> Методы запуска `'spawn'` и `'forkserver'` в настоящее время не могут использоваться с «замороженными» исполняемыми файлами (т.е. бинарными файлами, созданными такими пакетами, как **PyInstaller** и **cx\_Freeze**) на Unix. Метод запуска `'fork'` работает.148149### Обмен объектами между процессами150151[`multiprocessing`](https://python-all.ru/3.8/library/multiprocessing.html#module-multiprocessing) поддерживает два типа каналов связи между процессами:152153**Очереди**154155> Класс [`Queue`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Queue) является почти точной копией [`queue.Queue`](https://python-all.ru/3.8/library/queue.html#queue.Queue). Например:156>157> ```python158> from multiprocessing import Process, Queue159>160> def f(q):161> q.put([42, None, 'hello'])162>163> if __name__ == '__main__':164> q = Queue()165> p = Process(target=f, args=(q,))166> p.start()167> print(q.get()) # печатает "[42, None, 'hello']"168> p.join()169> ```170>171> Очереди потокобезопасны и безопасны для процессов.172173**Каналы**174175> Функция [`Pipe()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Pipe) возвращает пару объектов соединения, связанных каналом, который по умолчанию является дуплексным (двунаправленным). Например:176>177> ```python178> from multiprocessing import Process, Pipe179>180> def f(conn):181> conn.send([42, None, 'hello'])182> conn.close()183>184> if __name__ == '__main__':185> parent_conn, child_conn = Pipe()186> p = Process(target=f, args=(child_conn,))187> p.start()188> print(parent_conn.recv()) # печатает "[42, None, 'hello']"189> p.join()190> ```191>192> Два объекта соединения, возвращаемые [`Pipe()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Pipe), представляют два конца канала. Каждый объект соединения имеет методы `send()` и `recv()` (среди прочих). Обратите внимание: данные в канале могут быть повреждены, если два процесса (или потока) попытаются одновременно читать или писать в *один и тот же* конец канала. Разумеется, нет риска повреждения, если процессы одновременно используют разные концы канала.193194### Синхронизация между процессами195196[`multiprocessing`](https://python-all.ru/3.8/library/multiprocessing.html#module-multiprocessing) содержит эквиваленты всех примитивов синхронизации из [`threading`](https://python-all.ru/3.8/library/threading.html#module-threading). Например, можно использовать блокировку, чтобы гарантировать, что только один процесс одновременно выводит на стандартный вывод:197198```python199from multiprocessing import Process, Lock200201def f(l, i):202 l.acquire()203 try:204 print('hello world', i)205 finally:206 l.release()207208if __name__ == '__main__':209 lock = Lock()210211 for num in range(10):212 Process(target=f, args=(lock, num)).start()213```214215Без использования блокировки вывод от разных процессов может полностью перепутаться.216217### Совместное использование состояния между процессами218219Как уже упоминалось, при параллельном программировании обычно лучше избегать использования общего состояния, насколько это возможно. Это особенно верно при использовании нескольких процессов.220221Однако если действительно необходимо использовать некоторые общие данные, то [`multiprocessing`](https://python-all.ru/3.8/library/multiprocessing.html#module-multiprocessing) предоставляет несколько способов сделать это.222223**Разделяемая память**224225> Данные могут храниться в отображении разделяемой памяти с помощью [`Value`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Value) или [`Array`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Array). Например, следующий код226>227> ```python228> from multiprocessing import Process, Value, Array229>230> def f(n, a):231> n.value = 3.1415927232> for i in range(len(a)):233> a[i] = -a[i]234>235> if __name__ == '__main__':236> num = Value('d', 0.0)237> arr = Array('i', range(10))238>239> p = Process(target=f, args=(num, arr))240> p.start()241> p.join()242>243> print(num.value)244> print(arr[:])245> ```246>247> выведет248>249> ```python250> 3.1415927251> [0, -1, -2, -3, -4, -5, -6, -7, -8, -9]252> ```253>254> Аргументы `'d'` и `'i'`, используемые при создании `num` и `arr`, – это коды типов, аналогичные используемым модулем [`array`](https://python-all.ru/3.8/library/array.html#module-array): `'d'` означает число с плавающей запятой двойной точности, а `'i'` – целое число со знаком. Эти разделяемые объекты будут безопасными для процессов и потоков.255>256> Для большей гибкости при работе с разделяемой памятью можно использовать модуль [`multiprocessing.sharedctypes`](https://python-all.ru/3.8/library/multiprocessing.html#module-multiprocessing.sharedctypes), который поддерживает создание произвольных объектов ctypes, выделенных из разделяемой памяти.257258**Серверный процесс**259260> Объект-менеджер, возвращаемый `Manager()`, управляет серверным процессом, который содержит объекты Python и позволяет другим процессам манипулировать ими с помощью прокси.261>262> Менеджер, возвращаемый `Manager()`, поддерживает типы [`list`](https://python-all.ru/3.8/library/stdtypes.html#list), [`dict`](https://python-all.ru/3.8/library/stdtypes.html#dict), [`Namespace`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.managers.Namespace), [`Lock`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Lock), [`RLock`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.RLock), [`Semaphore`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Semaphore), [`BoundedSemaphore`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.BoundedSemaphore), [`Condition`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Condition), [`Event`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Event), [`Barrier`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Barrier), [`Queue`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Queue), [`Value`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Value) и [`Array`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Array). Например,263>264> ```python265> from multiprocessing import Process, Manager266>267> def f(d, l):268> d[1] = '1'269> d['2'] = 2270> d[0.25] = None271> l.reverse()272>273> if __name__ == '__main__':274> with Manager() as manager:275> d = manager.dict()276> l = manager.list(range(10))277>278> p = Process(target=f, args=(d, l))279> p.start()280> p.join()281>282> print(d)283> print(l)284> ```285>286> выведет287>288> ```python289> {0.25: None, 1: '1', '2': 2}290> [9, 8, 7, 6, 5, 4, 3, 2, 1, 0]291> ```292>293> Серверные менеджеры процессов более гибкие, чем использование объектов разделяемой памяти, потому что их можно настроить на поддержку произвольных типов объектов. Кроме того, один менеджер может быть разделён между процессами на разных компьютерах через сеть. Однако они медленнее, чем использование разделяемой памяти.294295### Использование пула рабочих процессов296297Класс [`Pool`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.pool.Pool) представляет пул рабочих процессов. Он имеет методы, которые позволяют передавать задачи рабочим процессам несколькими различными способами.298299Например:300301```python302from multiprocessing import Pool, TimeoutError303import time304import os305306def f(x):307 return x*x308309if __name__ == '__main__':310 # запустить 4 рабочих процесса311 with Pool(processes=4) as pool:312313 # печатает "[0, 1, 4,..., 81]"314 print(pool.map(f, range(10)))315316 # печатает те же числа в произвольном порядке317 for i in pool.imap_unordered(f, range(10)):318 print(i)319320 # вычисляет "f(20)" асинхронно321 res = pool.apply_async(f, (20,)) # выполняется *только* в одном процессе322 print(res.get(timeout=1)) # печатает "400"323324 # вычисляет "os.getpid()" асинхронно325 res = pool.apply_async(os.getpid, ()) # выполняется *только* в одном процессе326 print(res.get(timeout=1)) # печатает PID этого процесса327328 # запуск нескольких асинхронных вычислений *может* задействовать больше процессов329 multiple_results = [pool.apply_async(os.getpid, ()) for i in range(4)]330 print([res.get(timeout=1) for res in multiple_results])331332 # заставить один рабочий процесс спать 10 секунд333 res = pool.apply_async(time.sleep, (10,))334 try:335 print(res.get(timeout=1))336 except TimeoutError:337 print("We lacked patience and got a multiprocessing.TimeoutError")338339 print("For the moment, the pool remains available for more work")340341 # выход из блока 'with' остановил пул342 print("Now the pool is closed and no longer available")343```344345Обратите внимание: методы пула должны использоваться только тем процессом, который его создал.346347> **Примечание**348>349> Для функциональности этого пакета требуется, чтобы модуль `__main__` был импортируемым дочерними процессами. Это описано в [Рекомендациях по программированию](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing-programming), но стоит упомянуть об этом и здесь. Это означает, что некоторые примеры, такие как примеры [`multiprocessing.pool.Pool`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.pool.Pool), не будут работать в интерактивном интерпретаторе. Например:350>351> ```python352> >>> from multiprocessing import Pool353> >>> p = Pool(5)354> >>> def f(x):355> ... return x*x356> ...357> >>> with p:358> ... p.map(f, [1,2,3])359> Process PoolWorker-1:360> Process PoolWorker-2:361> Process PoolWorker-3:362> Traceback (most recent call last):363> Traceback (most recent call last):364> Traceback (most recent call last):365> AttributeError: 'module' object has no attribute 'f'366> AttributeError: 'module' object has no attribute 'f'367> AttributeError: 'module' object has no attribute 'f'368> ```369>370> (Если попробовать это сделать, на самом деле будет выведено три полных трассировки стека, перемешанных в полу-случайном порядке, и, возможно, придётся как-то остановить родительский процесс.)371372## Ссылка373374Пакет [`multiprocessing`](https://python-all.ru/3.8/library/multiprocessing.html#module-multiprocessing) в основном повторяет API модуля [`threading`](https://python-all.ru/3.8/library/threading.html#module-threading).375376### [`Process`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Process) и исключения377378#### `class multiprocessing.Process(group=None, target=None, name=None, args=(), kwargs={}, *, daemon=None)`379380Объекты Process представляют активность, выполняемую в отдельном процессе. Класс [`Process`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Process) имеет эквиваленты всех методов [`threading.Thread`](https://python-all.ru/3.8/library/threading.html#threading.Thread).381382Конструктор всегда следует вызывать с именованными аргументами. *group* всегда должен быть `None`; он существует только для совместимости с [`threading.Thread`](https://python-all.ru/3.8/library/threading.html#threading.Thread). *target* – это вызываемый объект, который будет вызван методом [`run()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Process.run). По умолчанию `None`, то есть ничего не вызывается. *name* – это имя процесса (см. [`name`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Process.name) для подробностей). *args* – кортеж аргументов для вызова целевой функции. *kwargs* – это словарь именованных аргументов для вызова целевой функции. Если указан, аргумент только по ключевому слову *daemon* устанавливает флаг процесса [`daemon`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Process.daemon) в `True` или `False`. Если `None` (по умолчанию), этот флаг будет унаследован от создающего процесса.383384По умолчанию в *target* не передаётся никаких аргументов.385386Если подкласс переопределяет конструктор, он должен вызывать конструктор базового класса (`Process.__init__()`) перед любыми другими действиями над процессом.387388Изменено в версии 3.3: Добавлен аргумент *daemon*.389390#### `run()`391392Метод, представляющий активность процесса.393394Этот метод можно переопределить в подклассе. Стандартный метод [`run()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Process.run) вызывает вызываемый объект, переданный конструктору объекта в качестве аргумента target, если он есть, с позиционными и именованными аргументами, взятыми из аргументов *args* и *kwargs* соответственно.395396#### `start()`397398Запускает активность процесса.399400Этот метод должен быть вызван не более одного раза для каждого объекта процесса. Он обеспечивает вызов метода [`run()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Process.run) объекта в отдельном процессе.401402#### `join([timeout])`403404Если необязательный аргумент *timeout* равен `None` (по умолчанию), метод блокируется до завершения процесса, у которого вызывается метод [`join()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Process.join). Если *timeout* – положительное число, блокировка длится не более *timeout* секунд. Обратите внимание: метод возвращает `None`, если процесс завершился или истекло время ожидания. Проверьте [`exitcode`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Process.exitcode) процесса, чтобы определить, завершился ли он.405406Процесс может быть присоединён много раз.407408Процесс не может присоединить сам себя, так как это приведёт к взаимоблокировке. Попытка вызвать join для процесса до его запуска является ошибкой.409410#### `name`411412Имя процесса. Имя – это строка, используемая только для идентификации. Оно не имеет семантического значения. Несколько процессов могут иметь одно и то же имя.413414Начальное имя устанавливается конструктором. Если явное имя не передано конструктору, создаётся имя вида ‘Process-N1:N2:…:Nk’, где каждая Nk – это N-й дочерний процесс своего родителя.415416#### `is_alive()`417418Возвращает, жив ли процесс.419420Грубо говоря, объект процесса живёт с момента возврата метода [`start()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Process.start) до завершения дочернего процесса.421422#### `daemon`423424Флаг демона процесса (логическое значение). Должен быть установлен до вызова [`start()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Process.start).425426Начальное значение наследуется от создающего процесса.427428Когда процесс завершается, он пытается завершить все свои дочерние процессы-демоны.429430Обратите внимание, что процессу-демону не разрешается создавать дочерние процессы. Иначе процесс-демон оставил бы своих потомков осиротевшими, если бы он был завершён при выходе своего родительского процесса. Кроме того, это **не** демоны или службы Unix, а обычные процессы, которые будут завершены (и не присоединены), если не-демонические процессы завершились.431432В дополнение к API [`threading.Thread`](https://python-all.ru/3.8/library/threading.html#threading.Thread) объекты [`Process`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Process) также поддерживают следующие атрибуты и методы:433434#### `pid`435436Возвращает идентификатор процесса. До запуска процесса это будет `None`.437438#### `exitcode`439440Код завершения дочернего процесса. Он будет равен `None`, если процесс ещё не завершён. Отрицательное значение *-N* означает, что дочерний процесс был завершён сигналом *N*.441442#### `authkey`443444Ключ аутентификации процесса (байтовая строка).445446При инициализации [`multiprocessing`](https://python-all.ru/3.8/library/multiprocessing.html#module-multiprocessing) главному процессу назначается случайная строка с помощью [`os.urandom()`](https://python-all.ru/3.8/library/os.html#os.urandom).447448При создании объекта [`Process`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Process) он наследует ключ аутентификации своего родительского процесса, хотя его можно изменить, установив [`authkey`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Process.authkey) в другую байтовую строку.449450См. [Ключи аутентификации](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing-auth-keys).451452#### `sentinel`453454Числовой дескриптор системного объекта, который становится «готов» по завершении процесса.455456Это значение можно использовать для ожидания нескольких событий одновременно с помощью [`multiprocessing.connection.wait()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.connection.wait). В противном случае вызов [`join()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Process.join) проще.457458В Windows это дескриптор ОС, который можно использовать с семейством `WaitForSingleObject` и `WaitForMultipleObjects` вызовов API. В Unix это файловый дескриптор, который можно использовать с примитивами из модуля [`select`](https://python-all.ru/3.8/library/select.html#module-select).459460Новое в версии 3.3.461462#### `terminate()`463464Завершает процесс. На Unix это делается с помощью сигнала `SIGTERM`; на Windows используется `TerminateProcess()`. Обратите внимание, что обработчики выхода и блоки finally и т.д. выполняться не будут.465466Обратите внимание, что процессы-потомки *не* будут завершены – они просто станут осиротевшими.467468> **Предупреждение**469>470> Если этот метод используется, когда связанный процесс использует канал или очередь, то канал или очередь могут быть повреждены и стать непригодными для использования другими процессами. Аналогично, если процесс захватил блокировку или семафор и т.п., то его завершение может привести к взаимной блокировке других процессов.471472#### `kill()`473474То же, что и [`terminate()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Process.terminate), но с использованием сигнала `SIGKILL` в Unix.475476Добавлено в версии 3.7.477478#### `close()`479480Закрывает объект [`Process`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Process), освобождая все связанные с ним ресурсы. Если соответствующий процесс ещё выполняется, возбуждается [`ValueError`](https://python-all.ru/3.8/library/exceptions.html#ValueError). После успешного возврата из [`close()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Process.close) большинство других методов и атрибутов объекта [`Process`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Process) будут возбуждать [`ValueError`](https://python-all.ru/3.8/library/exceptions.html#ValueError).481482Добавлено в версии 3.7.483484Обратите внимание: методы [`start()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Process.start), [`join()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Process.join), [`is_alive()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Process.is_alive), [`terminate()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Process.terminate) и [`exitcode`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Process.exitcode) должны вызываться только тем процессом, который создал объект процесса.485486Пример использования некоторых методов [`Process`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Process):487488```pycon489 >>> import multiprocessing, time, signal490 >>> p = multiprocessing.Process(target=time.sleep, args=(1000,))491 >>> print(p, p.is_alive())492 <Process ... initial> False493 >>> p.start()494 >>> print(p, p.is_alive())495 <Process ... started> True496 >>> p.terminate()497 >>> time.sleep(0.1)498 >>> print(p, p.is_alive())499 <Process ... stopped exitcode=-SIGTERM> False500 >>> p.exitcode == -signal.SIGTERM501 True502```503504#### `exception multiprocessing.ProcessError`505506Базовый класс всех исключений [`multiprocessing`](https://python-all.ru/3.8/library/multiprocessing.html#module-multiprocessing).507508#### `exception multiprocessing.BufferTooShort`509510Исключение, возбуждаемое `Connection.recv_bytes_into()`, когда предоставленный буфер слишком мал для чтения сообщения.511512Если `e` является экземпляром [`BufferTooShort`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.BufferTooShort), то `e.args[0]` вернёт сообщение в виде байтовой строки.513514#### `exception multiprocessing.AuthenticationError`515516Возбуждается при ошибке аутентификации.517518#### `exception multiprocessing.TimeoutError`519520Возбуждается методами с тайм-аутом по истечении тайм-аута.521522### Каналы и очереди523524При использовании нескольких процессов обычно применяется передача сообщений для взаимодействия между процессами, что позволяет избежать использования примитивов синхронизации, таких как блокировки.525526Для передачи сообщений можно использовать [`Pipe()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Pipe) (для соединения между двумя процессами) или очередь (которая допускает несколько производителей и потребителей).527528Типы [`Queue`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Queue), [`SimpleQueue`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.SimpleQueue) и [`JoinableQueue`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.JoinableQueue) – это очереди с несколькими производителями и потребителями, работающие по принципу FIFO и созданные по образцу класса [`queue.Queue`](https://python-all.ru/3.8/library/queue.html#queue.Queue) из стандартной библиотеки. Они отличаются тем, что в [`Queue`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Queue) отсутствуют методы [`task_done()`](https://python-all.ru/3.8/library/queue.html#queue.Queue.task_done) и [`join()`](https://python-all.ru/3.8/library/queue.html#queue.Queue.join), введённые в класс [`queue.Queue`](https://python-all.ru/3.8/library/queue.html#queue.Queue) в Python 2.5.529530Если используется [`JoinableQueue`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.JoinableQueue), то **обязательно** вызывайте [`JoinableQueue.task_done()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.JoinableQueue.task_done) для каждой задачи, извлечённой из очереди; в противном случае семафор, используемый для подсчёта незавершённых задач, может переполниться, что приведёт к возбуждению исключения.531532Обратите внимание, что общую очередь также можно создать с помощью объекта-менеджера – см. [Менеджеры](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing-managers).533534> **Примечание**535>536> [`multiprocessing`](https://python-all.ru/3.8/library/multiprocessing.html#module-multiprocessing) использует обычные исключения [`queue.Empty`](https://python-all.ru/3.8/library/queue.html#queue.Empty) и [`queue.Full`](https://python-all.ru/3.8/library/queue.html#queue.Full) для сигнализации тайм-аута. Они недоступны в пространстве имён [`multiprocessing`](https://python-all.ru/3.8/library/multiprocessing.html#module-multiprocessing), поэтому их необходимо импортировать из [`queue`](https://python-all.ru/3.8/library/queue.html#module-queue).537538> **Примечание**539>540> Когда объект помещается в очередь, он сериализуется с помощью модуля pickle, и фоновый поток позднее сбрасывает сериализованные данные в нижележащий канал. Это имеет некоторые неожиданные последствия, но обычно не вызывает практических трудностей – если это действительно беспокоит, можно вместо этого использовать очередь, созданную с помощью [менеджера](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing-managers).541>542> 1. После помещения объекта в пустую очередь может пройти бесконечно малая задержка, прежде чем метод [`empty()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Queue.empty) очереди вернёт [`False`](https://python-all.ru/3.8/library/constants.html#False) и [`get_nowait()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Queue.get_nowait) сможет вернуться без возбуждения [`queue.Empty`](https://python-all.ru/3.8/library/queue.html#queue.Empty).543> 2. Если несколько процессов помещают объекты в очередь, возможно получение объектов на другом конце не по порядку. Однако объекты, помещённые в очередь одним и тем же процессом, всегда будут идти друг за другом в ожидаемом порядке.544545> **Предупреждение**546>547> Если процесс завершается принудительно с помощью [`Process.terminate()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Process.terminate) или [`os.kill()`](https://python-all.ru/3.8/library/os.html#os.kill) в то время, как он пытается использовать [`Queue`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Queue), данные в очереди могут быть повреждены. Это может привести к тому, что любой другой процесс при попытке использовать очередь получит исключение.548549> **Предупреждение**550>551> Как упоминалось выше, если дочерний процесс поместил элементы в очередь (и не использовал [`JoinableQueue.cancel_join_thread`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Queue.cancel_join_thread)), он не завершится, пока все буферизованные элементы не будут сброшены в канал.552>553> Это означает, что при попытке присоединиться к этому процессу может возникнуть взаимоблокировка, если не быть уверенным, что все помещённые в очередь элементы были потреблены. Аналогично, если дочерний процесс не является демоническим, родительский процесс может зависнуть при завершении, когда попытается присоединиться ко всем своим недемоническим потомкам.554>555> Обратите внимание, что очередь, созданная с помощью менеджера, не имеет этой проблемы. См. [Рекомендации по программированию](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing-programming).556557Пример использования очередей для межпроцессного взаимодействия см. в разделе [Примеры](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing-examples).558559#### `multiprocessing.Pipe([duplex])`560561Возвращает пару `(conn1, conn2)` объектов [`Connection`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.connection.Connection), представляющих концы канала.562563Если *duplex* равно `True` (по умолчанию), то канал двунаправленный. Если *duplex* равно `False`, то канал однонаправленный: `conn1` можно использовать только для получения сообщений, а `conn2` – только для отправки.564565#### `class multiprocessing.Queue([maxsize])`566567Возвращает общедоступную очередь для процессов, реализованную с помощью канала и нескольких блокировок/семафоров. Когда процесс впервые помещает элемент в очередь, запускается поток-загрузчик, который передаёт объекты из буфера в канал.568569Обычные исключения [`queue.Empty`](https://python-all.ru/3.8/library/queue.html#queue.Empty) и [`queue.Full`](https://python-all.ru/3.8/library/queue.html#queue.Full) из модуля [`queue`](https://python-all.ru/3.8/library/queue.html#module-queue) стандартной библиотеки возбуждаются для сигнализации тайм-аутов.570571[`Queue`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Queue) реализует все методы [`queue.Queue`](https://python-all.ru/3.8/library/queue.html#queue.Queue), за исключением [`task_done()`](https://python-all.ru/3.8/library/queue.html#queue.Queue.task_done) и [`join()`](https://python-all.ru/3.8/library/queue.html#queue.Queue.join).572573#### `qsize()`574575Возвращает приблизительный размер очереди. Из-за семантики многопоточности/многопроцессности это число не является надёжным.576577Обратите внимание, что это может вызвать [`NotImplementedError`](https://python-all.ru/3.8/library/exceptions.html#NotImplementedError) на Unix-платформах, таких как Mac OS X, где `sem_getvalue()` не реализован.578579#### `empty()`580581Возвращает `True`, если очередь пуста, иначе `False`. Из-за семантики многопоточности/многопроцессности это ненадёжно.582583#### `full()`584585Возвращает `True`, если очередь заполнена, иначе `False`. Из-за семантики многопоточности/многопроцессности это ненадёжно.586587#### `put(obj[, block[, timeout]])`588589Помещает obj в очередь. Если необязательный аргумент *block* равен `True` (по умолчанию) и *timeout* равен `None` (по умолчанию), при необходимости блокируется до появления свободного места. Если *timeout* положительное число, блокируется не более чем на *timeout* секунд и возбуждает исключение [`queue.Full`](https://python-all.ru/3.8/library/queue.html#queue.Full), если за это время свободное место не появилось. В противном случае (*block* равен `False`) помещает элемент в очередь, если свободное место доступно немедленно, иначе возбуждает исключение [`queue.Full`](https://python-all.ru/3.8/library/queue.html#queue.Full) (*timeout* в этом случае игнорируется).590591Изменено в версии 3.8: Если очередь закрыта, возбуждается [`ValueError`](https://python-all.ru/3.8/library/exceptions.html#ValueError) вместо [`AssertionError`](https://python-all.ru/3.8/library/exceptions.html#AssertionError).592593#### `put_nowait(obj)`594595Эквивалентно `put(obj, False)`.596597#### `get([block[, timeout]])`598599Удаляет и возвращает элемент из очереди. Если необязательный аргумент *block* равен `True` (по умолчанию) и *timeout* равен `None` (по умолчанию), при необходимости блокируется до появления элемента. Если *timeout* положительное число, блокируется не более чем на *timeout* секунд и возбуждает исключение [`queue.Empty`](https://python-all.ru/3.8/library/queue.html#queue.Empty), если за это время элемент не появился. В противном случае (block равен `False`) возвращает элемент, если он доступен немедленно, иначе возбуждает исключение [`queue.Empty`](https://python-all.ru/3.8/library/queue.html#queue.Empty) (*timeout* в этом случае игнорируется).600601Изменено в версии 3.8: Если очередь закрыта, возбуждается [`ValueError`](https://python-all.ru/3.8/library/exceptions.html#ValueError) вместо [`OSError`](https://python-all.ru/3.8/library/exceptions.html#OSError).602603#### `get_nowait()`604605Эквивалентно `get(False)`.606607[`multiprocessing.Queue`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Queue) имеет несколько дополнительных методов, отсутствующих в [`queue.Queue`](https://python-all.ru/3.8/library/queue.html#queue.Queue). Обычно эти методы не нужны в большинстве кода:608609#### `close()`610611Указывает, что текущий процесс больше не будет помещать данные в эту очередь. Фоновый поток завершится после того, как сбросит все буферизованные данные в канал. Этот метод вызывается автоматически при сборке мусора очереди.612613#### `join_thread()`614615Присоединяет фоновый поток. Этот метод можно использовать только после вызова [`close()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Queue.close). Он блокируется до завершения фонового потока, гарантируя, что все данные из буфера сброшены в канал.616617По умолчанию, если процесс не является создателем очереди, при завершении он попытается присоединить фоновый поток очереди. Процесс может вызвать [`cancel_join_thread()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Queue.cancel_join_thread), чтобы сделать [`join_thread()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Queue.join_thread) бездействующим.618619#### `cancel_join_thread()`620621Предотвращает блокировку [`join_thread()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Queue.join_thread). В частности, это предотвращает автоматическое присоединение фонового потока при завершении процесса – см. [`join_thread()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Queue.join_thread).622623Более подходящим именем для этого метода могло бы быть `allow_exit_without_flush()`. Он, скорее всего, приведёт к потере поставленных в очередь данных, и почти наверняка вам не понадобится его использовать. Он нужен только в том случае, если текущий процесс должен немедленно завершиться, не дожидаясь сброса поставленных в очередь данных в нижележащий канал, и вас не волнует потеря данных.624625> **Примечание**626>627> Функциональность этого класса требует работающей реализации общего семафора в хост-операционной системе. Без неё функциональность класса будет отключена, а попытки создать экземпляр [`Queue`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Queue) приведут к [`ImportError`](https://python-all.ru/3.8/library/exceptions.html#ImportError). См. [bpo-3770](https://python-all.ru/3.8/library/multiprocessing.html) для дополнительной информации. То же самое относится и ко всем специализированным типам очередей, перечисленным ниже.628629#### `class multiprocessing.SimpleQueue`630631Это упрощённый тип [`Queue`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Queue), очень похожий на [`Pipe`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Pipe) с блокировкой.632633#### `empty()`634635Возвращает `True`, если очередь пуста, иначе `False`.636637#### `get()`638639Извлекает и возвращает элемент из очереди.640641#### `put(item)`642643Помещает *item* в очередь.644645#### `class multiprocessing.JoinableQueue([maxsize])`646647[`JoinableQueue`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.JoinableQueue), подкласс [`Queue`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Queue), – это очередь, которая дополнительно имеет методы [`task_done()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.JoinableQueue.task_done) и [`join()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.JoinableQueue.join).648649#### `task_done()`650651Указывает, что ранее поставленная в очередь задача завершена. Используется потребителями очереди. Для каждого [`get()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Queue.get), используемого для получения задачи, последующий вызов [`task_done()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.JoinableQueue.task_done) сообщает очереди, что обработка задачи завершена.652653Если [`join()`](https://python-all.ru/3.8/library/queue.html#queue.Queue.join) в данный момент заблокирован, он возобновится, когда все элементы будут обработаны (то есть для каждого элемента, который был [`put()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Queue.put) в очередь, был получен вызов [`task_done()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.JoinableQueue.task_done)).654655Вызывает [`ValueError`](https://python-all.ru/3.8/library/exceptions.html#ValueError), если вызывается больше раз, чем было помещено элементов в очередь.656657#### `join()`658659Блокируется до тех пор, пока все элементы в очереди не будут извлечены и обработаны.660661Счётчик незавершённых задач увеличивается каждый раз, когда элемент добавляется в очередь. Счётчик уменьшается, когда потребитель вызывает [`task_done()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.JoinableQueue.task_done), чтобы указать, что элемент извлечён и вся работа над ним завершена. Когда счётчик незавершённых задач падает до нуля, [`join()`](https://python-all.ru/3.8/library/queue.html#queue.Queue.join) разблокируется.662663### Разное664665#### `multiprocessing.active_children()`666667Возвращает список всех активных дочерних процессов текущего процесса.668669Вызов этой функции имеет побочный эффект – «присоединение» всех уже завершённых процессов.670671#### `multiprocessing.cpu_count()`672673Возвращает количество процессоров в системе.674675Это число не равно количеству процессоров, которые текущий процесс может использовать. Количество доступных процессоров можно получить с помощью `len(os.sched_getaffinity(0))`676677Может вызвать [`NotImplementedError`](https://python-all.ru/3.8/library/exceptions.html#NotImplementedError).678679> **См. также**680>681> [`os.cpu_count()`](https://python-all.ru/3.8/library/os.html#os.cpu_count)682683#### `multiprocessing.current_process()`684685Возвращает объект [`Process`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Process), соответствующий текущему процессу.686687Аналог [`threading.current_thread()`](https://python-all.ru/3.8/library/threading.html#threading.current_thread).688689#### `multiprocessing.parent_process()`690691Возвращает объект [`Process`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Process), соответствующий родительскому процессу [`current_process()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.current_process). Для главного процесса `parent_process` будет `None`.692693Новое в версии 3.8.694695#### `multiprocessing.freeze_support()`696697Добавляет поддержку для случая, когда программа, использующая [`multiprocessing`](https://python-all.ru/3.8/library/multiprocessing.html#module-multiprocessing), была заморожена для создания исполняемого файла Windows. (Протестировано с **py2exe**, **PyInstaller** и **cx\_Freeze**.)698699Эту функцию необходимо вызвать сразу после строки `if __name__ == '__main__'` в главном модуле. Например:700701```python702from multiprocessing import Process, freeze_support703704def f():705 print('hello world!')706707if __name__ == '__main__':708 freeze_support()709 Process(target=f).start()710```711712Если строка `freeze_support()` опущена, то попытка запустить замороженный исполняемый файл вызовет [`RuntimeError`](https://python-all.ru/3.8/library/exceptions.html#RuntimeError).713714Вызов `freeze_support()` не имеет эффекта при запуске на любой операционной системе, кроме Windows. Кроме того, если модуль запускается обычным образом интерпретатором Python в Windows (программа не была заморожена), то `freeze_support()` также не имеет эффекта.715716#### `multiprocessing.get_all_start_methods()`717718Возвращает список поддерживаемых методов запуска, первый из которых является методом по умолчанию. Возможными методами запуска являются `'fork'`, `'spawn'` и `'forkserver'`. В Windows доступен только `'spawn'`. В Unix `'fork'` и `'spawn'` всегда поддерживаются, причём `'fork'` используется по умолчанию.719720Новое в версии 3.4.721722#### `multiprocessing.get_context(method=None)`723724Возвращает объект контекста, который имеет те же атрибуты, что и модуль [`multiprocessing`](https://python-all.ru/3.8/library/multiprocessing.html#module-multiprocessing).725726Если *method* равен `None`, то возвращается контекст по умолчанию. В противном случае *method* должен быть `'fork'`, `'spawn'`, `'forkserver'`. [`ValueError`](https://python-all.ru/3.8/library/exceptions.html#ValueError) вызывается, если указанный метод запуска недоступен.727728Новое в версии 3.4.729730#### `multiprocessing.get_start_method(allow_none=False)`731732Возвращает имя метода запуска, используемого для запуска процессов.733734Если метод запуска не был задан и *allow\_none* равен false, то метод запуска фиксируется как используемый по умолчанию, и возвращается его название. Если метод запуска не был задан и *allow\_none* равен true, то возвращается `None`.735736Возвращаемое значение может быть `'fork'`, `'spawn'`, `'forkserver'` или `None`. `'fork'` является значением по умолчанию в Unix, тогда как `'spawn'` – по умолчанию в Windows и macOS.737738Изменено в версии 3.8: В macOS метод запуска *spawn* теперь используется по умолчанию. Метод запуска *fork* следует считать небезопасным, так как он может привести к краху подпроцесса. См. [bpo-33725](https://python-all.ru/3.8/library/multiprocessing.html).739740Новое в версии 3.4.741742#### `multiprocessing.set_executable()`743744Устанавливает путь к интерпретатору Python, используемому при запуске дочернего процесса. (По умолчанию используется [`sys.executable`](https://python-all.ru/3.8/library/sys.html#sys.executable)). Встраивающим пользователям, вероятно, потребуется сделать что-то вроде745746```python747set_executable(os.path.join(sys.exec_prefix, 'pythonw.exe'))748```749750прежде чем они смогут создавать дочерние процессы.751752Изменено в версии 3.4: Теперь поддерживается в Unix при использовании метода запуска `'spawn'`.753754#### `multiprocessing.set_start_method(method)`755756Задаёт метод, который будет использоваться для запуска дочерних процессов. *method* может быть `'fork'`, `'spawn'` или `'forkserver'`.757758Обратите внимание, что эта функция должна вызываться не более одного раза, и она должна быть защищена внутри блока `if __name__ == '__main__'` главного модуля.759760Новое в версии 3.4.761762> **Примечание**763>764> [`multiprocessing`](https://python-all.ru/3.8/library/multiprocessing.html#module-multiprocessing) не содержит аналогов [`threading.active_count()`](https://python-all.ru/3.8/library/threading.html#threading.active_count), [`threading.enumerate()`](https://python-all.ru/3.8/library/threading.html#threading.enumerate), [`threading.settrace()`](https://python-all.ru/3.8/library/threading.html#threading.settrace), [`threading.setprofile()`](https://python-all.ru/3.8/library/threading.html#threading.setprofile), [`threading.Timer`](https://python-all.ru/3.8/library/threading.html#threading.Timer) или [`threading.local`](https://python-all.ru/3.8/library/threading.html#threading.local).765766### Объекты подключения767768Объекты подключения позволяют отправлять и получать сериализуемые (picklable) объекты или строки. Их можно рассматривать как ориентированные на сообщения соединённые сокеты.769770Объекты подключения обычно создаются с помощью [`Pipe`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Pipe) – см. также [Слушатели и клиенты](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing-listeners-clients).771772#### `class multiprocessing.connection.Connection`773774#### `send(obj)`775776Отправляет объект на другой конец подключения; его следует читать с помощью [`recv()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.connection.Connection.recv).777778Объект должен быть сериализуемым. Очень большие сериализованные объекты (примерно от 32 МиБ, хотя зависит от ОС) могут вызвать исключение [`ValueError`](https://python-all.ru/3.8/library/exceptions.html#ValueError).779780#### `recv()`781782Возвращает объект, отправленный с другого конца подключения с помощью [`send()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.connection.Connection.send). Блокируется, пока не появятся данные для получения. Вызывает [`EOFError`](https://python-all.ru/3.8/library/exceptions.html#EOFError), если больше нечего получать и другой конец был закрыт.783784#### `fileno()`785786Возвращает файловый дескриптор или дескриптор (handle), используемый подключением.787788#### `close()`789790Закрывает подключение.791792Вызывается автоматически при сборке мусора для подключения.793794#### `poll([timeout])`795796Возвращает, есть ли данные для чтения.797798Если *timeout* не указан, то метод возвращается немедленно. Если *timeout* – число, то оно задаёт максимальное время блокировки в секундах. Если *timeout* равно `None`, то используется бесконечное ожидание.799800Обратите внимание: с помощью [`multiprocessing.connection.wait()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.connection.wait) можно одновременно опрашивать несколько объектов подключения.801802#### `send_bytes(buffer[, offset[, size]])`803804Отправляет байтовые данные из [байтоподобного объекта](https://python-all.ru/3.8/glossary.html#term-bytes-like-object) как полное сообщение.805806Если задан *offset*, то данные читаются с этой позиции в *buffer*. Если задан *size*, то из буфера будет прочитано соответствующее количество байт. Очень большие буферы (примерно от 32 МиБ, хотя это зависит от ОС) могут возбудить исключение [`ValueError`](https://python-all.ru/3.8/library/exceptions.html#ValueError)807808#### `recv_bytes([maxlength])`809810Возвращает полное сообщение из байтовых данных, отправленное с другого конца подключения, в виде строки. Блокируется, пока не появятся данные для получения. Вызывает [`EOFError`](https://python-all.ru/3.8/library/exceptions.html#EOFError), если больше нечего получать и другой конец закрыт.811812Если указан *maxlength* и сообщение длиннее *maxlength*, то вызывается [`OSError`](https://python-all.ru/3.8/library/exceptions.html#OSError), и подключение больше не будет доступно для чтения.813814Изменено в версии 3.3: Ранее эта функция вызывала [`IOError`](https://python-all.ru/3.8/library/exceptions.html#IOError), которая теперь является псевдонимом [`OSError`](https://python-all.ru/3.8/library/exceptions.html#OSError).815816#### `recv_bytes_into(buffer[, offset])`817818Читает в *buffer* полное сообщение с байтовыми данными, отправленное с другого конца соединения, и возвращает количество байтов в сообщении. Блокирует выполнение, пока не появится что-то для приёма. Возбуждает [`EOFError`](https://python-all.ru/3.8/library/exceptions.html#EOFError), если больше нечего принимать и другой конец был закрыт.819820*buffer* должен быть доступным для записи [байтоподобным объектом](https://python-all.ru/3.8/glossary.html#term-bytes-like-object). Если задан *offset*, то сообщение будет записано в буфер, начиная с этой позиции. Offset должен быть неотрицательным целым числом, меньшим длины *buffer* (в байтах).821822Если буфер слишком мал, то вызывается исключение `BufferTooShort` и полное сообщение доступно как `e.args[0]`, где `e` экземпляр исключения.823824Изменено в версии 3.3: Теперь объекты подключения могут передаваться между процессами с помощью [`Connection.send()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.connection.Connection.send) и [`Connection.recv()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.connection.Connection.recv).825826Новое в версии 3.3: Объекты Connection теперь поддерживают протокол управления контекстом – см. [Типы менеджеров контекста](https://python-all.ru/3.8/library/stdtypes.html#typecontextmanager). [`__enter__()`](https://python-all.ru/3.8/library/stdtypes.html#contextmanager.__enter__) возвращает объект соединения, а [`__exit__()`](https://python-all.ru/3.8/library/stdtypes.html#contextmanager.__exit__) вызывает [`close()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.connection.Connection.close).827828Например:829830```pycon831>>> from multiprocessing import Pipe832>>> a, b = Pipe()833>>> a.send([1, 'hello', None])834>>> b.recv()835[1, 'hello', None]836>>> b.send_bytes(b'thank you')837>>> a.recv_bytes()838b'thank you'839>>> import array840>>> arr1 = array.array('i', range(5))841>>> arr2 = array.array('i', [0] * 10)842>>> a.send_bytes(arr1)843>>> count = b.recv_bytes_into(arr2)844>>> assert count == len(arr1) * arr1.itemsize845>>> arr2846array('i', [0, 1, 2, 3, 4, 0, 0, 0, 0, 0])847```848849> **Предупреждение**850>851> Метод [`Connection.recv()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.connection.Connection.recv) автоматически десериализует полученные данные, что может быть угрозой безопасности, если нельзя доверять процессу, отправившему сообщение.852>853> Поэтому, если объект подключения не был создан с помощью `Pipe()` следует использовать методы [`recv()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.connection.Connection.recv) и [`send()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.connection.Connection.send) только после выполнения некоторой аутентификации. См. [Ключи аутентификации](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing-auth-keys).854855> **Предупреждение**856>857> Если процесс завершается принудительно во время чтения или записи в канал, данные в канале, скорее всего, повредятся, так как может стать невозможно определить границы сообщений.858859### Примитивы синхронизации860861В целом, в многопроцессных программах примитивы синхронизации требуются не так часто, как в многопоточных. См. документацию модуля [`threading`](https://python-all.ru/3.8/library/threading.html#module-threading).862863Обратите внимание, что примитивы синхронизации можно также создавать с помощью объекта менеджера – см. [Менеджеры](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing-managers).864865#### `class multiprocessing.Barrier(parties[, action[, timeout]])`866867Объект барьера: клон [`threading.Barrier`](https://python-all.ru/3.8/library/threading.html#threading.Barrier).868869Новое в версии 3.3.870871#### `class multiprocessing.BoundedSemaphore([value])`872873Объект ограниченного семафора: близкий аналог [`threading.BoundedSemaphore`](https://python-all.ru/3.8/library/threading.html#threading.BoundedSemaphore).874875Имеется единственное отличие от его близкого аналога: первый аргумент метода `acquire` называется *block*, что согласуется с [`Lock.acquire()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Lock.acquire).876877> **Примечание**878>879> На Mac OS X это неотличимо от [`Semaphore`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Semaphore), поскольку `sem_getvalue()` не реализован на этой платформе.880881#### `class multiprocessing.Condition([lock])`882883Условная переменная: псевдоним для [`threading.Condition`](https://python-all.ru/3.8/library/threading.html#threading.Condition).884885Если указана *блокировка*, то она должна быть объектом [`Lock`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Lock) или [`RLock`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.RLock) из [`multiprocessing`](https://python-all.ru/3.8/library/multiprocessing.html#module-multiprocessing).886887Изменено в версии 3.3: Был добавлен метод [`wait_for()`](https://python-all.ru/3.8/library/threading.html#threading.Condition.wait_for).888889#### `class multiprocessing.Event`890891Клон [`threading.Event`](https://python-all.ru/3.8/library/threading.html#threading.Event).892893#### `class multiprocessing.Lock`894895Нерекурсивный объект блокировки: близкий аналог [`threading.Lock`](https://python-all.ru/3.8/library/threading.html#threading.Lock). Когда процесс или поток захватывает блокировку, последующие попытки захватить её из любого процесса или потока будут блокироваться до её освобождения; любой процесс или поток может её освободить. Концепции и поведение [`threading.Lock`](https://python-all.ru/3.8/library/threading.html#threading.Lock) применительно к потокам воспроизводятся здесь в [`multiprocessing.Lock`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Lock) применительно к процессам или потокам, за исключением отмеченных случаев.896897Обратите внимание, что [`Lock`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Lock) на самом деле является фабричной функцией, которая возвращает экземпляр `multiprocessing.synchronize.Lock`, инициализированный контекстом по умолчанию.898899[`Lock`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Lock) поддерживает протокол [менеджера контекста](https://python-all.ru/3.8/glossary.html#term-context-manager) и поэтому может использоваться в операторах [`with`](https://python-all.ru/3.8/reference/compound_stmts.html#with).900901#### `acquire(block=True, timeout=None)`902903Захватывает блокировку, блокирующую или неблокирующую.904905Если аргумент *block* установлен в `True` (по умолчанию), вызов метода будет блокироваться, пока блокировка не окажется в разблокированном состоянии, затем установит её в заблокированное состояние и вернёт `True`. Обратите внимание, что имя этого первого аргумента отличается от имени в [`threading.Lock.acquire()`](https://python-all.ru/3.8/library/threading.html#threading.Lock.acquire).906907Если аргумент *block* установлен в `False`, вызов метода не блокируется. Если блокировка в данный момент находится в заблокированном состоянии, возвращается `False`; в противном случае блокировка устанавливается в заблокированное состояние и возвращается `True`.908909При вызове с положительным значением с плавающей точкой для *timeout* блокировка выполняется не дольше числа секунд, указанного в *timeout*, пока блокировку не удастся захватить. Вызовы с отрицательным значением *timeout* эквивалентны *timeout*, равному нулю. Вызовы со значением *timeout* равным `None` (по умолчанию) устанавливают бесконечный период ожидания. Обратите внимание, что обработка отрицательных или `None` значений для *timeout* отличается от реализованного поведения в [`threading.Lock.acquire()`](https://python-all.ru/3.8/library/threading.html#threading.Lock.acquire). Аргумент *timeout* не имеет практического значения, если аргумент *block* установлен в `False`, и поэтому игнорируется. Возвращает `True`, если блокировка была захвачена, или `False`, если период ожидания истёк.910911#### `release()`912913Освобождает блокировку. Может вызываться из любого процесса или потока, а не только из того, который изначально захватил блокировку.914915Поведение аналогично [`threading.Lock.release()`](https://python-all.ru/3.8/library/threading.html#threading.Lock.release) за исключением того, что при вызове на незаблокированной блокировке возбуждается [`ValueError`](https://python-all.ru/3.8/library/exceptions.html#ValueError).916917#### `class multiprocessing.RLock`918919Объект рекурсивной блокировки: близкий аналог [`threading.RLock`](https://python-all.ru/3.8/library/threading.html#threading.RLock). Рекурсивная блокировка должна быть освобождена тем же процессом или потоком, который её захватил. После того как процесс или поток захватил рекурсивную блокировку, тот же процесс или поток может захватить её снова без блокировки; этот процесс или поток должен освободить её по одному разу за каждый захват.920921Обратите внимание, что [`RLock`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.RLock) на самом деле является фабричной функцией, которая возвращает экземпляр `multiprocessing.synchronize.RLock`, инициализированный контекстом по умолчанию.922923[`RLock`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.RLock) поддерживает протокол [менеджера контекста](https://python-all.ru/3.8/glossary.html#term-context-manager) и поэтому может использоваться в операторах [`with`](https://python-all.ru/3.8/reference/compound_stmts.html#with).924925#### `acquire(block=True, timeout=None)`926927Захватывает блокировку, блокирующую или неблокирующую.928929При вызове с аргументом *block*, установленным в `True`, блокируется до тех пор, пока блокировка не окажется в разблокированном состоянии (не принадлежит ни одному процессу или потоку), если только блокировка уже не принадлежит текущему процессу или потоку. Затем текущий процесс или поток получает владение блокировкой (если ещё не владеет ею), и уровень рекурсии внутри блокировки увеличивается на единицу, возвращая значение `True`. Обратите внимание, что имеется несколько различий в поведении этого первого аргумента по сравнению с реализацией [`threading.RLock.acquire()`](https://python-all.ru/3.8/library/threading.html#threading.RLock.acquire), начиная с названия самого аргумента.930931При вызове с аргументом *block*, установленным в `False`, не блокируется. Если блокировка уже была захвачена (и, следовательно, принадлежит) другим процессом или потоком, текущий процесс или поток не получает владение, а уровень рекурсии внутри блокировки не изменяется, возвращая значение `False`. Если блокировка находится в разблокированном состоянии, текущий процесс или поток получает владение, а уровень рекурсии увеличивается, возвращая значение `True`.932933Использование и поведение аргумента *timeout* такие же, как в [`Lock.acquire()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Lock.acquire). Обратите внимание, что некоторые из этих особенностей *timeout* отличаются от реализованного поведения в [`threading.RLock.acquire()`](https://python-all.ru/3.8/library/threading.html#threading.RLock.acquire).934935#### `release()`936937Освобождает блокировку, уменьшая уровень рекурсии. Если после уменьшения уровень рекурсии становится нулевым, переводит блокировку в разблокированное состояние (не принадлежит ни одному процессу или потоку), и если какие-либо другие процессы или потоки ожидают разблокировки, позволяет ровно одному из них продолжить. Если после уменьшения уровень рекурсии всё ещё ненулевой, блокировка остаётся заблокированной и принадлежащей вызывающему процессу или потоку.938939Вызывайте этот метод только когда вызывающий процесс или поток владеет блокировкой. Исключение [`AssertionError`](https://python-all.ru/3.8/library/exceptions.html#AssertionError) возбуждается, если этот метод вызывается процессом или потоком, не являющимся владельцем, или если блокировка находится в разблокированном (непринадлежащем) состоянии. Обратите внимание, что тип возбуждаемого исключения в этой ситуации отличается от реализованного поведения в [`threading.RLock.release()`](https://python-all.ru/3.8/library/threading.html#threading.RLock.release).940941#### `class multiprocessing.Semaphore([value])`942943Объект семафора: близкий аналог [`threading.Semaphore`](https://python-all.ru/3.8/library/threading.html#threading.Semaphore).944945Имеется единственное отличие от его близкого аналога: первый аргумент метода `acquire` называется *block*, что согласуется с [`Lock.acquire()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Lock.acquire).946947> **Примечание**948>949> На Mac OS X `sem_timedwait` не поддерживается, поэтому вызов `acquire()` с тайм-аутом будет эмулировать поведение этой функции с помощью спящего цикла.950951> **Примечание**952>953> Если сигнал SIGINT, сгенерированный `Ctrl-C`, поступает, когда главный поток блокирован вызовом `BoundedSemaphore.acquire()`, [`Lock.acquire()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Lock.acquire), [`RLock.acquire()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.RLock.acquire), `Semaphore.acquire()`, `Condition.acquire()` или `Condition.wait()`, то вызов будет немедленно прерван и возбуждено [`KeyboardInterrupt`](https://python-all.ru/3.8/library/exceptions.html#KeyboardInterrupt).954>955> Это отличается от поведения [`threading`](https://python-all.ru/3.8/library/threading.html#module-threading), где SIGINT игнорируется, пока выполняются эквивалентные блокирующие вызовы.956957> **Примечание**958>959> Некоторые функции этого пакета требуют работающей реализации общего семафора в операционной системе. При её отсутствии модуль `multiprocessing.synchronize` будет отключён, а попытки импортировать его приведут к [`ImportError`](https://python-all.ru/3.8/library/exceptions.html#ImportError). См. [bpo-3770](https://python-all.ru/3.8/library/multiprocessing.html) для получения дополнительной информации.960961### Общие [`ctypes`](https://python-all.ru/3.8/library/ctypes.html#module-ctypes) объекты962963Можно создавать общие объекты с помощью разделяемой памяти, которые могут наследоваться дочерними процессами.964965#### `multiprocessing.Value(typecode_or_type, *args, lock=True)`966967Возвращает объект [`ctypes`](https://python-all.ru/3.8/library/ctypes.html#module-ctypes), выделенный из разделяемой памяти. По умолчанию возвращаемое значение на самом деле является синхронизированной обёрткой для объекта. Сам объект можно получить через атрибут *value* объекта [`Value`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Value).968969*typecode\_or\_type* определяет тип возвращаемого объекта: это либо тип ctypes, либо однобуквенный код типа, используемый модулем [`array`](https://python-all.ru/3.8/library/array.html#module-array). *\*args* передаётся конструктору типа.970971Если *блокировка* равна `True` (по умолчанию), то создаётся новый рекурсивный объект блокировки для синхронизации доступа к значению. Если *блокировка* является объектом [`Lock`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Lock) или [`RLock`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.RLock), то она будет использоваться для синхронизации доступа к значению. Если *блокировка* равна `False`, то доступ к возвращаемому объекту не будет автоматически защищён блокировкой, поэтому он не обязательно будет "процессобезопасным".972973Операции, подобные `+=`, которые включают чтение и запись, не являются атомарными. Поэтому, если, например, требуется атомарно увеличить разделяемое значение, недостаточно просто сделать974975```python976counter.value += 1977```978979При условии, что связанная блокировка рекурсивна (по умолчанию она такой и является), можно вместо этого сделать980981```python982with counter.get_lock():983 counter.value += 1984```985986Обратите внимание, что *блокировка* – это аргумент, передаваемый только по ключевому слову.987988#### `multiprocessing.Array(typecode_or_type, size_or_initializer, *, lock=True)`989990Возвращает массив ctypes, выделенный из разделяемой памяти. По умолчанию возвращаемое значение на самом деле является синхронизированной обёрткой для массива.991992*typecode\_or\_type* определяет тип элементов возвращаемого массива: это либо ctypes-тип, либо однобуквенный код типа, используемый модулем [`array`](https://python-all.ru/3.8/library/array.html#module-array). Если *size\_or\_initializer* – целое число, то оно определяет длину массива, и массив будет заполнен нулями. В противном случае *size\_or\_initializer* – это последовательность, которая используется для инициализации массива, и её длина определяет длину массива.993994Если *блокировка* равен `True` (по умолчанию), создаётся новый объект блокировки для синхронизации доступа к значению. Если *блокировка* – объект [`Lock`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Lock) или [`RLock`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.RLock), то он будет использоваться для синхронизации доступа к значению. Если *блокировка* равен `False`, доступ к возвращаемому объекту не будет автоматически защищён блокировкой, поэтому он не обязательно будет «процесс-безопасным».995996Обратите внимание, что *блокировка* – это аргумент, передаваемый только по ключевому слову.997998Обратите внимание, что массив типа [`ctypes.c_char`](https://python-all.ru/3.8/library/ctypes.html#ctypes.c_char) имеет атрибуты *value* и *raw*, которые позволяют использовать его для хранения и извлечения строк.9991000#### Модуль [`multiprocessing.sharedctypes`](https://python-all.ru/3.8/library/multiprocessing.html#module-multiprocessing.sharedctypes)10011002Модуль [`multiprocessing.sharedctypes`](https://python-all.ru/3.8/library/multiprocessing.html#module-multiprocessing.sharedctypes) предоставляет функции для выделения объектов [`ctypes`](https://python-all.ru/3.8/library/ctypes.html#module-ctypes) из разделяемой памяти, которые могут быть унаследованы дочерними процессами.10031004> **Примечание**1005>1006> Хотя можно сохранить указатель в разделяемой памяти, следует помнить, что он будет ссылаться на местоположение в адресном пространстве конкретного процесса. Однако указатель, скорее всего, будет недействительным в контексте второго процесса, и попытка разыменования указателя из второго процесса может привести к аварийному завершению.10071008#### `multiprocessing.sharedctypes.RawArray(typecode_or_type, size_or_initializer)`10091010Возвращает массив ctypes, выделенный из разделяемой памяти.10111012*typecode\_or\_type* определяет тип элементов возвращаемого массива: это либо тип ctypes, либо однобуквенный код типа, используемый модулем [`array`](https://python-all.ru/3.8/library/array.html#module-array). Если *size\_or\_initializer* – целое число, то оно определяет длину массива, и массив будет изначально заполнен нулями. В противном случае *size\_or\_initializer* – это последовательность, которая используется для инициализации массива, и её длина определяет длину массива.10131014Обратите внимание, что установка и получение элемента потенциально неатомарны – используйте вместо этого [`Array()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.sharedctypes.Array), чтобы гарантировать автоматическую синхронизацию доступа с помощью блокировки.10151016#### `multiprocessing.sharedctypes.RawValue(typecode_or_type, *args)`10171018Возвращает объект ctypes, выделенный из разделяемой памяти.10191020*typecode\_or\_type* определяет тип возвращаемого объекта: это либо тип ctypes, либо однобуквенный код типа, используемый модулем [`array`](https://python-all.ru/3.8/library/array.html#module-array). *\*args* передаётся конструктору типа.10211022Обратите внимание, что установка и получение значения потенциально неатомарны – используйте вместо этого [`Value()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.sharedctypes.Value), чтобы гарантировать автоматическую синхронизацию доступа с помощью блокировки.10231024Обратите внимание, что массив [`ctypes.c_char`](https://python-all.ru/3.8/library/ctypes.html#ctypes.c_char) имеет атрибуты `value` и `raw`, которые позволяют использовать его для сохранения и извлечения строк – см. документацию к [`ctypes`](https://python-all.ru/3.8/library/ctypes.html#module-ctypes).10251026#### `multiprocessing.sharedctypes.Array(typecode_or_type, size_or_initializer, *, lock=True)`10271028То же, что и [`RawArray()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.sharedctypes.RawArray), за исключением того, что в зависимости от значения *блокировка* может возвращаться процессобезопасная синхронизирующая обёртка вместо необработанного массива ctypes.10291030Если *блокировка* равна `True` (по умолчанию), то создаётся новый объект блокировки для синхронизации доступа к значению. Если *блокировка* является объектом [`Lock`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Lock) или [`RLock`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.RLock), то она будет использоваться для синхронизации доступа к значению. Если *блокировка* равна `False`, то доступ к возвращаемому объекту не будет автоматически защищён блокировкой, поэтому он не обязательно будет "процессобезопасным".10311032Обратите внимание, что *блокировка* – это аргумент, передаваемый только по ключевому слову.10331034#### `multiprocessing.sharedctypes.Value(typecode_or_type, *args, lock=True)`10351036То же, что и [`RawValue()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.sharedctypes.RawValue), за исключением того, что в зависимости от значения *блокировка* может возвращаться процессобезопасная синхронизирующая обёртка вместо необработанного объекта ctypes.10371038Если *блокировка* равен `True` (по умолчанию), создаётся новый объект блокировки для синхронизации доступа к значению. Если *блокировка* – объект [`Lock`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Lock) или [`RLock`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.RLock), то он будет использоваться для синхронизации доступа к значению. Если *блокировка* равен `False`, доступ к возвращаемому объекту не будет автоматически защищён блокировкой, поэтому он не обязательно будет «процесс-безопасным».10391040Обратите внимание, что *блокировка* – это аргумент, передаваемый только по ключевому слову.10411042#### `multiprocessing.sharedctypes.copy(obj)`10431044Возвращает объект ctypes, выделенный в общей памяти и являющийся копией объекта ctypes *obj*.10451046#### `multiprocessing.sharedctypes.synchronized(obj[, lock])`10471048Возвращает процесс-безопасную обёртку для объекта ctypes, которая использует *блокировка* для синхронизации доступа. Если *блокировка* равен `None` (по умолчанию), объект [`multiprocessing.RLock`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.RLock) создаётся автоматически.10491050Синхронизированная обёртка будет иметь два дополнительных метода (помимо методов обёрнутого объекта): `get_obj()` возвращает обёрнутый объект, а `get_lock()` – объект блокировки, используемый для синхронизации.10511052Обратите внимание, что доступ к объекту ctypes через обёртку может быть значительно медленнее, чем доступ к исходному объекту ctypes.10531054Изменено в версии 3.5: Синхронизированные объекты поддерживают протокол [контекстного менеджера](https://python-all.ru/3.8/glossary.html#term-context-manager).10551056В таблице ниже сравнивается синтаксис создания разделяемых объектов ctypes из общей памяти с обычным синтаксисом ctypes. (В таблице `MyStruct` – это некоторый подкласс [`ctypes.Structure`](https://python-all.ru/3.8/library/ctypes.html#ctypes.Structure).)10571058| ctypes | sharedctypes с типом | sharedctypes с typecode |1059| --- | --- | --- |1060| c\_double(2.4) | RawValue(c\_double, 2.4) | RawValue(‘d’, 2.4) |1061| MyStruct(4, 6) | RawValue(MyStruct, 4, 6) | |1062| (c\_short \* 7)() | RawArray(c\_short, 7) | RawArray(‘h’, 7) |1063| (c\_int \* 3)(9, 2, 8) | RawArray(c\_int, (9, 2, 8)) | RawArray(‘i’, (9, 2, 8)) |10641065Ниже приведён пример, в котором дочерний процесс изменяет несколько объектов ctypes:10661067```python1068from multiprocessing import Process, Lock1069from multiprocessing.sharedctypes import Value, Array1070from ctypes import Structure, c_double10711072class Point(Structure):1073 _fields_ = [('x', c_double), ('y', c_double)]10741075def modify(n, x, s, A):1076 n.value **= 21077 x.value **= 21078 s.value = s.value.upper()1079 for a in A:1080 a.x **= 21081 a.y **= 210821083if __name__ == '__main__':1084 lock = Lock()10851086 n = Value('i', 7)1087 x = Value(c_double, 1.0/3.0, lock=False)1088 s = Array('c', b'hello world', lock=lock)1089 A = Array(Point, [(1.875,-6.25), (-5.75,2.0), (2.375,9.5)], lock=lock)10901091 p = Process(target=modify, args=(n, x, s, A))1092 p.start()1093 p.join()10941095 print(n.value)1096 print(x.value)1097 print(s.value)1098 print([(a.x, a.y) for a in A])1099```11001101Выводятся следующие результаты:11021103```text11044911050.11111111111111111106HELLO WORLD1107[(3.515625, 39.0625), (33.0625, 4.0), (5.640625, 90.25)]1108```11091110### Менеджеры11111112Менеджеры предоставляют способ создания данных, которыми можно обмениваться между разными процессами, в том числе по сети между процессами, выполняющимися на разных машинах. Объект менеджера управляет серверным процессом, который управляет *разделяемыми объектами*. Другие процессы могут получать доступ к разделяемым объектам через прокси.11131114#### `multiprocessing.Manager()`11151116Возвращает запущенный объект [`SyncManager`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.managers.SyncManager), который можно использовать для совместного использования объектов между процессами. Возвращаемый объект менеджера соответствует порождённому дочернему процессу и имеет методы, которые создают разделяемые объекты и возвращают соответствующие прокси.11171118Процессы менеджера завершаются, как только они будут собраны сборщиком мусора или завершится их родительский процесс. Классы менеджера определены в модуле [`multiprocessing.managers`](https://python-all.ru/3.8/library/multiprocessing.html#module-multiprocessing.managers):11191120#### `class multiprocessing.managers.BaseManager([address[, authkey]])`11211122Создает объект BaseManager.11231124После создания необходимо вызвать [`start()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.managers.BaseManager.start) или `get_server().serve_forever()`, чтобы объект менеджера ссылался на запущенный процесс менеджера.11251126*address* – адрес, на котором процесс менеджера ожидает новые подключения. Если *address* равно `None`, то выбирается произвольный адрес.11271128*authkey* – ключ аутентификации, который будет использоваться для проверки подлинности входящих подключений к серверному процессу. Если *authkey* равно `None`, используется `current_process().authkey`. В противном случае используется *authkey*, и он должен быть байтовой строкой.11291130#### `start([initializer[, initargs]])`11311132Запускает подпроцесс для запуска менеджера. Если *initializer* не равно `None`, то подпроцесс вызовет `initializer(*initargs)` при запуске.11331134#### `get_server()`11351136Возвращает объект `Server`, представляющий реальный сервер, управляемый менеджером. Объект `Server` поддерживает метод `serve_forever()`:11371138```python1139>>> from multiprocessing.managers import BaseManager1140>>> manager = BaseManager(address=('', 50000), authkey=b'abc')1141>>> server = manager.get_server()1142>>> server.serve_forever()1143```11441145`Server` также имеет атрибут [`address`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.managers.BaseManager.address).11461147#### `connect()`11481149Подключает локальный объект менеджера к удаленному процессу менеджера:11501151```python1152>>> from multiprocessing.managers import BaseManager1153>>> m = BaseManager(address=('127.0.0.1', 50000), authkey=b'abc')1154>>> m.connect()1155```11561157#### `shutdown()`11581159Останавливает процесс, используемый менеджером. Это доступно только если [`start()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.managers.BaseManager.start) был использован для запуска серверного процесса.11601161Этот метод можно вызывать несколько раз.11621163#### `register(typeid[, callable[, proxytype[, exposed[, method_to_typeid[, create_method]]]]])`11641165Метод класса, который можно использовать для регистрации типа или вызываемого объекта в классе менеджера.11661167*typeid* – это «идентификатор типа», который используется для идентификации определенного типа разделяемого объекта. Должен быть строкой.11681169*callable* – это вызываемый объект, используемый для создания объектов для данного идентификатора типа. Если экземпляр менеджера будет подключен к серверу с помощью метода [`connect()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.managers.BaseManager.connect), или если аргумент *create\_method* равен `False`, то этот параметр можно оставить как `None`.11701171*proxytype* – это подкласс [`BaseProxy`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.managers.BaseProxy), который используется для создания прокси для разделяемых объектов с данным *typeid*. Если `None`, то класс прокси создается автоматически.11721173*exposed* используется для указания последовательности имен методов, к которым прокси для данного typeid должны иметь доступ через [`BaseProxy._callmethod()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.managers.BaseProxy._callmethod). (Если *exposed* равно `None`, то вместо него используется `proxytype._exposed_`, если он существует.) Если список exposed не указан, то все «публичные методы» разделяемого объекта будут доступны. (Здесь «публичный метод» означает любой атрибут, у которого есть метод [`__call__()`](https://python-all.ru/3.8/reference/datamodel.html#object.__call__) и имя которого не начинается с `'_'`.)11741175*method\_to\_typeid* – это отображение, используемое для указания возвращаемого типа тех открытых методов, которые должны возвращать прокси. Оно отображает имена методов в строки typeid. (Если *method\_to\_typeid* равно `None`, то вместо него используется `proxytype._method_to_typeid_`, если он существует.) Если имя метода не является ключом этого отображения или отображение равно `None`, то объект, возвращаемый методом, будет скопирован по значению.11761177*create\_method* определяет, следует ли создать метод с именем *typeid*, который можно использовать, чтобы указать серверному процессу создать новый разделяемый объект и вернуть для него прокси. По умолчанию `True`.11781179Экземпляры [`BaseManager`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.managers.BaseManager) также имеют одно свойство только для чтения:11801181#### `address`11821183Адрес, используемый менеджером.11841185Изменено в версии 3.3: Объекты Manager поддерживают протокол управления контекстом – см. [Типы менеджеров контекста](https://python-all.ru/3.8/library/stdtypes.html#typecontextmanager). [`__enter__()`](https://python-all.ru/3.8/library/stdtypes.html#contextmanager.__enter__) запускает серверный процесс (если он еще не запущен), а затем возвращает объект менеджера. [`__exit__()`](https://python-all.ru/3.8/library/stdtypes.html#contextmanager.__exit__) вызывает [`shutdown()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.managers.BaseManager.shutdown).11861187В предыдущих версиях [`__enter__()`](https://python-all.ru/3.8/library/stdtypes.html#contextmanager.__enter__) не запускал серверный процесс менеджера, если он ещё не был запущен.11881189#### `class multiprocessing.managers.SyncManager`11901191Подкласс [`BaseManager`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.managers.BaseManager), который можно использовать для синхронизации процессов. Объекты этого типа возвращаются `multiprocessing.Manager()`.11921193Его методы создают и возвращают [объекты-прокси](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing-proxy-objects) для ряда часто используемых типов данных, которые нужно синхронизировать между процессами. Сюда в первую очередь входят общие списки и словари.11941195#### `Barrier(parties[, action[, timeout]])`11961197Создать общий объект [`threading.Barrier`](https://python-all.ru/3.8/library/threading.html#threading.Barrier) и вернуть для него прокси.11981199Новое в версии 3.3.12001201#### `BoundedSemaphore([value])`12021203Создать общий объект [`threading.BoundedSemaphore`](https://python-all.ru/3.8/library/threading.html#threading.BoundedSemaphore) и вернуть для него прокси.12041205#### `Condition([lock])`12061207Создать общий объект [`threading.Condition`](https://python-all.ru/3.8/library/threading.html#threading.Condition) и вернуть прокси для него.12081209Если *блокировка* предоставлена, то она должна быть прокси для объекта [`threading.Lock`](https://python-all.ru/3.8/library/threading.html#threading.Lock) или [`threading.RLock`](https://python-all.ru/3.8/library/threading.html#threading.RLock).12101211Изменено в версии 3.3: Был добавлен метод [`wait_for()`](https://python-all.ru/3.8/library/threading.html#threading.Condition.wait_for).12121213#### `Event()`12141215Создать общий объект [`threading.Event`](https://python-all.ru/3.8/library/threading.html#threading.Event) и вернуть прокси для него.12161217#### `Lock()`12181219Создать общий объект [`threading.Lock`](https://python-all.ru/3.8/library/threading.html#threading.Lock) и вернуть прокси для него.12201221#### `Namespace()`12221223Создать общий объект [`Namespace`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.managers.Namespace) и вернуть прокси для него.12241225#### `Queue([maxsize])`12261227Создать общий объект [`queue.Queue`](https://python-all.ru/3.8/library/queue.html#queue.Queue) и вернуть прокси для него.12281229#### `RLock()`12301231Создать общий объект [`threading.RLock`](https://python-all.ru/3.8/library/threading.html#threading.RLock) и вернуть прокси для него.12321233#### `Semaphore([value])`12341235Создать общий объект [`threading.Semaphore`](https://python-all.ru/3.8/library/threading.html#threading.Semaphore) и вернуть прокси для него.12361237#### `Array(typecode, sequence)`12381239Создать массив и вернуть для него прокси.12401241#### `Value(typecode, value)`12421243Создать объект с атрибутом `value`, доступным для записи, и вернуть прокси для него.12441245#### `dict()`12461247#### `dict(mapping)`12481249#### `dict(sequence)`12501251Создать общий объект [`dict`](https://python-all.ru/3.8/library/stdtypes.html#dict) и вернуть прокси для него.12521253#### `list()`12541255#### `list(sequence)`12561257Создать общий объект [`list`](https://python-all.ru/3.8/library/stdtypes.html#list) и вернуть прокси для него.12581259Изменено в версии 3.6: Общие объекты могут быть вложенными. Например, общий объект-контейнер, такой как общий список, может содержать другие общие объекты, и все они будут управляться и синхронизироваться [`SyncManager`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.managers.SyncManager).12601261#### `class multiprocessing.managers.Namespace`12621263Тип, который можно зарегистрировать с помощью [`SyncManager`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.managers.SyncManager).12641265Объект пространства имён не имеет открытых методов, но имеет изменяемые атрибуты. Его представление показывает значения его атрибутов.12661267Однако при использовании прокси для объекта пространства имён атрибут, начинающийся с `'_'`, будет атрибутом прокси, а не атрибутом референта:12681269```pycon1270>>> manager = multiprocessing.Manager()1271>>> Global = manager.Namespace()1272>>> Global.x = 101273>>> Global.y = 'hello'1274>>> Global._z = 12.3 # это атрибут прокси1275>>> print(Global)1276Namespace(x=10, y='hello')1277```12781279#### Настраиваемые менеджеры12801281Чтобы создать собственный менеджер, создаётся подкласс [`BaseManager`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.managers.BaseManager) и используется метод класса [`register()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.managers.BaseManager.register) для регистрации новых типов или вызываемых объектов в классе менеджера. Например:12821283```python1284from multiprocessing.managers import BaseManager12851286class MathsClass:1287 def add(self, x, y):1288 return x + y1289 def mul(self, x, y):1290 return x * y12911292class MyManager(BaseManager):1293 pass12941295MyManager.register('Maths', MathsClass)12961297if __name__ == '__main__':1298 with MyManager() as manager:1299 maths = manager.Maths()1300 print(maths.add(4, 3)) # выводит 71301 print(maths.mul(7, 8)) # выводит 561302```13031304#### Использование удалённого менеджера13051306Можно запустить сервер менеджера на одной машине и позволить клиентам использовать его с других машин (при условии, что соответствующие брандмауэры это разрешают).13071308Выполнение следующих команд создаёт сервер для одной общей очереди, к которой удалённые клиенты могут обращаться:13091310```python1311>>> from multiprocessing.managers import BaseManager1312>>> from queue import Queue1313>>> queue = Queue()1314>>> class QueueManager(BaseManager): pass1315>>> QueueManager.register('get_queue', callable=lambda:queue)1316>>> m = QueueManager(address=('', 50000), authkey=b'abracadabra')1317>>> s = m.get_server()1318>>> s.serve_forever()1319```13201321Один клиент может получить доступ к серверу следующим образом:13221323```python1324>>> from multiprocessing.managers import BaseManager1325>>> class QueueManager(BaseManager): pass1326>>> QueueManager.register('get_queue')1327>>> m = QueueManager(address=('foo.bar.org', 50000), authkey=b'abracadabra')1328>>> m.connect()1329>>> queue = m.get_queue()1330>>> queue.put('hello')1331```13321333Другой клиент также может использовать его:13341335```python1336>>> from multiprocessing.managers import BaseManager1337>>> class QueueManager(BaseManager): pass1338>>> QueueManager.register('get_queue')1339>>> m = QueueManager(address=('foo.bar.org', 50000), authkey=b'abracadabra')1340>>> m.connect()1341>>> queue = m.get_queue()1342>>> queue.get()1343'hello'1344```13451346Локальные процессы также могут получить доступ к этой очереди, используя приведённый выше код на клиенте для удалённого доступа к ней:13471348```python1349>>> from multiprocessing import Process, Queue1350>>> from multiprocessing.managers import BaseManager1351>>> class Worker(Process):1352... def __init__(self, q):1353... self.q = q1354... super().__init__()1355... def run(self):1356... self.q.put('local hello')1357...1358>>> queue = Queue()1359>>> w = Worker(queue)1360>>> w.start()1361>>> class QueueManager(BaseManager): pass1362...1363>>> QueueManager.register('get_queue', callable=lambda: queue)1364>>> m = QueueManager(address=('', 50000), authkey=b'abracadabra')1365>>> s = m.get_server()1366>>> s.serve_forever()1367```13681369### Объекты-прокси13701371Прокси – это объект, который *ссылается* на общий объект, находящийся (предположительно) в другом процессе. Общий объект называется *референтом* этого прокси. Несколько объектов-прокси могут иметь один и тот же референт.13721373Объект-прокси имеет методы, которые вызывают соответствующие методы его референта (хотя не каждый метод референта обязательно будет доступен через прокси). Таким образом, прокси можно использовать так же, как и его референт:13741375```pycon1376>>> from multiprocessing import Manager1377>>> manager = Manager()1378>>> l = manager.list([i*i for i in range(10)])1379>>> print(l)1380[0, 1, 4, 9, 16, 25, 36, 49, 64, 81]1381>>> print(repr(l))1382<ListProxy object, typeid 'list' at 0x...>1383>>> l[4]1384161385>>> l[2:5]1386[4, 9, 16]1387```13881389Обратите внимание, что применение [`str()`](https://python-all.ru/3.8/library/stdtypes.html#str) к прокси вернёт представление референта, тогда как применение [`repr()`](https://python-all.ru/3.8/library/functions.html#repr) вернёт представление прокси.13901391Важная особенность объектов-прокси – они сериализуемы (picklable), поэтому их можно передавать между процессами. Таким образом, референт может содержать [Объекты-прокси](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing-proxy-objects). Это допускает вложение управляемых списков, словарей и других [Объектов-прокси](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing-proxy-objects):13921393```pycon1394>>> a = manager.list()1395>>> b = manager.list()1396>>> a.append(b) # референт a теперь содержит референт b1397>>> print(a, b)1398[<ListProxy object, typeid 'list' at ...>] []1399>>> b.append('hello')1400>>> print(a[0], b)1401['hello'] ['hello']1402```14031404Аналогично, прокси словарей и списков могут быть вложены друг в друга:14051406```python1407>>> l_outer = manager.list([ manager.dict() for i in range(2) ])1408>>> d_first_inner = l_outer[0]1409>>> d_first_inner['a'] = 11410>>> d_first_inner['b'] = 21411>>> l_outer[1]['c'] = 31412>>> l_outer[1]['z'] = 261413>>> print(l_outer[0])1414{'a': 1, 'b': 2}1415>>> print(l_outer[1])1416{'c': 3, 'z': 26}1417```14181419Если в референт входят стандартные (не прокси) объекты [`list`](https://python-all.ru/3.8/library/stdtypes.html#list) или [`dict`](https://python-all.ru/3.8/library/stdtypes.html#dict), изменения этих изменяемых значений не будут распространяться через менеджер, потому что прокси не может узнать, когда значения, содержащиеся внутри, изменяются. Однако сохранение значения в прокси-контейнере (что вызывает `__setitem__` на объекте-прокси) распространяется через менеджер, поэтому для эффективного изменения такого элемента можно присвоить изменённое значение обратно в прокси-контейнер:14201421```python1422# создать прокси для списка и добавить изменяемый объект (словарь)1423lproxy = manager.list()1424lproxy.append({})1425# теперь изменить словарь1426d = lproxy[0]1427d['a'] = 11428d['b'] = 21429# на данный момент изменения в d еще не синхронизированы, но при1430# обновлении словаря прокси уведомляется об изменении1431lproxy[0] = d1432```14331434Этот подход, возможно, менее удобен, чем использование вложенных [Объектов-прокси](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing-proxy-objects) в большинстве случаев, но также демонстрирует степень контроля над синхронизацией.14351436> **Примечание**1437>1438> Типы прокси в [`multiprocessing`](https://python-all.ru/3.8/library/multiprocessing.html#module-multiprocessing) не поддерживают сравнение по значению. Так, например:1439>1440> ```pycon1441> >>> manager.list([1,2,3]) == [1,2,3]1442> False1443> ```1444>1445> При сравнении следует просто использовать копию референта.14461447#### `class multiprocessing.managers.BaseProxy`14481449Прокси-объекты являются экземплярами подклассов [`BaseProxy`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.managers.BaseProxy).14501451#### `_callmethod(methodname[, args[, kwds]])`14521453Вызывает метод референта прокси и возвращает результат.14541455Если `proxy` – это прокси, чей референт – `obj`, то выражение14561457```python1458proxy._callmethod(methodname, args, kwds)1459```14601461вычислит выражение14621463```python1464getattr(obj, methodname)(*args, **kwds)1465```14661467в процессе менеджера.14681469Возвращаемое значение будет копией результата вызова или прокси для нового разделяемого объекта – см. документацию по аргументу *method\_to\_typeid* функции [`BaseManager.register()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.managers.BaseManager.register).14701471Если при вызове возникло исключение, то оно повторно возбуждается с помощью [`_callmethod()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.managers.BaseProxy._callmethod). Если в процессе менеджера возникло другое исключение, то оно преобразуется в исключение `RemoteError` и возбуждается с помощью [`_callmethod()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.managers.BaseProxy._callmethod).14721473Обратите внимание, что исключение будет возбуждаться, если *methodname* не был *экспонирован*.14741475Пример использования [`_callmethod()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.managers.BaseProxy._callmethod):14761477```pycon1478>>> l = manager.list(range(10))1479>>> l._callmethod('__len__')1480101481>>> l._callmethod('__getitem__', (slice(2, 7),)) # эквивалентно l[2:7]1482[2, 3, 4, 5, 6]1483>>> l._callmethod('__getitem__', (20,)) # эквивалентно l[20]1484Traceback (most recent call last):1485...1486IndexError: list index out of range1487```14881489#### `_getvalue()`14901491Возвращает копию референта.14921493Если референт не может быть сериализован (unpicklable), то это вызовет исключение.14941495#### `__repr__()`14961497Возвращает представление прокси-объекта.14981499#### `__str__()`15001501Возвращает представление референта.15021503#### Очистка15041505Прокси-объект использует колбэк слабой ссылки: когда он собирается сборщиком мусора, он отменяет свою регистрацию у менеджера, которому принадлежит его референт.15061507Разделяемый объект удаляется из процесса менеджера, когда на него больше не ссылается ни один прокси.15081509### Пулы процессов15101511Можно создать пул процессов, который будет выполнять задачи, отправленные ему с помощью класса [`Pool`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.pool.Pool).15121513#### `class multiprocessing.pool.Pool([processes[, initializer[, initargs[, maxtasksperchild[, context]]]]])`15141515Объект пула процессов, который управляет пулом рабочих процессов, которым можно отправлять задачи. Он поддерживает асинхронные результаты с тайм-аутами и колбэками, а также имеет параллельную реализацию map.15161517*processes* – количество используемых рабочих процессов. Если *processes* равно `None`, то используется число, возвращаемое [`os.cpu_count()`](https://python-all.ru/3.8/library/os.html#os.cpu_count).15181519Если *initializer* не равно `None`, то каждый рабочий процесс вызовет `initializer(*initargs)` при запуске.15201521*maxtasksperchild* – количество задач, которое рабочий процесс может выполнить до завершения и замены новым рабочим процессом, чтобы освободить неиспользуемые ресурсы. Значение по умолчанию *maxtasksperchild* равно `None`, что означает, что рабочие процессы будут жить столько же, сколько и пул.15221523*context* используется для указания контекста, в котором запускаются рабочие процессы. Обычно пул создаётся с помощью функции `multiprocessing.Pool()` или метода [`Pool()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.pool.Pool) объекта контекста. В обоих случаях *context* устанавливается соответствующим образом.15241525Обратите внимание, что методы объекта пула должны вызываться только тем процессом, который создал пул.15261527> **Предупреждение**1528>1529> Объекты [`multiprocessing.pool`](https://python-all.ru/3.8/library/multiprocessing.html#module-multiprocessing.pool) имеют внутренние ресурсы, которые необходимо должным образом управлять (как и любыми другими ресурсами): используйте пул как контекстный менеджер или вызывайте [`close()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.pool.Pool.close) и [`terminate()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.pool.Pool.terminate) вручную. Несоблюдение этого может привести к зависанию процесса при завершении.1530>1531> Обратите внимание, что **неверно** полагаться на сборщик мусора для уничтожения пула поскольку CPython не гарантирует, что финализатор пула будет вызван (см. [`object.__del__()`](https://python-all.ru/3.8/reference/datamodel.html#object.__del__) для получения дополнительной информации).15321533Новое в версии 3.2: *maxtasksperchild*15341535Новое в версии 3.4: *context*15361537> **Примечание**1538>1539> Рабочие процессы внутри [`Pool`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.pool.Pool) обычно существуют в течение всего времени работы очереди пула. Часто используемый в других системах (например, Apache, mod\_wsgi и т.д.) подход для освобождения ресурсов, удерживаемых рабочими процессами, заключается в том, чтобы позволить рабочему процессу в пуле выполнить только определённый объём работы, после чего он завершается, очищается, и на его место запускается новый процесс. Аргумент *maxtasksperchild* функции [`Pool`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.pool.Pool) предоставляет эту возможность конечному пользователю.15401541#### `apply(func[, args[, kwds]])`15421543Вызывает *func* с аргументами *args* и именованными аргументами *kwds*. Блокируется до получения результата. Поскольку этот метод блокируется, [`apply_async()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.pool.Pool.apply_async) лучше подходит для параллельного выполнения работы. Кроме того, *func* выполняется только в одном из рабочих процессов пула.15441545#### `apply_async(func[, args[, kwds[, callback[, error_callback]]]])`15461547Вариант метода [`apply()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.pool.Pool.apply), который возвращает объект [`AsyncResult`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.pool.AsyncResult).15481549Если указан *колбэк*, то это должен быть вызываемый объект, принимающий один аргумент. Когда результат готов, к нему применяется *колбэк*, если только вызов не завершился ошибкой – в этом случае вместо него применяется *колбэк ошибки*.15501551Если указан *error\_callback*, то это должен быть вызываемый объект, принимающий один аргумент. Если целевая функция завершается ошибкой, то *error\_callback* вызывается с экземпляром исключения.15521553Колбэки должны завершаться немедленно, иначе поток, обрабатывающий результаты, будет заблокирован.15541555#### `map(func, iterable[, chunksize])`15561557Параллельный аналог встроенной функции [`map()`](https://python-all.ru/3.8/library/functions.html#map) (однако поддерживает только один аргумент *iterable*, для нескольких итерируемых объектов см. [`starmap()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.pool.Pool.starmap)). Блокируется до получения результата.15581559Этот метод разбивает итерируемый объект на несколько частей (chunks), которые отправляет в пул процессов как отдельные задачи. Приблизительный размер этих частей можно задать, установив *chunksize* в положительное целое число.15601561Обратите внимание, что для очень длинных итерируемых объектов это может привести к высокому потреблению памяти. Для повышения эффективности рассмотрите возможность использования [`imap()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.pool.Pool.imap) или [`imap_unordered()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.pool.Pool.imap_unordered) с явным указанием *chunksize*.15621563#### `map_async(func, iterable[, chunksize[, callback[, error_callback]]])`15641565Вариант метода [`map()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.pool.Pool.map), который возвращает объект [`AsyncResult`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.pool.AsyncResult).15661567Если указан *колбэк*, то это должен быть вызываемый объект, принимающий один аргумент. Когда результат готов, к нему применяется *колбэк*, если только вызов не завершился ошибкой – в этом случае вместо него применяется *колбэк ошибки*.15681569Если указан *error\_callback*, то это должен быть вызываемый объект, принимающий один аргумент. Если целевая функция завершается ошибкой, то *error\_callback* вызывается с экземпляром исключения.15701571Колбэки должны завершаться немедленно, иначе поток, обрабатывающий результаты, будет заблокирован.15721573#### `imap(func, iterable[, chunksize])`15741575Более ленивая версия [`map()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.pool.Pool.map).15761577Аргумент *chunksize* совпадает с тем, что используется в методе [`map()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.pool.Pool.map). Для очень длинных итерируемых объектов использование большого значения *chunksize* может привести к завершению задачи **значительно** быстрее, чем при использовании значения по умолчанию `1`.15781579Кроме того, если *chunksize* равно `1`, то метод `next()` итератора, возвращаемого методом [`imap()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.pool.Pool.imap), имеет необязательный параметр *timeout*: `next(timeout)` возбудит [`multiprocessing.TimeoutError`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.TimeoutError), если результат не может быть возвращён в течение *timeout* секунд.15801581#### `imap_unordered(func, iterable[, chunksize])`15821583То же, что и [`imap()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.pool.Pool.imap), за исключением того, что порядок результатов из возвращаемого итератора считается произвольным. (Только когда есть только один рабочий процесс, порядок гарантированно будет «правильным».)15841585#### `starmap(func, iterable[, chunksize])`15861587Как [`map()`](https://python-all.ru/3.8/library/functions.html#map), за исключением того, что элементы *iterable* должны быть итерабельными объектами, которые распаковываются как аргументы.15881589Таким образом, *iterable* из `[(1,2), (3, 4)]` приводит к `[func(1,2), func(3,4)]`.15901591Новое в версии 3.3.15921593#### `starmap_async(func, iterable[, chunksize[, callback[, error_callback]]])`15941595Комбинация [`starmap()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.pool.Pool.starmap) и [`map_async()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.pool.Pool.map_async), которая перебирает *iterable* из итерируемых объектов и вызывает *func* с распакованными итерируемыми объектами. Возвращает объект результата.15961597Новое в версии 3.3.15981599#### `close()`16001601Предотвращает отправку новых задач в пул. После завершения всех задач рабочие процессы завершаются.16021603#### `terminate()`16041605Немедленно останавливает рабочие процессы, не дожидаясь завершения незаконченных задач. Когда объект пула будет собран сборщиком мусора, [`terminate()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.pool.Pool.terminate) будет вызван немедленно.16061607#### `join()`16081609Ожидает завершения рабочих процессов. Перед использованием [`join()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.pool.Pool.join) необходимо вызвать [`close()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.pool.Pool.close) или [`terminate()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.pool.Pool.terminate).16101611Новое в версии 3.3: Объекты Pool теперь поддерживают протокол управления контекстом – см.\\n[Context Manager Types](https://python-all.ru/3.8/library/stdtypes.html#typecontextmanager). [`__enter__()`](https://python-all.ru/3.8/library/stdtypes.html#contextmanager.__enter__) возвращает объект pool, а [`__exit__()`](https://python-all.ru/3.8/library/stdtypes.html#contextmanager.__exit__) вызывает [`terminate()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.pool.Pool.terminate).16121613#### `class multiprocessing.pool.AsyncResult`16141615Класс результата, возвращаемого [`Pool.apply_async()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.pool.Pool.apply_async) и [`Pool.map_async()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.pool.Pool.map_async).16161617#### `get([timeout])`16181619Возвращает результат, когда он будет получен. Если *timeout* не равен `None` и результат не поступает в течение *timeout* секунд, то вызывается [`multiprocessing.TimeoutError`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.TimeoutError). Если удалённый вызов вызвал исключение, то это исключение будет повторно возбуждено [`get()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.pool.AsyncResult.get).16201621#### `wait([timeout])`16221623Ожидает, пока результат не станет доступен или пока не пройдёт *timeout* секунд.16241625#### `ready()`16261627Возвращает, завершён ли вызов.16281629#### `successful()`16301631Возвращает, завершился ли вызов без возникновения исключения. Возбуждает [`ValueError`](https://python-all.ru/3.8/library/exceptions.html#ValueError), если результат ещё не готов.16321633Изменено в версии 3.7:Если результат ещё не готов, [`ValueError`](https://python-all.ru/3.8/library/exceptions.html#ValueError) возбуждается вместо [`AssertionError`](https://python-all.ru/3.8/library/exceptions.html#AssertionError).16341635Следующий пример демонстрирует использование пула:16361637```python1638from multiprocessing import Pool1639import time16401641def f(x):1642 return x*x16431644if __name__ == '__main__':1645 with Pool(processes=4) as pool: # запустить 4 рабочих процесса1646 result = pool.apply_async(f, (10,)) # вычислить "f(10)" асинхронно в одном процессе1647 print(result.get(timeout=1)) # выводит "100", если компьютер не *очень* медленный16481649 print(pool.map(f, range(10))) # выводит "[0, 1, 4,..., 81]"16501651 it = pool.imap(f, range(10))1652 print(next(it)) # выводит "0"1653 print(next(it)) # выводит "1"1654 print(it.next(timeout=1)) # выводит "4", если компьютер не *очень* медленный16551656 result = pool.apply_async(time.sleep, (10,))1657 print(result.get(timeout=1)) # вызывает multiprocessing.TimeoutError1658```16591660### Слушатели и клиенты16611662Обычно обмен сообщениями между процессами осуществляется с помощью очередей или объектов [`Connection`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.connection.Connection), возвращаемых [`Pipe()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Pipe).16631664Однако модуль [`multiprocessing.connection`](https://python-all.ru/3.8/library/multiprocessing.html#module-multiprocessing.connection) обеспечивает дополнительную гибкость. По сути, он предоставляет высокоуровневый API, ориентированный на сообщения, для работы с сокетами или именованными каналами Windows. Также поддерживается *аутентификация на основе дайджеста* с использованием модуля [`hmac`](https://python-all.ru/3.8/library/hmac.html#module-hmac) и опрос нескольких подключений одновременно.16651666#### `multiprocessing.connection.deliver_challenge(connection, authkey)`16671668Отправляет случайно сгенерированное сообщение на другой конец соединения и ожидает ответа.16691670Если ответ совпадает с дайджестом сообщения, используя *authkey* в качестве ключа, то на другой конец соединения отправляется приветственное сообщение. В противном случае возбуждается [`AuthenticationError`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.AuthenticationError).16711672#### `multiprocessing.connection.answer_challenge(connection, authkey)`16731674Принимает сообщение, вычисляет дайджест сообщения, используя *authkey* в качестве ключа, а затем отправляет дайджест обратно.16751676Если приветственное сообщение не получено, то возбуждается [`AuthenticationError`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.AuthenticationError).16771678#### `multiprocessing.connection.Client(address[, family[, authkey]])`16791680Пытается установить соединение с слушателем, использующим адрес *address*, возвращая [`Connection`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.connection.Connection).16811682Тип соединения определяется аргументом *family*, но его обычно можно опустить, поскольку он обычно определяется по формату *address*. (См. [Address Formats](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing-address-formats))16831684Если *authkey* задан и не None, он должен быть байтовой строкой и будет использоваться как секретный ключ для проверки подлинности на основе HMAC. Если *authkey* равно None, аутентификация не выполняется. В случае неудачи аутентификации возбуждается исключение [`AuthenticationError`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.AuthenticationError). См. [Ключи аутентификации](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing-auth-keys).16851686#### `class multiprocessing.connection.Listener([address[, family[, backlog[, authkey]]]])`16871688Обёртка для привязанного сокета или именованного канала Windows, который «прослушивает» подключения.16891690*address* – это адрес, который будет использоваться привязанным сокетом или именованным каналом объекта слушателя.16911692> **Примечание**1693>1694> Если используется адрес ‘0.0.0.0’, он не будет доступной точкой подключения в Windows. Если требуется доступная точка подключения, следует использовать ‘127.0.0.1’.16951696*family* – тип используемого сокета (или именованного канала). Может быть одной из строк `'AF_INET'` (для TCP-сокета), `'AF_UNIX'` (для сокета домена Unix) или `'AF_PIPE'` (для именованного канала Windows). Из них гарантированно доступна только первая. Если *family* равно `None`, то семейство определяется по формату *address*. Если *address* также равно `None`, выбирается значение по умолчанию. По умолчанию выбирается семейство, которое считается самым быстрым из доступных. См. [Форматы адресов](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing-address-formats). Обратите внимание: если *family* равно `'AF_UNIX'`, а address равен `None`, то сокет будет создан в частной временной директории, созданной с помощью [`tempfile.mkstemp()`](https://python-all.ru/3.8/library/tempfile.html#tempfile.mkstemp).16971698Если объект listener использует сокет, то *backlog* (по умолчанию 1) передаётся методу [`listen()`](https://python-all.ru/3.8/library/socket.html#socket.socket.listen) сокета после его привязки.16991700Если *authkey* задан и не None, он должен быть байтовой строкой и будет использоваться как секретный ключ для проверки подлинности на основе HMAC. Если *authkey* равно None, аутентификация не выполняется. В случае неудачи аутентификации возбуждается исключение [`AuthenticationError`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.AuthenticationError). См. [Ключи аутентификации](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing-auth-keys).17011702#### `accept()`17031704Принимает соединение на привязанном сокете или именованном канале объекта listener и возвращает объект [`Connection`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.connection.Connection). Если предпринята попытка аутентификации и она не удалась, возбуждается [`AuthenticationError`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.AuthenticationError).17051706#### `close()`17071708Закрывает привязанный сокет или именованный канал объекта listener. Этот метод вызывается автоматически при сборке мусора listener'а. Однако рекомендуется вызывать его явно.17091710Объекты Listener имеют следующие свойства только для чтения:17111712#### `address`17131714Адрес, используемый объектом Listener.17151716#### `last_accepted`17171718Адрес, с которого поступило последнее принятое соединение. Если он недоступен, то равен `None`.17191720Новое в версии 3.3: Объекты Listener теперь поддерживают протокол управления контекстом – см.\\n[Context Manager Types](https://python-all.ru/3.8/library/stdtypes.html#typecontextmanager). [`__enter__()`](https://python-all.ru/3.8/library/stdtypes.html#contextmanager.__enter__) возвращает объект listener, а [`__exit__()`](https://python-all.ru/3.8/library/stdtypes.html#contextmanager.__exit__) вызывает [`close()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.connection.Listener.close).17211722#### `multiprocessing.connection.wait(object_list, timeout=None)`17231724Ожидает, пока объект из *object\_list* не будет готов. Возвращает список тех объектов из *object\_list*, которые готовы. Если *timeout* – число с плавающей точкой, вызов блокируется не более чем на указанное количество секунд. Если *timeout* равен `None`, блокировка будет неограниченной. Отрицательный тайм-аут эквивалентен нулевому.17251726Как в Unix, так и в Windows объект может появиться в *object\_list*, если он17271728- читаемый объект [`Connection`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.connection.Connection);1729- подключенный и читаемый объект [`socket.socket`](https://python-all.ru/3.8/library/socket.html#socket.socket); или1730- атрибут [`sentinel`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Process.sentinel) объекта [`Process`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Process).17311732Объект соединения или сокета готов, когда из него доступны для чтения данные или другой конец был закрыт.17331734**Unix**: `wait(object_list, timeout)` почти эквивалентен `select.select(object_list, [], [], timeout)`. Разница в том, что если [`select.select()`](https://python-all.ru/3.8/library/select.html#select.select) прерван сигналом, он может возбудить [`OSError`](https://python-all.ru/3.8/library/exceptions.html#OSError) с кодом ошибки `EINTR`, тогда как [`wait()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.connection.wait) этого не сделает.17351736**Windows**: Элемент в *object\_list* должен быть либо целочисленным дескриптором, который ожидаем (согласно определению из документации функции Win32 `WaitForMultipleObjects()`), либо объектом с методом `fileno()`, возвращающим дескриптор сокета или канала. (Обратите внимание: дескрипторы каналов и сокетов **не** являются ожидаемыми дескрипторами.)17371738Новое в версии 3.3.17391740**Примеры**17411742Следующий серверный код создаёт listener, который использует `'secret password'` в качестве ключа аутентификации. Затем он ожидает соединения и отправляет некоторые данные клиенту:17431744```python1745from multiprocessing.connection import Listener1746from array import array17471748address = ('localhost', 6000) # семейство определяется как 'AF_INET'17491750with Listener(address, authkey=b'secret password') as listener:1751 with listener.accept() as conn:1752 print('connection accepted from', listener.last_accepted)17531754 conn.send([2.25, None, 'junk', float])17551756 conn.send_bytes(b'hello')17571758 conn.send_bytes(array('i', [42, 1729]))1759```17601761Следующий код подключается к серверу и получает от него некоторые данные:17621763```python1764from multiprocessing.connection import Client1765from array import array17661767address = ('localhost', 6000)17681769with Client(address, authkey=b'secret password') as conn:1770 print(conn.recv()) # => [2.25, None, 'junk', float]17711772 print(conn.recv_bytes()) # => 'hello'17731774 arr = array('i', [0, 0, 0, 0, 0])1775 print(conn.recv_bytes_into(arr)) # => 81776 print(arr) # => array('i', [42, 1729, 0, 0, 0])1777```17781779Следующий код использует [`wait()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.connection.wait) для ожидания сообщений от нескольких процессов одновременно:17801781```python1782import time, random1783from multiprocessing import Process, Pipe, current_process1784from multiprocessing.connection import wait17851786def foo(w):1787 for i in range(10):1788 w.send((i, current_process().name))1789 w.close()17901791if __name__ == '__main__':1792 readers = []17931794 for i in range(4):1795 r, w = Pipe(duplex=False)1796 readers.append(r)1797 p = Process(target=foo, args=(w,))1798 p.start()1799 # Закрываем записывающий конец канала, чтобы убедиться, что1800 # p – единственный процесс, владеющий дескриптором канала. Это1801 # гарантирует, что когда p закроет свой дескриптор для записывающего конца,1802 # wait() немедленно сообщит, что читающий конец готов1803 w.close()18041805 while readers:1806 for r in wait(readers):1807 try:1808 msg = r.recv()1809 except EOFError:1810 readers.remove(r)1811 else:1812 print(msg)1813```18141815#### Форматы адресов18161817- Адрес `'AF_INET'` – это кортеж вида `(hostname, port)`, где *hostname* – строка, а *port* – целое число.1818- Адрес `'AF_UNIX'` – это строка, представляющая имя файла в файловой системе.1819- Адрес `'AF_PIPE'` – это строка вида `r'\.\pipe{PipeName}'`. Чтобы использовать [`Client()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.connection.Client) для подключения к именованному каналу на удалённом компьютере с именем *ServerName*, следует использовать адрес вида `r'\ServerName\pipe{PipeName}'`.18201821Обратите внимание: любая строка, начинающаяся с двух обратных слешей, по умолчанию считается адресом `'AF_PIPE'`, а не `'AF_UNIX'`.18221823### Ключи аутентификации18241825При использовании [`Connection.recv`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.connection.Connection.recv) полученные данные автоматически распиковываются. К сожалению, распиковка данных из ненадёжного источника представляет угрозу безопасности. Поэтому [`Listener`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.connection.Listener) и [`Client()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.connection.Client) используют модуль [`hmac`](https://python-all.ru/3.8/library/hmac.html#module-hmac) для обеспечения дайджест-аутентификации.18261827Ключ аутентификации – это байтовая строка, которую можно рассматривать как пароль: после установления соединения обе стороны требуют доказательства, что другая сторона знает ключ аутентификации. (Демонстрация того, что обе стороны используют один и тот же ключ, **не** предполагает отправку ключа по соединению.)18281829Если запрошена аутентификация, но ключ аутентификации не указан, то используется возвращаемое значение `current_process().authkey` (см. [`Process`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Process)). Это значение автоматически наследуется любым объектом [`Process`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Process), который создаёт текущий процесс. Это означает, что (по умолчанию) все процессы многопроцессной программы используют один ключ аутентификации, который можно применять для настройки соединений между ними.18301831Подходящие ключи аутентификации также можно сгенерировать с помощью [`os.urandom()`](https://python-all.ru/3.8/library/os.html#os.urandom).18321833### Журналирование18341835Доступна поддержка журналирования. Однако обратите внимание, что пакет [`logging`](https://python-all.ru/3.8/library/logging.html#module-logging) не использует блокировки, разделяемые между процессами, поэтому сообщения от разных процессов могут перемешиваться (в зависимости от типа обработчика).18361837#### `multiprocessing.get_logger()`18381839Возвращает логгер, используемый модулем [`multiprocessing`](https://python-all.ru/3.8/library/multiprocessing.html#module-multiprocessing). При необходимости создаётся новый.18401841При первом создании логгер имеет уровень `logging.NOTSET` и не имеет обработчика по умолчанию. Сообщения, отправленные этому логгеру, по умолчанию не распространяются на корневой логгер.18421843Обратите внимание, что в Windows дочерние процессы наследуют только уровень логгера родительского процесса – любые другие настройки логгера не наследуются.18441845#### `multiprocessing.log_to_stderr()`18461847Эта функция вызывает [`get_logger()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.get_logger), но помимо возврата регистратора, созданного get\_logger, добавляет обработчик, который отправляет вывод на [`sys.stderr`](https://python-all.ru/3.8/library/sys.html#sys.stderr), используя формат `'[%(levelname)s/%(processName)s] %(message)s'`.18481849Ниже приведён пример сеанса с включённым журналированием:18501851```python1852>>> import multiprocessing, logging1853>>> logger = multiprocessing.log_to_stderr()1854>>> logger.setLevel(logging.INFO)1855>>> logger.warning('doomed')1856[WARNING/MainProcess] doomed1857>>> m = multiprocessing.Manager()1858[INFO/SyncManager-...] child process calling self.run()1859[INFO/SyncManager-...] created temp directory /.../pymp-...1860[INFO/SyncManager-...] manager serving at '/.../listener-...'1861>>> del m1862[INFO/MainProcess] sending shutdown message to manager1863[INFO/SyncManager-...] manager exiting with exitcode 01864```18651866Полную таблицу уровней журналирования см. в модуле [`logging`](https://python-all.ru/3.8/library/logging.html#module-logging).18671868### Модуль [`multiprocessing.dummy`](https://python-all.ru/3.8/library/multiprocessing.html#module-multiprocessing.dummy)18691870[`multiprocessing.dummy`](https://python-all.ru/3.8/library/multiprocessing.html#module-multiprocessing.dummy) воспроизводит API модуля [`multiprocessing`](https://python-all.ru/3.8/library/multiprocessing.html#module-multiprocessing), но является не более чем обёрткой вокруг модуля [`threading`](https://python-all.ru/3.8/library/threading.html#module-threading).18711872В частности, функция `Pool`, предоставляемая модулем [`multiprocessing.dummy`](https://python-all.ru/3.8/library/multiprocessing.html#module-multiprocessing.dummy), возвращает экземпляр [`ThreadPool`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.pool.ThreadPool), который является подклассом [`Pool`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.pool.Pool), поддерживающим все те же вызовы методов, но использующим пул рабочих потоков вместо рабочих процессов.18731874#### `class multiprocessing.pool.ThreadPool([processes[, initializer[, initargs]]])`18751876Объект пула потоков, который управляет пулом рабочих потоков, которым можно отправлять задачи. Экземпляры [`ThreadPool`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.pool.ThreadPool) полностью совместимы по интерфейсу с экземплярами [`Pool`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.pool.Pool), и их ресурсами необходимо правильно управлять – либо используя пул как контекстный менеджер, либо вызывая [`close()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.pool.Pool.close) и [`terminate()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.pool.Pool.terminate) вручную.18771878*processes* – это количество используемых рабочих потоков. Если *processes* равно `None`, то используется число, возвращаемое [`os.cpu_count()`](https://python-all.ru/3.8/library/os.html#os.cpu_count).18791880Если *initializer* не равно `None`, то каждый рабочий процесс вызовет `initializer(*initargs)` при запуске.18811882В отличие от [`Pool`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.pool.Pool), *maxtasksperchild* и *context* не могут быть заданы.18831884> > **Примечание**1885> >1886> > [`ThreadPool`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.pool.ThreadPool) имеет тот же интерфейс, что и [`Pool`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.pool.Pool), который разработан вокруг пула процессов и появился до введения модуля [`concurrent.futures`](https://python-all.ru/3.8/library/concurrent.futures.html#module-concurrent.futures). Таким образом, он наследует некоторые операции, которые не имеют смысла для пула на основе потоков, и имеет собственный тип для представления статуса асинхронных задач – [`AsyncResult`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.pool.AsyncResult), который не распознаётся другими библиотеками.1887> >1888> > Пользователям обычно следует отдавать предпочтение использованию [`concurrent.futures.ThreadPoolExecutor`](https://python-all.ru/3.8/library/concurrent.futures.html#concurrent.futures.ThreadPoolExecutor), который имеет более простой интерфейс, изначально разработанный для потоков, и возвращает экземпляры [`concurrent.futures.Future`](https://python-all.ru/3.8/library/concurrent.futures.html#concurrent.futures.Future), совместимые со многими другими библиотеками, включая [`asyncio`](https://python-all.ru/3.8/library/asyncio.html#module-asyncio).18891890## Рекомендации по программированию18911892Существуют определённые рекомендации и идиомы, которых следует придерживаться при использовании [`multiprocessing`](https://python-all.ru/3.8/library/multiprocessing.html#module-multiprocessing).18931894### Все методы запуска18951896Нижеследующее относится ко всем методам запуска.18971898Избегайте разделяемого состояния18991900> По возможности следует стараться избегать передачи больших объёмов данных между процессами.1901>1902> Вероятно, лучше всего ограничиться использованием очередей или каналов для связи между процессами, а не использовать низкоуровневые примитивы синхронизации.19031904Сериализуемость19051906> Убедитесь, что аргументы методов прокси-объектов сериализуемы.19071908Потокобезопасность прокси19091910> Не используйте прокси-объект из более чем одного потока, если не защищаете его блокировкой.1911>1912> (С разными процессами, использующими *один и тот же* прокси, проблем не возникает.)19131914Присоединение процессов-зомби19151916> В Unix, когда процесс завершается, но к нему не присоединились (joined), он становится зомби. Таких процессов не должно быть много, потому что каждый раз при запуске нового процесса (или вызове [`active_children()`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.active_children)) все завершённые процессы, к которым ещё не присоединились, будут присоединены. Кроме того, вызов [`Process.is_alive`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Process.is_alive) для завершённого процесса присоединяет его. Тем не менее, рекомендуется явно присоединять все запущенные процессы.19171918Лучше наследовать, чем упаковывать/распаковывать19191920> При использовании методов запуска *spawn* или *forkserver* многие типы из [`multiprocessing`](https://python-all.ru/3.8/library/multiprocessing.html#module-multiprocessing) должны быть упаковываемыми (picklable), чтобы дочерние процессы могли их использовать. Однако обычно следует избегать отправки разделяемых объектов другим процессам через каналы или очереди. Вместо этого стоит организовать программу так, чтобы процесс, которому требуется доступ к разделяемому ресурсу, созданному в другом месте, мог унаследовать его от родительского процесса.19211922Избегайте завершения процессов19231924> Использование метода [`Process.terminate`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Process.terminate) для остановки процесса может привести к тому, что любые разделяемые ресурсы (такие как блокировки, семафоры, каналы и очереди), которые в данный момент используются процессом, станут повреждёнными или недоступными для других процессов.1925>1926> Поэтому, вероятно, лучше рассматривать использование [`Process.terminate`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Process.terminate) только для процессов, которые никогда не используют разделяемые ресурсы.19271928Присоединение процессов, использующих очереди19291930> Имейте в виду, что процесс, поместивший элементы в очередь, будет ждать перед завершением, пока все буферизованные элементы не будут переданы потоком «feeder» в нижележащий канал. (Дочерний процесс может вызвать метод [`Queue.cancel_join_thread`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Queue.cancel_join_thread) очереди, чтобы избежать такого поведения.)1931>1932> Это означает, что при использовании очереди нужно убедиться, что все элементы, помещённые в очередь, будут в конечном итоге удалены до того, как процесс будет присоединён. В противном случае нельзя быть уверенным, что процессы, поместившие элементы в очередь, завершатся. Также помните, что недемонические процессы присоединяются автоматически.1933>1934> Пример, который приведёт к взаимоблокировке:1935>1936> ```python1937> from multiprocessing import Process, Queue1938>1939> def f(q):1940> q.put('X' * 1000000)1941>1942> if __name__ == '__main__':1943> queue = Queue()1944> p = Process(target=f, args=(queue,))1945> p.start()1946> p.join() # это приводит к взаимоблокировке1947> obj = queue.get()1948> ```1949>1950> Исправление заключается в замене двух последних строк местами (или просто удалении строки с `p.join()`).19511952Явная передача ресурсов дочерним процессам19531954> В Unix при использовании метода запуска *fork* дочерний процесс может использовать общий ресурс, созданный в родительском процессе с помощью глобального ресурса. Однако лучше передавать объект в качестве аргумента конструктору дочернего процесса.1955>1956> Помимо того, что это делает код (потенциально) совместимым с Windows и другими методами запуска, это также гарантирует, что пока дочерний процесс жив, объект не будет собран сборщиком мусора в родительском процессе. Это может быть важно, если некоторый ресурс освобождается при сборке мусора объекта в родительском процессе.1957>1958> Так, например1959>1960> ```python1961> from multiprocessing import Process, Lock1962>1963> def f():1964> ... do something using "lock" ...1965>1966> if __name__ == '__main__':1967> lock = Lock()1968> for i in range(10):1969> Process(target=f).start()1970> ```1971>1972> следует переписать как1973>1974> ```python1975> from multiprocessing import Process, Lock1976>1977> def f(l):1978> ... do something using "l" ...1979>1980> if __name__ == '__main__':1981> lock = Lock()1982> for i in range(10):1983> Process(target=f, args=(lock,)).start()1984> ```19851986Остерегайтесь замены [`sys.stdin`](https://python-all.ru/3.8/library/sys.html#sys.stdin) на «файлоподобный объект»19871988> [`multiprocessing`](https://python-all.ru/3.8/library/multiprocessing.html#module-multiprocessing) изначально безусловно вызывал:1989>1990> ```python1991> os.close(sys.stdin.fileno())1992> ```1993>1994> в методе `multiprocessing.Process._bootstrap()` – это приводило к проблемам с процессами внутри процессов. Теперь это изменено на:1995>1996> ```python1997> sys.stdin.close()1998> sys.stdin = open(os.open(os.devnull, os.O_RDONLY), closefd=False)1999> ```2000>2001> Это решает основную проблему столкновения процессов друг с другом, приводящую к ошибке неверного файлового дескриптора, но вносит потенциальную опасность для приложений, которые заменяют [`sys.stdin()`](https://python-all.ru/3.8/library/sys.html#sys.stdin) на «файлоподобный объект» с буферизацией вывода. Опасность в том, что если несколько процессов вызовут [`close()`](https://python-all.ru/3.8/library/io.html#io.IOBase.close) для этого файлоподобного объекта, одни и те же данные могут быть сброшены в объект несколько раз, что приведёт к повреждению.2002>2003> Если вы пишете файлоподобный объект и реализуете собственное кэширование, вы можете сделать его устойчивым к fork, сохраняя pid при каждом добавлении в кэш и сбрасывая кэш при изменении pid. Например:2004>2005> ```python2006> @property2007> def cache(self):2008> pid = os.getpid()2009> if pid != self._pid:2010> self._pid = pid2011> self._cache = []2012> return self._cache2013> ```2014>2015> Для получения дополнительной информации см. [bpo-5155](https://python-all.ru/3.8/library/multiprocessing.html), [bpo-5313](https://python-all.ru/3.8/library/multiprocessing.html) и [bpo-5331](https://python-all.ru/3.8/library/multiprocessing.html)20162017### Методы запуска *spawn* и *forkserver*20182019Есть несколько дополнительных ограничений, которые не применяются к *fork* методу запуска.20202021Упаковываемость20222023> Убедитесь, что все аргументы `Process.__init__()` можно сериализовать с помощью pickle. Кроме того, если вы создаёте подкласс [`Process`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Process), убедитесь, что экземпляры будут сериализуемы при вызове метода [`Process.start`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Process.start).20242025Глобальные переменные20262027> Имейте в виду, что если код, выполняемый в дочернем процессе, попытается обратиться к глобальной переменной, то значение, которое он увидит (если оно есть), может не совпадать со значением в родительском процессе на момент вызова [`Process.start`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.Process.start).2028>2029> Однако глобальные переменные, которые представляют собой просто константы уровня модуля, не вызывают проблем.20302031Безопасный импорт главного модуля20322033> Необходимо убедиться, что главный модуль может быть безопасно импортирован новым интерпретатором Python без непреднамеренных побочных эффектов (например, запуска нового процесса).2034>2035> Например, при использовании методов запуска *spawn* или *forkserver* выполнение следующего модуля приведёт к ошибке [`RuntimeError`](https://python-all.ru/3.8/library/exceptions.html#RuntimeError):2036>2037> ```python2038> from multiprocessing import Process2039>2040> def foo():2041> print('hello')2042>2043> p = Process(target=foo)2044> p.start()2045> ```2046>2047> Вместо этого следует защитить «точку входа» программы с помощью `if __name__ == '__main__':` следующим образом:2048>2049> ```python2050> from multiprocessing import Process, freeze_support, set_start_method2051>2052> def foo():2053> print('hello')2054>2055> if __name__ == '__main__':2056> freeze_support()2057> set_start_method('spawn')2058> p = Process(target=foo)2059> p.start()2060> ```2061>2062> (Строку `freeze_support()` можно опустить, если программа будет запускаться обычным образом, а не как замороженное приложение.)2063>2064> Это позволяет только что порождённому интерпретатору Python безопасно импортировать модуль и затем выполнить функцию `foo()` этого модуля.2065>2066> Аналогичные ограничения действуют, если пул или менеджер создаются в главном модуле.20672068## Примеры20692070Демонстрация создания и использования настраиваемых менеджеров и прокси:20712072```python2073from multiprocessing import freeze_support2074from multiprocessing.managers import BaseManager, BaseProxy2075import operator20762077##20782079class Foo:2080 def f(self):2081 print('you called Foo.f()')2082 def g(self):2083 print('you called Foo.g()')2084 def _h(self):2085 print('you called Foo._h()')20862087# Простая функция-генератор2088def baz():2089 for i in range(10):2090 yield i*i20912092# Тип прокси для объектов-генераторов2093class GeneratorProxy(BaseProxy):2094 _exposed_ = ['__next__']2095 def __iter__(self):2096 return self2097 def __next__(self):2098 return self._callmethod('__next__')20992100# Функция для возврата модуля operator2101def get_operator_module():2102 return operator21032104##21052106class MyManager(BaseManager):2107 pass21082109# зарегистрировать класс Foo; сделать `f()` и `g()` доступными через прокси2110MyManager.register('Foo1', Foo)21112112# зарегистрировать класс Foo; сделать `g()` и `_h()` доступными через прокси2113MyManager.register('Foo2', Foo, exposed=('g', '_h'))21142115# зарегистрировать функцию-генератор baz; использовать `GeneratorProxy` для создания прокси2116MyManager.register('baz', baz, proxytype=GeneratorProxy)21172118# зарегистрировать get_operator_module(); сделать публичные функции доступными через прокси2119MyManager.register('operator', get_operator_module)21202121##21222123def test():2124 manager = MyManager()2125 manager.start()21262127 print('-' * 20)21282129 f1 = manager.Foo1()2130 f1.f()2131 f1.g()2132 assert not hasattr(f1, '_h')2133 assert sorted(f1._exposed_) == sorted(['f', 'g'])21342135 print('-' * 20)21362137 f2 = manager.Foo2()2138 f2.g()2139 f2._h()2140 assert not hasattr(f2, 'f')2141 assert sorted(f2._exposed_) == sorted(['g', '_h'])21422143 print('-' * 20)21442145 it = manager.baz()2146 for i in it:2147 print('<%d>' % i, end=' ')2148 print()21492150 print('-' * 20)21512152 op = manager.operator()2153 print('op.add(23, 45) =', op.add(23, 45))2154 print('op.pow(2, 94) =', op.pow(2, 94))2155 print('op._exposed_ =', op._exposed_)21562157##21582159if __name__ == '__main__':2160 freeze_support()2161 test()2162```21632164Использование [`Pool`](https://python-all.ru/3.8/library/multiprocessing.html#multiprocessing.pool.Pool):21652166```python2167import multiprocessing2168import time2169import random2170import sys21712172#2173# Функции, используемые тестовым кодом2174#21752176def calculate(func, args):2177 result = func(*args)2178 return '%s says that %s%s = %s' % (2179 multiprocessing.current_process().name,2180 func.__name__, args, result2181 )21822183def calculatestar(args):2184 return calculate(*args)21852186def mul(a, b):2187 time.sleep(0.5 * random.random())2188 return a * b21892190def plus(a, b):2191 time.sleep(0.5 * random.random())2192 return a + b21932194def f(x):2195 return 1.0 / (x - 5.0)21962197def pow3(x):2198 return x ** 321992200def noop(x):2201 pass22022203#2204# Тестовый код2205#22062207def test():2208 PROCESSES = 42209 print('Creating pool with %d processes\n' % PROCESSES)22102211 with multiprocessing.Pool(PROCESSES) as pool:2212 #2213 # Тесты2214 #22152216 TASKS = [(mul, (i, 7)) for i in range(10)] + \2217 [(plus, (i, 8)) for i in range(10)]22182219 results = [pool.apply_async(calculate, t) for t in TASKS]2220 imap_it = pool.imap(calculatestar, TASKS)2221 imap_unordered_it = pool.imap_unordered(calculatestar, TASKS)22222223 print('Ordered results using pool.apply_async():')2224 for r in results:2225 print('\t', r.get())2226 print()22272228 print('Ordered results using pool.imap():')2229 for x in imap_it:2230 print('\t', x)2231 print()22322233 print('Unordered results using pool.imap_unordered():')2234 for x in imap_unordered_it:2235 print('\t', x)2236 print()22372238 print('Ordered results using pool.map() --- will block till complete:')2239 for x in pool.map(calculatestar, TASKS):2240 print('\t', x)2241 print()22422243 #2244 # Тестирование обработки ошибок2245 #22462247 print('Testing error handling:')22482249 try:2250 print(pool.apply(f, (5,)))2251 except ZeroDivisionError:2252 print('\tGot ZeroDivisionError as expected from pool.apply()')2253 else:2254 raise AssertionError('expected ZeroDivisionError')22552256 try:2257 print(pool.map(f, list(range(10))))2258 except ZeroDivisionError:2259 print('\tGot ZeroDivisionError as expected from pool.map()')2260 else:2261 raise AssertionError('expected ZeroDivisionError')22622263 try:2264 print(list(pool.imap(f, list(range(10)))))2265 except ZeroDivisionError:2266 print('\tGot ZeroDivisionError as expected from list(pool.imap())')2267 else:2268 raise AssertionError('expected ZeroDivisionError')22692270 it = pool.imap(f, list(range(10)))2271 for i in range(10):2272 try:2273 x = next(it)2274 except ZeroDivisionError:2275 if i == 5:2276 pass2277 except StopIteration:2278 break2279 else:2280 if i == 5:2281 raise AssertionError('expected ZeroDivisionError')22822283 assert i == 92284 print('\tGot ZeroDivisionError as expected from IMapIterator.next()')2285 print()22862287 #2288 # Тестирование тайм-аутов2289 #22902291 print('Testing ApplyResult.get() with timeout:', end=' ')2292 res = pool.apply_async(calculate, TASKS[0])2293 while 1:2294 sys.stdout.flush()2295 try:2296 sys.stdout.write('\n\t%s' % res.get(0.02))2297 break2298 except multiprocessing.TimeoutError:2299 sys.stdout.write('.')2300 print()2301 print()23022303 print('Testing IMapIterator.next() with timeout:', end=' ')2304 it = pool.imap(calculatestar, TASKS)2305 while 1:2306 sys.stdout.flush()2307 try:2308 sys.stdout.write('\n\t%s' % it.next(0.02))2309 except StopIteration:2310 break2311 except multiprocessing.TimeoutError:2312 sys.stdout.write('.')2313 print()2314 print()23152316if __name__ == '__main__':2317 multiprocessing.freeze_support()2318 test()2319```23202321Пример использования очередей для передачи задач набору рабочих процессов и сбора результатов:23222323```python2324import time2325import random23262327from multiprocessing import Process, Queue, current_process, freeze_support23282329#2330# Функция, выполняемая рабочими процессами2331#23322333def worker(input, output):2334 for func, args in iter(input.get, 'STOP'):2335 result = calculate(func, args)2336 output.put(result)23372338#2339# Функция, используемая для вычисления результата2340#23412342def calculate(func, args):2343 result = func(*args)2344 return '%s says that %s%s = %s' % \2345 (current_process().name, func.__name__, args, result)23462347#2348# Функции, на которые ссылаются задачи2349#23502351def mul(a, b):2352 time.sleep(0.5*random.random())2353 return a * b23542355def plus(a, b):2356 time.sleep(0.5*random.random())2357 return a + b23582359#2360#2361#23622363def test():2364 NUMBER_OF_PROCESSES = 42365 TASKS1 = [(mul, (i, 7)) for i in range(20)]2366 TASKS2 = [(plus, (i, 8)) for i in range(10)]23672368 # Создание очередей2369 task_queue = Queue()2370 done_queue = Queue()23712372 # Отправка задач2373 for task in TASKS1:2374 task_queue.put(task)23752376 # Запуск рабочих процессов2377 for i in range(NUMBER_OF_PROCESSES):2378 Process(target=worker, args=(task_queue, done_queue)).start()23792380 # Получение и вывод результатов2381 print('Unordered results:')2382 for i in range(len(TASKS1)):2383 print('\t', done_queue.get())23842385 # Добавить ещё задач с помощью `put()`2386 for task in TASKS2:2387 task_queue.put(task)23882389 # Получить и вывести ещё несколько результатов2390 for i in range(len(TASKS2)):2391 print('\t', done_queue.get())23922393 # Сообщить дочерним процессам об остановке2394 for i in range(NUMBER_OF_PROCESSES):2395 task_queue.put('STOP')23962397if __name__ == '__main__':2398 freeze_support()2399 test()2400```2401