Документация Python неофициальный перевод
Содержание страницы

ВведениеIntroduction

Интерфейс прикладного программирования Python предоставляет программистам на C и C++ доступ к интерпретатору Python на различных уровнях. API одинаково пригоден для использования из C++, но для краткости его обычно называют Python/C API. Есть две принципиально разные причины для использования Python/C API. Первая – написание модулей расширения для конкретных целей; это модули на C, которые расширяют интерпретатор Python. Вероятно, это наиболее распространённое применение. Вторая – использование Python как компонента в более крупном приложении; этот метод обычно называют встраиванием Python в приложение.

Написание модуля расширения – относительно хорошо понятный процесс, где хорошо работает подход «кулинарной книги» (cookbook). Существует несколько инструментов, которые в некоторой степени автоматизируют этот процесс. Хотя Python встраивали в другие приложения с самого начала его существования, процесс встраивания Python менее прямолинейный, чем написание расширения.

Многие функции API полезны независимо от того, встраивается Python или расширяется; более того, большинство приложений, встраивающих Python, также должны предоставлять собственное расширение, поэтому, вероятно, стоит ознакомиться с написанием расширения, прежде чем пытаться встроить Python в реальное приложение.

Совместимость версий языкаLanguage version compatibility

C API Python совместим с версиями C11 и C++11 языков C и C++.

Это нижняя граница: C API не требует возможностей более поздних версий C/C++. не нужно включать режим c11 компилятора.

Стандарты кодированияCoding standards

При написании кода на C для включения в CPython необходимо следовать рекомендациям и стандартам, определённым в PEP 7. Эти рекомендации действуют независимо от версии Python, в которую вносится вклад. Следование этим соглашениям не обязательно для собственных сторонних модулей расширения, если не планируется в конечном счёте передать их в Python.

Заголовочные файлыInclude Files

Все определения функций, типов и макросов, необходимые для использования Python/C API, включаются в код с помощью следующей строки:

#define PY_SSIZE_T_CLEAN
#include <Python.h>

Это подразумевает включение следующих стандартных заголовочных файлов: <stdio.h>, <string.h>, <errno.h>, <limits.h>, <assert.h> и <stdlib.h> (если доступны).

Примечание

Поскольку Python может определять некоторые определения препроцессора, которые влияют на стандартные заголовочные файлы в некоторых системах, необходимо включать Python.h перед включением любых стандартных заголовочных файлов.

Рекомендуется всегда определять PY_SSIZE_T_CLEAN перед включением Python.h. См. Разбор аргументов и создание значений для описания этого макроса.

Все видимые пользователю имена, определённые Python.h (кроме тех, что определены включёнными стандартными заголовками), имеют один из префиксов Py или _Py. Имена, начинающиеся с _Py, предназначены для внутреннего использования реализацией Python и не должны использоваться разработчиками расширений. Имена членов структур не имеют зарезервированного префикса.

Примечание

Пользовательский код никогда не должен определять имена, начинающиеся с Py или _Py. Это сбивает с толку читателя и ставит под угрозу переносимость пользовательского кода на будущие версии Python, которые могут определять дополнительные имена, начинающиеся с одного из этих префиксов.

Заголовочные файлы обычно устанавливаются вместе с Python. В Unix они находятся в каталогах prefix/include/pythonversion/ и exec_prefix/include/pythonversion/, где prefix и exec_prefix определяются соответствующими параметрами сценария configure Python, а version'%d.%d' % sys.version_info[:2]. В Windows заголовочные файлы устанавливаются в prefix/include, где prefix – каталог установки, указанный в программе установки.

Чтобы включить заголовочные файлы, поместите оба каталога (если они разные) в путь поиска include компилятора. Не помещайте родительские каталоги в путь поиска, а затем используйте #include <pythonX.Y/Python.h>; это нарушит сборку на нескольких платформах, поскольку независимые от платформы заголовочные файлы в prefix включают специфичные для платформы заголовочные файлы из exec_prefix.

Пользователям C++ следует отметить, что, хотя API полностью определён с использованием C, заголовочные файлы правильно объявляют точки входа как extern "C". В результате нет необходимости делать что-то особенное для использования API из C++.

Системные включенияSystem includes

Python.h включает несколько стандартных заголовочных файлов. Расширения C должны включать те стандартные заголовочные файлы, которые они используют, и не должны полагаться на эти неявные включения. Неявные включения:

  • <assert.h>

  • <intrin.h> (в Windows)

  • <inttypes.h>

  • <limits.h>

  • <math.h>

  • <stdarg.h>

  • <string.h>

  • <wchar.h>

  • <sys/types.h> (если присутствует)

Следующие включены для обратной совместимости, если только не используется Limited API 3.13 или новее:

  • <ctype.h>

  • <unistd.h> (в POSIX)

Следующие включены для обратной совместимости, если только не используется Limited API 3.11 или новее:

  • <errno.h>

  • <stdio.h>

  • <stdlib.h>

Примечание

Поскольку Python может определять некоторые директивы препроцессора, которые влияют на стандартные заголовочные файлы в некоторых системах, необходимо включать Python.h до того, как будут включены любые стандартные заголовочные файлы.

Полезные макросыUseful macros

В заголовочных файлах Python определено несколько полезных макросов. Многие из них определены рядом с местом их использования (например, Py_RETURN_NONE, PyMODINIT_FUNC). Другие, более общего назначения, определены здесь. Этот список не обязательно полон.

Py_CAN_START_THREADS

Если этот макрос определён, то текущая система может запускать потоки.

В настоящее время все системы, поддерживаемые CPython (согласно PEP 11), за исключением некоторых платформ WebAssembly, поддерживают запуск потоков.

Добавлено в версии 3.13.

Py_GETENV(s)

Как getenv(s), но возвращает NULL, если -E был передан в командной строке (см. PyConfig.use_environment).

Макросы строк документацииDocstring macros

PyDoc_STRVAR(name, str)

Создаёт переменную с именем name, которую можно использовать в строках документации. Если Python собран без строк документации (--without-doc-strings), значением будет пустая строка.

Пример:

PyDoc_STRVAR(pop_doc, "Remove and return the rightmost element.");

static PyMethodDef deque_methods[] = {
    // ...
    {"pop", (PyCFunction)deque_pop, METH_NOARGS, pop_doc},
    // ...
}

Расширяется до PyDoc_VAR(name) = PyDoc_STR(str).

PyDoc_STR(str)

Расширяется до заданной входной строки или пустой строки, если строки документации отключены (--without-doc-strings).

Пример:

static PyMethodDef pysqlite_row_methods[] = {
    {"keys", (PyCFunction)pysqlite_row_keys, METH_NOARGS,
        PyDoc_STR("Returns the keys of the row.")},
    {NULL, NULL}
};
PyDoc_VAR(name)

Объявляет статическую переменную-массив символов с заданным именем name. Расширяется до static const char name[]

Например:

PyDoc_VAR(python_doc) = PyDoc_STR(
   "A genus of constricting snakes in the Pythonidae family native "
   "to the tropics and subtropics of the Eastern Hemisphere.");

Макросы общего назначенияGeneral utility macros

Следующие макросы предназначены для общих задач, не специфичных для Python.

Py_UNUSED(arg)

Используется для неиспользуемых аргументов в определении функции, чтобы подавить предупреждения компилятора. Пример: int func(int a, int Py_UNUSED(b)) { return a; }.

Добавлено в версии 3.4.

Py_GCC_ATTRIBUTE(name)

Использует атрибут GCC name, скрывая его от компиляторов, не поддерживающих атрибуты GCC (например, MSVC).

Расширяется до __attribute__((name)) на компиляторе GCC и не расширяется на компиляторах, которые не поддерживают атрибуты GCC.

Числовые утилитыNumeric utilities

Py_ABS(x)

Возвращает абсолютное значение x.

Аргумент может вычисляться более одного раза. Следовательно, не передавайте в этот макрос выражение с побочными эффектами напрямую.

Если результат не может быть представлен (например, если x имеет значение INT_MIN для типа int), поведение не определено.

Примерно соответствует ((x) < 0 ? -(x) : (x))

Добавлено в версии 3.3.

Py_MAX(x, y)
Py_MIN(x, y)

Возвращает больший или меньший из аргументов, соответственно.

Любые аргументы могут вычисляться более одного раза. Следовательно, не передавайте в этот макрос выражение с побочными эффектами напрямую.

Py_MAX примерно соответствует (((x) > (y)) ? (x) : (y)).

Добавлено в версии 3.3.

Py_ARITHMETIC_RIGHT_SHIFT(type, integer, positions)

Аналогично integer >> positions, но принудительно расширяет знак, так как стандарт C не определяет, будет ли сдвиг вправо знакового целого числа расширять знак или заполнять нулями.

integer должен быть любым знаковым целым типом. positions – количество позиций для сдвига вправо.

И integer, и positions могут вычисляться более одного раза; поэтому избегайте прямой передачи вызова функции или другой операции с побочными эффектами в этот макрос. Вместо этого сохраните результат в переменную и затем передайте его.

type не используется и сохранён только для обратной совместимости. Исторически type использовался для приведения integer.

Изменено в версии 3.1: Этот макрос теперь действителен для всех знаковых целых типов, а не только тех, для которых unsigned type допустим. В результате type больше не используется.

Py_CHARMASK(c)

Аргумент должен быть символом или целым числом в диапазоне [-128, 127] или [0, 255]. Этот макрос возвращает c, приведённый к unsigned char.

Утилиты для утвержденийAssertion utilities

Py_UNREACHABLE()

Используйте этот макрос, когда есть путь выполнения, который по замыслу не может быть достигнут. Например, в ветке default: оператора switch, для которого все возможные значения покрыты ветками case. Используйте его в местах, где вы могли бы попытаться поместить вызов assert(0) или abort().

В релизном режиме макрос помогает компилятору оптимизировать код и избегает предупреждения о недостижимом коде. Например, макрос реализован с помощью __builtin_unreachable() в GCC в релизном режиме.

В режиме отладки и на неподдерживаемых компиляторах макрос раскрывается в вызов Py_FatalError().

Одно из применений Py_UNREACHABLE() – после вызова функции, которая никогда не возвращает управление, но не объявлена как _Noreturn.

Если путь выполнения является крайне маловероятным, но может быть достигнут в исключительных случаях, этот макрос использовать нельзя. Например, при нехватке памяти или если системный вызов возвращает значение за пределами ожидаемого диапазона. В этом случае лучше сообщить об ошибке вызывающему коду. Если ошибка не может быть сообщена вызывающему коду, можно использовать Py_FatalError().

Добавлено в версии 3.7.

Py_SAFE_DOWNCAST(value, larger, smaller)

Приводит value к типу smaller из типа larger, проверяя, что ни одна информация не была потеряна.

В релизных сборках Python это примерно эквивалентно ((smaller) value) (в C++ будет использоваться static_cast<smaller>(value)).

В отладочных сборках (подразумевая, что определён Py_DEBUG) это утверждает, что при приведении от larger к smaller не было потеряно информации.

value, larger и smaller могут вычисляться более одного раза в выражении; следовательно, не передавайте в этот макрос выражение с побочными эффектами напрямую.

Py_BUILD_ASSERT(cond)

Утверждает условие времени компиляции cond в виде инструкции. Сборка завершится ошибкой, если условие ложно или не может быть вычислено во время компиляции.

Примерно соответствует static_assert(cond) в C23 и новее.

Например:

Py_BUILD_ASSERT(sizeof(PyTime_t) == sizeof(int64_t));

Добавлено в версии 3.3.

Py_BUILD_ASSERT_EXPR(cond)

Asserts a compile-time condition cond, as an expression that evaluates to 0. The build will fail if the condition is false or cannot be evaluated at compile time.

Например:

#define foo_to_char(foo) \
    ((char *)(foo) + Py_BUILD_ASSERT_EXPR(offsetof(struct foo, string) == 0))

Добавлено в версии 3.3.

Утилиты для определения размера типовType size utilities

Py_ARRAY_LENGTH(array)

Вычисляет длину статически выделенного C-массива во время компиляции.

Аргумент array должен быть C-массивом с размером, известным на этапе компиляции. Передача массива с неизвестным размером, например, выделенного в куче, приведёт к ошибке компиляции в некоторых компиляторах или даст неверные результаты.

Это примерно эквивалентно:

sizeof(array) / sizeof((array)[0])
Py_MEMBER_SIZE(type, member)

Возвращает размер поля member структуры (type) в байтах.

Примерно соответствует sizeof(((type *)NULL)->member).

Добавлено в версии 3.6.

Утилиты для определения макросовMacro definition utilities

Py_FORCE_EXPANSION(X)

Это эквивалентно X, что полезно для склеивания токенов в макросах, так как раскрытие макросов в X принудительно вычисляется препроцессором.

Py_STRINGIFY(x)

Преобразует x в C-строку. Например, Py_STRINGIFY(123) возвращает "123".

Добавлено в версии 3.4.

Утилиты для объявленийDeclaration utilities

Следующие макросы можно использовать в объявлениях. Они наиболее полезны для определения самого C API и имеют ограниченное применение для разработчиков расширений. Большинство из них раскрываются в специфичные для компилятора варианты распространённых расширений языка C.

Py_ALWAYS_INLINE

Предлагает компилятору всегда встраивать статическую встраиваемую функцию. Компилятор может проигнорировать это и решить не встраивать функцию.

Соответствует атрибуту always_inline в GCC и __forceinline в MSVC.

Его можно использовать для встраивания критичных по производительности статических встраиваемых функций при сборке Python в режиме отладки с отключённым встраиванием функций. Например, MSC отключает встраивание функций при сборке в режиме отладки.

Слепое пометивание статической встраиваемой функции макросом Py_ALWAYS_INLINE может привести к ухудшению производительности (например, из-за увеличения размера кода). Компилятор обычно умнее разработчика в анализе затрат и выгод.

Если Python собран в режиме отладки (если определён макрос Py_DEBUG), макрос Py_ALWAYS_INLINE ничего не делает.

Он должен быть указан перед типом возвращаемого значения функции. Использование:

static inline Py_ALWAYS_INLINE int random(void) { return 4; }

Добавлено в версии 3.12.

Py_NO_INLINE

Отключает встраивание функции. Например, это уменьшает потребление стека C: полезно при сборках с LTO+PGO, которые активно встраивают код (см. bpo-33720).

Соответствует атрибуту/спецификации noinline в GCC и MSVC.

Использование:

Py_NO_INLINE static int random(void) { return 4; }

Добавлено в версии 3.12.

Py_DEPRECATED(version)

Используйте этот макрос для объявления API, которые были помечены как устаревшие в определённой версии CPython. Макрос должен быть размещён перед именем символа.

Пример:

Py_DEPRECATED(3.8) PyAPI_FUNC(int) Py_OldFunction(void);

Изменено в версии 3.8: добавлена поддержка MSVC.

Py_LOCAL(type)

Объявляет функцию, возвращающую указанный тип, с квалификатором быстрого вызова для функций, локальных для текущего файла. Семантически это эквивалентно static type.

Py_LOCAL_INLINE(type)

Эквивалентно Py_LOCAL, но дополнительно требует встраивания функции.

Py_LOCAL_SYMBOL

Макрос, используемый для объявления символа как локального для общей библиотеки (скрытого). На поддерживаемых платформах гарантирует, что символ не экспортируется.

В совместимых версиях GCC/Clang раскрывается в __attribute__((visibility("hidden"))).

Py_EXPORTED_SYMBOL

Макрос, используемый для объявления символа (функции или данных) как экспортируемого. В Windows раскрывается в __declspec(dllexport). В совместимых версиях GCC/Clang раскрывается в __attribute__((visibility("default"))). Этот макрос предназначен для определения самого C API; модули расширения не должны его использовать.

Py_IMPORTED_SYMBOL

Макрос, используемый для объявления символа как импортируемого. В Windows раскрывается в __declspec(dllimport). Этот макрос предназначен для определения самого C API; модули расширения не должны его использовать.

PyAPI_FUNC(type)

Макрос, используемый CPython для объявления функции как части C API. Его раскрытие зависит от платформы и конфигурации сборки. Этот макрос предназначен для определения самого C API CPython; модули расширения не должны использовать его для своих собственных символов.

PyAPI_DATA(type)

Макрос, используемый CPython для объявления публичной глобальной переменной как части C API. Его раскрытие зависит от платформы и конфигурации сборки. Этот макрос предназначен для определения самого C API CPython; модули расширения не должны использовать его для своих собственных символов.

Устаревшие макросыOutdated macros

Следующие мягко устаревшие макросы использовались для функций, которые были стандартизированы в C11 (или более ранних стандартах).

Py_ALIGNED(num)

В некоторых компиляторах, подобных GCC, задаёт выравнивание до num байт. В других компиляторах ничего не делает.

Используйте стандартный спецификатор alignas вместо этого макроса.

Условно устарело с версии 3.15.

PY_FORMAT_SIZE_T

Модификатор форматирования printf() для size_t. Используйте напрямую "z".

Условно устарело с версии 3.15.

Py_LL(number)
Py_ULL(number)

Используйте number как целочисленный литерал long long или unsigned long long, соответственно.

Раскрывается в number, за которым следует LL или LLU соответственно, но в некоторых старых компиляторах будет раскрываться в некоторые специфичные для компилятора суффиксы.

Рекомендуется использовать стандартные суффиксы C99 LL и LLU напрямую.

Условно устарело с версии 3.15.

PY_LONG_LONG
PY_INT32_T
PY_UINT32_T
PY_INT64_T
PY_UINT64_T

Псевдонимы для типов long long, int32_t, uint32_t. int64_t и uint64_t соответственно. Исторически эти типы требовали специфичных для компилятора расширений.

Условно устарело с версии 3.15.

PY_LLONG_MIN
PY_LLONG_MAX
PY_ULLONG_MAX
PY_SIZE_MAX

Псевдонимы для значений LLONG_MIN, LLONG_MAX, ULLONG_MAX и SIZE_MAX соответственно. Вместо этого используйте эти стандартные имена.

Требуемый заголовочный файл, <limits.h>, включается в Python.h.

Условно устарело с версии 3.15.

Py_MEMCPY(dest, src, n)

Это псевдоним memcpy().

Мягко устарело с версии 3.14: Вместо этого используйте непосредственно memcpy().

Py_UNICODE_SIZE

Размер типа wchar_t. Используйте sizeof(wchar_t) или WCHAR_WIDTH/8.

Требуемый заголовочный файл для последнего, <limits.h>, включается в Python.h.

Условно устарело с версии 3.15.

Py_UNICODE_WIDE

Определено, если wchar_t может содержать символ Unicode (UCS-4). Вместо этого используйте sizeof(wchar_t) >= 4.

Условно устарело с версии 3.15.

Py_VA_COPY

Это псевдоним функции va_copy стандарта C99.

Исторически для копирования va_list использовался метод, зависящий от конкретного компилятора.

Изменено в версии 3.6: Теперь это псевдоним для va_copy.

Условно устарело с версии 3.15.

Объекты, типы и счетчики ссылокObjects, Types and Reference Counts

Большинство функций Python/C API имеют один или несколько аргументов, а также возвращаемое значение типа PyObject*. Этот тип является указателем на непрозрачный тип данных, представляющий произвольный объект Python. Поскольку все типы объектов Python обрабатываются одинаково в большинстве ситуаций (например, присваивание, правила области видимости и передача аргументов), вполне уместно, чтобы они представлялись одним типом C. Почти все объекты Python живут в куче: никогда не объявляются автоматические или статические переменные типа PyObject, можно объявлять только переменные-указатели типа PyObject*. Единственным исключением являются объекты типа; поскольку они никогда не должны освобождаться, они обычно являются статическими объектами PyTypeObject.

Все объекты Python (даже целые числа Python) имеют тип и счетчик ссылок. Тип объекта определяет, что это за объект (например, целое число, список или пользовательская функция; существует гораздо больше типов, как описано в Стандартная иерархия типов). Для каждого из известных типов существует макрос, проверяющий, является ли объект объектом этого типа; например, PyList_Check(a) истинно тогда и только тогда, когда объект, на который указывает a, является списком Python.

Счетчики ссылокReference Counts

Счетчик ссылок важен, потому что современные компьютеры имеют конечный (и часто сильно ограниченный) размер памяти; он подсчитывает, сколько различных мест имеют сильную ссылку на объект. Таким местом может быть другой объект, глобальная (или статическая) переменная C или локальная переменная в какой-либо функции C. Когда последняя сильная ссылка на объект освобождается (т.е. его счетчик ссылок становится нулевым), объект освобождается. Если он содержит ссылки на другие объекты, эти ссылки освобождаются. Эти другие объекты могут быть освобождены в свою очередь, если на них больше нет ссылок, и так далее. (Здесь очевидна проблема с объектами, ссылающимися друг на друга; на данный момент решение – «не делайте так».)

Счетчики ссылок всегда изменяются явным образом. Обычный способ – использовать макрос Py_INCREF() для получения новой ссылки на объект (т.е. увеличить его счетчик ссылок на единицу) и Py_DECREF() для освобождения этой ссылки (т.е. уменьшить счетчик ссылок на единицу). Макрос Py_DECREF() значительно сложнее, чем макрос incref, поскольку он должен проверять, не стал ли счетчик ссылок нулевым, и затем вызывать деаллокатор объекта. Деаллокатор – это указатель на функцию, содержащийся в структуре типа объекта. Деаллокатор, специфичный для типа, отвечает за освобождение ссылок на другие объекты, содержащиеся в объекте, если это составной тип объекта (например, список), а также за выполнение любой дополнительной финализации, которая требуется. Нет возможности переполнения счетчика ссылок; для хранения счетчика ссылок используется по крайней мере столько битов, сколько существует различных ячеек памяти в виртуальной памяти (при условии sizeof(Py_ssize_t) >= sizeof(void*)). Таким образом, увеличение счетчика ссылок – простая операция.

Нет необходимости удерживать сильную ссылку (т.е. увеличивать счетчик ссылок) для каждой локальной переменной, содержащей указатель на объект. Теоретически счетчик ссылок объекта увеличивается на единицу, когда переменная начинает указывать на него, и уменьшается на единицу, когда переменная выходит из области видимости. Однако эти два действия компенсируют друг друга, поэтому в итоге счетчик ссылок не меняется. Единственная реальная причина использовать счетчик ссылок – предотвратить освобождение объекта, пока наша переменная указывает на него. Если мы знаем, что существует по крайней мере одна другая ссылка на объект, которая живет как минимум столько же, сколько наша переменная, нет необходимости временно получать новую сильную ссылку (т.е. увеличивать счетчик ссылок). Важная ситуация, в которой это возникает, – объекты, передаваемые в качестве аргументов функциям C в модуле расширения, которые вызываются из Python; механизм вызова гарантирует удержание ссылки на каждый аргумент на время вызова.

Однако распространенная ошибка – извлечь объект из списка и удерживать его некоторое время, не получая новую ссылку. Какая-нибудь другая операция может удалить объект из списка, освободив эту ссылку, и, возможно, освободить его. Реальная опасность в том, что безобидные на первый взгляд операции могут вызвать произвольный код Python, который способен это сделать; существует путь выполнения, который позволяет управлению вернуться к пользователю из Py_DECREF(), поэтому практически любая операция потенциально опасна.

Безопасный подход – всегда использовать обобщенные операции (функции, имя которых начинается с PyObject_, PyNumber_, PySequence_ или PyMapping_). Эти операции всегда создают новую сильную ссылку (т.е. увеличивают счетчик ссылок) возвращаемого объекта. Это возлагает на вызывающего обязанность вызвать Py_DECREF(), когда он закончит работу с результатом; это быстро входит в привычку.

Подробности о счетчиках ссылокReference Count Details

Поведение функций Python/C API в отношении счетчиков ссылок лучше всего объяснять в терминах владения ссылками. Владение относится к ссылкам, никогда к объектам (объектами не владеют: они всегда разделяются). «Владение ссылкой» означает ответственность за вызов Py_DECREF для нее, когда ссылка больше не нужна. Владение также может передаваться, что означает, что код, получающий владение ссылкой, становится ответственным за ее освобождение путем вызова Py_DECREF() или Py_XDECREF(), когда она больше не нужна, или за передачу этой ответственности дальше (обычно своему вызывающему). Когда функция передает владение ссылкой своему вызывающему, говорят, что вызывающий получает новую ссылку. Когда владение не передается, говорят, что вызывающий заимствует ссылку. Для заимствованной ссылки ничего делать не нужно.

И наоборот, когда вызывающая функция передает ссылку на объект, есть две возможности: функция крадет ссылку на объект или нет.

Кража ссылки означает, что при передаче ссылки функции эта функция предполагает, что теперь она владеет этой ссылкой. Поскольку новый владелец может использовать Py_DECREF() по своему усмотрению, вызывающий не должен использовать эту ссылку после вызова.

Немногие функции крадут ссылки; двумя заметными исключениями являются PyList_SetItem() и PyTuple_SetItem(), которые крадут ссылку на элемент (но не на кортеж или список, в который помещается элемент!). Эти функции были спроектированы так, чтобы красть ссылку из-за распространенного идиоматического приема заполнения кортежа или списка только что созданными объектами; например, код для создания кортежа (1, 2, "three") может выглядеть так (пока забывая об обработке ошибок; лучший способ написать это показан ниже):

PyObject *t;

t = PyTuple_New(3);
PyTuple_SetItem(t, 0, PyLong_FromLong(1L));
PyTuple_SetItem(t, 1, PyLong_FromLong(2L));
PyTuple_SetItem(t, 2, PyUnicode_FromString("three"));

Здесь PyLong_FromLong() возвращает новую ссылку, которая немедленно крадется PyTuple_SetItem(). Если требуется продолжать использовать объект, хотя ссылка на него будет украдена, используйте Py_INCREF(), чтобы получить другую ссылку перед вызовом функции, крадущей ссылки.

Кстати, PyTuple_SetItem() – это единственный способ задать элементы кортежа. PySequence_SetItem() и PyObject_SetItem() отказываются это делать, поскольку кортежи – неизменяемый тип данных. Используйте PyTuple_SetItem() только для кортежей, которые создаёте самостоятельно.

Эквивалентный код для заполнения списка можно написать с помощью PyList_New() и PyList_SetItem().

Однако на практике эти способы создания и заполнения кортежа или списка используются редко. Существует универсальная функция Py_BuildValue(), которая может создавать большинство распространённых объектов из значений C, управляемая строкой формата. Например, два приведённых выше блока кода можно заменить следующим (который также выполняет проверку ошибок):

PyObject *tuple, *list;

tuple = Py_BuildValue("(iis)", 1, 2, "three");
list = Py_BuildValue("[iis]", 1, 2, "three");

Гораздо чаще PyObject_SetItem() и подобные функции используются с элементами, ссылки на которые только заимствуются, например, с аргументами, переданными в функцию. В этом случае их поведение в отношении ссылок гораздо разумнее, поскольку не нужно получать новую ссылку только для того, чтобы отдать её («позволить её украсть»). Например, эта функция устанавливает все элементы списка (фактически любой изменяемой последовательности) в заданный элемент:

int
set_all(PyObject *target, PyObject *item)
{
    Py_ssize_t i, n;

    n = PyObject_Length(target);
    if (n < 0)
        return -1;
    for (i = 0; i < n; i++) {
        PyObject *index = PyLong_FromSsize_t(i);
        if (!index)
            return -1;
        if (PyObject_SetItem(target, index, item) < 0) {
            Py_DECREF(index);
            return -1;
        }
        Py_DECREF(index);
    }
    return 0;
}

Ситуация немного отличается для возвращаемых значений функций. Хотя передача ссылки большинству функций не меняет обязанности по владению этой ссылкой, многие функции, возвращающие ссылку на объект, передают владение ссылкой вызывающему. Причина проста: во многих случаях возвращаемый объект создаётся на лету, и полученная ссылка является единственной ссылкой на объект. Поэтому универсальные функции, возвращающие ссылки на объекты, такие как PyObject_GetItem() и PySequence_GetItem(), всегда возвращают новую ссылку (вызывающий становится владельцем ссылки).

Важно понимать, что владение ссылкой, возвращённой функцией, зависит только от того, какая функция вызывается – оперение (тип объекта, переданного в качестве аргумента функции) не играет роли! Таким образом, при извлечении элемента из списка с помощью PyList_GetItem() ссылка не переходит во владение – но при получении того же элемента из того же списка с помощью PySequence_GetItem() (которая принимает точно такие же аргументы) возвращённая ссылка переходит во владение.

Вот пример того, как можно написать функцию, вычисляющую сумму элементов списка целых чисел; один раз с помощью PyList_GetItem(), и один раз с помощью PySequence_GetItem().

long
sum_list(PyObject *list)
{
    Py_ssize_t i, n;
    long total = 0, value;
    PyObject *item;

    n = PyList_Size(list);
    if (n < 0)
        return -1; /* Не список */
    for (i = 0; i < n; i++) {
        item = PyList_GetItem(list, i); /* Не может завершиться ошибкой */
        if (!PyLong_Check(item)) continue; /* Пропустить нецелые значения */
        value = PyLong_AsLong(item);
        if (value == -1 && PyErr_Occurred())
            /* Целое число слишком велико для C long, выход */
            return -1;
        total += value;
    }
    return total;
}
long
sum_sequence(PyObject *sequence)
{
    Py_ssize_t i, n;
    long total = 0, value;
    PyObject *item;
    n = PySequence_Length(sequence);
    if (n < 0)
        return -1; /* Не имеет длины */
    for (i = 0; i < n; i++) {
        item = PySequence_GetItem(sequence, i);
        if (item == NULL)
            return -1; /* Не последовательность или другая ошибка */
        if (PyLong_Check(item)) {
            value = PyLong_AsLong(item);
            Py_DECREF(item);
            if (value == -1 && PyErr_Occurred())
                /* Целое число слишком велико для C long, выход */
                return -1;
            total += value;
        }
        else {
            Py_DECREF(item); /* Отказ от владения ссылкой */
        }
    }
    return total;
}

ТипыTypes

Существует ещё несколько типов данных, играющих важную роль в Python/C API; большинство из них – простые типы C, такие как int, long, double и char*. Некоторые структурные типы используются для описания статических таблиц, в которых перечисляются функции, экспортируемые модулем, или атрибуты данных нового типа объекта, а другой тип используется для описания значения комплексного числа. Они будут рассмотрены вместе с функциями, которые их используют.

type Py_ssize_t
Часть Stable ABI.

Знаковый целочисленный тип, такой что sizeof(Py_ssize_t) == sizeof(size_t). C99 не определяет такой тип напрямую (size_t – это беззнаковый целочисленный тип). Подробнее см. PEP 353. PY_SSIZE_T_MAX – это наибольшее положительное значение типа Py_ssize_t.

ИсключенияExceptions

Программисту на Python требуется обрабатывать исключения только в тех случаях, когда необходима специфическая обработка ошибок; необработанные исключения автоматически передаются вызывающему, затем вызывающему вызывающего и так далее, пока не достигнут интерпретатора верхнего уровня, где они сообщаются пользователю вместе с трассировкой стека.

Однако для C-программистов проверка ошибок всегда должна быть явной. Все функции Python/C API могут вызывать исключения, если в документации функции не указано иное. В общем случае, когда функция обнаруживает ошибку, она устанавливает исключение, отбрасывает все принадлежащие ей ссылки на объекты и возвращает индикатор ошибки. Если не задокументировано иное, этот индикатор – либо NULL, либо -1, в зависимости от типа возвращаемого значения функции. Некоторые функции возвращают логический результат true/false, где false указывает на ошибку. Очень немногие функции не возвращают явного индикатора ошибки или имеют неоднозначное возвращаемое значение и требуют явной проверки на ошибки с помощью PyErr_Occurred(). Такие исключения всегда явно документируются.

Состояние исключения хранится в памяти, привязанной к потоку (это эквивалентно использованию глобальной памяти в однопоточном приложении). Поток может находиться в одном из двух состояний: произошло исключение или нет. Функция PyErr_Occurred() может использоваться для проверки этого: она возвращает заимствованную ссылку на объект типа исключения, если произошло исключение, и NULL в противном случае. Существует ряд функций для установки состояния исключения: PyErr_SetString() является наиболее распространённой (хотя и не самой общей) функцией для установки состояния исключения, а PyErr_Clear() очищает состояние исключения.

Полное состояние исключения состоит из трёх объектов (все они могут быть NULL): типа исключения, соответствующего значения исключения и трассировки стека. Они имеют тот же смысл, что и результат Python sys.exc_info(); однако они не одно и то же: объекты Python представляют последнее исключение, обрабатываемое оператором tryexcept, в то время как состояние исключения на уровне C существует только пока исключение передаётся между C-функциями, пока не достигнет основного цикла интерпретатора байт-кода Python, который заботится о его передаче в sys.exc_info() и подобные.

Обратите внимание, что начиная с Python 1.5 предпочтительным потокобезопасным способом доступа к состоянию исключения из кода Python является вызов функции sys.exc_info(), которая возвращает состояние исключения для текущего потока в коде Python. Кроме того, семантика обоих способов доступа к состоянию исключения была изменена таким образом, что функция, перехватывающая исключение, сохраняет и восстанавливает состояние исключения своего потока, чтобы сохранить состояние исключения вызывающей функции. Это предотвращает распространённые ошибки в коде обработки исключений, вызванные тем, что безобидная на вид функция перезаписывает обрабатываемое исключение; это также уменьшает часто нежелательное продление времени жизни объектов, на которые ссылаются кадры стека в трассировке.

В качестве общего принципа: функция, которая вызывает другую функцию для выполнения некоторой задачи, должна проверять, вызвала ли вызываемая функция исключение, и если да, передавать состояние исключения своему вызывающему. Она должна отбрасывать все принадлежащие ей ссылки на объекты и возвращать индикатор ошибки, но не должна устанавливать другое исключение – это перезапишет только что вызванное исключение и приведёт к потере важной информации о точной причине ошибки.

Простой пример обнаружения исключений и их передачи показан в примере sum_sequence() выше. Так получилось, что этому примеру не нужно очищать принадлежащие ссылки при обнаружении ошибки. Следующая примерная функция показывает некоторую очистку при ошибке. Сначала, чтобы напомнить о преимуществах Python, приведён эквивалентный код на Python:

def incr_item(dict, key):
    try:
        item = dict[key]
    except KeyError:
        item = 0
    dict[key] = item + 1

А вот соответствующий код на C во всей своей красе:

int
incr_item(PyObject *dict, PyObject *key)
{
    /* Все объекты инициализированы в NULL для Py_XDECREF */
    PyObject *item = NULL, *const_one = NULL, *incremented_item = NULL;
    int rv = -1; /* Возвращаемое значение инициализировано как -1 (ошибка) */

    item = PyObject_GetItem(dict, key);
    if (item == NULL) {
        /* Обрабатывать только KeyError: */
        if (!PyErr_ExceptionMatches(PyExc_KeyError))
            goto error;

        /* Очистить ошибку и использовать ноль: */
        PyErr_Clear();
        item = PyLong_FromLong(0L);
        if (item == NULL)
            goto error;
    }
    const_one = PyLong_FromLong(1L);
    if (const_one == NULL)
        goto error;

    incremented_item = PyNumber_Add(item, const_one);
    if (incremented_item == NULL)
        goto error;

    if (PyObject_SetItem(dict, key, incremented_item) < 0)
        goto error;
    rv = 0; /* Успех */
    /* Продолжить с кодом очистки */

 error:
    /* Код очистки, общий для путей успеха и ошибки */

    /* Используйте Py_XDECREF() для игнорирования NULL-ссылок */
    Py_XDECREF(item);
    Py_XDECREF(const_one);
    Py_XDECREF(incremented_item);

    return rv; /* -1 для ошибки, 0 для успеха */
}

Этот пример представляет собой одобренное использование оператора goto в C! Он иллюстрирует использование PyErr_ExceptionMatches() и PyErr_Clear() для обработки конкретных исключений, а также использование Py_XDECREF() для освобождения принадлежащих ссылок, которые могут быть NULL (обратите внимание на 'X' в имени; Py_DECREF() аварийно завершится при столкновении с NULL ссылкой). Важно, чтобы переменные, используемые для хранения принадлежащих ссылок, были инициализированы значением NULL для корректной работы; аналогично, предлагаемое возвращаемое значение инициализируется как -1 (неудача) и устанавливается в успех только после того, как последний вызов завершится успешно.

Встраивание PythonEmbedding Python

Единственная важная задача, о которой должны беспокоиться только разработчики, встраивающие интерпретатор Python (в отличие от разработчиков расширений), – это инициализация и, возможно, финализация интерпретатора Python. Большинство функций интерпретатора могут использоваться только после его инициализации.

Основная функция инициализации – Py_Initialize(). Она инициализирует таблицу загруженных модулей и создаёт фундаментальные модули builtins, __main__ и sys. Также она инициализирует путь поиска модулей (sys.path).

Py_Initialize() не устанавливает «список аргументов сценария» (sys.argv). Если эта переменная необходима коду Python, который будет выполняться позже, необходимо установить PyConfig.argv и PyConfig.parse_argv: см. Python Initialization Configuration.

В большинстве систем (в частности, в Unix и Windows, хотя детали несколько различаются) Py_Initialize() вычисляет путь поиска модулей, основываясь на наилучшем предположении о местоположении исполняемого файла стандартного интерпретатора Python, предполагая, что библиотека Python находится в фиксированном месте относительно исполняемого файла интерпретатора Python. В частности, он ищет каталог с именем lib/pythonX.Y относительно родительского каталога, где находится исполняемый файл с именем python в пути поиска команд оболочки (переменная окружения PATH).

Например, если исполняемый файл Python находится в /usr/local/bin/python, то будет предполагаться, что библиотеки находятся в /usr/local/lib/pythonX.Y. (Фактически, этот конкретный путь также является «запасным» местоположением, используемым, когда исполняемый файл с именем python не найден вдоль PATH.) Пользователь может переопределить это поведение, установив переменную окружения PYTHONHOME, или вставить дополнительные каталоги в начало стандартного пути, установив PYTHONPATH.

Встраивающее приложение может управлять поиском, установив PyConfig.program_name перед вызовом Py_InitializeFromConfig(). Обратите внимание, что PYTHONHOME по-прежнему переопределяет это, а PYTHONPATH всё ещё вставляется в начало стандартного пути.

Иногда бывает желательно «деинициализировать» Python. Например, приложение может захотеть начать заново (сделать ещё один вызов Py_Initialize()) или просто завершить использование Python и освободить память, выделенную Python. Это можно сделать, вызвав Py_FinalizeEx(). Функция Py_IsInitialized() возвращает true, если Python в настоящее время находится в инициализированном состоянии. Дополнительная информация об этих функциях приведена в следующей главе. Обратите внимание, что Py_FinalizeEx() не освобождает всю память, выделенную интерпретатором Python, например, память, выделенная модулями расширения, в настоящее время не может быть освобождена.

Отладочные сборкиDebugging Builds

Python может быть собран с несколькими макросами для включения дополнительных проверок интерпретатора и модулей расширения. Эти проверки, как правило, добавляют значительные накладные расходы во время выполнения, поэтому они не включены по умолчанию.

Полный список различных типов отладочных сборок находится в файле Misc/SpecialBuilds.txt в дистрибутиве исходного кода Python. Доступны сборки, поддерживающие трассировку счётчиков ссылок, отладку распределителя памяти или низкоуровневое профилирование основного цикла интерпретатора. В оставшейся части этого раздела будут описаны только наиболее часто используемые сборки.

Py_DEBUG

Компиляция интерпретатора с определённым макросом Py_DEBUG даёт то, что обычно называют отладочной сборкой Python.

В Unix Py_DEBUG можно включить, добавив --with-pydebug к команде ./configure. При этом также отключается оптимизация компилятора.

В Windows выбор отладочной сборки (например, передача опции -d PCbuild/build.bat) автоматически включает Py_DEBUG. Кроме того, наличие неспецифичного для Python макроса _DEBUG, если он определён компилятором, также неявно включает Py_DEBUG.

Помимо отладки подсчёта ссылок, описанной ниже, выполняются дополнительные проверки. Подробнее см. Python Debug Build.

Определение Py_TRACE_REFS включает отслеживание ссылок (см. configure --with-trace-refs option). При определении ведётся циклический двусвязный список активных объектов с помощью добавления двух дополнительных полей к каждому PyObject. Также отслеживаются общие выделения памяти. При выходе печатаются все существующие ссылки. (В интерактивном режиме это происходит после каждого выполненного интерпретатором оператора.)

См. Misc/SpecialBuilds.txt в дистрибутиве исходных текстов Python для получения более подробной информации.