Документация Python неофициальный перевод

30.5. token – Константы, используемые с деревьями разбора Pythontoken – Constants used with Python parse trees

Этот модуль предоставляет константы, представляющие числовые значения листовых узлов дерева разбора (терминальные токены). Обратитесь к файлу Grammar/Grammar в дистрибутиве Python за определениями имён в контексте грамматики языка. Конкретные числовые значения, на которые отображаются имена, могут меняться между версиями Python.

Модуль также предоставляет отображение числовых кодов на имена и несколько\nфункций. Функции дублируют определения из C-заголовочных файлов Python.

token.tok_name
Словарь, отображающий числовые значения констант, определённых в этом модуле,\nобратно в строки имён, что позволяет создавать более удобочитаемое представление деревьев разбора.
token.ISTERMINAL(x)
Возвращает True для значений терминальных токенов.
token.ISNONTERMINAL(x)
Возвращает True для значений нетерминальных токенов.
token.ISEOF(x)
Возвращает True, если x является маркером, указывающим на конец ввода.

Константы токенов:

token.ENDMARKER
token.NAME
token.NUMBER
token.STRING
token.NEWLINE
token.INDENT
token.DEDENT
token.LPAR
token.RPAR
token.LSQB
token.RSQB
token.COLON
token.COMMA
token.SEMI
token.PLUS
token.MINUS
token.STAR
token.SLASH
token.VBAR
token.AMPER
token.LESS
token.GREATER
token.EQUAL
token.DOT
token.PERCENT
token.BACKQUOTE
token.LBRACE
token.RBRACE
token.EQEQUAL
token.NOTEQUAL
token.LESSEQUAL
token.GREATEREQUAL
token.TILDE
token.CIRCUMFLEX
token.LEFTSHIFT
token.RIGHTSHIFT
token.DOUBLESTAR
token.PLUSEQUAL
token.MINEQUAL
token.STAREQUAL
token.SLASHEQUAL
token.PERCENTEQUAL
token.AMPEREQUAL
token.VBAREQUAL
token.CIRCUMFLEXEQUAL
token.LEFTSHIFTEQUAL
token.RIGHTSHIFTEQUAL
token.DOUBLESTAREQUAL
token.DOUBLESLASH
token.DOUBLESLASHEQUAL
token.AT
token.OP
token.ERRORTOKEN
token.N_TOKENS
token.NT_OFFSET

См. также

Модуль parser
Второй пример для модуля parser показывает, как использовать модуль symbol.