6.2. re – Операции с регулярными выражениями¶re – Regular expression operations

6.2.1. Синтаксис регулярных выражений¶Regular Expression Syntax

Регулярное выражение (или RE) задаёт набор строк, которым оно соответствует; функции в этом модуле позволяют проверить, соответствует ли конкретная строка заданному регулярному выражению (или соответствует ли заданное регулярное выражение конкретной строке – что одно и то же).

Регулярные выражения можно объединять для получения новых регулярных выражений; если A и B – оба регулярные выражения, то AB тоже является регулярным выражением. В общем, если строка p соответствует A, а другая строка q соответствует B, то строка pq будет соответствовать AB. Это верно, если только A или B не содержат операций с низким приоритетом; граничных условий между A и B; или нумерованных ссылок на группы. Таким образом, сложные выражения легко строятся из более простых примитивных выражений, подобных описанным здесь. Подробности теории и реализации регулярных выражений можно найти в книге Фридла [Frie09], или почти в любом учебнике по конструированию компиляторов.

Далее следует краткое объяснение формата регулярных выражений. Для получения дополнительной информации и более доступного изложения обратитесь к руководству по регулярным выражениям.

Регулярные выражения могут содержать как специальные, так и обычные символы. Большинство обычных символов, например 'A', 'a' или '0', являются простейшими регулярными выражениями; они просто соответствуют сами себе. Можно объединять обычные символы, поэтому last соответствует строке 'last'. (В оставшейся части этого раздела мы будем записывать RE в this special style, обычно без кавычек, а строки для сопоставления – в 'in single quotes'.)

Некоторые символы, например '|' или '(', являются специальными. Специальные символы либо обозначают классы обычных символов, либо влияют на интерпретацию окружающих их регулярных выражений.

Квантификаторы повторения (*, +, ?, {m,n} и т.д.) не могут быть непосредственно вложенными. Это позволяет избежать неоднозначности с суффиксом нежадного модификатора ? и с другими модификаторами в других реализациях. Чтобы применить второе повторение к внутреннему повторению, можно использовать круглые скобки. Например, выражение (?:a{6})* соответствует любому кратному шести 'a' символам.

Специальные символы:

.

(Точка.) В режиме по умолчанию соответствует любому символу, кроме символа новой строки. Если указан флаг DOTALL, то соответствует любому символу, включая символ новой строки.

^

(Циркумфлекс.) Соответствует началу строки, а в режиме MULTILINE также соответствует сразу после каждого символа новой строки.

$

Соответствует концу строки или непосредственно перед символом новой строки в конце строки, а в режиме MULTILINE также соответствует перед символом новой строки. foo соответствует и ‘foo’, и ‘foobar’, в то время как регулярное выражение foo$ соответствует только ‘foo’. Интереснее то, что поиск foo.$ в 'foo1\nfoo2\n' обычно соответствует ‘foo2’, но в режиме MULTILINE – ‘foo1’; поиск одиночного $ в 'foo\n' найдет два (пустых) совпадения: одно сразу перед символом новой строки, и одно в конце строки.

*

Заставляет результирующее RE соответствовать 0 или более повторениям предыдущего RE, насколько это возможно. ab* будет соответствовать ‘a’, ‘ab’ или ‘a’, за которым следует любое количество символов ‘b’.

+

Заставляет результирующее RE соответствовать 1 или более повторениям предыдущего RE. ab+ будет соответствовать ‘a’, за которым следует любое ненулевое количество символов ‘b’; оно не будет соответствовать просто ‘a’.

?

Заставляет результирующее RE соответствовать 0 или 1 повторению предыдущего RE. ab? будет соответствовать либо ‘a’, либо ‘ab’.

*?, +?, ??

Квантификаторы '*', '+' и '?' являются жадными; они соответствуют как можно большему количеству текста. Иногда такое поведение нежелательно; если РВ <.*> сопоставить с '<a> b <c>', оно будет соответствовать всей строке, а не только '<a>'. Добавление ? после квантификатора заставляет его выполнять сопоставление в нежадном или минимальном режиме; будет сопоставлено как можно меньше символов. Использование РВ <.*?> будет соответствовать только '<a>'.

{m}

Указывает, что должно быть сопоставлено ровно m копий предыдущего RE; меньшее количество совпадений приводит к тому, что всё RE не соответствует. Например, a{6} будет соответствовать ровно шести символам 'a', но не пяти.

{m,n}

Заставляет результирующее RE соответствовать от m до n повторений предыдущего RE, пытаясь сопоставить как можно больше повторений. Например, a{3,5} будет соответствовать от 3 до 5 символов 'a'. Пропуск m задаёт нижнюю границу, равную нулю, а пропуск n задаёт бесконечную верхнюю границу. В качестве примера, a{4,}b будет соответствовать 'aaaab' или тысяче символов 'a', за которыми следует 'b', но не 'aaab'. Запятую нельзя опускать, иначе модификатор будет спутан с ранее описанной формой.

{m,n}?

Заставляет результирующее РВ соответствовать от m до n повторений предыдущего РВ, пытаясь сопоставить как можно меньше повторений. Это нежадная версия предыдущего квантификатора. Например, для 6-символьной строки 'aaaaaa', a{3,5} будет соответствовать 5 'a' символам, в то время как a{3,5}? будет соответствовать только 3 символам.

\

Либо экранирует специальные символы (позволяя сопоставлять такие символы, как '*', '?' и т.д.), либо обозначает специальную последовательность; специальные последовательности рассматриваются ниже.

Если вы не используете сырую строку для выражения шаблона, помните, что Python также использует обратную косую черту как escape-последовательность в строковых литералах; если escape- последовательность не распознаётся парсером Python, обратная косая черта и следующий за ней символ включаются в результирующую строку. Однако если Python распознает результирующую последовательность, обратную косую черту следует удвоить. Это сложно и трудно для понимания, поэтому настоятельно рекомендуется использовать сырые строки для всех, кроме самых простых выражений.

[]

Используется для обозначения набора символов. В наборе:

• Символы можно перечислять по отдельности, например, [amk] совпадет с 'a', 'm' или 'k'.

• Диапазоны символов можно указать, задав два символа и разделив их '-', например [a-z] совпадет с любой строчной буквой ASCII, [0-5][0-9] – со всеми двузначными числами от 00 до 59, а [0-9A-Fa-f] – с любой шестнадцатеричной цифрой. Если - экранирован (например, [a\-z]) или стоит первым или последним символом (например, [-a] или [a-]), он будет совпадать с литералом '-'.

• Специальные символы теряют своё специальное значение внутри наборов. Например, [(+*)] будет соответствовать любому из литеральных символов '(', '+', '*' или ')'.

• Классы символов, такие как \w или \S (определены ниже), также принимаются внутри набора, хотя символы, которым они соответствуют, зависят от того, активен ли режим ASCII или LOCALE.

• Символы, не входящие в диапазон, можно сопоставить с помощью дополнения набора. Если первый символ набора – '^', то будут сопоставлены все символы, которые не входят в набор. Например, [^5] совпадет с любым символом, кроме '5', а [^^] – с любым символом, кроме '^'. ^ не имеет специального значения, если он не первый символ в наборе.

• Чтобы найти символ ']' внутри набора, поставьте перед ним обратную косую черту или поместите его в начало набора. Например, [()[\]{}] и []()[{}] оба соответствуют круглой скобке.

|

A|B, где A и B могут быть произвольными РВ, создаёт регулярное выражение, которое совпадает либо с A, либо с B. Таким образом можно разделить произвольное количество РВ с помощью '|'. Это также можно использовать внутри групп (см. ниже). По мере сканирования целевой строки РВ, разделённые '|', пробуются слева направо. Когда один шаблон полностью совпадает, эта ветвь принимается. Это означает, что как только A совпадает, B больше не проверяется, даже если бы оно дало более длинное общее совпадение. Другими словами, оператор '|' никогда не является жадным. Чтобы сопоставить литерал '|', используйте \| или заключите его в класс символов, например [|].

(...)

Соответствует любому регулярному выражению внутри круглых скобок и обозначает начало и конец группы; содержимое группы можно получить после выполнения сопоставления, а также сопоставить позже в строке с помощью специальной последовательности \number, описанной ниже. Чтобы сопоставить литералы '(' или ')', используйте \( или \) или заключите их в класс символов: [(], [)].

(?...)

Это расширенная запись (иначе '?' после '(' не имеет смысла). Первый символ после '?' определяет значение и дальнейший синтаксис конструкции. Расширения обычно не создают новую группу; (?P<name>...) – единственное исключение из этого правила. Ниже перечислены поддерживаемые в настоящее время расширения.

(?aiLmsux)

(Одна или более букв из набора 'a', 'i', 'L', 'm', 's', 'u', 'x'.) Группа соответствует пустой строке; буквы устанавливают соответствующие флаги: re.A (только ASCII), re.I (игнорировать регистр), re.L (зависит от локали), re.M (многострочный), re.S (точка соответствует всему), re.U (сопоставление Unicode) и re.X (подробный), для всего регулярного выражения. (Флаги описаны в разделе Содержание модуля.) Это полезно, если вы хотите включить флаги как часть регулярного выражения, вместо передачи аргумента flag в функцию re.compile(). Флаги должны использоваться первыми в строке выражения.

(?:...)

Незапоминающая версия обычных круглых скобок. Совпадает с любым регулярным выражением внутри скобок, но подстрока, совпавшая с группой, не может быть извлечена после выполнения сопоставления или использована для ссылки позже в шаблоне.

(?imsx-imsx:...)

(Ноль или более букв из набора 'i', 'm', 's', 'x', за которыми опционально следует '-' и затем одна или более букв из того же набора.) Буквы включают или отключают соответствующие флаги: re.I (игнорирование регистра), re.M (многострочный режим), re.S (точка соответствует любому символу) и re.X (подробный режим) для части выражения. (Флаги описаны в разделе Содержимое модуля.)

Новое в версии 3.6.

(?P<name>...)

Аналогично обычным круглым скобкам, но подстрока, совпавшая с группой, доступна по символическому имени группы name. Имена групп должны быть допустимыми идентификаторами Python, и каждое имя группы должно быть определено только один раз в регулярном выражении. Символическая группа также является нумерованной группой, как если бы группа не была именованной.

Именованные группы можно использовать в трех контекстах. Если шаблон (?P<quote>['"]).*?(?P=quote) (т.е. соответствие строке, заключенной в одинарные или двойные кавычки):

Контекст ссылки на группу «quote»	Способы ссылки на нее
в том же самом шаблоне	(?P=quote) (как показано) \1
при обработке объекта совпадения m	m.group('quote') m.end('quote') (и т.д.)
в строке, передаваемой в аргумент repl функции re.sub()	\g<quote> \g<1> \1

(?P=name)

Обратная ссылка на именованную группу; соответствует любому тексту, который был найден ранее группой с именем name.

(?#...)

Комментарий; содержимое скобок просто игнорируется.

(?=...)

Совпадает, если ... совпадает далее, но не потребляет ни одного символа строки. Это называется опережающей проверкой. Например, Isaac (?=Asimov) совпадет с 'Isaac ', только если за ним следует 'Asimov'.

(?!...)

Совпадает, если ... не совпадает далее. Это отрицательная опережающая проверка. Например, Isaac (?!Asimov) совпадет с 'Isaac ', только если за ним не следует 'Asimov'.

(?<=...)

Совпадает, если текущей позиции в строке предшествует совпадение с ..., которое заканчивается в текущей позиции. Это называется положительной ретроспективной проверкой. (?<=abc)def найдет совпадение в 'abcdef', поскольку ретроспективная проверка отступит на 3 символа и проверит, совпадает ли вложенный шаблон. Вложенный шаблон может соответствовать только строкам фиксированной длины, то есть abc или a|b разрешены, а a* и a{3,4} – нет. Обратите внимание, что шаблоны, начинающиеся с положительной ретроспективной проверки, не будут совпадать в начале искомой строки; скорее всего, следует использовать функцию search(), а не match():

>>> import re
>>> m = re.search('(?<=abc)def', 'abcdef')
>>> m.group(0)
'def'

Этот пример ищет слово, следующее за дефисом:

>>> m = re.search(r'(?<=-)\w+', 'spam-egg')
>>> m.group(0)
'egg'

Изменено в версии 3.5: Добавлена поддержка ссылок на группы фиксированной длины.

(?<!...)

Совпадает, если текущей позиции в строке не предшествует совпадение с .... Это называется отрицательной ретроспективной проверкой. Аналогично положительным ретроспективным проверкам, вложенный шаблон может соответствовать только строкам фиксированной длины. Шаблоны, начинающиеся с отрицательной ретроспективной проверки, могут совпадать в начале искомой строки.

(?(id/name)yes-pattern|no-pattern)

Будет пытаться сопоставить с yes-pattern, если группа с заданным id или именем существует, и с no-pattern в противном случае. no-pattern необязателен и может быть опущен. Например, (<)?(\w+@\w+(?:\.\w+)+)(?(1)>|$) – это неудачный шаблон для сопоставления email, который будет соответствовать '<user@host.com>', а также 'user@host.com', но не '<user@host.com' и не 'user@host.com>'.

Специальные последовательности состоят из '\' и символа из списка ниже. Если обычный символ не является цифрой ASCII или буквой ASCII, то полученное регулярное выражение будет соответствовать второму символу. Например, \$ соответствует символу '$'.

\number

Совпадает с содержимым группы с тем же номером. Группы нумеруются начиная с 1. Например, (.+) \1 совпадает с 'the the' или '55 55', но не с 'thethe' (обратите внимание на пробел после группы). Эта специальная последовательность может использоваться только для сопоставления с одной из первых 99 групп. Если первая цифра числа равна 0, или число состоит из 3 восьмеричных цифр, оно не будет интерпретироваться как ссылка на группу, а как символ с восьмеричным значением числа. Внутри '[' и ']' символьного класса все числовые управляющие последовательности рассматриваются как символы.

\A

Совпадает только в начале строки.

\b

Соответствует пустой строке, но только в начале или конце слова. Слово определяется как последовательность словообразовательных символов. Обратите внимание, что формально \b определяется как граница между символом \w и символом \W (или наоборот), или между \w и началом/концом строки. Это означает, что r'\bfoo\b' соответствует 'foo', 'foo.', '(foo)', 'bar foo baz', но не 'foobar' или 'foo3'.

По умолчанию в шаблонах Unicode используются буквенно-цифровые символы Unicode, но это можно изменить с помощью флага ASCII. Границы слов определяются текущей локалью, если используется флаг LOCALE. Внутри диапазона символов \b представляет символ возврата на одну позицию (backspace) для совместимости со строковыми литералами Python.

\B

Соответствует пустой строке, но только когда она не находится в начале или конце слова. Это означает, что r'py\B' соответствует 'python', 'py3', 'py2', но не 'py', 'py.' или 'py!'. \B является противоположностью \b, поэтому словообразовательные символы в шаблонах Unicode являются буквенно-цифровыми символами Unicode или подчеркиванием, хотя это можно изменить с помощью флага ASCII. Границы слов определяются текущей локалью, если используется флаг LOCALE.

\d

Для шаблонов Unicode (str):

Соответствует любой десятичной цифре Unicode (то есть любому символу из категории Unicode [Nd]). Сюда входит [0-9], а также множество других цифровых символов. Если используется флаг ASCII, сопоставление происходит только с [0-9] (но флаг влияет на всё регулярное выражение, поэтому в таких случаях может быть предпочтительнее явно указать [0-9]).

Для 8-битных (байтовых) шаблонов:

Соответствует любой десятичной цифре; это эквивалентно [0-9].

\D

Соответствует любому символу, не являющемуся десятичной цифрой. Это противоположность \d. Если используется флаг ASCII, это становится эквивалентом [^0-9] (но флаг влияет на всё регулярное выражение, поэтому в таких случаях может быть предпочтительнее явно указать [^0-9]).

\s

Для шаблонов Unicode (str):

Соответствует пробельным символам Unicode (включая [ \t\n\r\f\v], а также множество других символов, например неразрывные пробелы, требуемые типографскими правилами во многих языках). Если используется флаг ASCII, сопоставление происходит только с [ \t\n\r\f\v] (но флаг влияет на всё регулярное выражение, поэтому в таких случаях может быть предпочтительнее явно указать [ \t\n\r\f\v]).

Для 8-битных (байтовых) шаблонов:

Соответствует символам, считающимся пробельными в наборе символов ASCII; это эквивалентно [ \t\n\r\f\v].

\S

Соответствует любому символу, не являющемуся пробельным. Это противоположность \s. Если используется флаг ASCII, это становится эквивалентом [^ \t\n\r\f\v] (но флаг влияет на всё регулярное выражение, поэтому в таких случаях может быть предпочтительнее явно указать [^ \t\n\r\f\v]).

\w

Для шаблонов Unicode (str):

Соответствует символам слов Unicode; сюда входят большинство символов, которые могут быть частью слова в любом языке, а также цифры и символ подчёркивания. Если используется флаг ASCII, сопоставление происходит только с [a-zA-Z0-9_] (но флаг влияет на всё регулярное выражение, поэтому в таких случаях может быть предпочтительнее явно указать [a-zA-Z0-9_]).

Для 8-битных (байтовых) шаблонов:

Соответствует символам, считающимся буквенно-цифровыми в наборе символов ASCII; это эквивалентно [a-zA-Z0-9_]. Если используется флаг LOCALE, то соответствует символам, считающимся буквенно-цифровыми в текущей локали, и символу подчеркивания.

\W

Соответствует любому символу, не являющемуся символом слова. Это противоположность \w. Если используется флаг ASCII, это становится эквивалентом [^a-zA-Z0-9_] (но флаг влияет на всё регулярное выражение, поэтому в таких случаях может быть предпочтительнее явно указать [^a-zA-Z0-9_]). Если используется флаг LOCALE, сопоставление происходит с символами, считающимися буквенно-цифровыми в текущей локали, и символом подчёркивания.

\Z

Совпадение только в конце строки.

Большинство стандартных управляющих последовательностей, поддерживаемых строковыми литералами Python, также принимаются синтаксическим анализатором регулярных выражений:

\a      \b      \f      \n
\r      \t      \u      \U
\v      \x      \\

(Обратите внимание, что \b используется для обозначения границ слов, а означает «забой» только внутри символьных классов.)

Управляющие последовательности '\u' и '\U' распознаются только в шаблонах Unicode. В байтовых шаблонах они вызывают ошибку.

Восьмеричные управляющие последовательности поддерживаются в ограниченной форме. Если первая цифра – 0, или если есть три восьмеричных цифры, это считается восьмеричной управляющей последовательностью. В противном случае это ссылка на группу. Как и в строковых литералах, восьмеричные управляющие последовательности всегда имеют длину не более трёх цифр.

6.2.2. Содержание модуля¶Module Contents

Модуль определяет несколько функций, констант и одно исключение. Некоторые из функций являются упрощёнными версиями полнофункциональных методов для скомпилированных регулярных выражений. В большинстве нетривиальных приложений всегда используется скомпилированная форма.

re.compile(pattern, flags=0)¶

Компилирует шаблон регулярного выражения в объект регулярного выражения, который можно использовать для сопоставления с помощью его методов match(), search() и других, описанных ниже.

Поведение выражения можно изменить, указав значение flags. В качестве значений можно использовать любые из следующих переменных, комбинируя их с помощью побитового ИЛИ (оператор |).

Последовательность

prog = re.compile(pattern)
result = prog.match(string)

эквивалентна

result = re.match(pattern, string)

но использование re.compile() и сохранение полученного объекта регулярного выражения для повторного использования более эффективно, когда выражение будет использоваться несколько раз в одной программе.

Примечание

Скомпилированные версии последних шаблонов, переданных в re.compile() и функции сопоставления уровня модуля, кешируются, поэтому программам, использующим лишь несколько регулярных выражений за раз, не нужно беспокоиться о компиляции регулярных выражений.

re.A¶

re.ASCII¶

Заставляет \w, \W, \b, \B, \d, \D, \s и \S выполнять сопоставление только по ASCII вместо полного сопоставления Unicode. Это имеет смысл только для шаблонов Unicode и игнорируется для байтовых шаблонов. Соответствует встроенному флагу (?a).

Обратите внимание, что для обратной совместимости флаг re.U все еще существует (как и его синоним re.UNICODE и встроенный аналог (?u)), но они избыточны в Python 3, поскольку сопоставление по умолчанию для строк выполняется в Unicode (а сопоставление Unicode не допускается для байтов).

re.DEBUG¶

Отображает отладочную информацию о скомпилированном выражении. Нет соответствующего встроенного флага.

re.I¶

re.IGNORECASE¶

Выполняет сопоставление без учета регистра; выражения типа [A-Z] также будут соответствовать строчным буквам. Полное сопоставление Unicode (например, Ü соответствует ü) также работает, если только флаг re.ASCII не используется для отключения не-ASCII сопоставлений. Текущая локаль не влияет на действие этого флага, если только не используется также флаг re.LOCALE. Соответствует встроенному флагу (?i).

Обратите внимание, что при использовании шаблонов Unicode [a-z] или [A-Z] в комбинации с флагом IGNORECASE они будут соответствовать 52 буквам ASCII и 4 дополнительным не-ASCII буквам: ‘İ’ (U+0130, латинская заглавная буква I с точкой сверху), ‘ı’ (U+0131, латинская строчная буква i без точки), ‘ſ’ (U+017F, латинская строчная буква длинная s) и ‘K’ (U+212A, символ Кельвина). Если используется флаг ASCII, сопоставление происходит только с буквами от ‘a’ до ‘z’ и от ‘A’ до ‘Z’ (но флаг влияет на всё регулярное выражение, поэтому в таких случаях может быть предпочтительнее явно указать (?-i:[a-zA-Z])).

re.L¶

re.LOCALE¶

Делает \w, \W, \b, \B и сопоставление без учета регистра зависимыми от текущей локали. Этот флаг можно использовать только с байтовыми шаблонами. Использование этого флага не рекомендуется, так как механизм локали очень ненадежен, он обрабатывает только одну «культуру» за раз и работает только с 8-битными локалями. Сопоставление Unicode уже включено по умолчанию в Python 3 для шаблонов Unicode (str) и может обрабатывать разные локали/языки. Соответствует встроенному флагу (?L).

Изменено в версии 3.6: re.LOCALE можно использовать только с байтовыми шаблонами и он несовместим с re.ASCII.

re.M¶

re.MULTILINE¶

При указании символ шаблона '^' соответствует началу строки и началу каждой строки (сразу после каждого перевода строки); а символ шаблона '$' соответствует концу строки и концу каждой строки (сразу перед каждым переводом строки). По умолчанию '^' соответствует только началу строки, а '$' только концу строки и сразу перед переводом строки (если есть) в конце строки. Соответствует встроенному флагу (?m).

re.S¶

re.DOTALL¶

Заставляет специальный символ '.' соответствовать любому символу, включая перевод строки; без этого флага '.' будет соответствовать любому символу кроме перевода строки. Соответствует встроенному флагу (?s).

re.X¶

re.VERBOSE¶

Этот флаг позволяет писать регулярные выражения, которые выглядят лучше и читаются легче, позволяя визуально разделять логические секции шаблона и добавлять комментарии. Пробельные символы внутри шаблона игнорируются, за исключением случаев, когда они находятся внутри символьного класса, или перед ними стоит неэкранированная обратная косая черта, или внутри токенов, таких как *?, (?: или (?P<...>. Если строка содержит #, который не находится внутри символьного класса и не предварён неэкранированной обратной косой чертой, все символы от самого левого такого # до конца строки игнорируются.

Это означает, что следующие два объекта регулярных выражений, которые сопоставляют десятичное число, функционально эквивалентны:

a = re.compile(r"""\d +  # the integral part
                   \.    # the decimal point
                   \d *  # some fractional digits""", re.X)
b = re.compile(r"\d+\.\d*")

Соответствует встроенному флагу (?x).

re.search(pattern, string, flags=0)¶

Просматривает строку string в поиске первой позиции, где регулярное выражение pattern даёт совпадение, и возвращает соответствующий объект сопоставления. Возвращает None, если ни одна позиция в строке не соответствует шаблону; обратите внимание, что это отличается от поиска нулевого совпадения в какой-то точке строки.

re.match(pattern, string, flags=0)¶

Если ноль или более символов в начале строки string соответствуют регулярному выражению pattern, возвращает соответствующий объект сопоставления. Возвращает None, если строка не соответствует шаблону; обратите внимание, что это отличается от нулевого совпадения.

Обратите внимание, что даже в режиме MULTILINE, re.match() будет совпадать только в начале строки, а не в начале каждой строки.

If you want to locate a match anywhere in string, use search() instead (see also search() vs. match()).

re.fullmatch(pattern, string, flags=0)¶

Если вся строка string соответствует регулярному выражению pattern, возвращает соответствующий объект сопоставления. Возвращает None, если строка не соответствует шаблону; обратите внимание, что это отличается от нулевого совпадения.

Новое в версии 3.4.

re.split(pattern, string, maxsplit=0, flags=0)¶

Разделяет string по вхождениям pattern. Если в pattern используются захватывающие круглые скобки, то текст всех групп в шаблоне также возвращается как часть результирующего списка. Если maxsplit не равно нулю, то происходит не более maxsplit разбиений, а остаток строки возвращается как последний элемент списка.

>>> re.split(r'\W+', 'Words, words, words.')
['Words', 'words', 'words', '']
>>> re.split(r'(\W+)', 'Words, words, words.')
['Words', ', ', 'words', ', ', 'words', '.', '']
>>> re.split(r'\W+', 'Words, words, words.', 1)
['Words', 'words, words.']
>>> re.split('[a-f]+', '0a3B9', flags=re.IGNORECASE)
['0', '3', '9']

Если в разделителе есть захватывающие группы и он совпадает в начале строки, результат будет начинаться с пустой строки. То же самое относится и к концу строки:

>>> re.split(r'(\W+)', '...words, words...')
['', '...', 'words', ', ', 'words', '...', '']

Таким образом, компоненты разделителя всегда находятся на одних и тех же относительных индексах в результирующем списке.

Примечание

split() в настоящее время не разбивает строку по совпадению с пустым шаблоном. Например:

>>> re.split('x*', 'axbc')
['a', 'bc']

Несмотря на то, что 'x*' также соответствует 0 ‘x’ перед ‘a’, между ‘b’ и ‘c’ и после ‘c’, в настоящее время эти совпадения игнорируются. Правильное поведение (т.е. разбиение также по пустым совпадениям с возвратом ['', 'a', 'b', 'c', '']) будет реализовано в будущих версиях Python, но поскольку это обратно несовместимое изменение, пока будет вызываться FutureWarning.

Шаблоны, которые могут соответствовать только пустым строкам, в настоящее время никогда не разбивают строку. Поскольку это не соответствует ожидаемому поведению, начиная с Python 3.5 будет вызываться ValueError:

>>> re.split("^$", "foo\n\nbar\n", flags=re.M)
Traceback (most recent call last):
  File "<stdin>", line 1, in <module>
  ...
ValueError: split() requires a non-empty pattern match.

Изменено в версии 3.1: Добавлен необязательный аргумент flags.

Изменено в версии 3.5: Разбиение по шаблону, который может соответствовать пустой строке, теперь вызывает предупреждение. Шаблоны, которые могут соответствовать только пустым строкам, теперь отклоняются.

re.findall(pattern, string, flags=0)¶

Возвращает все непересекающиеся совпадения pattern в string в виде списка строк. string сканируется слева направо, совпадения возвращаются в порядке обнаружения. Если в шаблоне присутствуют одна или несколько групп, возвращается список групп; если групп больше одной, список будет состоять из кортежей. Пустые совпадения включаются в результат.

Примечание

Из-за ограничения текущей реализации символ, следующий за пустым совпадением, не включается в следующее совпадение, поэтому findall(r'^|\w+', 'two words') возвращает ['', 'wo', 'words'] (обратите внимание на пропущенную «t»). Это изменено в Python 3.7.

re.finditer(pattern, string, flags=0)¶

Возвращает итератор, выдающий объекты совпадений по всем непересекающимся совпадениям для RE pattern в string. Строка string сканируется слева направо, совпадения возвращаются в порядке обнаружения. Пустые совпадения включаются в результат. См. также примечание о findall().

re.sub(pattern, repl, string, count=0, flags=0)¶

Возвращает строку, полученную заменой крайних левых непересекающихся вхождений шаблона в строке заменой заменой. Если шаблон не найден, возвращается строка без изменений. замена может быть строкой или функцией; если это строка, обрабатываются все escape-последовательности с обратной косой чертой. То есть \n преобразуется в символ новой строки, \r преобразуется в возврат каретки и так далее. Неизвестные escape-последовательности, такие как \&, остаются без изменений. Обратные ссылки, например \6, заменяются подстрокой, соответствующей группе 6 в шаблоне. Например:

>>> re.sub(r'def\s+([a-zA-Z_][a-zA-Z_0-9]*)\s*\(\s*\):',
...        r'static PyObject*\npy_\1(void)\n{',
...        'def myfunc():')
'static PyObject*\npy_myfunc(void)\n{'

Если repl является функцией, она вызывается для каждого непересекающегося вхождения pattern. Функция принимает единственный аргумент – объект сопоставления, и возвращает строку замены. Например:

>>> def dashrepl(matchobj):
...     if matchobj.group(0) == '-': return ' '
...     else: return '-'
>>> re.sub('-{1,2}', dashrepl, 'pro----gram-files')
'pro--gram files'
>>> re.sub(r'\sAND\s', ' & ', 'Baked Beans And Spam', flags=re.IGNORECASE)
'Baked Beans & Spam'

Шаблон может быть строкой или объектом шаблона.

Необязательный аргумент count – максимальное количество вхождений шаблона, которые нужно заменить; count должен быть неотрицательным целым числом. Если он опущен или равен нулю, заменяются все вхождения. Пустые совпадения для шаблона заменяются только тогда, когда они не примыкают к предыдущему совпадению, поэтому sub('x*', '-', 'abc') возвращает '-a-b-c-'.

В строковых аргументах repl, помимо управляющих последовательностей и обратных ссылок, описанных выше, \g<name> использует подстроку, соответствующую группе с именем name, как определено синтаксисом (?P<name>...). \g<number> использует соответствующий номер группы; таким образом, \g<2> эквивалентно \2, но не вызывает неоднозначности в такой замене, как \g<2>0. \20 будет интерпретироваться как ссылка на группу 20, а не как ссылка на группу 2 с последующим литеральным символом '0'. Обратная ссылка \g<0> подставляет всю подстроку, соответствующую регулярному выражению.

Изменено в версии 3.1: Добавлен необязательный аргумент flags.

Изменено в версии 3.5: Несовпавшие группы заменяются пустой строкой.

Изменено в версии 3.6: Неизвестные управляющие последовательности в pattern, состоящие из '\' и буквы ASCII, теперь считаются ошибками.

Устарело с версии 3.5, будет удалено в версии 3.7: Неизвестные escape-последовательности в замене, состоящие из '\' и буквы ASCII, теперь вызывают предупреждение об устаревании и будут запрещены в Python 3.7.

re.subn(pattern, repl, string, count=0, flags=0)¶

Выполняет ту же операцию, что и sub(), но возвращает кортеж (new_string, number_of_subs_made).

Изменено в версии 3.1: Добавлен необязательный аргумент flags.

Изменено в версии 3.5: Несовпавшие группы заменяются пустой строкой.

re.escape(pattern)¶

Экранирует все символы в pattern, кроме букв ASCII, цифр и '_'. Это полезно, если нужно сопоставить произвольную литеральную строку, которая может содержать метасимволы регулярных выражений. Например:

>>> print(re.escape('python.exe'))
python\.exe

>>> legal_chars = string.ascii_lowercase + string.digits + "!#$%&'*+-.^_`|~:"
>>> print('[%s]+' % re.escape(legal_chars))
[abcdefghijklmnopqrstuvwxyz0123456789\!\#\$\%\&\'\*\+\-\.\^_\`\|\~\:]+

>>> operators = ['+', '-', '*', '/', '**']
>>> print('|'.join(map(re.escape, sorted(operators, reverse=True))))
\/|\-|\+|\*\*|\*

Эту функцию нельзя использовать для строки замены в sub() и subn(), следует экранировать только обратные косые черты. Например:

>>> digits_re = r'\d+'
>>> sample = '/usr/sbin/sendmail - 0 errors, 12 warnings'
>>> print(re.sub(digits_re, digits_re.replace('\\', r'\\'), sample))
/usr/sbin/sendmail - \d+ errors, \d+ warnings

Изменено в версии 3.3: Символ '_' больше не экранируется.

re.purge()¶

Очищает кэш регулярных выражений.

exception re.error(msg, pattern=None, pos=None)¶

Исключение возникает, когда переданная одной из функций строка не является корректным регулярным выражением (например, может содержать непарные скобки) или когда происходит другая ошибка во время компиляции или сопоставления. Если строка не содержит совпадений с шаблоном, это никогда не считается ошибкой. Экземпляр ошибки имеет следующие дополнительные атрибуты:

msg¶

Неформатированное сообщение об ошибке.

pattern¶

Шаблон регулярного выражения.

pos¶

Индекс в pattern, где произошла ошибка компиляции (может быть None).

lineno¶

Строка, соответствующая pos (может быть None).

colno¶

Столбец, соответствующий pos (может быть None).

Изменено в версии 3.5: Добавлены дополнительные атрибуты.

6.2.3. Объекты регулярных выражений¶Regular Expression Objects

Скомпилированные объекты регулярных выражений поддерживают следующие методы и атрибуты:

regex.search(string[, pos[, endpos]])¶

Просматривает строку string в поиске первой позиции, где данное регулярное выражение даёт совпадение, и возвращает соответствующий объект сопоставления. Возвращает None, если ни одна позиция в строке не соответствует шаблону; обратите внимание, что это отличается от поиска нулевого совпадения в какой-то точке строки.

Необязательный второй параметр pos задаёт индекс в строке, с которого начинается поиск; по умолчанию 0. Это не полностью эквивалентно срезу строки; символ шаблона '^' сопоставляется с реальным началом строки и с позициями сразу после символа новой строки, но не обязательно с индексом, с которого должен начинаться поиск.

Необязательный параметр endpos ограничивает, как далеко будет просматриваться строка; считается, что строка имеет длину endpos символов, поэтому для совпадения будут просмотрены только символы от pos до endpos - 1. Если endpos меньше pos, совпадение не будет найдено; в противном случае, если rx – скомпилированный объект регулярного выражения, rx.search(string, 0, 50) эквивалентно rx.search(string[:50], 0).

>>> pattern = re.compile("d")
>>> pattern.search("dog")     # Совпадение на индексе 0
<_sre.SRE_Match object; span=(0, 1), match='d'>
>>> pattern.search("dog", 1)  # Совпадения нет; поиск не включает "d"

regex.match(string[, pos[, endpos]])¶

Если ноль или более символов в начале строки string соответствуют данному регулярному выражению, возвращает соответствующий объект сопоставления. Возвращает None, если строка не соответствует шаблону; обратите внимание, что это отличается от нулевого совпадения.

Необязательные параметры pos и endpos имеют то же значение, что и для метода search().

>>> pattern = re.compile("o")
>>> pattern.match("dog")      # Совпадения нет, так как "o" не в начале строки "dog".
>>> pattern.match("dog", 1)   # Совпадение есть, так как "o" – второй символ строки "dog".
<_sre.SRE_Match object; span=(1, 2), match='o'>

Если требуется найти совпадение в любом месте string, используйте search() (см. также search() vs. match()).

regex.fullmatch(string[, pos[, endpos]])¶

Если вся строка string соответствует данному регулярному выражению, возвращает соответствующий объект сопоставления. Возвращает None, если строка не соответствует шаблону; обратите внимание, что это отличается от нулевого совпадения.

Необязательные параметры pos и endpos имеют то же значение, что и для метода search().

>>> pattern = re.compile("o[gh]")
>>> pattern.fullmatch("dog")      # Совпадения нет, так как "o" не в начале строки "dog".
>>> pattern.fullmatch("ogre")     # Совпадения нет, так как не вся строка совпала.
>>> pattern.fullmatch("doggie", 1, 3)   # Совпадения в заданных пределах.
<_sre.SRE_Match object; span=(1, 3), match='og'>

Новое в версии 3.4.

regex.split(string, maxsplit=0)¶

Идентична функции split(), но использует скомпилированный шаблон.

regex.findall(string[, pos[, endpos]])¶

Похожа на функцию findall(), использует скомпилированный шаблон, но также принимает необязательные параметры pos и endpos, ограничивающие область поиска, как и для search().

regex.finditer(string[, pos[, endpos]])¶

Похожа на функцию finditer(), использует скомпилированный шаблон, но также принимает необязательные параметры pos и endpos, ограничивающие область поиска, как и для search().

regex.sub(repl, string, count=0)¶

Идентична функции sub(), но использует скомпилированный шаблон.

regex.subn(repl, string, count=0)¶

Идентична функции subn(), но использует скомпилированный шаблон.

regex.flags¶

Флаги сопоставления регулярного выражения. Это комбинация флагов, переданных в compile(), любых встроенных флагов (?...) в шаблоне, а также неявных флагов, таких как UNICODE, если шаблон является строкой Unicode.

regex.groups¶

Количество захватываемых групп в шаблоне.

regex.groupindex¶

Словарь, сопоставляющий символические имена групп, определённые через (?P<id>), с номерами групп. Словарь пуст, если в шаблоне не использовались символические группы.

regex.pattern¶

Строка шаблона, из которой был скомпилирован объект RE.

6.2.4. Объекты совпадения¶Match Objects

Объекты Match всегда имеют булево значение True. Поскольку match() и search() возвращают None при отсутствии совпадения, можно проверить, было ли совпадение, с помощью простого выражения if:

match = re.search(pattern, string)
if match:
    process(match)

Объекты сопоставления поддерживают следующие методы и атрибуты:

match.expand(template)¶

Возвращает строку, полученную путём подстановки обратной косой черты в строку шаблона шаблон, как это делает метод sub(). escape-последовательности, такие как \n, преобразуются в соответствующие символы, а числовые обратные ссылки (\1, \2) и именованные обратные ссылки (\g<1>, \g<name>) заменяются содержимым соответствующей группы.

Изменено в версии 3.5: Несовпавшие группы заменяются пустой строкой.

match.group([group1, ...])¶

Возвращает одну или несколько подгрупп совпадения. Если передан один аргумент, результат – одна строка; если несколько аргументов, результат – кортеж из одного элемента на аргумент. Без аргументов group1 по умолчанию равен нулю (возвращается всё совпадение). Если аргумент groupN равен нулю, соответствующее возвращаемое значение – вся совпавшая строка; если он в диапазоне [1..99], это строка, соответствующая группе в скобках с таким номером. Если номер группы отрицателен или больше числа групп, определённых в шаблоне, вызывается исключение IndexError. Если группа содержится в части шаблона, которая не совпала, соответствующий результат равен None. Если группа содержится в части шаблона, которая совпала несколько раз, возвращается последнее совпадение.

>>> m = re.match(r"(\w+) (\w+)", "Isaac Newton, physicist")
>>> m.group(0)       # Всё совпадение
'Isaac Newton'
>>> m.group(1)       # Первая группа в скобках.
'Isaac'
>>> m.group(2)       # Вторая группа в скобках.
'Newton'
>>> m.group(1, 2)    # Несколько аргументов дают кортеж.
('Isaac', 'Newton')

Если регулярное выражение использует синтаксис (?P<name>...), аргументы groupN также могут быть строками, идентифицирующими группы по их имени. Если строка не используется как имя группы в шаблоне, возбуждается исключение IndexError.

Довольно сложный пример:

>>> m = re.match(r"(?P<first_name>\w+) (?P<last_name>\w+)", "Malcolm Reynolds")
>>> m.group('first_name')
'Malcolm'
>>> m.group('last_name')
'Reynolds'

Именованные группы также можно указывать по их индексу:

>>> m.group(1)
'Malcolm'
>>> m.group(2)
'Reynolds'

Если группа совпадает несколько раз, доступно только последнее совпадение:

>>> m = re.match(r"(..)+", "a1b2c3")  # Совпадает 3 раза.
>>> m.group(1)                        # Возвращает только последнее совпадение.
'c3'

match.__getitem__(g)¶

Это идентично m.group(g). Это упрощает доступ к отдельной группе из совпадения:

>>> m = re.match(r"(\w+) (\w+)", "Isaac Newton, physicist")
>>> m[0]       # Всё совпадение
'Isaac Newton'
>>> m[1]       # Первая группа в скобках.
'Isaac'
>>> m[2]       # Вторая группа в скобках.
'Newton'

Новое в версии 3.6.

match.groups(default=None)¶

Возвращает кортеж, содержащий все подгруппы совпадения, от 1 до количества групп в шаблоне. Аргумент default используется для групп, которые не участвовали в совпадении; по умолчанию он равен None.

Например:

>>> m = re.match(r"(\d+)\.(\d+)", "24.1632")
>>> m.groups()
('24', '1632')

Если сделать десятичную часть и всё после неё необязательными, не все группы могут участвовать в совпадении. Эти группы по умолчанию будут None, если не задан аргумент default:

>>> m = re.match(r"(\d+)\.?(\d+)?", "24")
>>> m.groups()      # Вторая группа по умолчанию – None.
('24', None)
>>> m.groups('0')   # Теперь вторая группа по умолчанию – '0'.
('24', '0')

match.groupdict(default=None)¶

Возвращает словарь, содержащий все именованные подгруппы совпадения, где ключами являются имена подгрупп. Аргумент default используется для групп, которые не участвовали в совпадении; по умолчанию он равен None. Например:

>>> m = re.match(r"(?P<first_name>\w+) (?P<last_name>\w+)", "Malcolm Reynolds")
>>> m.groupdict()
{'first_name': 'Malcolm', 'last_name': 'Reynolds'}

match.start([group])¶

match.end([group])¶

Возвращает индексы начала и конца подстроки, совпавшей с group; group по умолчанию равен нулю (означает всю совпавшую подстроку). Возвращает -1, если group существует, но не участвовала в совпадении. Для объекта совпадения m и группы g, которая участвовала в совпадении, подстрока, совпавшая с группой g (эквивалентно m.group(g)) – это

m.string[m.start(g):m.end(g)]

Обратите внимание, что m.start(group) будет равно m.end(group), если group совпала с пустой строкой. Например, после m = re.search('b(c?)', 'cba'), m.start(0) равно 1, m.end(0) равно 2, m.start(1) и m.end(1) оба равны 2, а m.start(2) вызывает исключение IndexError.

Пример, который удалит remove_this из адресов электронной почты:

>>> email = "tony@tiremove_thisger.net"
>>> m = re.search("remove_this", email)
>>> email[:m.start()] + email[m.end():]
'tony@tiger.net'

match.span([group])¶

Для совпадения m возвращает кортеж из двух элементов (m.start(group), m.end(group)). Обратите внимание, что если group не участвовала в совпадении, это (-1, -1). group по умолчанию равен нулю (всё совпадение).

match.pos¶

Значение pos, которое было передано методу search() или match() объекта regex object. Это индекс в строке, с которого движок регулярных выражений начал поиск совпадения.

match.endpos¶

Значение endpos, которое было передано методу search() или match() объекта regex object. Это индекс в строке, за который движок регулярных выражений не выйдет.

match.lastindex¶

Целочисленный индекс последней совпавшей захватывающей группы или None, если ни одна группа не совпала. Например, выражения (a)b, ((a)(b)) и ((ab)) будут иметь lastindex == 1, если применить к строке 'ab', в то время как выражение (a)(b) будет иметь lastindex == 2, если применить к той же строке.

match.lastgroup¶

Имя последней совпавшей захватывающей группы или None, если группа не имела имени, или если ни одна группа не совпала.

match.re¶

Объект регулярного выражения, чей метод match() или search() создал этот экземпляр совпадения.

match.string¶

Строка, переданная в match() или search().

6.2.5. Примеры регулярных выражений¶Regular Expression Examples

def displaymatch(match):
    if match is None:
        return None
    return '<Match: %r, groups=%r>' % (match.group(), match.groups())

>>> valid = re.compile(r"^[a2-9tjqk]{5}$")
>>> displaymatch(valid.match("akt5q"))  # Допустимо.
"<Match: 'akt5q', groups=()>"
>>> displaymatch(valid.match("akt5e"))  # Недопустимо.
>>> displaymatch(valid.match("akt"))    # Недопустимо.
>>> displaymatch(valid.match("727ak"))  # Допустимо.
"<Match: '727ak', groups=()>"

>>> pair = re.compile(r".*(.).*\1")
>>> displaymatch(pair.match("717ak"))     # Пара семёрок.
"<Match: '717', groups=('7',)>"
>>> displaymatch(pair.match("718ak"))     # Нет пар.
>>> displaymatch(pair.match("354aa"))     # Пара тузов.
"<Match: '354aa', groups=('a',)>"

>>> pair.match("717ak").group(1)
'7'

# Error because re.match() returns None, which doesn't have a group() method:
>>> pair.match("718ak").group(1)
Traceback (most recent call last):
  File "<pyshell#23>", line 1, in <module>
    re.match(r".*(.).*\1", "718ak").group(1)
AttributeError: 'NoneType' object has no attribute 'group'

>>> pair.match("354aa").group(1)
'a'

/usr/sbin/sendmail - 0 errors, 4 warnings

%s - %d errors, %d warnings

(\S+) - (\d+) errors, (\d+) warnings

>>> re.match("c", "abcdef")    # Нет совпадения.
>>> re.search("c", "abcdef")   # Совпадает.
<_sre.SRE_Match object; span=(2, 3), match='c'>

>>> re.match("c", "abcdef")    # Нет совпадения.
>>> re.search("^c", "abcdef")  # Нет совпадения.
>>> re.search("^a", "abcdef")  # Совпадает.
<_sre.SRE_Match object; span=(0, 1), match='a'>

>>> re.match('X', 'A\nB\nX', re.MULTILINE)  # Нет совпадения.
>>> re.search('^X', 'A\nB\nX', re.MULTILINE)  # Совпадает.
<_sre.SRE_Match object; span=(4, 5), match='X'>

>>> text = """Ross McFluff: 834.345.1254 155 Elm Street
...
... Ronald Heathmore: 892.345.3428 436 Finley Avenue
... Frank Burger: 925.541.7625 662 South Dogwood Way
...
...
... Heather Albrecht: 548.326.4584 919 Park Place"""

>>> entries = re.split("\n+", text)
>>> entries
['Ross McFluff: 834.345.1254 155 Elm Street',
'Ronald Heathmore: 892.345.3428 436 Finley Avenue',
'Frank Burger: 925.541.7625 662 South Dogwood Way',
'Heather Albrecht: 548.326.4584 919 Park Place']

>>> [re.split(":? ", entry, 3) for entry in entries]
[['Ross', 'McFluff', '834.345.1254', '155 Elm Street'],
['Ronald', 'Heathmore', '892.345.3428', '436 Finley Avenue'],
['Frank', 'Burger', '925.541.7625', '662 South Dogwood Way'],
['Heather', 'Albrecht', '548.326.4584', '919 Park Place']]

>>> [re.split(":? ", entry, 4) for entry in entries]
[['Ross', 'McFluff', '834.345.1254', '155', 'Elm Street'],
['Ronald', 'Heathmore', '892.345.3428', '436', 'Finley Avenue'],
['Frank', 'Burger', '925.541.7625', '662', 'South Dogwood Way'],
['Heather', 'Albrecht', '548.326.4584', '919', 'Park Place']]

>>> def repl(m):
...     inner_word = list(m.group(2))
...     random.shuffle(inner_word)
...     return m.group(1) + "".join(inner_word) + m.group(3)
>>> text = "Professor Abdolmalek, please report your absences promptly."
>>> re.sub(r"(\w)(\w+)(\w)", repl, text)
'Poefsrosr Aealmlobdk, pslaee reorpt your abnseces plmrptoy.'
>>> re.sub(r"(\w)(\w+)(\w)", repl, text)
'Pofsroser Aodlambelk, plasee reoprt yuor asnebces potlmrpy.'

>>> text = "He was carefully disguised but captured quickly by police."
>>> re.findall(r"\w+ly", text)
['carefully', 'quickly']

>>> text = "He was carefully disguised but captured quickly by police."
>>> for m in re.finditer(r"\w+ly", text):
...     print('%02d-%02d: %s' % (m.start(), m.end(), m.group(0)))
07-16: carefully
40-47: quickly

>>> re.match(r"\W(.)\1\W", " ff ")
<_sre.SRE_Match object; span=(0, 4), match=' ff '>
>>> re.match("\\W(.)\\1\\W", " ff ")
<_sre.SRE_Match object; span=(0, 4), match=' ff '>

>>> re.match(r"\\", r"\\")
<_sre.SRE_Match object; span=(0, 1), match='\\'>
>>> re.match("\\\\", r"\\")
<_sre.SRE_Match object; span=(0, 1), match='\\'>

import collections
import re

Token = collections.namedtuple('Token', ['type', 'value', 'line', 'column'])

def tokenize(code):
    keywords = {'IF', 'THEN', 'ENDIF', 'FOR', 'NEXT', 'GOSUB', 'RETURN'}
    token_specification = [
        ('NUMBER',   r'\d+(\.\d*)?'),  # Целое или десятичное число.
        ('ASSIGN',   r':='),           # Оператор присваивания.
        ('END',      r';'),            # Терминатор инструкции.
        ('ID',       r'[A-Za-z]+'),    # Идентификаторы.
        ('OP',       r'[+\-*/]'),      # Арифметические операторы.
        ('NEWLINE',  r'\n'),           # Концы строк.
        ('SKIP',     r'[ \t]+'),       # Пропускать пробелы и табуляции.
        ('MISMATCH', r'.'),            # Любой другой символ.
    ]
    tok_regex = '|'.join('(?P<%s>%s)' % pair for pair in token_specification)
    line_num = 1
    line_start = 0
    for mo in re.finditer(tok_regex, code):
        kind = mo.lastgroup
        value = mo.group()
        column = mo.start() - line_start
        if kind == 'NUMBER':
            value = float(value) if '.' in value else int(value)
        elif kind == 'ID' and value in keywords:
            kind = value
        elif kind == 'NEWLINE':
            line_start = mo.end()
            line_num += 1
            continue
        elif kind == 'SKIP':
            continue
        elif kind == 'MISMATCH':
            raise RuntimeError(f'{value!r} unexpected on line {line_num}')
        yield Token(kind, value, line_num, column)

statements = '''
    IF quantity THEN
        total := total + price * quantity;
        tax := price * 0.05;
    ENDIF;
'''

for token in tokenize(statements):
    print(token)

Token(type='IF', value='IF', line=2, column=4)
Token(type='ID', value='quantity', line=2, column=7)
Token(type='THEN', value='THEN', line=2, column=16)
Token(type='ID', value='total', line=3, column=8)
Token(type='ASSIGN', value=':=', line=3, column=14)
Token(type='ID', value='total', line=3, column=17)
Token(type='OP', value='+', line=3, column=23)
Token(type='ID', value='price', line=3, column=25)
Token(type='OP', value='*', line=3, column=31)
Token(type='ID', value='quantity', line=3, column=33)
Token(type='END', value=';', line=3, column=41)
Token(type='ID', value='tax', line=4, column=8)
Token(type='ASSIGN', value=':=', line=4, column=12)
Token(type='ID', value='price', line=4, column=15)
Token(type='OP', value='*', line=4, column=21)
Token(type='NUMBER', value=0.05, line=4, column=23)
Token(type='END', value=';', line=4, column=27)
Token(type='ENDIF', value='ENDIF', line=5, column=4)
Token(type='END', value=';', line=5, column=9)