urllib2.md
1> **Источник:** https://python-all.ru/3.10/howto/urllib2.html2>3> «Документация Python на русском» – неофициальный перевод официальной документации Python: версии от 2.6 до 3.16, полнотекстовый поиск, английский оригинал рядом с переводом. Эта Markdown-версия страницы предназначена для работы с LLM: вставьте её в ChatGPT, Claude или Cursor.45---67# HOWTO получение интернет-ресурсов с помощью пакета urllib89**Автор**1011[Michael Foord](https://python-all.ru/3.10/howto/urllib2.html)1213> **Примечание**14>15> Существует французский перевод более ранней версии этого руководства, доступный по адресу [urllib2 - Le Manuel manquant](https://python-all.ru/3.10/howto/urllib2.html).1617## Введение1819Связанные статьи2021Возможно, вам также будет полезна следующая статья о получении веб-ресурсов с помощью Python:2223- [Базовая аутентификация](https://python-all.ru/3.10/howto/urllib2.html)2425 > Учебник по *базовой аутентификации* с примерами на Python.2627**urllib.request** – это модуль Python для получения URL (Uniform Resource Locators). Он предоставляет очень простой интерфейс в виде функции *urlopen*. Она позволяет получать URL с использованием различных протоколов. Также доступен несколько более сложный интерфейс для обработки типовых ситуаций, таких как базовая аутентификация, куки, прокси и т. д. Они реализованы через объекты, называемые обработчиками и открывателями.2829urllib.request поддерживает получение URL для множества «схем URL» (определяемых строкой перед `":"` в URL – например, `"ftp"` – это схема URL для `"ftp://python.org/"`) с использованием соответствующих сетевых протоколов (например, FTP, HTTP). Данное руководство сосредоточено на наиболее распространённом случае – HTTP.3031Для простых случаев *urlopen* очень прост в использовании. Но как только при открытии HTTP-URL возникают ошибки или нестандартные ситуации, потребуется некоторое понимание протокола передачи гипертекста (HTTP). Наиболее полным и авторитетным справочником по HTTP является [**RFC 2616**](https://python-all.ru/3.10/howto/urllib2.html). Это технический документ, не предназначенный для лёгкого чтения. Данное HOWTO призвано проиллюстрировать использование *urllib* с достаточным количеством деталей по HTTP, чтобы помочь разобраться. Оно не заменяет документацию [`urllib.request`](https://python-all.ru/3.10/library/urllib.request.html#module-urllib.request), а дополняет её.3233## Загрузка URL3435Простейший способ использования urllib.request выглядит так:3637```python38import urllib.request39with urllib.request.urlopen('http://python.org/') as response:40 html = response.read()41```4243Если вы хотите получить ресурс по URL и сохранить его во временное расположение, это можно сделать с помощью функций [`shutil.copyfileobj()`](https://python-all.ru/3.10/library/shutil.html#shutil.copyfileobj) и [`tempfile.NamedTemporaryFile()`](https://python-all.ru/3.10/library/tempfile.html#tempfile.NamedTemporaryFile):4445```python46import shutil47import tempfile48import urllib.request4950with urllib.request.urlopen('http://python.org/') as response:51 with tempfile.NamedTemporaryFile(delete=False) as tmp_file:52 shutil.copyfileobj(response, tmp_file)5354with open(tmp_file.name) as html:55 pass56```5758Многие случаи использования urllib будут столь же просты (заметим, что вместо URL вида 'http:' можно было бы использовать URL, начинающийся с 'ftp:', 'file:' и т.д.). Однако цель этого руководства – объяснить более сложные случаи, сосредоточившись на HTTP.5960HTTP основан на запросах и ответах: клиент отправляет запросы, а серверы присылают ответы. urllib.request отражает это с помощью объекта `Request`, представляющего отправляемый HTTP-запрос. В простейшей форме вы создаёте объект Request, указывающий URL для получения. Вызов `urlopen` с этим объектом Request возвращает объект ответа для запрошенного URL. Этот ответ является файлоподобным объектом, что позволяет, например, вызвать `.read()` для него:6162```python63import urllib.request6465req = urllib.request.Request('http://www.voidspace.org.uk')66with urllib.request.urlopen(req) as response:67 the_page = response.read()68```6970Обратите внимание, что urllib.request использует тот же интерфейс Request для обработки всех схем URL. Например, можно сделать FTP-запрос так:7172```python73req = urllib.request.Request('ftp://example.com/')74```7576В случае HTTP есть две дополнительные возможности, которые предоставляют объекты Request: во-первых, можно передавать данные, которые будут отправлены серверу. Во-вторых, можно передавать дополнительную информацию («метаданные») *о* данных или о самом запросе на сервер – эта информация отправляется как HTTP-заголовки. Рассмотрим каждую из них по порядку.7778### Данные7980Иногда требуется отправить данные на URL (часто URL будет ссылаться на CGI-скрипт или другое веб-приложение). В HTTP это обычно делается с помощью того, что называется **POST**-запросом. Именно так часто поступает браузер, когда вы отправляете заполненную HTML-форму в интернете. Не все POST-запросы должны приходить из форм: можно использовать POST для передачи произвольных данных в собственное приложение. В типичном случае HTML-форм данные нужно закодировать стандартным образом, а затем передать объекту Request в качестве аргумента `data`. Кодирование выполняется с помощью функции из библиотеки [`urllib.parse`](https://python-all.ru/3.10/library/urllib.parse.html#module-urllib.parse).8182```python83import urllib.parse84import urllib.request8586url = 'http://www.someserver.com/cgi-bin/register.cgi'87values = {'name' : 'Michael Foord',88 'location' : 'Northampton',89 'language' : 'Python' }9091data = urllib.parse.urlencode(values)92data = data.encode('ascii') # data должна быть типа bytes93req = urllib.request.Request(url, data)94with urllib.request.urlopen(req) as response:95 the_page = response.read()96```9798Обратите внимание, что иногда требуются другие кодировки (например, для загрузки файлов из HTML-форм – подробнее см. [Спецификацию HTML, раздел «Отправка формы»](https://python-all.ru/3.10/howto/urllib2.html)).99100Если не передавать аргумент `data`, urllib использует **GET**-запрос. Одно из различий между GET- и POST-запросами в том, что POST-запросы часто имеют «побочные эффекты»: они изменяют состояние системы (например, размещают заказ на сайте для доставки). Хотя стандарт HTTP указывает, что POST-запросы предназначены для того, чтобы *всегда* вызывать побочные эффекты, а GET-запросы – *никогда*, ничто не мешает GET-запросу иметь побочные эффекты, а POST-запросу – не иметь. Данные также можно передавать в HTTP GET-запросе, кодируя их прямо в URL.101102Это делается следующим образом:103104```python105>>> import urllib.request106>>> import urllib.parse107>>> data = {}108>>> data['name'] = 'Somebody Here'109>>> data['location'] = 'Northampton'110>>> data['language'] = 'Python'111>>> url_values = urllib.parse.urlencode(data)112>>> print(url_values) # Порядок может отличаться от указанного ниже. 113name=Somebody+Here&language=Python&location=Northampton114>>> url = 'http://www.example.com/example.cgi'115>>> full_url = url + '?' + url_values116>>> data = urllib.request.urlopen(full_url)117```118119Обратите внимание, что полный URL создаётся добавлением `?` к URL, после которого следуют закодированные значения.120121### Заголовки122123Здесь будет рассмотрен один конкретный HTTP-заголовок, чтобы проиллюстрировать, как добавлять заголовки в HTTP-запросы.124125Некоторые сайты [1](https://python-all.ru/3.10/howto/urllib2.html#id8) не любят, когда их просматривают программы, либо отправляют разные версии разным браузерам [2](https://python-all.ru/3.10/howto/urllib2.html#id9). По умолчанию urllib идентифицирует себя как `Python-urllib/x.y` (где `x` и `y` – номера старшей и младшей версии релиза Python, например `Python-urllib/2.5`), что может сбить сайт с толку или просто не работать. Браузер идентифицирует себя через заголовок `User-Agent`[3](https://python-all.ru/3.10/howto/urllib2.html#id10). При создании объекта Request можно передать словарь заголовков. Следующий пример делает тот же запрос, что и выше, но идентифицирует себя как версию Internet Explorer [4](https://python-all.ru/3.10/howto/urllib2.html#id11).126127```python128import urllib.parse129import urllib.request130131url = 'http://www.someserver.com/cgi-bin/register.cgi'132user_agent = 'Mozilla/5.0 (Windows NT 6.1; Win64; x64)'133values = {'name': 'Michael Foord',134 'location': 'Northampton',135 'language': 'Python' }136headers = {'User-Agent': user_agent}137138data = urllib.parse.urlencode(values)139data = data.encode('ascii')140req = urllib.request.Request(url, data, headers)141with urllib.request.urlopen(req) as response:142 the_page = response.read()143```144145Ответ также имеет два полезных метода. См. раздел [info и geturl](https://python-all.ru/3.10/howto/urllib2.html#info-and-geturl), который следует после того, как мы рассмотрим, что происходит, когда что-то идёт не так.146147## Обработка исключений148149*urlopen* возбуждает `URLError`, когда не может обработать ответ (хотя, как обычно в Python API, могут также возбуждаться встроенные исключения, такие как [`ValueError`](https://python-all.ru/3.10/library/exceptions.html#ValueError), [`TypeError`](https://python-all.ru/3.10/library/exceptions.html#TypeError) и т.д.).150151`HTTPError` является подклассом `URLError`, возбуждаемым в конкретном случае HTTP URL.152153Классы исключений экспортируются из модуля [`urllib.error`](https://python-all.ru/3.10/library/urllib.error.html#module-urllib.error).154155### URLError156157Часто URLError возникает из-за отсутствия сетевого соединения (нет маршрута к указанному серверу) или потому что указанный сервер не существует. В этом случае возбуждённое исключение будет иметь атрибут 'reason', который представляет собой кортеж, содержащий код ошибки и текстовое сообщение об ошибке.158159например160161```python162>>> req = urllib.request.Request('http://www.pretend_server.org')163>>> try: urllib.request.urlopen(req)164... except urllib.error.URLError as e:165... print(e.reason) 166...167(4, 'getaddrinfo failed')168```169170### HTTPError171172Каждый HTTP-ответ от сервера содержит числовой «код состояния». Иногда код состояния указывает, что сервер не может выполнить запрос. Обработчики по умолчанию обрабатывают некоторые из таких ответов (например, если ответ представляет собой «перенаправление», которое просит клиента получить документ по другому URL, urllib обработает это). Для тех, которые не может обработать, urlopen возбудит `HTTPError`. Типичные ошибки включают «404» (страница не найдена), «403» (запрос запрещён) и «401» (требуется аутентификация).173174См. раздел 10 в [**RFC 2616**](https://python-all.ru/3.10/howto/urllib2.html) для справки по всем кодам ошибок HTTP.175176Возбуждённый экземпляр `HTTPError` будет иметь целочисленный атрибут 'code', который соответствует ошибке, отправленной сервером.177178#### Коды ошибок179180Поскольку обработчики по умолчанию обрабатывают перенаправления (коды в диапазоне 300), а коды в диапазоне 100–299 указывают на успех, обычно вы будете видеть только коды ошибок в диапазоне 400–599.181182[`http.server.BaseHTTPRequestHandler.responses`](https://python-all.ru/3.10/library/http.server.html#http.server.BaseHTTPRequestHandler.responses) – это полезный словарь кодов ответа, который показывает все коды ответа, используемые [**RFC 2616**](https://python-all.ru/3.10/howto/urllib2.html). Словарь воспроизведён здесь для удобства183184```python185# Таблица, сопоставляющая коды ответов с сообщениями; записи имеют186# вид {code: (shortmessage, longmessage)}.187responses = {188 100: ('Continue', 'Request received, please continue'),189 101: ('Switching Protocols',190 'Switching to new protocol; obey Upgrade header'),191192 200: ('OK', 'Request fulfilled, document follows'),193 201: ('Created', 'Document created, URL follows'),194 202: ('Accepted',195 'Request accepted, processing continues off-line'),196 203: ('Non-Authoritative Information', 'Request fulfilled from cache'),197 204: ('No Content', 'Request fulfilled, nothing follows'),198 205: ('Reset Content', 'Clear input form for further input.'),199 206: ('Partial Content', 'Partial content follows.'),200201 300: ('Multiple Choices',202 'Object has several resources -- see URI list'),203 301: ('Moved Permanently', 'Object moved permanently -- see URI list'),204 302: ('Found', 'Object moved temporarily -- see URI list'),205 303: ('See Other', 'Object moved -- see Method and URL list'),206 304: ('Not Modified',207 'Document has not changed since given time'),208 305: ('Use Proxy',209 'You must use proxy specified in Location to access this '210 'resource.'),211 307: ('Temporary Redirect',212 'Object moved temporarily -- see URI list'),213214 400: ('Bad Request',215 'Bad request syntax or unsupported method'),216 401: ('Unauthorized',217 'No permission -- see authorization schemes'),218 402: ('Payment Required',219 'No payment -- see charging schemes'),220 403: ('Forbidden',221 'Request forbidden -- authorization will not help'),222 404: ('Not Found', 'Nothing matches the given URI'),223 405: ('Method Not Allowed',224 'Specified method is invalid for this server.'),225 406: ('Not Acceptable', 'URI not available in preferred format.'),226 407: ('Proxy Authentication Required', 'You must authenticate with '227 'this proxy before proceeding.'),228 408: ('Request Timeout', 'Request timed out; try again later.'),229 409: ('Conflict', 'Request conflict.'),230 410: ('Gone',231 'URI no longer exists and has been permanently removed.'),232 411: ('Length Required', 'Client must specify Content-Length.'),233 412: ('Precondition Failed', 'Precondition in headers is false.'),234 413: ('Request Entity Too Large', 'Entity is too large.'),235 414: ('Request-URI Too Long', 'URI is too long.'),236 415: ('Unsupported Media Type', 'Entity body in unsupported format.'),237 416: ('Requested Range Not Satisfiable',238 'Cannot satisfy request range.'),239 417: ('Expectation Failed',240 'Expect condition could not be satisfied.'),241242 500: ('Internal Server Error', 'Server got itself in trouble'),243 501: ('Not Implemented',244 'Server does not support this operation'),245 502: ('Bad Gateway', 'Invalid responses from another server/proxy.'),246 503: ('Service Unavailable',247 'The server cannot process the request due to a high load'),248 504: ('Gateway Timeout',249 'The gateway server did not receive a timely response'),250 505: ('HTTP Version Not Supported', 'Cannot fulfill request.'),251 }252```253254При возникновении ошибки сервер отвечает, возвращая HTTP код ошибки *и* страницу с ошибкой. Можно использовать экземпляр `HTTPError` как ответ на возвращённой странице. Это означает, что помимо атрибута code, у него также есть методы read, geturl и info, как у возвращаемых модулем `urllib.response`:255256```python257>>> req = urllib.request.Request('http://www.python.org/fish.html')258>>> try:259... urllib.request.urlopen(req)260... except urllib.error.HTTPError as e:261... print(e.code)262... print(e.read()) 263...264404265b'<!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Transitional//EN"266 "http://www.w3.org/TR/xhtml1/DTD/xhtml1-transitional.dtd">\n\n\n<html267 ...268 <title>Page Not Found</title>\n269 ...270```271272### Резюме273274Итак, если вы хотите быть готовым к `HTTPError` *или* `URLError`, есть два основных подхода. Второй подход предпочтительнее.275276#### Способ 1277278```python279from urllib.request import Request, urlopen280from urllib.error import URLError, HTTPError281req = Request(someurl)282try:283 response = urlopen(req)284except HTTPError as e:285 print('The server couldn\'t fulfill the request.')286 print('Error code: ', e.code)287except URLError as e:288 print('We failed to reach a server.')289 print('Reason: ', e.reason)290else:291 # всё в порядке292```293294> **Примечание**295>296> `except HTTPError` *должен* идти первым, иначе `except URLError` *также* перехватит `HTTPError`.297298#### Способ 2299300```python301from urllib.request import Request, urlopen302from urllib.error import URLError303req = Request(someurl)304try:305 response = urlopen(req)306except URLError as e:307 if hasattr(e, 'reason'):308 print('We failed to reach a server.')309 print('Reason: ', e.reason)310 elif hasattr(e, 'code'):311 print('The server couldn\'t fulfill the request.')312 print('Error code: ', e.code)313else:314 # всё в порядке315```316317## info и geturl318319Ответ, возвращаемый urlopen (или экземпляром `HTTPError`), имеет два полезных метода: `info()` и `geturl()`, и определён в модуле [`urllib.response`](https://python-all.ru/3.10/library/urllib.request.html#module-urllib.response)..320321**geturl** – возвращает реальный URL полученной страницы. Это полезно, поскольку `urlopen` (или используемый объект opener) мог выполнить перенаправление. URL полученной страницы может не совпадать с запрошенным URL.322323**info** – возвращает объект, подобный словарю, который описывает полученную страницу, в частности заголовки, отправленные сервером. В настоящее время это экземпляр `http.client.HTTPMessage`.324325Типичные заголовки включают ‘Content-length’, ‘Content-type’ и т.д. Смотрите [Краткий справочник HTTP-заголовков](https://python-all.ru/3.10/howto/urllib2.html) для полезного списка HTTP-заголовков с краткими пояснениями их значения и использования.326327## Открыватели и обработчики328329При получении URL используется opener (экземпляр, возможно, запутанно названного [`urllib.request.OpenerDirector`](https://python-all.ru/3.10/library/urllib.request.html#urllib.request.OpenerDirector)). Обычно используется стандартный opener – через `urlopen`, – но можно создавать собственные opener'ы. Opener'ы используют обработчики. Вся «тяжёлая работа» выполняется обработчиками. Каждый обработчик знает, как открывать URL для определённой схемы URL (http, ftp и т.д.) или как обрабатывать аспект открытия URL, например HTTP-перенаправления или HTTP-cookies.330331Стоит создавать собственные opener'ы, если нужно получать URL с установленными определёнными обработчиками, например чтобы получить opener, обрабатывающий cookies, или opener, не обрабатывающий перенаправления.332333Чтобы создать opener, создайте экземпляр `OpenerDirector`, а затем вызывайте `.add_handler(some_handler_instance)` несколько раз.334335В качестве альтернативы можно использовать `build_opener` – удобную функцию для создания объектов opener одним вызовом. `build_opener` по умолчанию добавляет несколько обработчиков, но предоставляет быстрый способ добавить ещё и/или переопределить стандартные обработчики.336337Другие типы обработчиков могут обрабатывать прокси, аутентификацию и другие распространённые, но слегка специализированные ситуации.338339`install_opener` можно использовать, чтобы сделать объект `opener` (глобальным) стандартным opener'ом. Это означает, что вызовы `urlopen` будут использовать установленный opener.340341Объекты opener имеют метод `open`, который можно вызывать напрямую для получения URL так же, как функцию `urlopen`: нет необходимости вызывать `install_opener`, кроме как для удобства.342343## Базовая аутентификация344345Для иллюстрации создания и установки обработчика мы будем использовать `HTTPBasicAuthHandler`. Для более подробного обсуждения этой темы – включая объяснение того, как работает базовая аутентификация, – смотрите [Руководство по базовой аутентификации](https://python-all.ru/3.10/howto/urllib2.html).346347Когда требуется аутентификация, сервер отправляет заголовок (а также код ошибки 401) с запросом аутентификации. В нём указывается схема аутентификации и «realm». Заголовок выглядит так: `WWW-Authenticate: SCHEME realm="REALM"`.348349например350351```text352WWW-Authenticate: Basic realm="cPanel Users"353```354355Затем клиент должен повторить запрос, включив в него соответствующие имя и пароль для данной области в качестве заголовка. Это и есть «базовая аутентификация». Чтобы упростить этот процесс, можно создать экземпляр `HTTPBasicAuthHandler` и opener для использования этого обработчика.356357`HTTPBasicAuthHandler` использует объект, называемый менеджером паролей, для обработки соответствия URL и областей паролям и именам пользователей. Если известно, какая область (из заголовка аутентификации, отправленного сервером), то можно использовать `HTTPPasswordMgr`. Часто область не важна. В этом случае удобно использовать `HTTPPasswordMgrWithDefaultRealm`. Это позволяет указать имя пользователя и пароль по умолчанию для URL. Они будут использованы при отсутствии альтернативной комбинации для конкретной области. Это указывается передачей `None` в качестве аргумента realm методу `add_password`.358359URL верхнего уровня – это первый URL, требующий аутентификации. URL «глубже», чем переданный в .add\_password(), также будут соответствовать.360361```python362# создать менеджер паролей363password_mgr = urllib.request.HTTPPasswordMgrWithDefaultRealm()364365# Добавить имя пользователя и пароль.366# Если бы мы знали realm, мы могли бы использовать его вместо None.367top_level_url = "http://example.com/foo/"368password_mgr.add_password(None, top_level_url, username, password)369370handler = urllib.request.HTTPBasicAuthHandler(password_mgr)371372# создать "opener" (экземпляр OpenerDirector)373opener = urllib.request.build_opener(handler)374375# использовать opener для получения URL376opener.open(a_url)377378# Установить opener.379# Теперь все вызовы urllib.request.urlopen будут использовать наш opener.380urllib.request.install_opener(opener)381```382383> **Примечание**384>385> В приведённом выше примере мы передали только наш `HTTPBasicAuthHandler` в `build_opener`. По умолчанию открыватели имеют обработчики для стандартных ситуаций: – `ProxyHandler` (если установлен прокси, например, через переменную окружения `http_proxy`), `UnknownHandler`, `HTTPHandler`, `HTTPDefaultErrorHandler`, `HTTPRedirectHandler`, `FTPHandler`, `FileHandler`, `DataHandler`, `HTTPErrorProcessor`.386387`top_level_url` на самом деле *либо* полный URL (включая компонент схемы 'http:' и имя хоста и, опционально, номер порта), например `"http://example.com/"`, *либо* «authority» (т.е. имя хоста, опционально включая номер порта), например `"example.com"` или `"example.com:8080"` (последний пример включает номер порта). Authority, если присутствует, НЕ должен содержать компонент «userinfo» – например `"joe:password@example.com"` некорректно.388389## Прокси390391**urllib** автоматически определяет настройки прокси и использует их. Это происходит через `ProxyHandler`, который является частью обычной цепочки обработчиков при обнаружении настройки прокси. Обычно это хорошо, но бывают случаи, когда это может быть нежелательно [5](https://python-all.ru/3.10/howto/urllib2.html#id12). Один из способов – настроить собственный `ProxyHandler` без определённых прокси. Это делается аналогично настройке обработчика [базовой аутентификации](https://python-all.ru/3.10/howto/urllib2.html):392393```python394>>> proxy_support = urllib.request.ProxyHandler({})395>>> opener = urllib.request.build_opener(proxy_support)396>>> urllib.request.install_opener(opener)397```398399> **Примечание**400>401> В настоящее время `urllib.request` *не* поддерживает получение `https`-адресов через прокси. Однако это можно включить, расширив urllib.request, как показано в рецепте [6](https://python-all.ru/3.10/howto/urllib2.html#id13).402403> **Примечание**404>405> `HTTP_PROXY` будет проигнорирован, если установлена переменная `REQUEST_METHOD`; смотрите документацию по [`getproxies()`](https://python-all.ru/3.10/library/urllib.request.html#urllib.request.getproxies).406407## Сокеты и уровни408409Поддержка Python для получения ресурсов из сети является многоуровневой. urllib использует библиотеку [`http.client`](https://python-all.ru/3.10/library/http.client.html#module-http.client), которая, в свою очередь, использует библиотеку socket.410411Начиная с Python 2.3 можно указать, как долго сокет должен ждать ответа до истечения тайм-аута. Это может быть полезно в приложениях, которым приходится получать веб-страницы. По умолчанию модуль socket не имеет *тайм-аута* и может зависнуть. В настоящее время тайм-аут сокета не доступен на уровнях http.client или urllib.request. Однако можно установить глобальный тайм-аут по умолчанию для всех сокетов с помощью412413```python414import socket415import urllib.request416417# тайм-аут в секундах418timeout = 10419socket.setdefaulttimeout(timeout)420421# этот вызов urllib.request.urlopen теперь использует тайм-аут по умолчанию422# который мы установили в модуле socket423req = urllib.request.Request('http://www.voidspace.org.uk')424response = urllib.request.urlopen(req)425```426427---428429## Примечания430431Этот документ был проверен и доработан Джоном Ли.432433**[1](https://python-all.ru/3.10/howto/urllib2.html#id1)**434435Google, например.436437**[2](https://python-all.ru/3.10/howto/urllib2.html#id2)**438439Определение браузера (browser sniffing) – очень плохая практика для веб-дизайна: создание сайтов с использованием веб-стандартов гораздо разумнее. К сожалению, многие сайты до сих пор отправляют разные версии разным браузерам.440441**[3](https://python-all.ru/3.10/howto/urllib2.html#id3)**442443Пользовательский агент для MSIE 6 – *'Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1; .NET CLR 1.1.4322)'*444445**[4](https://python-all.ru/3.10/howto/urllib2.html#id4)**446447Подробнее о HTTP-заголовках запросов см. [Quick Reference to HTTP Headers](https://python-all.ru/3.10/howto/urllib2.html).448449**[5](https://python-all.ru/3.10/howto/urllib2.html#id6)**450451В моём случае на работе приходится использовать прокси для доступа в интернет. Если через этот прокси пытаться получить *localhost*-URL, он их блокирует. В IE настроено использование прокси, и urllib это подхватывает. Чтобы тестировать скрипты с локальным сервером, приходится запрещать urllib использовать прокси.452453**[6](https://python-all.ru/3.10/howto/urllib2.html#id7)**454455Открыватель urllib для SSL-прокси (метод CONNECT): [ASPN Cookbook Recipe](https://python-all.ru/3.10/howto/urllib2.html).456