Как исправить ошибку 809 при подключении к vpn

Столкнулись с интересной проблемой у одного из заказчиков после перенастройки VPN сервера Windows Server 2012 с PPTP на L2TP/ IPSec (из за отключения поддержки PPTP VPN в iOS). Изнутри корпоративной сети VPN клиенты без каких-либо проблем подключаются к VPN серверу, а вот внешние Windows клиенты при попытке установить соединение с L2TP VPN сервером, выдают такую ошибку:

The network connection between your computer and the VPN server could not be established because the remote server is not responding. This could be because one of the network devices (e.g. firewalls, NAT, routers, etc) between your computer and the remote server is not configured to allow VPN connections. Please contact your Administrator or your service provider to determine which device may be causing the problem.

В других версиях Windows о наличии аналогичной проблемы могут свидетельствовать ошибки VPN подключения 800, 794 или 809.

Стоит отметить, что данный VPN сервер находится за NAT, а на маршрутизаторе настроен проброс портов, необходимых для работы L2TP:

• UDP 1701 — Layer 2 Forwarding Protocol (L2F) & Layer 2 Tunneling Protocol(L2TP)
• UDP 500
• UDP 4500 NAT-T – IPSec Network Address Translator Traversal
• Protocol 50 ESP

В правилах Windows Firewall VPN сервера эти порты также открыты. Т.е. используется классическая конфигурация. Для подключения используется встроенный VPN клиент Windows.

Если подключаться к этому же VPN серверу через PPTP, подключение успешно устанавливается.

VPN ошибка 809 для L2TP/IPSec в Windows за NAT

Как оказалось, проблема эта уже известна и описана в статье https://support.microsoft.com/en-us/kb/926179. По умолчанию встроенный VPN клиент Windows не поддерживает подключение к L2TP/IPsec через NAT. Дело в том, что IPsec использует протокол ESP (Encapsulating Security Payload) для шифрования пакетов, а протокол ESP не поддерживает PAT (Port Address Translation). Если вы хотите использовать IPSec для коммуникации, Microsoft рекомендует использовать белые IP адреса на VPN сервере.

Но есть и обходное решение. Можно исправить этот недостаток, включив поддержку протокола NAT—T, который позволяет инкапсулировать пакеты протокола ESP 50 в UDP пакеты по порту 4500. NAT-T включен по-умолчанию почти во всех операционных системах (iOS, Android, Linux), кроме Windows.

Если VPN сервер L2TP/IPsec находится за NAT, то для корректного подключения внешних клиентов через NAT необходимо на стороне Windows сервера и клиента внести изменение в реестр, разрешающее UDP инкапсуляцию пакетов для L2TP и поддержку (NAT-T) для IPsec.

1. Откройте редактор реестра
   regedit.exe
   и перейдите в ветку:
   • Для Windows 10,8.1,7 и Windows Server 2016,2012R2,2008R2 — HKEY_LOCAL_MACHINESYSTEMCurrentControlSetServicesPolicyAgent
   • Для Windows XP/Windows Server 2003 — HKEY_LOCAL_MACHINESYSTEMCurrentControlSetServicesIPSec
2. Создайте DWORD параметр с именем AssumeUDPEncapsulationContextOnSendRule и значением 2;
   

   Примечание. Возможные значения параметра AssumeUDPEncapsulationContextOnSendRule:

   • 0 – (значение по-умолчанию), предполагается, что VPN сервер подключен к интернету без NAT;
   • 1 – VPN сервер находится за NAT;
   • 2 — и VPN сервер и клиент находятся за NAT.
3. Осталось перезагрузить компьютер и убедиться, что VPN туннель успешно создается.

Если и Windows VPN сервер и клиент находятся за NAT, нужно изменить это параметре на обоих системах.

Можно использовать командлет PowerShell для внесения изменений в реестр:

Set-ItemProperty -Path "HKLM:SYSTEMCurrentControlSetServicesPolicyAgent" -Name "AssumeUDPEncapsulationContextOnSendRule" -Type DWORD -Value 2 –Force;

После включения поддержки NAT-T, вы сможете успешно подключаться к VPN серверу с клиента через NAT (в том числе двойной NAT).

В некоторых случаях для корректной работы VPN необходимо открыть дополнительное правило в межсетевом экране для порта TCP 1701 (в некоторых реализациях L2TP этот порт используется совмести с UDP 1701).

NAT-T не корректно работал в ранних редакциях Windows 10, например, 10240, 1511, 1607. Если у вас старая версия, рекомендуем обновить билд Windows 10.

L2TP VPN не работает на некоторых Windows компьютерах в локальной сети

Есть еще один интересный баг. Если в вашей локальной сети несколько Windows компьютеров, вы не сможете установить более одного одновременного подключения к внешнему L2TP/IPSec VPN серверу. Если при наличии активного VPN туннеля с одного клиента, вы попытаетесь подключиться к тому же самому VPN серверу с другого компьютера, появится ошибка с кодом 809 или 789:

Error 789: The L2TP connection attempt failed because the security layer encountered a processing error during initial negotiations with the remove computer.

Что интересно, эта проблема наблюдется только с Windows-устройствами. На устройствах с Linux/MacOS/Android в этой же локальной сети таких проблем нет. Можно без проблем одновременно подключиться к VPN L2TP серверу с нескольких устройств.

По информации на TechNet проблема связана с некорректной реализацией клиента L2TP/IPSec клиента в Windows (не исправляется уже много лет).

Для исправления этого бага нужно изменить два параметра реестра в ветке HKEY_LOCAL_MACHINESYSTEMCurrentControlSetServicesRasManParameters и перезагрузите компьютре:

• AllowL2TPWeakCrypto – изменить на 00000001 (ослабляет уровень шифрования, для L2TP/IPSec используются алгоритмы MD5 и DES)
• ProhibitIPSec – изменить на 00000000 (включает шифрование IPsec, которое часто отключается некоторыми VPN клиентами или утилитами)

Для изменения этих параметров реестра достаточно выполнить команды:
reg add "HKEY_LOCAL_MACHINESystemCurrentControlSetServicesRasmanParameters" /v AllowL2TPWeakCrypto /t REG_DWORD /d 1 /f
reg add "HKEY_LOCAL_MACHINESystemCurrentControlSetServicesRasmanParameters" /v ProhibitIpSec /t REG_DWORD /d 0 /f

Это включает поддержку нескольких одновременных L2TP/IPSec-подключений в Windows через общий внешний IP адрес (работает на всех версиях, начиная с Windows XP и заканчивая Windows 10).

Случается так, что владельцы ПК, стремящиеся создать VPN-подсоединение к интернету, сталкиваются со всевозможными проблемами, среди которых распространённой является ошибка 809. Это приводит человека к замешательству, особенно если он абсолютно не разбирается в причинах возникновения ошибок и существующих путях их устранения.

Факторы, способствующие проявлению проблем

Причин, по которым может возникать ошибка 809 VPN, препятствующая созданию доступа к глобальной сети, насчитать можно несколько. Если правильно выявить такие причины, ликвидировать проблему будет гораздо проще, поскольку существуют рекомендации, позволяющие вносить достаточно просто требуемые изменения в настройки и обеспечивать VPN-подсоединение к сети.

Причины возникновения проблемы

Ошибка 809 возникает тогда, когда кто-то стремится создать сетевой доступ при помощи VPN-соединения, которое относится к типу виртуальных частных сетей.

Брандмауэр, обязательная составляющая операционной системы, блокирует попытки осуществления такого соединения. Кроме брандмауэра может блокировать сетевое соединение любое устройство, подсоединённое к компьютеру и участвующее в обеспечении сетевого доступа. В качестве одного из девайсов, блокирующего доступ к сети, может выступать маршрутизатор, NAT.

Явной причиной возникновения такой проблемы может являться неполная установка ОС или в некоторых случаях уже установленная система, но сопровождающаяся какими-либо неполадками.

Иногда устанавливают программное обеспечение, скачанное из непроверенных источников, вследствие чего при установке вносятся автоматические изменения в системный реестр, провоцирующие возникновение проблем, связанных с доступом к сети.

Разлад в систему может внести вредоносное программное обеспечение, а также вирусы, способные не только повреждать, но и удалять значимые системные файлы, без которых невозможно обеспечить доступ к интернету.

Поиск и искоренение неполадки позволит избегать подобных проблем в дальнейшем.

Пути искоренения ошибок

Выявив вероятную проблему, юзер должен приложить усилия для её устранения. Если самостоятельно устранить неполадки, ознакомившись с инструкциями, не удаётся, следует обратиться за помощью к специалистам, которые без затруднения быстро установят и ликвидируют ошибки.

Как самостоятельно исправить проблему

Поскольку наиболее вероятной причиной проявления ошибки при VPN подключении считаются недостающие параметры в реестре, очень важно в ручном режиме внести все важные изменения.

Первоначально следует найти ветку реестра, в которую должны вноситься важные дополнения.

Чтобы зайти в реестр и ввести в него системные дополнения, следует нажать «Пуск», затем в строку поиска ввести regedit.

Если на ПК установлен Windows XP, владелец техники должен найти HKEY_LOCAL_MACHINESYSTEMCurrentControlSetServicesIPSec. Когда же установлен Windows 7 или Vista, ветка будет выглядеть иначе: HKEY_LOCAL_MACHINESYSTEMCurrentControlSetServicesPolicyAgent.

Теперь для внесения изменений следует выделить требуемый реестр, кликнув по нему мышкой, далее в меню «Правка» следует выбрать подменю «Создать». Из предлагаемых вариантов необходимо выбрать DWORD.

На экране откроется доступная строка, в которую нужно занести требуемые изменения. В неё пользователь должен ввести AssumeUDPEncapsulationContextOnSendRule, после чего подтвердить внесённые изменения.

После внесения дополнений в системный реестр юзер должен выделить его, используя мышку, и выбрать параметр «Изменить». В появившемся поле можно ввести 0, 1 или 2, в зависимости от обозначенных целей.

Значение «0» чаще всего устанавливается по умолчанию и свидетельствует о том, что при эксплуатации NAT-устройств сетевое подключение не предусмотрено.

Значение «1» разрешает обеспечить подключение к серверу, используя NAT-устройства.

Значение «2» способствует успешной настройке операционной системы в режиме безопасности, обеспечивая подключение ПК к серверу на базе VPN при помощи NAT-девайсов.

Безусловно, чаще всего прибегают именно к введению значения «2». Чтобы все дополнения и изменения вступили в силу, очень важно перезагрузить электронную вычислительную машину.

Когда же проблема с VPN-соединением возникает из-за вирусов, важно обновить антивирусное приложение и запустить полноценное сканирование. Также совсем не помешает почистить операционку, удалив все временные файлы.

Установка обновлений, драйверов могут тоже посодействовать решению проблемы, сопровождающейся надписью «ошибка 809». Если причиной неполадки является программное обеспечение, которое было некорректно инсталлировано или вступившее в конфликт с иным ПО, успешно помогает функция «Восстановление системы», позволяющая откатить систему на несколько суток назад, когда проблем с VPN-соединением не возникало.

И только в отдельных случаях приходится переустанавливать систему, отдавая предпочтение полной загрузке Windows.

Итак, системные ошибки предупреждают, что часть важных дополнений отсутствует или недееспособно. Чтобы вернуть работоспособность всем параметрам и обеспечить доступ к всемирной паутине, следует приложить усилия, проявить повышенное внимание, выполнить последовательно все рекомендуемые действия. Усилия будут потрачены не зря, поскольку контакт компьютера с сервером будет обеспечен.

Виртуальная частная сеть (VPN) — это универсальное решение для обеспечения безопасности и конфиденциальности в Интернете. Когда они работают, они великолепны, но когда они этого не делают, они могут оставить вас в замешательстве. Для VPN-подключений довольно часто возникают проблемы. Примерно существуют сотни различных кодов ошибок VPN, но в большинстве случаев появляются только несколько. Если вы используете устройство Windows и VPN, то весьма часто встречается ошибка VPN 809.

Эта ошибка обычно возникает, когда Windows не позволяет установить VPN через брандмауэр. Кроме того, если вы не используете брандмауэр, но находитесь на устройстве NAT, эта ошибка может появиться.

Трансляция сетевых адресов (NAT) предназначена для сохранения IP-адресов. Это позволяет частным IP-сетям с незарегистрированными IP-адресами подключаться к Интернету. NAT обычно работает на маршрутизаторе, соединяющем две или более сетей, и превращает незарегистрированную сеть в юридические адреса. Устройства NAT имеют особый способ трансляции сетевого трафика, и когда вы помещаете сервер за устройством NAT и используете среду IPsec NAT-T, вы можете получить эту ошибку.

Вы получите сообщение об ошибке с указанием;

Не удалось установить сетевое соединение между вашим компьютером и сервером VPN, поскольку удаленный сервер не отвечает.

Кроме того, когда появляется ошибка, журнал событий также не отображает никаких связанных журналов, потому что трафик не достигнет интерфейса WAN MX.

Вы можете выбрать следующие варианты устранения неполадок VPN Ошибка 809:

1. Включите порты на вашем брандмауэре/маршрутизаторе
2. Добавить значение в реестр Windows
3. Отключить службы Xbox Live Networking
4. Проверьте настройки PAP
5. Отключить сторонние приложения

Давайте рассмотрим эти варианты устранения неполадок подробнее.

Вариант 1. Включите порты на вашем брандмауэре/маршрутизаторе

Код ошибки VPN «Всегда включен» 809 вызван тем, что порт PPTP (TCP 1723) или порт L2TP или порт IKEv2 (порт UDP 500 или 4500) заблокирован на сервере VPN или брандмауэре. Решение состоит в том, чтобы включить эти порты на брандмауэре или маршрутизаторе. Вы можете попробовать развернуть VPN-туннель на основе SSTP или OpenVPN у своего VPN-провайдера. Это позволит VPN-соединению беспрепятственно работать через брандмауэр, NAT и веб-прокси.

Вариант 2: Добавить значение в реестр Windows

При попытке установить VPN-соединение, если ваш MX находится за NAT, вам нужно добавить значение DWORD «AssumeUDPEncapsulationContextOnSendRule» в реестр Windows. Вот как это сделать:

1] Войдите в систему Windows Machine как «Администратор»

2] Щелкните правой кнопкой мыши «Пуск» и выберите «Выполнить»

3] Введите «regedit» и нажмите «Enter»

4] Найдите запись «HKEY_LOCAL_MACHINESYSTEMCurrentControlSetServicesPolicyAgent»

5] Щелкните правой кнопкой мыши и создайте новое значение «DWORD» (32-разрядное).

6] Добавьте RegValue «AssumeUDPEncapsulationContextOnSendRule» и нажмите «Ok», чтобы сохранить изменения.

7] Измените новую запись и измените значение данных с «0» на «2».

8] Перезагрузите компьютер и проверьте соединение

Примечание. Это решение идеально подходит, когда ваш VPN-сервер и компьютерный клиент находятся за устройствами NAT.

Вариант 3. Отключение сетевых служб Xbox Live

Для пользователей Windows 10 антивирус может быть несовместим с ОС, из-за чего он отклоняет соединения IPsec. Служба Windows 10 может обеспечить единовременный доступ к L2TP/IPsec VPN, для решения этой проблемы выполните следующие действия:

1] В поле « Поиск » введите «Услуги».

2] В результатах нажмите «Услуги».

3] Найдите «Xbox Live Networking Services» и отключите его.

Ваше VPN-соединение должно работать, а ошибка VPN 809 должна исчезнуть.

Вариант 4. Проверьте настройки PAP

Выполните следующие действия, чтобы проверить правильность настроек PAP:

1] Нажмите «Пуск» и выберите «Настройки»

2] Выберите «Сеть и Интернет» и выберите «VPN».

3] Теперь вам нужно будет «Добавить VPN», указав имя подключения, имя пользователя и пароль.

4] Теперь на вкладке «Свойства» выберите «Безопасность», затем перейдите к «Расширенные настройки».

5] В разделе «Аутентификация» выберите «Разрешить эти протоколы», а затем отметьте только поле «PAP».

Теперь перезагрузите систему, чтобы подтвердить, если ошибка исчезла.

Вариант 5: отключить сторонние приложения

Иногда сторонние приложения на устройстве могут быть причиной причины ошибки VPN 809. Здесь вам придется индивидуально выяснить, какое приложение вызывает проблему. Это может приводить в бешенство, но как только вы отключите приложение преступника, ошибка должна исчезнуть.

Ошибка VPN 809 — это очень распространенная проблема VPN, с которой время от времени сталкивается каждый пользователь. Перечисленные выше варианты помогут вам решить эту проблему в кратчайшие сроки.

Содержание

• В чём причина ошибки 809?
• Для начала
• Порты брандмауэра
• Новое правило для реестра
• Изменение настроек шифрования через реестр
• Отключение сторонних сервисов
• Если всё ещё возвращает ошибку 809
  • 1. Обновите «операционку»
  • 2. Удалите VPN-приложения вместе с настройками
  • 3. Очистите устройство от «файлового мусора»

Иногда случается, что пользователь, пытающийся подключиться к VPN-серверу, получает ошибку с кодом 809. Например, такая проблема может возникнуть у абонентов билайна, так как провайдер предоставляет доступ в интернет по технологии L2TP, то есть через ВПН-туннель.

Рассказываем в статье, что делать в такой ситуации.

В чём причина ошибки 809?

Чаще всего проблема на стороне пользователя: его компьютера и ОС Windows.

Сбой может быть из-за того, что один из компонентов ОС или устройство между ПК и сервером не имеет разрешения на подключение к VPN. Один из таких компонентов — NAT (Network Address Translation), отвечающий за преобразование IP-адресов во внутренние и внешние. Другая вероятная причина — настройки брандмауэра. И таких «виновников» может быть немало.

Но обо всём по порядку.

Для начала

Встроенный защитник Windows — одна из самых частых причин сбоев в работе интернета. А если учесть, что по дефолту в брандмауэре не настроена корректная работа с VPN-соединениями, то стоит начать с него.

1. Запустите «Панель управления».

1. Перейдите в раздел «Система и безопасность».

1. Нажмите на строчку «Брандмауэр Защитника Windows».

1. В левом меню найдите интерактивную надпись «Включение и отключение брандмауэра…» и нажмите на неё.

1. В открывшемся окне проставьте маркеры напротив всех опций, связанных с отключением брандмауэра, и подтвердите изменения.

Попробуйте подключиться к интернету или VPN-серверу снова. Если соединение не заработало, то переходите к инструкции «Новое правило для реестра» и следующим. Если же доступ в интернет появился, то включите брандмауэр и следуйте гайдам в предложенной последовательности.

Примечание: инструкции актуальны для Windows 7, 8 и 10. Команды, пути, названия и т. п. вводятся без кавычек.

Порты брандмауэра

Если у вас домашний интернет билайн по протоколу L2TP, то с высокой долей вероятности открытие портов 1701, 500, 1460, 4500 решит проблему.

1. Запустите «Панель управления».
2. Перейдите в раздел «Система и безопасность».
3. Перейдите в подраздел «Брандмауэр Защитника Windows».
4. В левом меню кликните по интерактивной строке «Дополнительные параметры».

1. Нажмите правой кнопкой мыши на строчку «Правила для входящих подключений».
2. Нажмите ЛКМ по опции «Создать правило» в появившемся контекстном меню.

1. Экран «Тип правила»: поставьте маркер напротив опции «Для порта» и нажмите «Далее».

1. Экран «Протоколы и порты»: поставьте маркер напротив опции «Протокол UDP» и «Определённые локальные порты». В строке введите «1701, 500, 1460, 4500», нажмите «Далее».

1. Экран «Действие»: отметьте маркером опцию «Разрешить подключение», нажмите «Далее».

1. Экран «Профиль»: отметьте галочками все опции и снова нажмите «Далее».

1. Экран «Имя»: назовите правило. В качестве имени можно использовать, например, «Интернет билайн».

1. Нажмите «Готово» и повторите шаги № 5–11, но для исходящих подключений.

Попробуйте подключиться к интернету. Если соединение работает, то всё сделано верно. Если нет, то повторите действия с одним изменением: на шаге № 8 выберите не UDP, а TCP.

Новое правило для реестра

1. Нажмите Win + R и в появившемся окне пропишите команду regedit.

1. Вставьте в адресную строку путь HKEY_LOCAL_MACHINESYSTEMCurrentControlSetServicesPolicyAgent.

1. Нажмите на кнопку «Правка».
2. Поочерёдно выберите «Создать» и «Параметр DWORD (32 бита)». Созданному сеттингу присвойте название AssumeUDPEncapsulationContextOnSendRule.

1. Дважды кликните по параметру левой кнопкой мыши.
2. В строке «Значение» напишите цифру 2.

1. Сохраните новые параметры и перезагрузите устройство.

Изменение настроек шифрования через реестр

1. Повторите 1-й шаг из предыдущей инструкции.
2. Вставьте в адресную строку путь HKEY_LOCAL_MACHINESYSTEMCurrentControlSetServicesRasManParameters.

1. Найдите параметр AllowL2TPWeakCrypto, дважды кликните по нему ЛКМ, пропишите в поле значение «1» и подтвердите изменения.

1. Найдите строку ProhibitIPSec, дважды кликните по ней, укажите в поле значение «0» и сохраните.
2. Перезагрузите компьютер.

Если сбой не был устранён, то снова откройте AllowL2TPWeakCrypto, пропишите «0» и перезапустите компьютер.

Отключение сторонних сервисов

С Windows 8 и 10 «виновником» может стать интегрированный сервис Xbox Live — стоит попробовать его отключить. Для этого:

1. нажмите Win + R;
2. впишите команду services.msc;

1. найдите строку «Сетевая служба Xbox Live» и кликните по ней правой кнопкой мыши;
2. во вкладке «Общие» найдите параметр «Тип запуска», вызовите dropdown-меню и выберите опцию «Отключена».

Если всё ещё возвращает ошибку 809

1. Обновите операционную систему

Инструкция для Windows 10

1. Откройте меню «Пуск».

2. Найдите шестерёнку и нажмите на неё.

1. Перейдите в подраздел «Обновление и безопасность».

1. Откроется «Центр обновления Windows» — кликните по кнопке «Проверить наличие обновлений».

1. Если система найдёт патч, то появится соответствующий блок. Нажмите на кнопку «Загрузить и установить», расположенную под ним.

Инструкция для Windows 7

1. Запустите «Панель управления».
2. Перейдите в подраздел «Центр обновления Windows».
3. Проверьте, есть ли обновления. По умолчанию они загружаются автоматически. Если да — нажмите «Установить».

2. Удалите VPN-приложения вместе с настройками

Если вы устанавливали какие-либо приложения, работающие с VPN, то попробуйте избавиться от них. Важно провести полное удаление.

1. Запустите «Панель управления».
2. Откройте раздел «Программы» / «Установка и удаление программ».
3. Найдите в списке программу, которую хотите деинсталлировать, и выделите её.
4. В меню над блоком с приложениями станет активной кнопка «Удалить» — нажмите на неё и следуйте инструкциям. Если деинсталлятор предложит удалить настройки программы — согласитесь.
5. Перезагрузите ПК.

3. Очистите устройство от «файлового мусора»

Этот способ лучше всего применять вкупе с предыдущим: «файловый мусор» может остаться даже после удаления приложения средствами ОС. Для очистки ПК от ненужных файлов воспользуйтесь специальной утилитой. Например, CCleaner.

Но рекомендуем очень внимательно отнестись к настройке параметров удаления. Иначе вместе с ненужными файлами вы можете очистить сохранённые учётные данные ПК для авторизации в различных сервисах.