Парсинг 403 Forbidden

M9
На сайте с 15.05.2014
Offline
79
1214

Друзья я честно говоря в первые сталкивался с такой задачей нужно парсит эту страницу и все данные находится здесь но по переходе я получаю 403 Forbidden но как тогда браузер получает данные? и возможно ли получит данные и как получит по хитрому?

ДП
На сайте с 23.11.2009
Offline
203
#1

Общее правило - отправляйте те же заголовки, что и браузер. Куки - это тоже заголовки.

Ну или как вариант - есть так называемые headless браузеры - phantom, slimer (вроде) - это вообще браузерные движки, которыми можно управлять из скриптов.

M9
На сайте с 15.05.2014
Offline
79
#2

А как понят какие заголовки отправляют браузер?

ZomBat
На сайте с 08.10.2016
Offline
24
#3

Служебные заголовки, которые так же анализируются для выдачи контента на сервере:

Для "нормального" парсинга, необходимо полностью "прикидываться" посетителем.

в свободное время шаманю над веб-окружением VPS...

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий