Warning: Cannot use a scalar value as an array in /home/admin/public_html/forum/include/fm.class.php on line 757

Warning: Invalid argument supplied for foreach() in /home/admin/public_html/forum/include/fm.class.php on line 770
Форумы портала PHP.SU :: Версия для печати :: Ошибка 429 при одном запросе парсера
Форумы портала PHP.SU » » Вопросы новичков » Ошибка 429 при одном запросе парсера

Страниц (1): [1]
 

1. KOHTPOJIEP - 24 Августа, 2016 - 17:55:26 - перейти к сообщению
Доброго времени суток. Я пытаюсь спарсить все ссылки со страницы, но даже при её скачивании получаю ошибку 429.
Пробовал использовать file_get_html от класса DOM, простое file_get_contents и curl. На данный момент поиски привели меня к тому, чтобы посылать сначала POST-запрос, и лишь затем, вставляя скопированное содержание заголовков GET, пытаться парсить. Я взял функцию вот отсюда.
Но это ни к чему не привело, т.к. после выполнения POST-запроса тело остаётся пустым (xdebug показал, что $post==0).
На сайте из примера функция работает. Значит, на домене, который нужно парсить мне, использованы какие-то ещё меры защиты.
Сразу оговорюсь, что флудить запросами на домен я не намерен. Можно поставить задержку между "кликами" хоть в 10 секунд.
К управлению доменом я отношения не имею, т.ч. могу использовать только сам парсер.
Подскажите, пожалуйста, что ещё можно использовать.
2. KOHTPOJIEP - 29 Августа, 2016 - 00:42:34 - перейти к сообщению
Решено здесь.

 

Powered by ExBB FM 1.0 RC1