Warning: Cannot use a scalar value as an array in /home/admin/public_html/forum/include/fm.class.php on line 757

Warning: Invalid argument supplied for foreach() in /home/admin/public_html/forum/include/fm.class.php on line 770
Форумы портала PHP.SU :: Версия для печати :: Парсер картинок
Форумы портала PHP.SU » » Вопросы новичков » Парсер картинок

Страниц (1): [1]
 

1. Mikle1989 - 17 Июня, 2016 - 13:47:38 - перейти к сообщению
Здравствуйте!
Стоит задача переноса картинок с одного сайта партнера на другой.
Картинки располагаются по одной на детальной страницы, этих страниц около 80.
Задача сохранить картинки в папку.

Если брать парсер simple dom, то с него удобно парсить информацию с одной станицы, которая передается в file_get_htm, а если их 80, получается надо передавать в метод file_get_htm все страницы по очереди.

Подскажите, можно ли как - нибудь гибко решить данную задачу?
2. Viper - 17 Июня, 2016 - 14:10:18 - перейти к сообщению
Дело не в инструменте, а в способе. Организуйте очередь и будет вам счастье.
3. Mikle1989 - 17 Июня, 2016 - 14:13:28 - перейти к сообщению
Напишите, пожалуйста, небольшой пример как это можно организовать
4. LIME - 17 Июня, 2016 - 19:29:37 - перейти к сообщению
слишком простая задача для очереди
file_get_htm принимает и строку html насколько помню
решение multi_curl попроще
http://php.net/manual/ru/functio...l-multi-init.php
(Добавление)
Mikle1989 пишет:
Напишите, пожалуйста, небольшой пример
с очередями не получится небольшого))
(Добавление)
хотя 80 страниц можно и тупо в цикле обработать если скорость не сверхкритична
5. Mikle1989 - 17 Июня, 2016 - 23:54:04 - перейти к сообщению
Спасибо большое, посмотрю материал, да и изучить очереди не помешает
6. Viper - 18 Июня, 2016 - 00:12:02 - перейти к сообщению
Вот статейка про парсинг на NodeJS если вам вдруг php не взлетит. https://habrahabr[dot]ru/post/301426/
7. Mikle1989 - 18 Июня, 2016 - 11:01:19 - перейти к сообщению
Да, интересно тоже ознакомиться, noda я косался, возможно даже будет удобнее, попытаю)
Спасибо!
8. LIME - 18 Июня, 2016 - 11:10:13 - перейти к сообщению
Еще один выстрел из пушки по воробьям
Viper ты прям мастер преувеличения на этой теме
В чем сила ноды?
Неумирающий процесс + ассинхронность библиотеки типа libevent
Viper акстись
После очередей нода
Фуууфф
(Добавление)
Mikle1989 очереди хороши для фоновых процессов
Чтоб ответ сервера не тормозить
Не путать с менеджером сообщений типа rabbit
он больше для связи компонентов soa архитектуры
Но фондовые процессы тоже может исполнять
Короче для гугления rabbit, gearman, и еще в каждом фреймворке есть свое решение..дешевое и сердитое
(Добавление)
AMPQ...просто положил сюда...кому надо погуглит
9. Viper - 18 Июня, 2016 - 14:50:04 - перейти к сообщению
LIME где ты увидел про очереди в ноде? Не фантазируй Улыбка
10. LIME - 19 Июня, 2016 - 01:32:52 - перейти к сообщению
Сам не фантазируй
Я сказал что ты заставляешь курить то очереди то ноду
Впрочем пофиг
Ответы получились на любой вкус

 

Powered by ExBB FM 1.0 RC1