Отправка изображений на сторонний сервер

Sanu0074
На сайте с 31.08.2012
Offline
110
426

У меня есть такая задача, есть сайт A, на нем есть папка uploads, в ней подпапки разной структуры, в них изображения. Всего файлов около 1000000, надо отправить ссылки на эти файлы (на каждый) отправить на сайт B. Т.е. задача в том, как правильно перебрать каталог весь, такое кол-во за 1 запрос не перебрать и не отправить (процедура долгая, файлы обрабатываются на сайте B, необходимо еще и ответ ждать...), надо как-то в несколько последовательных запросов это делать, но не соображу как, этож не БД, тут не запомнить с какой позиции продолжать.... Подскажите как правильно это организовать?

zhitov
На сайте с 30.01.2005
Offline
219
#1

Что значит "отправить ссылки на сайт В"? Каким способом?

Я бы написал скрипт:

перебираем папки первого уровня - в базу,

2-го - в базу,

и т.д. (в таблицу 1)

Затем другой скрипт - из базы берет папочки и пишет в базу ссылки на картинки (в таблицу 2).

Обработал всю папку - отметка в табл. 1

Так скрипт сможет начинать обработку не с начала, а с последней таблицы.

Строительные калькуляторы ( https://www.zhitov.com/ )
Sanu0074
На сайте с 31.08.2012
Offline
110
#2

zhitov, можно так, но я имел ввиду без начального перебора с записью в базу

zhitov
На сайте с 30.01.2005
Offline
219
#3

Тогда установите достаточное время для выполнения скрипта и пусть обойдет все за один раз.

Sanu0074
На сайте с 31.08.2012
Offline
110
#4

zhitov, боюсь это очень долго будет.. Полюбому прийдется последовательными запросами делать

B2
На сайте с 10.10.2011
Offline
27
#5

Sanu0074 Делайте через БД, как вам подсказали... будет и проще и быстрее. Последовательными запросами без БД будет туго делать... все равно нужно будет сохранять куда-то метки.

totamon
На сайте с 12.05.2007
Offline
437
#6

все это на парсер грябящий картинки с дле смахивает))

в любом случае это надо делать или на локальном сервере и потом заливать на сайт или на впс-вдс своем, чтобы выставить время выполнения бесконечное, и пусть скрипт хоть сутки пашет... на шаред хостинге такого не сделать. или писать скрипт с ограничением по количеству или времени и запускать по крону раз в 2 минуты, тогда точку остановки надо писать в файл или в базу.

zhitov, боюсь это очень долго будет.. Полюбому прийдется последовательными запросами делать

а что делать, это будет по любому долго, так парсеры и работают

Домены и хостинг https://8fn.ru/regru | Дедик от 3000р https://8fn.ru/73 | VPS в Москве https://8fn.ru/72 | Лучшие ВПС, ТП огонь, все страны! https://8fn.ru/inferno | ХОСТИНГ №1 РОССИИ https://8fn.ru/beget
zhitov
На сайте с 30.01.2005
Offline
219
#7
Sanu0074:
боюсь это очень долго будет..

Я удалял скриптом около 250.000 файлов за один раз. Секунд 20 уходило.

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий