пакетный парсер ссылок

[Удален]
548

Народ, помогите

можно сделать, чтобы если есть список адресов (http://site.ru ... и так далее в файле txt) и чтобы скрипт проходил этот список и сохранял в другой файл (или в два других):

1. Все ссылки с этого адреса

2. Сохранял ссылки с заданным параметром. Например чтобы в урле содержалось new, или id , то есть если указали new, то со страницы http://site.ru он запишет в файл автоматически http://site.ru/news/4141.html , http://site.ru/new/41.html ну и так даее, а которые не подходят не сохранял бы. Это к примеру

пытался что-то написать, вобще не работает (

Пожалуйста помогите разобраться

Progr@mmer\.
На сайте с 14.10.2007
Offline
44
#1

Вообщем, как-то так :)

Писал со смарта оО


<?

$file = file('list.txt'); // массив строк-урлов
$find = 'new'; // что ищем
$mask ='#(http:\/\/[a-z0-9\.\-]+\/.*' . $find . '.*)#i'; // шаблон для регулярки
$newfile = 'new.txt';
$newstr = '';


foreach ($file AS $line) {
$line = trim($line);
$page = file_get_contents($line);

preg_match_all($mask, $page, $m);

if (sizeof($m) > 0) {
foreach ($m AS $l) {
$newstr .= $l[1] . PHP_EOL;
}

}

}

file_put_contents($newfile, $newstr);

?>

Progr@mmer\. добавил 10.11.2008 в 11:31

Ыыы :) Счас заметил, что он спарсит всю страницу целиком %)

Редактируйте регулярку Ыыы

Вашей девушке не хватает романтики? Черпните её на сайте «Я Люблю Романтику» (http://iloveromantics.ru/). Романтический форум (http://forum.iloveromantics.ru/) для отдыха от нудной работы.
[Удален]
#2

Спасибо, все работает.

Только под разные нужды регулярку править )

если есть какие-нить идеи, что можно в парсер добавить (мало ли функции нужные), то пиши :)

например по сортировке, чтобы потом он из всех ссылок уже в другой файл выбрал по одной (первой например) с каждого домена )

Improvis добавил 10.11.2008 в 21:14

Кстати, а от чего зависит?

Я парсю например какой-то урл и он потом в файл записал только один уникальный нужный мне урл со страницы, хотя там есть еще три штуки один в один только цифрой отличается, то есть получается он как нашел сразуже отключается ?

PS: Добавляет, который самый верхний

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий