парсер контента фо фри

12
YY
На сайте с 23.09.2009
Offline
32
2792

Многопоточный парсер контента.

На входе: урл сайта.

На выходе (опционально):

- список линков

- текстовое содержание всех страниц (без тэгов)

- выборочное содержание страниц (частичный парсинг)

Для тонкой настройки парсинга имеется блэклист и вайтлист + парсинг по шаблону. Можно парсить определенные страницы. Скачать и все остальное можно по линку в подписи.

p.s. копипаст наше все. :)

Roman_
На сайте с 13.01.2008
Offline
150
#1

А возможность парса картинок будет в дальнейшем? А то сейчас что то не нашел...

N4
На сайте с 27.07.2008
Offline
89
#2

пример парсенного текста?

как происходит выборка "нужного" контента? или парсится весь текст вподряд и на выходе получается что-то типа такого:

ДомойНачалоКонтакт Продукция нашего завода составляет значительную часть Фото.1Токарный станок потребления рынка

Интернет-магазин: SP.Easy.Shop 1.4
YY
На сайте с 23.09.2009
Offline
32
#3

number4, нормально парсится, если юзать парсинг по шаблону (спарсит то, что сам пропишешь). При парсинге всего текста страницы, возможны казусы, конечно.

"парсить" картики можно любым даунлоад менеджером, вначале, отпарсив на них линки. Но это просто сделать, на самом деле. посмотрю на днях.

N4
На сайте с 27.07.2008
Offline
89
#4

сделайте тогда парсинг какого-нибудь сайта (кроме новостных порталов), тематика и сложность сайта не важна.

выложите килобайт контента и урл откуда был спарсен контент.

[Удален]
#5

Крутая штука! Очень. Но я никак не могу ничего спарсить. Приведите пример какого-нибудь сайта и выложите ПОЖАЛУЙСТА шаблон (название блока, начало, конец). Конкретно. Заранее очень-очень благодарен.

quickmouse
На сайте с 29.06.2009
Offline
86
#6

Что такого крутого в парсере, которым можно немочь что-либо спарсить)))

собираю на домик в ГОА
YY
На сайте с 23.09.2009
Offline
32
#7

abcdoor, сайт http://www.sigraem.com/


[blockname]main_screen[/blockname][start]div align="left"> <div align="center"><img src="[/start][stop]"[/stop]
[blockname]title[/blockname][start]<title>[/start][stop]</title>[/stop]
[blockname]main_text[/blockname][start]<DIV class=text1>[/start][stop]<div class="quote">[/stop][-cleantext]
[blockname]screens[/blockname][start]target="_blank"><img src="[/start][stop]"[/stop][-all]

жмешь save, в вайтлист пишешь .html

на выходе, например (парсер удаляет все форматирование, за исключением тега br):

<URL>http://www.sigraem.com/action/18268-prison-break-the-conspiracy-2010rusengrepack-by.html</URL>
<title>Prison Break: The Conspiracy (2010/RUS/ENG/RePack by REXE) &raquo; Скачать игры</title>
<main_screen>http://10pix.ru/img1/2685/1808208.jpg</main_screen>
<main_text>
<br><br> Prison Break – это экшен с видом от третьего лица, создаваемый на основе одноименного телевизионного сериала, известного российским зрителям под названием "Побег". Действие игры разворачивается параллельно событиям первого сезона "Побега". В игре Prison Break вам предстоит управлять человеком по имени Том Пэкстон. <br>


Информация об Игре <br> Название: Prison Break: The Conspiracy <br> Жанры: Adventure / Action (Shooter) / Stealth / 3rd Person <br> Язык Интерфейса: Русский (текст) / Английский (озвучка)<br> Год выпуска: 2010 <br> Разработчик: ZootFly <br> Издатель: Deep Silver <br> Тип издания: RePack <br> Таблетка: Не требуется <br> Формат файла: .iso <br> Платформа: PC <br> Размер файла: 1.12 Gb <br><br>Он является агентом так называемой "Компании" - организации, которая подставила Линкольна. Его отправляют в тюрьму для того, чтобы выяснить, зачем Майкл Скофилд попытался ограбить банк. Герою предстоит столкнуться с некоторыми персонажами, которые фигурировали в телесериале, а так же исследовать территорию тюрьмы "Фокс Ривер" и сразиться с противниками. <br><br> <br><br> Особенности RePack'a <br>> Hичего не вырезано / не перекодировано <br>> Использован русификатор от ENPY Studio<br>> RePack by REXE<br><br> Системные требования: <br>> Windows XP / Vista / Windows 7 <br>> Intel Core 2 Duo <br>> ОЗУ 256 Мб <br>> Видеокарта 256 Мб совместимая с Direct X <br>> 6 Гб свободного места на диске <br>> Звуковая плата, совместимая с DirectX 9.0 <br><br> MD5: d9f239a05162d3f6e5c9ea3a4cbb30c0<br><br> Скачать игру - Prison Break: The Conspiracy (2010/RUS/ENG/RePack by REXE) <br></main_text>
<screens>
http://10pix.ru/img1/2572/1808201.th.jpg
http://10pix.ru/img1/2653/1808205.th.jpg
http://10pix.ru/img1/2669/1808206.th.jpg</screens>

п.с. на блоге я писал как им пользоваться

olegapro
На сайте с 29.07.2007
Offline
139
#8
quickmouse:
Что такого крутого в парсере, которым можно немочь что-либо спарсить)))

Это что-то типо того, когда ты всю жизнь юзал paint и рисовал в нем члены. А потом тебе на комп поставили фотошоп, ты нихрена не можешь сделать, но рабости просто полные штаны)

Статьи для новичков по дорвеям (/ru/forum/717895) Мой Новый Блог (https://olegapro.com)
moneySEO
На сайте с 20.10.2009
Offline
170
#9
Roman_:
А возможность парса картинок будет в дальнейшем? А то сейчас что то не нашел...

данные удалены

Сервис быстрой индексации ссылок в Google: https://moneyseo.info/speedy-index
response
На сайте с 01.12.2004
Offline
324
#10
moneySEO:
Картинки можно спарсить отдельно Парсером Картинок:
/ru/forum/520201

ты даже насрать нормально не можешь.

верни пост, плакса.

Однопоточный парсер ключевых слов Магадан (http://magadanparser.ru) (со свистелками) Многопоточный парсер ключевых слов Солнечный (http://sunnyparser.ru) (без свистелок)
12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий