Вопрос по PHP

R
На сайте с 13.06.2009
Offline
47
790

Несколько раз видел граберы, которые собирают контент по запросу в ПС, но не пойму как они работают без шаблона парсинга. Т.е. как отделяют всякий мусор (меню и т.д.) и находят на странице текст самой статьи. Может кто подскажет примерный алгоритм или хотя бы идеями поделится?

[umka]
На сайте с 25.05.2008
Offline
456
#1
recrut:
Несколько раз видел граберы, которые собирают контент по запросу в ПС, но не пойму как они работают без шаблона парсинга. Т.е. как отделяют всякий мусор (меню и т.д.) и находят на странице текст самой статьи. Может кто подскажет примерный алгоритм или хотя бы идеями поделится?

А почему вы решили, что они работают без шаблона парсинга?

Лог в помощь!
BredoGen.
На сайте с 19.10.2009
Offline
98
#2
recrut:
Несколько раз видел граберы, которые собирают контент по запросу в ПС, но не пойму как они работают без шаблона парсинга. Т.е. как отделяют всякий мусор (меню и т.д.) и находят на странице текст самой статьи. Может кто подскажет примерный алгоритм или хотя бы идеями поделится?

Выбираются наибольшие куски чистого текста, например.

R
На сайте с 13.06.2009
Offline
47
#3
'[umka:
;8150865']А почему вы решили, что они работают без шаблона парсинга?

Ну, очевидно же.

Когда вбиваешь в поиск какое-то слово, то вылетают совершенно разные сайты (разные cms, шаблоны), а значит универсального шаблона не написать. К тому же может быть так, что попадется не страница со статьей, а страница раздела со ссылками на полные статьи.

recrut добавил 09.12.2010 в 21:12

А у каких движков есть стандартные метки (так сказать) полной статьи? Вот например DLE

<div id='news-id-1'>{get}</div>
SB
На сайте с 20.09.2005
Offline
47
#4

Почитайте про "информационный шум" например тут http://msug.vn.ua/blogs/datamining/archive/2009/08/06/1010.aspx

ЗДЕСЬ МОЖНО ПРОДАТЬ САЙТ ЗА WEBMONEY (http://www.prodaytesite.ru)
R
На сайте с 13.06.2009
Offline
47
#5
SerB:
Почитайте про "информационный шум" например тут http://msug.vn.ua/blogs/datamining/archive/2009/08/06/1010.aspx

Спасибо почитал.

Василий Колодин
На сайте с 17.12.2008
Offline
250
#6

Как правило, весь контент идет в параграфах.

Если видишь 1-2-3 параграфа подряд - очевидно это контент.

+ минимальный объем текста.

Я бы это и отрезал.

Рекламу, навигацию, партнерские ссылки и прочее - редко в параграфах делают.

Юзаю Бегет с 2013 года. Начни юзать и ты: https://beget.com/p64496/ru/hosting/virtual
AG
На сайте с 10.12.2010
Offline
1
#7
recrut:
Несколько раз видел граберы, которые собирают контент по запросу в ПС, но не пойму как они работают без шаблона парсинга. Т.е. как отделяют всякий мусор (меню и т.д.) и находят на странице текст самой статьи. Может кто подскажет примерный алгоритм или хотя бы идеями поделится?

Вотссылочка, я у этого чела заказывал грабберы. Там посмотри в контактах его аська, удачи ;)

R
На сайте с 13.06.2009
Offline
47
#8
titaniMOZG:
Как правило, весь контент идет в параграфах.
Если видишь 1-2-3 параграфа подряд - очевидно это контент.
+ минимальный объем текста.
Я бы это и отрезал.
Рекламу, навигацию, партнерские ссылки и прочее - редко в параграфах делают.

Я в принципе так и думал. Только думаю, что еще надо учитывать тест в <div> и в <td>

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий