Нейросети в ранжировании

15

Eugen

2 мая 2006, 08:47

1925

Натолкнулся на описание метода подсчета популярности в документации DataParkSearch.

При этом методе расчёта популярности подразумевается, что страницы являются нейронами, а ссылки между страницами являются связями между нейронами. Такми образом для образованой нейросети можно использовать один методов её обучения - метод обратного распростаанения ошибки. Рейтингом популярности страницы в данном случае считается уровень активности соотвествующего нейрона.

Интересно, что здесь имеется в виду? Что на входах нейросети? Что на выходах? Какие активационные функции?

И какие вообще существуют подходу к использовании нейросетей в ранжировании?

Еще встретил описание применения нейросетей вот в этой книге:

David A Grossman, Ophir Frieder

Information Retrieval: Algorithms and Heuristics

Для тех, кто не боится сломать глаза ;)

http://books.google.com/books?vid=ISBN0792382714&id=JZnnUqIbpqAC&pg=PA65&lpg=PA65&dq=Information+retrieval+neural&sig=IBszKC7OhMQaSYpcKn_PPuCX0n4

Однако, авторы описывают нейросеть с линейными функциями активации. Такая сеть вообще-то мало интересна....

Eugen's blog (http://www.kochuev.com/)

69

Kolyaj

2 мая 2006, 15:01

#1

При этом методе расчёта популярности подразумевается, что страницы являются нейронами, а ссылки между страницами являются связями между нейронами. Такми образом для образованой нейросети можно использовать один методов её обучения - метод обратного распростаанения ошибки. Рейтингом популярности страницы в данном случае считается уровень активности соотвествующего нейрона.

Метод обратного распространения ошибки обучает многослойную сеть без обратных связей. В данном случае получится с обратными.

E

15

Eugen

2 мая 2006, 19:34

#2

Kolyaj:
Метод обратного распространения ошибки обучает многослойную сеть без обратных связей. В данном случае получится с обратными.

Нет, он может применяться в т.ч. и для сетей с обратными связями. Но вопрос не в этом. Интересно, как именно нейросети используются при ранжировании, в частности - в DataparkSearch.

69

Kolyaj

3 мая 2006, 07:06

#3

Eugen:
Интересно, как именно нейросети используются при ранжировании

Один из вариантов (первое что в голову пришло): сеть обучается без учителя на наборе страниц, на выходе получаем степени соответствия страниц к полученным кластерам.

При поиске на вход сети подается поисковый запрос и в зависимости от того к какому кластеру сеть отнесет его ранжируем документы. Можно к примеру взвесить документы в зависимости от принадлежности к каждому кластеру и принадлежности к соответствующим кластерам поискового запроса.

E

15

Eugen

3 мая 2006, 08:00

#4

Да, но что тогда подавать на входы сети? Я считаю, что при таком подходе надо как-то максимально полно описать документ вектором конечной длины, вот только, что это будет за вектор? Кроме того, тот подход, что вы предложили, не учитывает соответствие документа запросу и скорее применим для тематической кластеризации документов, чем для ранжирования.

А насчет dataparksearch, то, как понятно из краткого описания, они документы рассматривают, как нейроны, а линки между ними - как связи нейронов. И как-то пытаются эту сеть обучить :)

Кстати, может, кто посоветует книги или статьи на эту тему?

eTarget 2011:Панельная дискуссия «Стратегия eTarget 2011: Круглый стол Могут ли «плохие» входящие

69

Kolyaj

3 мая 2006, 08:34

#5

Eugen:
как понятно из краткого описания, они документы рассматривают, как нейроны, а линки между ними - как связи нейронов. И как-то пытаются эту сеть обучить

При таком построении сети вес нейрона будет аналогом PR, а использование для вычисления PR нейронных сетей ИМХО нецелесообразно, т.к. если вычислять его в лоб то требуется решить систему M линейных уравнений с M переменными (M - количество страниц) с сильно разреженной матрицей (разумеется для классического PR), в случае же использования НС потребуется оптимизировать нелинейную функцию N переменных, где N количество ссылок в системе. Очевидно, что N >> M, плюс в первом случае линейность, во-втором нелинейность.

Да, но что тогда подавать на входы сети?

Честно говоря не знаю.

Кстати, может, кто посоветует книги или статьи на эту тему?

На какую именно?

Растолкованный PageRank, часть 2 Google не советует использовать PageRank: Больше ссылок хороших

69

Kolyaj

3 мая 2006, 08:36

#6

И еще

Кроме того, тот подход, что вы предложили, не учитывает соответствие документа запросу

Он учитывает соответствие запроса к кластеру, к которому уже принадлежат документы.

M

65

Maxime

3 мая 2006, 14:10

#7

См. http://notes.sochi.org.ru/78/ об использовании нейросети в MSN Search.

Проверь свои запросы: Вершки Рунета (http://www.43n39e.ru/)

Что делать, если ваша email-рассылка попала в спам

Яндекс Вебмастер вынес товарные фиды в отдельный раздел