Собственный опыт, простейшая фигня, в виде поставьте галочку или уберите её, и проблем нету.
Для этого нужно:
1. Лицензию на поиск, чтобы Яша не забанил IP сервака.
2. Серверные мощности нужны приличные + с хорошим каналом.
По сути скрипт у меня есть для всего этого, проблема в том, что скорость, как раз, для больших сайтов ну просто ужасно медленная. На проверку 1 сайта будет уходить более 30 минут, а это просто ИМХО не целесообразно.
А Вы уверены, что это клиенты?
Конечно не стоит! Нужно работать на все поисковики сразу!
И Вам спасибо за такие слова)))
Slam Рекомендую прочитать, что такое ТИЦ вообще.
Пример: у меня 1200 бэков ТИЦ 240.
А не потратишь ли на это счастье больше 20 млн$???
АП/2 )))
возможно просто автомат болтики подкрутил... ну ничего хоть что-то... )))
twistfire Наверное Яндекс расклеял сайтик, создайте в корневой папки сайта файл, robots.txt и запишите туда:
User-agent: Yandex
Host: www.site.ru
Можно записать с www или без www, как вам угодно.
Конечно же роботы и сами разберутся, но почему бы им не помочь ))))
* Подправил основной код. Раньше скрипт не мог обрабатывать сразу много пользователей, выводилась неправильная статистика.
* Добавил вывод "Проиндексированных страниц", может быть кому пригодится.