Приходит робот Яндекса и валит сайт. Посоветуйте, что сделать!

12 3
G
На сайте с 10.09.2004
Offline
45
4638

Добрый день,

Ведем в интернете 3 сайта. Число страниц приближается к 50 тысячам (база по хим. реактивам и хим. соединениям). Нам важно, чтобы сайт хорошо индексировался.

Но вот время от времени приходит робот Яндекса и заваливает сайт. У нас не выделенный сервер (институт бюджетный, бедный, может разориться только на виртуальный хостинг). Провайдер грозится выгнать с хостинга, так как нагрузка уж очень большая на базу MySQL.

SQL - запросы самые оптимизированные-переоптимизированные.

Поделитесь, как вы выходите из такой ситуации. Временно поставили в .htaccess инструкцию:

deny from 213.180.216.6

deny from 87.250.244.17

но это, конечно, не решение.

Указаны IP адреса машин яндекса, с которых приходит нагрузка. Первая называется sfront35.yandex.ru

Может быть сотрудники яндекса читают этот форум и также могут посоветовать что-либо.

Помогаю начинающим мастерам зарабатывать в Копейке (http://affiliates.copeac.com/signup/8440)
Каширин
На сайте с 03.01.2004
Offline
1018
#1

generalbox, решений море. Главное - разобраться, почему Яндекс постоянно переиндексирует ваши страницы. Наверняка они у вас неизменны :) Разберитесь с серверными заголовками.

Запрещать доступ робота к сайту проще делать в robots.txt :)

S0
На сайте с 23.11.2006
Offline
55
#2
Может быть сотрудники яндекса читают этот форум и также могут посоветовать что-либо.

читают но врядли ответят. ИМХО.

У нас не выделенный сервер (институт бюджетный, бедный, может разориться только на виртуальный хостинг).

а уж без этого ни как. хороший хостинг залог успеха. :)

Предлагаю хостинг icq 468655368. Отзывы (http://www.hostobzor.ru/opinion/op.php?pid=1518) еще Отзывы (/ru/forum/221296)
neznaika
На сайте с 28.06.2006
Offline
356
#3

generalbox, у вас битрикс?

Дорого покупаю настоящие сайты. Не инвестирую деньги и не беру кредиты.
DU
На сайте с 20.10.2006
Offline
105
#4

1. Проверить код и найти что грузит сервер

2. Запретить к индексации ненужные страницы

3. Сменить хостера

D5
На сайте с 30.11.2006
Offline
6
#5

Имеется аналогичная проблема. Гугл гораздо больше страниц индексирует, и без вреда работает, а Яша обязательно базу валит. Когда он не был в исключениях системы блокировки флуда с айпи, он неизменно залетал в бан. Сейчас он в исключениях, инеизменновалит сайт :)

Правда на данный момент, море вариантов я не вижу, кроме как перевести сайт на более мощный сервер или яшу обратно в бан отправить :)

Каширин, а как объяснить яндексу какие страницы по десятому разу индексировать не надо?

The WishMaster
На сайте с 29.09.2005
Offline
2543
#6

Быть может, действительно глючный скрипт. Но, скорее всего, вы сэкономили на хостере.

Пешу текста дешыго! Тематики - туризм, СЕО, творчество, кулинария, шизотерика :)
DU
На сайте с 20.10.2006
Offline
105
#7
dar55:
как объяснить яндексу какие страницы по десятому разу индексировать не надо?

Изучаем метатеги.

The WishMaster
На сайте с 29.09.2005
Offline
2543
#8
DIMON-UA:
Изучаем метатеги.

А разве яндекс те метатеги учитывает?

DU
На сайте с 20.10.2006
Offline
105
#9
The WishMaster:
А разве яндекс те метатеги учитывает?

Для всех кроме Яндекса метатеги. Яндексу: last-modified

HoSStiA
На сайте с 18.02.2004
Offline
144
#10
DIMON-UA:
Для всех кроме Яндекса метатеги. Яндексу: last-modified

А также, и даже лучше, If-Modified-Since , только его надо правильно настроить для PHP.

12 3

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий