- Поисковые системы
- Практика оптимизации
- Трафик для сайтов
- Монетизация сайтов
- Сайтостроение
- Социальный Маркетинг
- Общение профессионалов
- Биржа и продажа
- Финансовые объявления
- Работа на постоянной основе
- Сайты - покупка, продажа
- Соцсети: страницы, группы, приложения
- Сайты без доменов
- Трафик, тизерная и баннерная реклама
- Продажа, оценка, регистрация доменов
- Ссылки - обмен, покупка, продажа
- Программы и скрипты
- Размещение статей
- Инфопродукты
- Прочие цифровые товары
- Работа и услуги для вебмастера
- Оптимизация, продвижение и аудит
- Ведение рекламных кампаний
- Услуги в области SMM
- Программирование
- Администрирование серверов и сайтов
- Прокси, ВПН, анонимайзеры, IP
- Платное обучение, вебинары
- Регистрация в каталогах
- Копирайтинг, переводы
- Дизайн
- Usability: консультации и аудит
- Изготовление сайтов
- Наполнение сайтов
- Прочие услуги
- Не про работу
В 2023 году 36,9% всех DDoS-атак пришлось на сферу финансов
А 24,9% – на сегмент электронной коммерции
Оксана Мамчуева
Переиграть и победить: как анализировать конкурентов для продвижения сайта
С помощью Ahrefs
Александр Шестаков
Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий
Сложно не перейти на офтоп отвечая на аналогичные вопросы...
Yanhert, вы всегда верите на слово всему сказанному?
Не путайте человека, robots.txt для того и создан, чтобы не давать паукам индексировать страницы и разделы.
Спасибо! Буду пробывать.
Ясно! И стало быть поисковый робот вообще не будет смотреть на файлы ааа.html и bbb.html или всётаки "пощупает" ?
Не все боты придерживаются правил.
Интересует Яндекс бот.
еще доп вопрос. нужно ли в head что либо указывать для робота?
вот к примеру он заполз на индекс.хтмл а там ссылочка стоит на ааа.хтмл.
а в роботс.тхт напиан запрет для индексирования этого файла) как быть? что писать?
Первое, что делает "культурный" робот (каковым является и робот яндекса) - читает файл роботс, а уже потом всё остально е в соответствии с указанными для него правилами.
Ну да да это понятно, а что за тайная база такая как говорит pauk и на что она влияет?
Ну, не тайная, а скажем, непубличная. Возможно, Яндекс как-то использует для оценки поискового спама на сайте.
Ну, не тайная, а скажем, непубличная. Возможно, Яндекс как-то использует для оценки поискового спама на сайте.
Ясно! Врядли Яндекс будет это делать имхо...
Первое, что делает "культурный" робот (каковым является и робот яндекса) - читает файл роботс, а уже потом всё остально е в соответствии с указанными для него правилами.
Тоесть в хтмл ненадо прописывать чтото для ротобов? хватит обычного:
<head>
<title>111.</title>
<meta http-equiv="Content-Type" content="text/html; charset=windows-1251">
<meta name="description" content="111.">
<meta name="keywords" content="111.">
</head>