там дробных значений нет, а значит 1 хватит за глаза.
Боты поисковиков (которые настоящие) прислушиваются к инструкциям в robots.txt, но лучше оптимизировать сайт, чтобы справиться с нагрузкой, чем замедлить индексацию сайта из-за лимитов в robots.txt
Грозит, наверное, незаконной предпринимательской деятельностью. А дальше уже зависит от объемов. Как вариант можно попробовать поискать агрегатор платежей, который покрывает документами все поступления.
Для начала банальная подгрузка статического файла с динамическим адресом, чтобы исколючить кеширование браузером. На сервере запоминается сессия с которой был запрос к файлу. Когда шлется запрос к форме, то проверяйте, был ли предварительный запрос к файлу с той же сессии. Если нет, то заказ липовый.
Важно! Никогда не выводите уведомление, что заказ не принят, т.к. не пройден "тест", т.к. этим вы помогаете отладить работу чужих скриптов. Всегда пишите что все ок, но просто не игнорируйте.
Если не прокатит, то можно усложнять проверку: шифрованный JS код, динамический шифрованный JS код и т.д.
Если в метрике не видно, значит шлют прямые POST/GET запросы к форме. Писали тут еще про взлом БД - бред. Напишите JS защиту от автореги - должно помочь.
все готовые решения знать невозможно.
я предложил свой вариант, вы свой - получился форум.
Например, majesticseo легко парсится.
Берете программу TOBBOT и пишите модуль за 2 минуты под эту задачу. Можно и не только беки собрать, но и что-нибудь другое со страницы бесплатного оотчета.
Если лень читать как сделать такой модуль, то пишите мне. $5 цена вопроса.
Для работы потребуются прокси (socks).
Свежую базу COM и других gTLD доменов можно купить за $25: http://www.premiumdrops.com/zones.html
Если свежесть базы не главное, то в сети есть и бесплатные варианты.
Нужно отталкивать не от программы для обработки доменов, а для обработки строк.
Берете список РУ доменов и удаляете лишнее из него.
По частям это можно сделать через конвертор данных, либо написать 5 строчный скрипт на любом языке программирования )
нужно проверить определенные беки или получить списки беков?