Хорошо, что уточнили. Половина ссылок нерабочие, но некоторые пригодились. Спасибо.
То, что nginx вас не смущает? Ну это ладно, переписать можно.
Но проблема в другом - надо именно ip-шники. Юзерагент можно подделать, это не надежно.
У меня свои причуды. Этот список будет как перестраховка. Никто не собирается всех блочить.
Но за замечание спасибо. Кому-нибудь пригодится.
Вы сначала уточните, про какой именно вид ботов идет речь.
Любые. Яндекс, гугл, бинг, ахрефс, чекеры всякие, пинг админы и так далее.
Абсолютно все.