Есть еще такая штука как sysprep, если не ошибаюсь...
Не может ли быть проблема в том, что:
http://ua2.php.net/manual/en/context.http.php
Еще тут - http://jaybyjayfresh.com/2008/09/02/chunks-chunks-chunks/
А происхождение фотографий можно узнать?
Кто авторы?
http://xpoint.ru/forums/internet/security/thread/41509.xhtml
Не оно?
Еще вот:
Prevent direct upload
If you need both FCKeditor and the ability to upload files through it, you can prevent direct execution of the upload script. The location of the upload script depends on the version of FCKeditor:
FCKeditor 2.3.1: fckeditor/editor/filemanager/upload/php/upload.php
FCKeditor 2.6: fckeditor/editor/filemanager/connectors/php/upload.php
At the beginning of the upload.php file, after the copyright notice but before the first require(...), add this piece of code:
if (strpos($_SERVER['PHP_SELF'], 'upload.php') !== false) { die('This file can not be used on its own!'); }
Дам старт для начала.
Стартану, конечно.
Значит, туда паук заходит редко...
Э... Проверять весь список обраток на наличие обраток прямо перед выдачей результата?!
10к обраток - значит 10к страничек достать (с чужих медленных серверов!), вытащить нашу ссылку - и все это за 1-2 секунды :p
А что вернет?
А что надо сделать, чтобы "отобрать имя нормального браузера"? И кстати - какой браузер сейчас "нормальный"? ;)
Спрашиваю серьезно.
А что с точки зрения паука - "динамическая страница"?
Есть необработанные линки - заходим, вытаскиваем все ссылки, сохраняем что и где, добавляем в необработанные, начинаем с самого начала.
Есть ссылка на страницу - зайдем. Нету - не зайдем...
Все просто и логично.
Граф ссылок для среднего по размеру сайта у меня получался где-то 1.5-2 мегабайта. Но это я наверное много хранил лишнего. Основная проблема - это скорость записи в БД при работающих 20 потоках паука... Тут только кеширование в памяти + периодический сброс на диск помогает.
ПыСы. На ASP.NET public часть, а БД - MS SQL? Там замечательные partitioned tables и indexes есть, если что ;)
Это правильный подход.
Так и Опель навсегда останется ломучим ведром, и Каспер - жутко тормозящим антивирем :D
Однако конкуренция - это хорошо. МС наконец-то взялась и за скорость.