Многопоточный cUrl+прокси лист рандомно.
По поводу не заглох ли — пусть скрипт кладёт pid. Каждый заход клиента инициирует проверку, а в случае отсутствия пида — выполнение.
neznaika, я честно признался :)
SomeWM, позвольте моё мнение, с чисто человеческой точки зрения.
Фразы "сидят уродцы и не парятся", "тех убогих конкурентов", а так же сожаление о потерянном не оставляют вам никаких шансов на успех в бизнесе. Эти же факторы говорят о том, что урок не усвоен.
Послушайте доброго совета Sterh. Занимайтесь созидательным трудом далее. Будьте добрее.
Есть такой психологический момент: если жаждать с вожделением с клиента денег, клиент видит только то, что вы хотите от него денег. Положительные моменты от вашей деятельности он как бы не замечает. Думайте только о том, что вы можете дать клиенту. О деньгах думайте только в момент ценообразования.
Вот я вас сейчас поучаю, и наперёд знаю, что вызываю у вас раздражение. Потому что вы гордая. Так вот, знаете, почему вы должны прислушаться? Эту простую истину я понял после 10 лет оффлайнового бизнеса. Клиент не дойная корова. Клиента надо искренне любить. Он есть возможность для вас быть полезной. При таком отношении за вас будут держаться, даже при выших проигрышных позициях по отношеию к другим.
Совет не совсем универсальный, т.к. при работе с корпорациями, где личностный момент сводится к минимуму, расклад несколько другой. Тем не менее, принцип "работа как способ улучшить мир" может помочь и тут. Как минимум, от сожалений перед смертью.
Можно складывать в таблицу/файл данные и временную метку, вызывать отдельный скрипт по крону.
У кого свой сервер, проблем нет, вызов php в cli, либо wget. Остальным, наверное, вшить в основной исполняемый файл проверку разницы по времени и выполнять задание в случае превышения порога.
Да, а ведь кэш InnoDB нужно долго "греть", чтобы от него был эффект, не забывайте при тестах про это.
Просто я долго мучился в своё время, оптимизировал запросы, и всё равно скрипт работал непозволительно долго, несколько суток на задачу, при этом не мог спокойно смотреть на постоянно горящий индикатор работы диска и слушать его хруст. Закинул всё в ОЗУ, и за несколько часов скрипт отработал.
Узкое место — диск? Если так, то изврат с tmpfs здорово повысит скорость.
Для Гнома Gruler есть.
Физически отделить приватные сегменты.