_SP_

Рейтинг
381
Регистрация
24.03.2008
Дикий пионер:
Предлагаю еще обсудить такой вопрос - нужна ли этому парсеру база данных или можно без неё обойтись, нагенерив всё в статику.
🍿🍿

После физибилити от какой-либо БД отказался в сторону файловой системы.

Более компактное хранилище получилось, меньше требований к хостингу (работает на 512мб, думаю и на 128 будет) итд итп.

Так что обсуждать тут в общем-то нечего. Парсеру реляционная бд нафиг не впилась.

Можно было бы использовать nosql, но нету никакого смысла.

Сейчас посмотрим что будет с >5 000 000 "документов", возможно придется перекачивать всё в БД на этапе анализа, но не факт.

С сотнями тысяч прекрасно работает и в ОЗУ. Иногда есть проблемы с индексами (их нет), но в целом аналитика не реалтайм,

поэтому я могу и потерпеть, зато жрет мало места.

Возможно просто допишу индексы, делов там немного в общем-то...



---------- Добавлено 18.06.2018 в 16:18 ----------

Оптимизайка:
Дикий пионер, это детали реализации, а ТЗ нет :)

Тут половина подписчиков не понимает, как можно работать без mysql и прочего, подчас ненужного хлама.

Но вместо глубоких раздумий "чё я делаю не так" предпочитают троллить :).

basterr:
хм. по нтв опять про крипту говорят. чего это они. там чел эксперимент проводит, только криптой за все рассчитывается, пока получается.

Хотелось бы узнать чё такое всё :).

Уже представляю себе, как он будет "рассчитываться" с врачом скорой помощи... да чё там, с гаишником хотяб :)

edogs:

И эту правду стоит схавать всем "всепропальщикам" сравнивающим биток с тюльпанами, японской недвижимостью, дойче банком или еще какой-нибудь хренью, которая дорого стоила и упала. Потому что ни одна из них потом не поднималась.

Ну дык люди были умнее :) в былые годы. И у некоторых из них были хорошие рычаги давления.

И если ты налюбил один раз исаака ньютона, то второй раз тебе это не удавалось, в лучшем случае приходилось скрываться, в худшем могли и на стену тауера вывесить...

А щаз да, как показала история с МММ, нет мозгов совсем у населения. И непонятно, в чём конкретно проблема, в еде может чего не хватает ? Или лекарства слишком дешевые. Почему так много дебилов вокруг :) ?

Нет, прав был автор "как нам обустроить ирландию (15в(?))."Т.к. играющие в азартные игры люди суть юродивые, и почти всегда им требуются опека государства (рано или поздно), то всем, кроме государства, должно быть запрещено устраивать любые азартные игры. Дабы доход от них шел в ту-же казну, откуда идет расход на опеку этих больных людей.

vl12:
Ох, в середине темы поднимается вопрос про стоимость движка, и выводы, что это около 5 тыс баксов.

Вы что там курите ? Выводы АБСОЛЮТНО другие.

Выводы, что парсер чего-то(а конкретно "нескольких ИМ"), написанный человеком, который отлично понимает что ему нужно, имеет себестоимость да - порядка тысяч $.

Это не то, что описано в первом и других сообщениях, поскольку:

1. слово несколько - это менее 10, он парсит несколько ресурсов , а не десятки тысяч, всего-то в 1000 раз меньше работы делает :)

2. написан человеком, по четко сформированному ТЗ, а не по потоку сознания неграмотного технически заказчика, еще и мнящего себя спецом (убийственная комбинация)

3. указана строго говоря себестоимость, "в продажу" мог бы быть сделан, но дороже, прибыль как-бы всем нужна, не только вам :)

итд итп.

Никаких парсеров для десятков тысяч разных ИМ, ни за какие тысячи долларов вы не получите.

Максимум - бота, который обойдет все урлы и все эти терабайты вывалит вам на диск.

С таким уровнем компетенции лучше сервисы от амазона не брать.

Они на кредитной основе предоставляются, можно очень удивиться, когда с карты спишут 100500$.

Для хранения говна амазон слишком дорог, он для нормальных проектов...

edogs:

А еще можно получить компанию с долгами больше чем активы. И став владельцем оказаться перед необходимостью вложить еще в 10 раз больше денег денег только что бы выйти в ноль.

Отчеты по компаниям доступны до покупки....

И за их фальсификацию сажают так, что мало не кажется.

Т.е. фальсифицировать их немногие рискуют, шансов на такое нарваться почти нету.

Совет простой - не покупай с долгами. Если же "внезапно сделают долгов", то сажай их, сажай.

edogs:

Только до тех пор, пока содержание этих авианосцев стоит дешевле чем они приносят. А после лежащие под матрасем 100 баксов будут приносить вам ежегодные убытки.

Убытки "в чём" :) ?

Вот продал я квартиру, за рубли, положил в баксы, через полгода рубль обвалился, я продал половину баксов и купил квартиру обратно. Вы полагаете я в убытке, да :) ?

По-моему там как-то в последнее время гайки завернули и ключи перестали давать.

Но врать не буду, последние пару месяцев не проверял.

Если ключи всё еще дают, тогда непонятно вообще в чем проблема.

Конечно возможно. Только такая ерунда получается... жуть.

Samail:
А разве это не JavaScript?

Меня тоже удивляет синтаксис, но над ним написано "php код", не доверять ТСу яб не стал.

---------- Добавлено 15.06.2018 в 15:21 ----------

Sitealert:

Но чисто интуитивно - второй случай проще.

Это еще не факт, что 10 сложений будут дороже 1 деления....

intuit:
А я нет.

Рад за вас

intuit:
Весьма "оригинальный" способ уйти от ответа.

Не рад за вас.

Добавил на всякий случай в игнор. Чую дальше будет хуже.

Всего: 6087