response

response
Рейтинг
324
Регистрация
01.12.2004
sasha_123:
При попытке загрузить в прогу список ключей 160к utf-8 в формате txt выдаёт ошибку "out of memory". Не хватает оперативки, я так понимаю?

Импорт 600к ключей utf-8:

Между импортом в базу и загрузкой слов в интерфейс есть большая разница. Если есть желание вертеть 160к одновременно в одном окне - необходимо иметь адекватный запас оперативы. Импорт же сожрет любое количество слов, как оно и должно быть.

OmgRes:
Собрал вообщем ~3кк кеев, все надо сохранить в тхт.

Попробуйте, пожалуйста, экспортнуть ту же базу на сегодняшнем обновлении: 2.2.9.16 (LITE, PRO).

Если фаза "Инициализации" при экспорте занимает долгое время (сильно зависит от ОС и носителя), в расширенных настройках диалога экспорта поставьте галочку "Отключить пересчет": индикатор процесса будет примерным, но на обсчете таблиц можно будет сэкономить время. Ну и в целом алгоритм поменял, теперь оперативы требуется сильно меньше.

OmgRes:
Вот полный код.

Тип ошибки: System.OutOfMemoryException

ок, спасибо. Базу получится выложить? Если будет база, можно будет уже сегодня склепать патч с предметным тестом.

OmgRes:
Собрал вообщем ~3кк кеев, все надо сохранить в тхт.
При экспорте вылетает с ошибкой:

Источник: mscorlib
Стек: в System.String.GetStringForStringBuilder(String value, Int32 startIndex, Int32 length, Int32 capacity)
в System.Text.StringBuilder.GetNewString(String currentString, Int32 requiredLength)
в System.Text.StringBuilder.Append(String value)
в Magadan.CExportTXT.DoExport(IKeywordsSource keywordsSource, String exportFilename, Boolean appendFile, Boolean ExportStats, String ExportDelimiter, Boolean RemovePlusSigns, Encoding Encoding, Boolean ExportExpandedTree, String ExportExpandedTreeDelimiter, Boolean AlignExpandedTreeStatsColumn)
в Magadan.ctrlKeywordsBrowserLight.<>c__DisplayClass43.<ExportKeywordsWorkaround>b__3f()
в Magadan.CDoubleProgressBarDialog2._worker()
в System.Threading.ThreadHelper.ThreadStart_Context(Object state)
в System.Threading.ExecutionContext.Run(ExecutionContext executionContext, ContextCallback callback, Object state)
в System.Threading.ThreadHelper.ThreadStart()

Это не очень похоже на содержимое отчета об ошибке, который генерит Магадан под виндой. Как минимум не хватает типа ошибки, указания на используемую редакцию и версию. Эти данные сохранились? Если ошибка воспроизводится, скиньте, пожалуйста.

OmgRes:

Как забрать то кеи из магадана теперь?

Как именно экспортировали? Полный экспорт делали, или все 3кк в окно загрузили?

OmgRes:

Базу на мыло выслать не могу (интернет счас не позволяет:()

Я, в свою очередь, ничего конкретного без базы сказать не смогу. 3кк - не тот объем, чтобы экспорт умирал. Видимо, что-то специфичное. Если получится, киньте линк на архив с базой на support@magadanparser.ru. Ключи никуда не утекут, база будет убита сразу после разбирательства.

Noctes:
response, 3к$?

Рублей.

JungleBox:
Доры будeшь с строить?

Нет.

VV_pro:
response, сколько в сутки с помощью связки магадан + 256 приватных прокси можно проверить ключей на частотность через Direct?

ТС просил чекать именно через директ?!

h-i-t-m-a-n:
Магадан - бесплатен.

Магадан - крутой.

Delarge:
а как магадан справляется с 55 к кеев
он по моему какой то неуклюжий

пфф. Магадан 555к схавает без проблем и еще попросит.

orka13:
«KeyCollector» + «~250 приватных персональных прокси»

он столько не прожует.

orka13:
+ «столько же профилей директа».

а этих столько не нужно.

Минутка математики: 250 приватных персональных прокси стоят минимум 6к рублей в месяц (и это на чужом сервере). По вашим ставкам (4 бакса за 200к слов, т.е. 136р.) вы должны сделать в месяц минимум 46 заказов только чтобы отбить прокси.

orka13:
Дешевле решений не находил.

Среди живого парсинга? Конечно не находили: никто не хочет работать в минус. Выборки же по пастухову и кейбустеру бывают и дешевле.

orka13:
В домашних условиях можно парсить через директ и в 1 поток без прокси: ставим задержки между запросами 5…15 секунд, и капча на небольших объёмах не появляется.

через директ - не обязательно.

через директ - не в 1 поток.

через директ - задержка не 5-15.

через вордстат - тоже не 5-15.

капча на небольших объемах? она ВООБЩЕ не появляется. если появляется "в домашних условиях", значит накосячили очень сильно. если появляется при использовании "250 приватных персональных проксей", значит нет слов, чтобы описать степень косячества.

Я склоняюсь к выводу, что живого парсинга у вас там с гулькин нос. Получил тс очередной скан по пастухову и ушел довольный, обосрав попутно Магадан.

Новый Магадан — 2.2.9.15!

— Реализовано сохранение статуса выключателей Генератора и Фильтра ключевых слов в элементе интерфейса «Список ключевых слов».

— Фильтр ключевых слов обучен автоматически сохранять и восстанавливать загруженные списки слов фильтрации (разрешенных- и стоп-слов), а также списки подключенных баз с теми же словами.

— Мелкие багфиксы и доработки интерфейса.

Прямая ссылка для скачивания бесплатной, не ограниченной по времени редакции Магадан LITE: Скачать! (7.2Мб)

Новый Магадан — 2.2.9.14!

— Добавлена поддержка Генератором ключевых слов операторов [] и () (квадратные и круглые скобки)

— Добавлена возможность задать шаблон имени файла экспорта

— Мелкие доработки интерфейса и багфиксы

— Модифицирована реакция программы на проблемы обновления версии используемой системы управления базой данных

Прямая ссылка для скачивания бесплатной, не ограниченной по времени редакции Магадан LITE: Скачать! (7.2Мб)

Новый Магадан — 2.2.9.13!

— Реализован один из вариантов обхода требования ввода значения CAPTCHA.

— Добавлена поддержка генератора ключевых слов в списках собранных ключевых слов главного окна программы.

— В сэмплер генератора ключевых слов добавлено контекстное меню элемента интерфейса «Список ключевых слов».

— Обновлена версия используемой СУБД.

— Обновлены различные участки интерфейса программы.

— Исправлена ошибка некорректной сортировки ключевых слов по значению статистики показов в интерфейсе элемента «Список ключевых слов».

— Исправлена ошибка, приводящая к сбросу текущей позиции курсора в элементе интерфейса «Список ключевых слов» при перемещении ключевых слов в список фильтра.

— Исправлена ошибка переноса ключевых слов в группу «Все слова».

Прямая ссылка для скачивания бесплатной, не ограниченной по времени редакции Магадан LITE: Скачать! (7.2Мб)

Всего: 3770