Вернуться   Форум об интернет-маркетинге > >
Ответ
 
Опции темы
Старый 16.03.2020, 12:47   #441
A-Parser Support
Аспирант
 
Аватар для A-Parser Support
 
Регистрация: 02.06.2013
Сообщений: 192
Репутация: 14839
Отправить сообщение для A-Parser Support с помощью ICQ Отправить сообщение для A-Parser Support с помощью Skype™

По умолчанию Re: A-Parser 1.1 - продвинутый парсер ПС, кейвордов, контента, показателей, 70+ парсеров

Парсинг booking.com с помощью A-Parser

В этом видео уроке рассмотрен парсинг ресурса booking.com, получение результатов поиска квартир и отелей на сайте. Подробную информацию о них будем получать при помощи парсера Net::HTTP



В видео рассмотрено
  • Пользование разделом тестового парсинга
  • Переход по страницам пагинации
  • Проверка наличия определенного контента на странице сайта
  • Использование регулярных выражений
  • Применение конструктора результатов (декодирование HTML сущностей)
  • Применение шаблонизатора Template Toolkit в формате результата:
    • Использование инструмента $tools.CSVline
    • Циклическая обработка директивой FOREACH
    • Виртуальный метод .match
    • Фильтры: .remove, .collapse, .replace

Полезные ссылки
Оставляйте комментарии и подписывайтесь на наш канал на YouTube!
A-Parser Support вне форума   Ответить с цитированием

Реклама
Старый 20.03.2020, 14:01   #442
Shadefirst
Студент
 
Аватар для Shadefirst
 
Регистрация: 14.05.2009
Сообщений: 10
Репутация: -313

По умолчанию Re: A-Parser 1.1 - продвинутый парсер ПС, кейвордов, контента, показателей, 70+ парсеров

Софт - супер-комбаин, его использование при нестандартном подходе может давать крутые результаты. Знаю пару серьезных проектов-сервисов, которые на бекэнде его используют.
Shadefirst вне форума   Ответить с цитированием
Старый 28.03.2020, 08:41   #443
A-Parser Support
Аспирант
 
Аватар для A-Parser Support
 
Регистрация: 02.06.2013
Сообщений: 192
Репутация: 14839
Отправить сообщение для A-Parser Support с помощью ICQ Отправить сообщение для A-Parser Support с помощью Skype™

По умолчанию Re: A-Parser 1.1 - продвинутый парсер ПС, кейвордов, контента, показателей, 70+ парсеров

Сборник рецептов #39: бот-опросник, парсер hotline.ua и copart.com

Представляем вашему вниманию 39-й сборник рецептов, в который вошли:
  • телеграмм бот опросник
  • парсер агрегатора цен hotline.ua
  • парсер аукционов транспортных средств copart.com
Телеграмм бот опросник

Данный бот позволяет организовать ежедневный опрос сотрудников, при этом список вопросов можно гибко менять. Все настройки берутся из Google таблицы, а также туда пишутся ответы по каждому сотруднику.
Также, этот пример демонстрирует возможность создания телеграмм бота на базе A-Parser и работу с Google таблицами.



Парсер hotline.ua

hotline.ua - это самый большой агрегатор цен в Украине. С его помощью можно мониторить и анализировать цены на товары у конкурентов или искать наиболее выгодные предложения среди большого количества интернет-магазинов.



Парсер copart.com

Copart является одним из крупнейших интернет аукционов, специализирующихся на продаже новых и б/у автомобилей. По официальной информации каждый день на аукционе выставляется на продажу более 150 000 транспортных средств.



Еще больше различных рецептов в нашем Каталоге!
Предлагайте ваши идеи для новых парсеров здесь, лучшие будут реализованы и опубликованы.

Подписывайтесь на наш канал на Youtube - там регулярно выкладываются видео с примерами использования A-Parser, а также следите за новостями в Twitter.

Все сборники рецептов

A-Parser Support вне форума   Ответить с цитированием
Старый 07.04.2020, 20:18   #444
A-Parser Support
Аспирант
 
Аватар для A-Parser Support
 
Регистрация: 02.06.2013
Сообщений: 192
Репутация: 14839
Отправить сообщение для A-Parser Support с помощью ICQ Отправить сообщение для A-Parser Support с помощью Skype™

По умолчанию Re: A-Parser 1.1 - продвинутый парсер ПС, кейвордов, контента, показателей, 70+ парсеров

Мы начинаем публикацию серии коротких видеоуроков, каждый из которых будет посвящен какому-то одному функционалу.
И в этом уроке будут рассмотрены варианты формирования имени файла результата.



В видео рассмотрено:
  • Нумерация файла результата в соответствии с запросами
  • Нумерация файла результата + часть имени запроса
  • Именование файла результата по запросу, если запрос линк

Полезные ссылки:
Оставляйте комментарии и подписывайтесь на наш канал на YouTube!

A-Parser Support вне форума   Ответить с цитированием
Старый 17.04.2020, 11:50   #445
A-Parser Support
Аспирант
 
Аватар для A-Parser Support
 
Регистрация: 02.06.2013
Сообщений: 192
Репутация: 14839
Отправить сообщение для A-Parser Support с помощью ICQ Отправить сообщение для A-Parser Support с помощью Skype™

По умолчанию Re: A-Parser 1.1 - продвинутый парсер ПС, кейвордов, контента, показателей, 70+ парсеров

1.2.852 - новый парсер для Google Keyword Planner, Native NodeJS, множество исправлений и улучшений



Улучшения
● Добавлен парсер SE::Google::KeywordPlanner
◦ собираются списки подсказок и варианты ключевых слов
◦ для каждого варианта парсится среднее кол-во запросов в месяц, конкуренция, объемы поиска, а также минимальная и максимальная ставки
◦ присутствует возможность указывать несколько ключевых слов в запросе
● В SE::Yandex::ByImage добавлена функция Get full links to page, которая позволяет получать реальные ссылки на страницы
● В SE::Yandex::SQI добавлены переменные сбор количества отзывов и оценок, а также рейтинга
● Улучшена проверка правильности разгадывания каптчи в парсерах Яндекса
● Автоматическое увеличение лимитов на ОС Linux
● Улучшена работа с регулярными выражениями
● При бане прокси в лог задания теперь выводится более детальная информация
● Native NodeJS переведена из стадии альфы в бету, проведено множество оптимизаций, за счет чего в большинстве сценариев это дает повышение максимальной скорости в 1.5-2 раза, а также уменьшение потребление памяти в 2-4 раза
◦ Начиная с 1.2.822 все бета версии имеют включенный Native NodeJS, стабильные версии выходят с включенным oldnode
● Native NodeJS: добавлена экспериментальная поддержка HTTP/2
● Native NodeJS: обновление Node.js до актуальной версии
● JS парсеры: добавлена опция allow_dangerous_node_modules, подробнее тут
Исправления в связи с изменениями в выдаче
● Исправлено скачивание каптчи в SE::Yandex
● Исправлен Rank::Ahrefs: в $anchors переменная $bl заменена на $domains
● В SE::Google исправлены:
◦ парсинг mobile news
◦ баг с дублированием ссылок в выдаче
◦ парсинг анкоров в рекламе, связанных ключевых слов, а также первый результат в выдаче не всегда попадал в serp
● В SE::Google::Images исправлен парсинг gif
● Исправлен SE::Yandex::ByImage, убраны flat переменные $height и $width
SE::Yandex, SE::Google::ByImage, SE:: DuckDuckGo, Social::Instagram::Post, Rank::Ahrefs, Rank::Bukvarix:: Domain, SE::MailRu, SE::Yandex::Suggest
Исправления
● Исправлена работа Net::Whois с доменами 3го уровня, а также улучшена проверка получаемого ответа
● Исправлена работа Extra query string в SE::Bing
● Исправлена работа Rank::SEMrush и Rank::SerpStat::Keyword при получении ответа без данных
● Исправлен баг с типами переменных
● Исправлена ошибка, при которой запросы ошибочно считались неудачными при постановке задания на паузу
● Исправлена работа Bypass Cloudflare
● Исправлен динамический лимит потоков
● Исправлена ошибка при использовании Request delay
● Исправлено предупреждение о превышении лимита в Поле запросов
● Исправлена работа $tools.task.id в имени файла результата
● JS парсеры: исправлены получение сессий и работа http2 (баг появился в одной из предыдущих версий)
● JS парсеры: исправлено определение кодировки страницы
● Native NodeJS: исправлено поведение при некоторых ошибках
● Native NodeJS: исправлена проблема при обновлении A-Parser на OS Windows
● Native NodeJS: исправлена работа save_to_file, а также еще ряд ошибок
● Native NodeJS: исправлена работа SOCKS5 с авторизацией
● Native NodeJS: исправлена подстановка данных после Конструктора запросов

A-Parser Support вне форума   Ответить с цитированием
Старый 28.04.2020, 13:08   #446
A-Parser Support
Аспирант
 
Аватар для A-Parser Support
 
Регистрация: 02.06.2013
Сообщений: 192
Репутация: 14839
Отправить сообщение для A-Parser Support с помощью ICQ Отправить сообщение для A-Parser Support с помощью Skype™

По умолчанию Re: A-Parser 1.1 - продвинутый парсер ПС, кейвордов, контента, показателей, 70+ парсеров

Сборник рецептов #40: посещаемость организаций, SSL сертификаты, ikea и анализ доменов

Представляем вашему вниманию 40-й сборник рецептов, в который вошли:
  • парсер данных о посещаемости организаций
  • парсер данных о SSL сертификатах
  • парсер товаров на ikea.com
  • комплексный пресет для анализа доменов по ряду характеристик
  • способ извлечения доменов из ссылок без фактического захода на страницу
Посещаемость в Google Maps
В поисковой выдаче Google для определенных запросов отображается расширенный сниппет с информацией об организации из Google карт. В частности, обычно отображается информация о посещаемости в разрезе дней недели.
Представляем парсер, который собирает данные о посещаемости.


Данные по SSL сертификату
Данный парсер собирает информацию о SSL сертификате сайта. В качестве источника данных используется сторонний ресурс.


Парсер ikea.com
Парсер данных из ikea.com, который позволяет собирать различную информацию о товарах. Согласно данным из Википедии, ikea - это одна из крупнейших в мире торговых сетей по продаже мебели и товаров для дома.


Кроме этого:
Еще больше различных рецептов в нашем Каталоге!
Предлагайте ваши идеи для новых парсеров здесь, лучшие будут реализованы и опубликованы.
Подписывайтесь на наш канал на Youtube - там регулярно выкладываются видео с примерами использования A-Parser, а также следите за новостями в Twitter.

Все сборники рецептов

A-Parser Support вне форума   Ответить с цитированием
Старый 08.05.2020, 19:18   #447
A-Parser Support
Аспирант
 
Аватар для A-Parser Support
 
Регистрация: 02.06.2013
Сообщений: 192
Репутация: 14839
Отправить сообщение для A-Parser Support с помощью ICQ Отправить сообщение для A-Parser Support с помощью Skype™

По умолчанию Re: A-Parser 1.1 - продвинутый парсер ПС, кейвордов, контента, показателей, 70+ парсеров

Видео урок: Сохранение результатов в несколько файлов используя переменные, массивы и условия

В этом видео уроке рассмотрены способы сохранения результатов в несколько файлов, используя переменные и массив, при определенных условиях.



В видео рассмотрено:
  • Вывод результатов в разные файлы с разными именами используя переменные
  • Вывод результатов для каждого файла отдельно по определенному условию
  • Вывод результатов для двух файлов с условием, используя массив
Полезные ссылки:Оставляйте комментарии и подписывайтесь на наш канал на YouTube!

A-Parser Support вне форума   Ответить с цитированием
Старый 18.05.2020, 23:04   #448
A-Parser Support
Аспирант
 
Аватар для A-Parser Support
 
Регистрация: 02.06.2013
Сообщений: 192
Репутация: 14839
Отправить сообщение для A-Parser Support с помощью ICQ Отправить сообщение для A-Parser Support с помощью Skype™

По умолчанию Re: A-Parser 1.1 - продвинутый парсер ПС, кейвордов, контента, показателей, 70+ парсеров

Сборник рецептов #41: Google таблицы, отправка писем и авторизация с помощью puppeteer

Представляем 41-й сборник рецептов, который полностью посвящен использованию различных Node.js модулей в A-Parser.
  • Работа с Google таблицами
  • Отправка писем из А-Парсера
  • Авторизация с помощью puppeteer
Сохранение результатов в Google SpreadSheets

Один из часто задаваемых вопросов в поддержке, это вопрос о возможности писать результаты прямо в Google Таблицы. Поэтому мы подготовили небольшой пример парсера, который демонстрирует такую возможность.



Отправка почтовых писем

Еще одна возможность, о которой часто спрашивают наши пользователи - отправка писем. Такой функционал может быть использован для уведомлений о различных событиях в заданиях, в том числе о завершении их работы. Поэтому мы также подготовили пример, демонстрирующий отправку писем прямиком из А-Парсера.



Авторизация на GitHub с использованием puppeteer

Еще один пример по заявкам наших пользователей, демонстрирующий загрузку страницы, авторизацию на ресурсе и простую навигацию.




Еще больше различных рецептов в нашем Каталоге!

Предлагайте ваши идеи для новых парсеров здесь, лучшие будут реализованы и опубликованы.

Подписывайтесь на наш канал на Youtube - там регулярно выкладываются видео с примерами использования A-Parser, а также следите за новостями в Twitter.

Все сборники рецептов

A-Parser Support вне форума   Ответить с цитированием
Старый 26.05.2020, 16:34   #449
Paul3232
Абитуриент
 
Регистрация: 26.05.2020
Сообщений: 1
Репутация: 10

По умолчанию Re: A-Parser 1.1 - продвинутый парсер ПС, кейвордов, контента, показателей, 70+ парсеров

Парсер класс, офигенный. Очень удобный, могу управлять удалённо.
Подходит для простых и мега сложных задач. Есть вся документация, форум с примерами и саппорт. Парсер выручал уже не один раз, мой фаворит.
Рекомендую всем!
Paul3232 вне форума   Ответить с цитированием
Старый 27.05.2020, 15:05   #450
trafo
Студент
 
Регистрация: 04.01.2017
Сообщений: 16
Репутация: 10

По умолчанию Re: A-Parser 1.1 - продвинутый парсер ПС, кейвордов, контента, показателей, 70+ парсеров

А где можно глянуть, готовые шаблоны и если на данный момент они работают?
А то бывают пишут более 70 готовых, а по факту только 20-30 работают, остальные нужно будет обновить
trafo вне форума   Ответить с цитированием
Ответ



Опции темы

Быстрый переход


Регистрация Справка Календарь Поддержка Все разделы прочитаны