A-Parser 1.1 - продвинутый парсер ПС, кейвордов, контента, показателей, 70+ парсеров

Сборник статей #13: работа с MongoDB и поиск дроп доменов

Представляем 13-й сборник статей, в который вошли статья о работе с MongoDB и статья по поиску дроп доменов с использованием A-Parser.

Пример интеграции А-Парсера с MongoDB. CRUD Операции

В данной статье рассмотрен пример интеграции А-Парсера с MongoDB. В частности показаны CRUD операции. В качестве хранимых данных в базе используются результаты работы парсера поисковой выдачи Bing.



Дроп домены: для построения сеток PBN

PBN, или Private Blog Network — это сетка сайтов, созданных для того, чтобы с них проставлять ссылки на свои «белые» проекты для выхода в ТОП в высококонкурентных нишах. Такая сетка строится на дроп-доменах, поскольку у них есть история (конечно же, она должна быть чистой), траст, беклинки и даже трафик. В этой статье на конкретном примере показан пример решения задачи по поиску дропов с использованием A-Parser.



Если вы хотите, чтобы мы более подробно раскрыли какой-то функционал парсера, у вас есть идеи для новых статей или вы желаете поделиться собственным опытом использования A-Parser (за небольшие плюшки) - отписывайтесь здесь.

Подписывайтесь на наш канал на Youtube - там регулярно выкладываются видео с примерами использования A-Parser, а также следите за новостями в Twitter.

Все сборники статей

1.2.1325 - новые парсеры Pinterest, улучшения в существующих парсерах, исправление ошибок



Улучшения

• Добавлены парсеры Pinterest:
  • SE::Pinterest - парсинг поисковой выдачи Pinterest
  • SE::Pinterest::Suggest - парсинг подсказок Pinterest с возможностью парсить в глубину
• В SE::Google добавлен парсинг исправленного запроса
  
• В SE:: Dogpile::Images добавлена поддержка рекаптч
  
• В Shop::Yandex::Market добавлен сбор количества покупок и просмотров
• В HTML::EmailExtractor улучшено обнаружение почт, защищенных CF

Исправления в связи с изменениями в выдаче

• Адаптация к изменениям в верстке в SE::Google и SE::Yandex
  
• Исправлено определение turbo страниц в SE::Yandex
• Исправлена и оптимизирована работа SE::Google::TrustCheck и SE::Google::Compromised
• SE::Google::Cache, SE:: DuckDuckGo, Rank::Alexa, Rank::Ahrefs

Исправления

• Исправлена проблема с распознаванием символов диакритики
• Устранены падения при ошибках в некоторых API запросах
• Исправлены зависания при парсинге SE::Yandex с использованием аккаунтов
  
• Исправлена ошибка распознавания дат в Net::Whois, а также адаптирован сбор данных для некоторых зон
• Исправлена ошибка выбора IP для Xevil/CapMonster в Util::ReCaptcha2
• Исправлена ошибка с указанием Provider url в Util::ReCaptcha2
  
• Исправлена ошибка при которой отсутствовал объект с перечнем редиректов в Net::HTTP при Engine = Chrome
  
• Исправлена работа Net::HTTP с http сайтами при Engine = Chrome
• JS парсеры: исправлена работа noChange в this.proxy.set()
• JS парсеры: исправлена ошибка, при которой set.lvl был пустой при вызове другого парсера из JS парсера
• Исправлена работа кнопки Выход

Сборник рецептов #48: скорость загрузки сайтов, парсер SocialBlade и определение категорий сайтов

48-й сборник рецептов, в котором собраны пресеты для сбора данных о скорости загрузки сайтов, парсинга статистики из SocialBlade и определения категорий сайтов.

Получение показателей скорости загрузки сайтов с помощью Chrome UX Report Compare Tool

Пресет для сбора данных о скорости загрузки сайтов/страниц с возможностью выбрать платформу (Desktop/Mobile/All). С его помощью можно массово измерить скорость по большим спискам сайтов и сравнить их производительность.



Парсинг статистики с Social Blade

Парсер для сбора данных из сервиса socialblade.com. С его помощью по ключевому слову, имени, бренду можно найти пользователей по социальным платформам, собрать количества подписчиков и спарсить теги твича.



Проверка категории сайтов через сервис cyren.com
Парсер сервиса cyren.com. С его помощью можно определить категорию сайта, а также собрать Alexa rank и некоторые Whois данные.




Еще больше различных рецептов в нашем Каталоге!
Предлагайте ваши идеи для новых парсеров здесь, лучшие будут реализованы и опубликованы.

Подписывайтесь на наш канал на Youtube - там регулярно выкладываются видео с примерами использования A-Parser, а также следите за новостями в Twitter.

Все сборники рецептов

Видео урок: Сбор форм обратной связи с тематических ресурсов +200 OK

Новый видео урок по работе с A-Parser от DIM STUDIO, в котором рассмотрен способ сбора форм обратной связи с тематических ресурсов.


В данном уроке показано как собрать формы обратной связи с тематических ресурсов с последующей проверкой на 200 OK через A-Parser для подготовки к последующему прогону через Xrumer.

Плейлист со всеми видео уроками от DIM STUDIO

Плейлист со всеми видео уроками от DIM STUDIO

Оставляйте комментарии и подписывайтесь на наши каналы на YouTube: A-Parser и DIM STUDIO!

1.2.1353 - Обновление NodeJS, поддержка Windows 11 и Windows Server 2022



Улучшения

• NodeJS обновлен до версии 16.11.0
  
• Добавлена полная поддержка ОС Windows 11 и Windows Server 2022
  
• В SE::Google::Translate добавлена опция Device, которая позволяет переключаться между mobile и desktop версиями переводчика
• Улучшена работа с очень большими запросами в DeepL::Translator
  
• Улучшен алгоритм разделения запросов на части в SE::Yandex::Translate, теперь он максимально приближен к оригиналу
  
• В SE::Google::Cache добавлена переменная $link, содержащая ссылку из тулбара
• В Shop::Amazon добавлена возможность парсить ASIN товаров
• В Rank::MajesticSEO добавлена возможность собирать Incoming Languages и Site Languages

Исправления в связи с изменениями в выдаче

• Исправлен парсинг рекламы в SE::Google
• Исправлен парсинг $related в desktop выдаче SE::Yandex
  
• Исправлен парсинг сниппетов в desktop выдаче и парсинг mobile выдачи в целом в SE::Bing
  
• Исправлена работа парсеров Rank::Ahrefs и Rank::Ahrefs::KeywordDifficulty
• Rank::LinkPad удален из сборки в связи с закрытием доступа к данным
  
• Исправлен парсинг $totalcount в SE::Yahoo

Исправления

• Исправлена ошибка с символом $ в DeepL::Translator
• Исправлена работа прокси при использовании движка Chrome в Net::HTTP
  
• Исправлена проблема стабильности при использовании в некоторых случаях HTML::TextExtractor и HTML::TextExtractor::LangDetect
  
• Исправлена проблема из-за которой SE::Youtube иногда завершался с ошибкой
• Исправлен вывод исходников страниц в SE::Google::ByImage

Сборник статей #14: авторизация на сайтах, скачивание изображений и парсинг Telegram

Представляем 14-й сборник статей, в который вошли обзор вариантов авторизации на сайтах, статья о скачивании изображений из сайтов и способ получения сообщений из чатов Telegram.

Варианты авторизации на сайте с помощью A-Parser
В статье рассмотрено 3 основных варианта авторизации на сайте с использованием различного функционала A-Parser.


Скачивание всех изображений из сайта
Обзор решения задачи по скачиванию всех изображений из сайта. В статье рассмотрено 2 способа парсинга и показаны преимущества и недостатки каждого.


Способ получения данных с чатов Телеграм используя экспорт сообщений
Статья, посвященная вопросу парсинга данных из Telegram. В статье описаны и сравниваются между собой встроенный в клиент Telegram экспорт сообщений и парсинг с помощью A-Parser.



Если вы хотите, чтобы мы более подробно раскрыли какой-то функционал парсера, у вас есть идеи для новых статей или вы желаете поделиться собственным опытом использования A-Parser (за небольшие плюшки) - отписывайтесь здесь.

Подписывайтесь на наш канал на Youtube - там регулярно выкладываются видео с примерами использования A-Parser, а также следите за новостями в Twitter.

Все сборники статей

В преддверии наступающего года, хочется выразить благодарность за проявление доверительного отношения к нам и пожелать всем огромных успехов в новом году. Пусть этот год станет стартовой площадкой для новых взлётов, достижений, открытий, побед! Желаем Вам интересных, успешных новых проектов и надежных партнеров. Пусть осуществится все задуманное и запланированное! С Новым годом!


Релиз стабильной сборки А-Парсера - 1.2.1403

Улучшения

• В парсеры позиций добавлена возможность искать позиции по части ссылки или по вхождению подстроки (Match type - By substring)
  
• В SE::Youtube добавлена возможность выбирать тип выдачи (Desktop/Mobile)
  
• Добавлен парсинг альтернативных переводов в DeepL::Translator
  
• Улучшен алгоритм авторизации по email : password в SE::Google::KeywordPlanner
  
• Реализована корректная обработка редиректа robots.txt в парсере Check::BackLink
  
• JS парсеры: в this.request добавлена опция follow_common_redirects, работает аналогично соответствующей настройке в Net::HTTP
  
• В связи с неактуальностью удалены следующие парсеры: SE::Bing::LangDetect, Rank::Linkpad, Rank::SEMrush. Также удален SE::Google::Modern, вместо него нужно использовать SE::Google

Исправления в связи с изменениями в выдаче

• Адаптация к изменениям в верстке Google и Yandex
  
• Исправлен парсинг мобильной верстки в SE::Bing
  
• Исправлен выбор дат в SE::Google::KeywordPlanner
  
• SE::Yandex::ByImage, SE::Yahoo, SE::Yandex::Translate, SecurityTrails:: Domain, Shop::Yandex::Market

Исправления

• Исправлена работа авторизации в SE::Google::KeywordPlanner
  
• Исправлено использование прокси в Net::HTTP при Engine = Chrome
  
• Исправлена проблема в SE::Google::Translate, из-за которой не менялись прокси при переборе попыток
• В Net::HTTP исправлена ошибка, из-за которой не завершался поток, появилась в одной из предыдущих версий
  
• Исправлена работа функции Bypass CloudFlare на некоторых сайтах
• Исправлен режим работы -foreground

График работы поддержки на праздники: https://a-parser.com/threads/7214/


Курс по заработку на дропах и PBN используя A-Parser (+включает лицензию)



Наш хороший друг Николай Кодий (https://t.me/mypbn) запускает очередной набор на курс по подбору дропов и построению качественных сеток PBN, с применением A-Parser в качестве одного из основных инструментов.

Старт - 17 января.

Что это за обучение?
Николай научит и покажет на реальных кейсах и примерах:

• какой софт нужен для поиска дропов, сколько он стоит, как продлевается и регится.
• как правильно анализировать и выбирать дропы для себя и на продажу, чтобы не получить фуфло,
• как строить PBN, что с ними делать дальше и как на них зарабатывать.
• как с помощью знаний, которые он даёт, стать универсальным и востребованным специалистом по построению PBN под любые страны и тематики.

Для кого это обучение?

• Для владельцев агентств, которые хотят выходить на заказы для буржа и открывать отдел pbn. Для тех, кто хочет нанимать подрядчиков для построения pbn, понимать процесс и контролировать качество работы.
• Для частных и работающих в найме seo-мастеров, которые хотят оказывать услугу по поиску дропов и построению сеток.
• Для тех, кто ищет новые методы линкбилдинга.
• Для тех, кто хочет освоить в новом году новую профессию. И стать специалистом в PBN.

Больше нигде вы не получите такой системной и понятной теории, такого большого практического опыта и возможности смотреть и усваивать информацию на живых вебинарах с преподавателем, отвечающим именно на ваши вопросы.

Каждый из студентов бесплатно получает весь лицензионный софт (в том числе и A-Parser), необходимый для подбора дропов.

Подробнее о курсе читайте на ленде курса - https://kurs.pbn.link
И на FB странице Николая - https://www.facebook.com/nkodiy/

Успей купить A-Parser по прежней цене до 15 февраля

Объявляем о первом повышении цен за 10 лет, за этот период времени мы выпустили бесчисленное количество новых версий, создав из простого парсера поисковых систем полноценную платформу по разработке парсеров любых типов данных на современном JavaScript и TypeScript.

И мы не планируем останавливаться, мы стремимся к тому, чтобы A-Parser всегда был для наших клиентов максимально полезен и эффективен, поэтому главным приоритетом для нас *является разработка новых функций, добавление новых парсеров и поддержка работоспособности всех существующих.

В течение месяца вы сможете успеть купить A-Parser по старой цене. Новые тарифы вступят в силу 15 Февраля 2022



Для существующих клиентов мы сохраним цены на обновления, дополнительные IP и повышения лицензий в течении 3 месяцев, новые цены для существующих клиентов вступят в силу с 15 апреля

*

1.2.1432 - многоядерная обработка заданий, парсеры Wildberries, оптимизация производительности



В версии 1.2.1432 добавлена долгожданная возможность обработки разных заданий на нескольких ядрах процессора, что многократно увеличивает производительность заданий, требовательных к CPU. Данная возможность доступна только для лицензии Enterprise, успейте сделать апгрейд до повышения цен
Улучшения

• Добавлены новые парсеры:
  • Shop::Wildberries:: ProductsList - парсер списка товаров Wildberries по ключу, бренду или категории
  • Shop::Wildberries:: ProductInfo - парсер данных о товаре на Wildberries
  • Util::hCaptcha - парсер для разгадывания hCaptcha с помощью сервисов разгадывания
• Добавлена поддержка обработки заданий на разных ядрах процессора, данная возможность доступна только для лицензии Enterprise и многократно ускоряет обработку нескольких заданий в очереди
  
• Оптимизация скорости начальной загрузки и общей производительности JS парсеров, скорость загрузки A-Parser выросла на 30-50%
  
• В интерфейсе добавлен выбор версии API при создании парсеров
  
• Улучшена работа опции Detect charset on content
  
• В SE::Google обновлен список доменов
• В SE::Yandex:: Direct обновлен список регионов
  
• В Check::BackLink добавлена возможность проверки ссылки без указания протокола в режиме поиска по подстроке

Исправления в связи с изменениями в выдаче

• Исправлена работа SE::Yandex
• Исправлено получение $commentscount в Shop::Amazon
  
• Исправлен сбор $number_sales в Shop::eBay
  
• Исправлена работа SE::Yandex:: Direct
  
• Исправлена работа парсеров Bukvarix

Исправления

• Исправлена работа SE::Google с доменом google.com.bd
• Исправлен сбор ссылок в HTML::LinkExtractor в некоторых случаях
• Исправлен баг интерфейса, из-за которого в Планировщике была скрыта кнопка удаления заданий

Напоминаем, вы можете успеть купить A-Parser по старой цене. Новые тарифы вступят в силу 15 Февраля 2022

Сборник рецептов #49: генерация картинок и текстов, парсер adult ключевых слов

49-й сборник рецептов, в котором собраны парсер для генерации картинок, парсер для генерации текстов и парсер ключевых слов адалт тематики.

Генерация картинок ruDALL-E

Парсер, позволяющий автоматически массово генерировать уникальные изображения по списку ключевых слов с помощью нейросети ruDALL-E.



Яндекс Балабоба - генератор текстов от Яндекс

Данный парсер использует сервис Яндекс Балабоба для генерации коротких текстов по списку ключевых слов или предложений. Также возможна генерация текстов рекламных объявлений для доменов.



Подсказки NudeVista

Парсер адалт подсказок из сайта nudevista.com. Может использоваться для парсинга списков ключевых слов adult тематики.



Еще больше различных рецептов в нашем Каталоге!
Предлагайте ваши идеи для новых парсеров здесь, лучшие будут реализованы и опубликованы.

Подписывайтесь на наш канал на Youtube - там регулярно выкладываются видео с примерами использования A-Parser, а также следите за новостями в Twitter.

Все сборники рецептов



Напоминаем, вы можете успеть купить A-Parser по старой цене. Новые тарифы вступят в силу 15 Февраля 2022

Сборник статей #15: разработка TypeScript парсеров и массовая индексация в Google

Представляем 15-й сборник статей, в который вошли статья о разработке TypeScript парсера для генерации картинок с помощью нейросети и статья об опыте массовой индексации страниц в Google.

Генерация картинок ruDALL-E. Мануал по созданию TS парсера
В прошлом сборнике рецептов мы опубликовали парсер для генерации картинок ruDALL-E. Сегодня же мы представляем вам развернутую статью, где подробно рассказано об общем подходе к написанию таких парсеров и описан процесс разработки.
Ознакомиться с функционалом данного парсера можно в обзорном видео от нашего партнера DIM STUDIO:


Как проиндексировать сайт в Google и повысить видимость
Статья на vc.ru о том, как за 10 дней было проиндексировано более чем 30 000 страниц сайта в Google.
Для массовой индексации в Google использовался скрипт на Python и Google Indexing API.
Для проверки индексации использовался A-Parser, в нашем Каталоге есть пример такого пресета: https://a-parser.com/resources/160/



Если вы хотите, чтобы мы более подробно раскрыли какой-то функционал парсера, у вас есть идеи для новых статей или вы желаете поделиться собственным опытом использования A-Parser (за небольшие плюшки) - отписывайтесь здесь.

Подписывайтесь на наш канал на Youtube - там регулярно выкладываются видео с примерами использования A-Parser, а также следите за новостями в Twitter.

Все сборники статей

1.2.1511 - улучшение работы с Chrome и обхода защит, обновление NodeJS, парсер подсказок Wildberries



Улучшения

• Реализован обход защит по TLS отпечаткам, теперь запросы A-Parser на 100% выглядят как Chrome
• NodeJS обновлен до 16.15.0
• В SE::Google добавлен параметр Narrow results by region, который позволяет сузить поиск до конкретной страны
• В парсере Maps::Google добавлен автоматический обход координат в заданном регионе, детальнее здесь
• В Telegram::GroupScraper добавлена опция Start message number, которая позволяет задать с какого номера собирать сообщения в телеграм чате
• В SE::YouTube добавлен сбор количества подписчиков канала
• В SE::Google::Trends добавлен сбор id тем для related topics
• В парсере Shop::Wildberries::ProductsList добавлен сбор ключей из "Еще ищут" и "Возможно вам понравится"
• Добавлен парсер подсказок Wildberries: Shop::Wildberries::Suggest
• В Shop::Wildberries::ProductInfo добавлен сбор дополнительных данных
• В SE::Google::Images добавлены новые типы в Usage rights
• Добавлена возможность выводить исходные данные (raw data) в парсерах Ahrefs
• В Net::HTTP и JS парсерах добавлена опция Randomize TLS Fingerprint
• Улучшена работа с Chromium из JavaScript парсеров
• В Net::HTTP и this.request() теперь по-умолчанию используется user-agent последнего Chrome

Исправления в связи с изменениями в выдаче

• Множество адаптаций к изменениям в верстке Google, Яндекс, Bing
• В парсерах Яндекса исправлен парсинг турбо страниц
• Исправлена работа SE::Yandex::WordStat, в планах полная переработка данного парсера с добавлением нового функционала
• В SE::Yandex::ByImage исправлен парсинг выдачи
• Исправлен парсинг имени пользователя в Telegram::GroupScraper
• В SE::Google::ByImage изменен набор собираемых данных и формат результата по-умолчанию, а также в целом исправлена его работа
• Исправлена работа парсеров Букварикс, но из-за высокой нагрузки на их API данные парсеры могут не работать
• Исправлен парсинг сниппетов в SE::Google::ByImage
• SE::Google::TrustCheck, Check::RosKomNadzor, SE:: DuckDuckGo, SE::Seznam, Shop::Wildberries::ProductsList, SE::Baidu, SE::Google::Images, Rank::Ahrefs::KeywordGenerator

Исправления

• Исправлена ошибка в Shop::Wildberries::ProductsList, из-за которой с некоторыми запросами не выводился $totalcount
• Исправлена загрузка каптч в SE::Yandex::Images
• Устранена утечка памяти в парсере DeepL::Translator, а также другие ошибки
• Исправлена работа проксичекера с socks5 IPv6 прокси
• Исправлена работа опции Don't verify TLS certs в некоторых случаях
• Устранена утечка памяти при частом запуске заданий или использовании API, утечка была связана с внутренним багом NodeJS
• Исправлено зависание Тестового парсинга при редактировании кода парсеров
• Исправлен проход по редиректам в HTML::LinkExtractor
• Исправлен выбор домена в SE::Yahoo
• Исправлена заспамленость лога ошибками при использовании Maps::Yandex
• Исправлен сбор результатов $records в Net:: DNS
• Исправлена ошибка когда не находилась следующая страница опцией Check next page

XEvil 5.0: лучший в мире софт для решения капч. СКИДКИ!

Рады представить вам разработку нашего партнёра:
XEvil 5.0 - известную во всём мире программу для решения большинства существующих капч, самую быструю и точную по сравнению с аналогами.

Программа полностью совместима с A-Parser, прекрасно справляется с капчами Yandex, Rambler, Google, BING и тысячами других.

• Решение свыше 12.000 типов капч, в том числе ReCaptcha v.2 и v.3, Yandex, Google, Microsoft (Bing), SolveMedia, BicoinFaucet, Gosuslugi и множества других.
  Подготавливаемый к релизу XEvil 6.0 также будет поддерживать решение hCaptcha, ReCaptcha Enterprize и FunCaptcha.

• никаких лимитов на число распознаваний и число потоков! можете решать хоть миллионы капч в день, это ничего не будет стоить - достаточно лишь один раз купить лицензию (она пожизненная)

• гибкий API, совместимость с сотнями программ (A-Parser, GSA, XRumer, ZennoPoster, BAS, FaucetCollector, Key Collector и др.),
  в комплекте также идет браузерный плагин XEvil Solver Plugin

• оперативные доработки по пожеланиям клиентов, дообучение новым капчам

• простой и понятный интерфейс, разберется даже школьник!

Всем нашим клиентам мы предлагаем набор купонов,
дающих скидку 60% на покупку любой лицензии XRumer + XEvil:
при покупке лицензии Стандарт вы экономите более 7000 рублей (купоны действуют до 15-го июня):

APXEVIL-60-220616-ga5zoamjuon9jb5y
APXEVIL-60-220616-ga5zoamjuoy8kx4k
APXEVIL-60-220616-ga5zoamjuoun97t4

За дополнительными купонами вы можете обратиться в техническую поддержку A-Parser

Официальный сайт программы:
https://botmasterru.com/

Спасибо за внимание!

Сборник рецептов #50: скриншоты выдачи Google и подсказки Авито

50-й сборник рецептов, в который вошли парсер для создания скриншотов выдачи встроенного парсера (на примере Google) и парсер подсказок Avito.

Скриншоты выдачи Google

Демонстрация способа создания скриншотов страниц, получаемых другими парсерами.
Для примера используется парсер Google. В результате формируется файл со списком спаршенных ссылок и файл со списком созданных скриншотов. Скриншоты складываются в отдельную папку. По аналогии можно делать скриншоты выдачи, получаемой другими парсерами.



Подсказки Авито

Парсер для сбора подсказок на Авито с возможностью указать локацию и парсингом в глубину.




Еще больше различных рецептов в нашем Каталоге!
Предлагайте ваши идеи для новых парсеров здесь, лучшие будут реализованы и опубликованы.

Подписывайтесь на наш канал на Youtube - там регулярно выкладываются видео с примерами использования A-Parser, а также следите за новостями в Twitter.

Все сборники рецептов

Курс «Специалист по дропам и PBN», используя A-Parser (+включает лицензию)



Наш хороший друг Николай Кодий (https://t.me/mypbn) запускает очередной набор на курс по подбору дропов и построению качественных сеток PBN, с применением A-Parser в качестве одного из основных инструментов.

Старт - 27 июня.

Что это за обучение?
Николай научит и покажет на реальных кейсах и примерах:

• какой софт нужен для поиска дропов, сколько он стоит, как продлевается и регится
• как правильно анализировать и выбирать дропы для себя и на продажу, чтобы не получить фуфло
• как строить PBN, что с ними делать дальше и как на них зарабатывать
• как с помощью знаний, которые он даёт, стать универсальным и востребованным специалистом по построению PBN под любые страны и тематики

Для кого это обучение?

• Для владельцев агентств, которые хотят выходить на заказы для буржа и открывать отдел pbn. Для тех, кто хочет нанимать подрядчиков для построения PBN, понимать процесс и контролировать качество работы.
• Для частных и работающих в найме seo-мастеров, которые хотят оказывать услугу по поиску дропов и построению сеток. Или кто хочет строить сетки под свои проекты. Для тех, кто ищет новые методы линкбилдинга.
• Для тех, кто хочет с нуля освоить в новом году новую профессию. И стать специалистом в денежной сфере — PBN.

Больше нигде вы не получите такой системной и понятной теории, такого большого практического опыта и возможности смотреть и усваивать информацию на живых вебинарах с преподавателем, отвечающим именно на ваши вопросы.

Каждый из студентов бесплатно получает весь лицензионный софт (в том числе и A-Parser), необходимый для подбора дропов.

Подробнее о курсе читайте на ленде курса - https://kurs.pbn.link
И на FB странице Николая - Facebook

1.2.1549 - новый парсер CoinMarketCap, полностью переписаны 9 парсеров и новые опции в существующих



Улучшения

• Добавлен новый парсер CoinMarketCap::LastPrice
• Парсер SE::Yandex::Register полностью переписан, восстановлена возможность регистрировать аккаунты
• Парсеры SE::Yandex::WordStat, SE::Yandex::WordStat::ByDate и SE::Yandex::WordStat::ByRegion полностью переписаны, добавлен новый функционал (выбор способа авторизации, регистрация аккаунтов "на лету", сессии...), полный список изменений здесь
• HTML::EmailExtractor полностью переписан, благодаря использованию в качестве основы HTML::LinkExtractor кроме собственно парсинга почт, стали доступными множество возможностей: сбор ссылок, парсинг в глубину, использование Chrome и т.д.
• Все парсеры Instagram переписаны на JS APIv2, а также адаптированы к изменениям на источнике, больше информации здесь
• Увеличено максимальное кол-во страниц в SE::Google до 100
• Добавлен сбор даты со сниппета в парсерах Google
• В парсере SE::Bing добавлена опция Fix pagination bug, устраняющая баг в поиске Bing, из-за которого отдаются пустые 2-я и последующие страницы
• В парсере Shop::Wildberries:: ProductInfo добавлен сбор данных о продавце и возможность определять наличие товара
• В парсере SE::Startpage добавлена опция Links per page и обновлен список доступных вариантов в существующих опциях
• В SE:: DuckDuckGo добавлено опцию Use HTTP/2
• Net::HTTP: добавлена опция Ban Proxy Code RegEx
• Добавлена возможность задавать произвольный уровень для подзапросов (query.add)
• Добавлена опция needResults для this.parser.request

Исправления в связи с изменениями в выдаче

• Адаптация к изменениям в верстке Google и Yandex
• Восстановлена работа с рекаптчами в SE::Google, детальная информация об изменениях здесь
• Исправлен парсинг $title в Shop::Wildberries:: ProductInfo
• SE::Google::TrustCheck, SE::Google::Images, Shop::Yandex::Market, Shop::Wildberries:: ProductsList, SE:: Dogpile, SE::Startpage

Исправления

• Исправлена работа HTTP keep-alive, в некоторых случаях сокет закрывался раньше времени
• Исправлена ошибка в опции Follow common redirects
• Redis API: исправлена работа некоторых парсеров, проблема возникала с парсерами, использующими оптимизацию результатов

Сборник рецептов #51: история IP-адресов и парсинг страниц контактов

51-й сборник рецептов, в котором мы делимся парсером сервиса builtwith.com и пресетом для сбора страниц контактов и контактных данных.

Парсер BuiltWith.com. История IP-адресов и взаимосвязи

Сервис builtwith.com предоставляет пользователям различные данные которые помогают в лидогенерации, аналитике продаж и информации о доле ранка передовых технологи.
Для демонстрации возможностей А-Парсера по созданию JavaScript парсеров и обхода капчи в кастомных парсерах был создан данный пример, который реализует сбор малой части возможностей сервиса builtwith.com, а именно: сбор истории IP-адресов по нужному домену и другие веб-сайты, которые имеют общие IP-адреса с введенным доменом. Полезен SEO-специалистам для поиска сайтов конкурентов, сеток конкурентов, айпи адресов в временном промежутке.



Парсинг страниц контактов, страниц Privacy Policy и Terms of use, email, соц. сети

При помощи данного парсера можно собрать контактные данные со страниц контактов и страниц о компании. Страницы контактов часто содержат контактную форму, поэтому ссылку на нее тоже выводим в результат. Так же парсер собирает страницы Privacy Policy и Terms of use, на страницах которых иногда есть email. Дополнительно происходит сбор соц. сетей (фейсбук и твиттер). Все это необходимо для того чтобы можно было связаться по различным каналам с владельцами или администрацией сайтов для взаимодействия и сотрудничества.




Еще больше различных рецептов в нашем Каталоге!
Предлагайте ваши идеи для новых парсеров здесь, лучшие будут реализованы и опубликованы.

Подписывайтесь на наш канал на Youtube - там регулярно выкладываются видео с примерами использования A-Parser, а также следите за новостями в Twitter.

Все сборники рецептов

1.2.1604 - парсинг Google People also ask, новые методы в JS парсерах, адаптация к изменениям



Улучшения

• В SE::Google добавлен парсинг People also ask
  
• В Rank::Ahrefs добавлен новый метод парсинга, данные, получаемые старым способом немного отличались от таковых в браузере
  
• Реализована защита от gzip bomb
• В SE::Yandex::Register улучшена работа с номерами и оптимизирован процесс регистрации
• Улучшена работа с сессиями в SE::Yandex::WordStat
• Для парсеров Яндекс добавлена возможность использовать аккаунты на своих доменах
  
• Во всех парсерах Яндекса работа со smart captcha адаптирована к изменениям на источниках
  
• JS парсеры: добавлен метод this.puppeteer.logScreenshot(), он позволяет логировать скриншот текущей страницы
• JS парсеры: добавлены методы this.isContextAlive(), this.console.log, this.console.setPrefix и .setGlobalConsolePrefix, подробнее здесь и здесь
• В SE::Yandex::WordStat::ByDate добавлена корректная обработка ситуаций, когда по запросу нет результатов
• HTML::TextExtractor - оптимизирована скорость обработки

Исправления в связи с изменениями в выдаче

• Адаптация к изменениям в верстке Google и Яндекс
  
• SE::Yandex::Register адаптирован к изменениям на источнике
• Исправлена авторизация по логин/паролю в SE::Google::KeywordPlanner
  
• SE::Google::SafeBrowsing, Telegram::GroupScraper, SE::Baidu, Rank::MajesticSEO, Shop::Wildberries::Suggest, Social::Instagram::Tag, Social::Instagram:: Profile

Исправления

• Исправлена проблема с зависанием HTML::TextExtractor::LangDetect на некоторых запросах
• Исправлена работа методов tools.task.* в JS API v2
  
• Исправлена ошибка кодировки в Net::HTTP
• Исправлена работа с прокси в Puppeteer, проблема появилась в одной из предыдущих версий
  
• Исправлена ошибка со сбором title в Shop::Wildberries:: ProductInfo в некоторых случаях
• В Shop::Wildberries:: ProductsList исправлен парсинг тегов
  
• Исправлена работа SE::Bing::Translator в некоторых случаях
  
• Исправлена некорректная инициализация Node на лицензии Enterprise
  
• В SE::Bing - исправлена ошибка с выводом $pages

Как использовать A-Parser для крауд-маркетинга


Наши друзья из Ant-Team.ru сняли полезное видео о том, как использовать A-Parser для крауд-маркетинга.

Крауд-маркетинг использует отзывы и комментарии на сторонних ресурсах для продвижения компании.

В видео показано, как выставить настройки в A-Parser, чтобы парсить поисковую выдачу Яндекс по информационным запросам, и какие переменные нужны для парсинга. Дана подробная инструкция, как добавлять в A-Parser прокси и сервисы разгадывания капчи.

Также вы узнаете, как проверять качество ссылочной массы, рейтинг домена, беклинки и т.д.

Подписывайтесь на их телеграм-канал, там много полезной информации по SEO: https://t.me/seoantteam

Автоматизация в SEO: как заменить отдел джунов парсером?

Совсем недавно прошла юбилейная десятая онлайн-конференция по интернет-маркетингу Baltic Digital Days. Специалист по SEO Георгий Шилов выступил с докладом на тему "Автоматизация в SEO: как заменить отдел джунов парсером?"


В докладе содержится много полезной информации по использованию A-Parser. Вы узнаете:

• Что такое парсер
• Сколько стоит джун в SEO
• Проблемы в SEO
• Автоматизация рутинных задач
• Кластеризация
• Мониторинг позиций
• Комбинируем пресеты для решения любых задач
• Тех. анализ и мониторинг

и другие решения с помощью A-Parser