АРМАДА
Kozyol. новый парсер гугла.
Новая тема Написать ответ

Dmi
Опытный
Зарегистрирован: 14.04.2007
Сообщений: 142
Обратиться по нику
# Добавлено:Ср Апр 27, 2011 8:54 pmДобавить в избранноеОтветить с цитатой
Всем привет!

Парсер – не бог весть сложная программа, тем не менее этот инструмент незаменим. При создании парсера гугла Kozyol была поставлена задача сделать легкий в управлении, лаконичный, гибкий и стабильный софт. Я думаю, он вам понравится =) перечислю основные моменты:

1. Возможности, ставшие стандартом такого рода софта:

1.1. естественно, многопоточность, причем умная: динамическое распределение работы в ходе процесса парсинга, ни один поток не будет висеть без дела, если даже он выполнил свою часть работы

1.2. конечно прокси, которые при парсинге гугла нужны как воздух, поддержка следующих типов проски: http, socks4, socks5 (чего так не хватало в ауре); просто укажите источник и парсер с ним разберется)

1.3. использование ротаторов – это файлы с подстановками к запросу, например с доменными зонами. Их цель ”вращать выдачу”, чтобы получить больше 1000 результатов, котрые отдает гугл по дефолту

2. Минимум настроек:



3. Удобный менеджер управления заданиями парсинга: все в любой момент можно проследить, остановить, поставить на паузу и пр.
тут еще чуть подробнее со скринами: http://kozyol.com/?p=6

Технические детали:
- парсер серверный, для работы нужен python (2.5 и новее) и php, и библиотека curl

- идеальным вариантом будет любой юниксовый сервер или вдс

Цена и условия:
- цена на парсер гугла Kozyol 50 долларов
- установка парсера и настройка сервера/вдс (включая установку нужного софта) – пока бесплатно
- принимаю: webmoney, paypal, paxum
- мои контакты: icq 280870084, email: [email protected]

http://kozyol.com/
DMI 3 - луший статический дорген всего от 125$

Dmi
Опытный
Зарегистрирован: 14.04.2007
Сообщений: 142
Обратиться по нику
# Добавлено:Пт Апр 29, 2011 4:18 pmОтветить с цитатой
Первое обновление от 29.04.2011

Для получения большего снисхождения от гугла парсер, в зависимости от страны айпи-адреса прокси, будет обращаться к локальным доменам. Например, если прокси немецкая, то скрипт пойдет парсить через google.de/?hl=de. Определение нужного домена гугла происходит автоматически во время процесса парсинга.
DMI 3 - луший статический дорген всего от 125$

Dmi
Опытный
Зарегистрирован: 14.04.2007
Сообщений: 142
Обратиться по нику
# Добавлено:Ср Май 25, 2011 5:08 pmОтветить с цитатой
Второе обновление парсера

1. Парсер гугла оптимизирован для работы с большим количеством запросов, файлы с миллионами запросов – не проблема.

2. Добавлен инсталятор и защита на админку.

3. Были исправлены выявленные недочеты.

Обновление будет доступно через систему клиентов сегодня-завтра.
DMI 3 - луший статический дорген всего от 125$

Dmi
Опытный
Зарегистрирован: 14.04.2007
Сообщений: 142
Обратиться по нику
# Добавлено:Вт Май 31, 2011 5:00 pmОтветить с цитатой
Дорогие клиенты! Для получения постоянного доступа для скачки скрипта и обновлений обратитесь ко мне (укажите желаемый логин).

Для скачки доступен вновь обновленный скрипт:
- были исправлены выявленные ошибки
- более подрбное логирование действий парсер
- в менеджер добавлен инструмент join, который объединяет файлы с результатами

Буду рад новым пожеланиям к обновлениям.
DMI 3 - луший статический дорген всего от 125$

Dmi
Опытный
Зарегистрирован: 14.04.2007
Сообщений: 142
Обратиться по нику
# Добавлено:Ср Июн 01, 2011 6:03 pmОтветить с цитатой
Снова обновлен менеджер:
теперь различаются два инструмента:
unique by domains - удалить дубли по домену
get domains - получить список доменов из результатов
DMI 3 - луший статический дорген всего от 125$

Dmi
Опытный
Зарегистрирован: 14.04.2007
Сообщений: 142
Обратиться по нику
# Добавлено:Чт Авг 18, 2011 7:06 pmОтветить с цитатой
Для покупателей парсера Коzyol на дорген DMI 3 Static действует скика 25$
DMI 3 - луший статический дорген всего от 125$

Dmi
Опытный
Зарегистрирован: 14.04.2007
Сообщений: 142
Обратиться по нику
# Добавлено:Пт Авг 19, 2011 1:59 pmОтветить с цитатой
Обновление менеджера результатов

1. Добавлен новый инструмент get alive urls, который оставит только живые ресурсы
2. В менеджер добавлены фильтры с условиями (if contains/if does not contain), т.е. результаты можно отфильтровать на наличие или, наоборот, отсутствие подстроки.
DMI 3 - луший статический дорген всего от 125$

Dmi
Опытный
Зарегистрирован: 14.04.2007
Сообщений: 142
Обратиться по нику
# Добавлено:Сб Авг 20, 2011 2:08 pmОтветить с цитатой
Kozyol Google Images Parser

Добавлен отдельный парсер картинок с гугла (для скачки файл kozyol.images.*.zip). Скрипт полностью аналогичен стандартному парсеру, за исключением того, что сохраняет прямые ссылки на картинки (максимум 1000 картинок на запрос).
DMI 3 - луший статический дорген всего от 125$

Dmi
Опытный
Зарегистрирован: 14.04.2007
Сообщений: 142
Обратиться по нику
# Добавлено:Вс Сен 04, 2011 1:41 pmОтветить с цитатой
Парсеры на заказ на базе Kozyol Parser

Принимаю заказы на написание парсеров любых ресурсов на основе движка Kozyol.
ICQ 280870084, [email protected]
DMI 3 - луший статический дорген всего от 125$

Dmi
Опытный
Зарегистрирован: 14.04.2007
Сообщений: 142
Обратиться по нику
# Добавлено:Вс Окт 30, 2011 4:20 pmОтветить с цитатой
Готов парсер яху (search.yahoo.com), параметры поиска такие же как и у гугла. Скачать можно по общему доступу для клиентов.
На подходе парсер bing.com.

На данный момент клиенты Kozyol Parser могут использовать такие скрипты как:
парсер гугла, парсер картинок с гугла и парсер яху; это всего за 51 USD (цена скоро вырастет).
DMI 3 - луший статический дорген всего от 125$

Dmi
Опытный
Зарегистрирован: 14.04.2007
Сообщений: 142
Обратиться по нику
# Добавлено:Пн Окт 31, 2011 11:28 amОтветить с цитатой
Как писал во вчерашнем посте, готов парсер bing.com. По одному запросу парсятся 20 страниц по 50 результатов (не считая подзапросов). Пока все это в комплекте со всеми парсерами, все за одну цену (51 $). Клиенты могут уже скачать скрипт по общему доступу.
DMI 3 - луший статический дорген всего от 125$

Dmi
Опытный
Зарегистрирован: 14.04.2007
Сообщений: 142
Обратиться по нику
# Добавлено:Пт Ноя 04, 2011 5:54 pmОтветить с цитатой
На данный момент доступны следующие парсеры Kozyol:

Google Parser
Google Images Parser
Yahoo Parser
Bing Parser

вы можете купить:
за 51$ один любой парсер
за 66$ два любых парсера
за 95$ все парсеры

P.S.
Все кто купили парсер до этого могут использовать все четыре,
P.P.S.
Принимаются индивидуальные заказы на создания новых парсеров или модификацию уже имеющихся.
DMI 3 - луший статический дорген всего от 125$

Dmi
Опытный
Зарегистрирован: 14.04.2007
Сообщений: 142
Обратиться по нику
# Добавлено:Вт Янв 03, 2012 12:12 amОтветить с цитатой
С Новым Годом! До 12 января действует акция: три парсера по цене двух (65$).

Также доступен для продажи парсер платных аккаунтов вордтракера (www.wordtracker.com) как консольное unix приложение.
DMI 3 - луший статический дорген всего от 125$

Dmi
Опытный
Зарегистрирован: 14.04.2007
Сообщений: 142
Обратиться по нику
# Добавлено:Вт Янв 03, 2012 12:13 amОтветить с цитатой
С Новым Годом! До 12 января действует акция: три парсера по цене двух (65$).

Также доступен для продажи парсер платных аккаунтов вордтракера (www.wordtracker.com) как консольное unix приложение.
DMI 3 - луший статический дорген всего от 125$

Dmi
Опытный
Зарегистрирован: 14.04.2007
Сообщений: 142
Обратиться по нику
# Добавлено:Вт Янв 17, 2012 3:51 pmОтветить с цитатой
Добавлена возможность использования прокси (socks и http) с авторизацией по логину/паролю.
Формат такой: ip:port:login:pass
Если авторизация не нужна, то можно использовать как и раньше в формате ip:port.
DMI 3 - луший статический дорген всего от 125$
Новая тема Написать ответ    ГЛАВНАЯ ~ РЕКЛАМА И ОБЪЯВЛЕНИЯ

Перейти:  





Генеральный спонсор



Партнеры