Вопрос к вебмастерам

Модераторы: T-80, pantera, КалибриЯ, OFITSER58, Фантазия, Ice

Автор
Сообщение
ДЮДЯ
Сообщения: 1685
Зарегистрирован: 15 апр 2008 15:05
Откуда: Плюк созвездие Кин-дза-дза.
Заголовок сообщения: Вопрос к вебмастерам

Вопрос к вебмастерам

Сообщение ДЮДЯ »

Задумал для работы реализовать сайт с некоторыми функциями, может быть кто подскажет как лучше и проще реализовать (cms+ набор плагинов), рассмотрю все предложения по реализации проекта

1. Новости ( новости автоматически парсятся с нужных сайтов + групп соцсетях)+ надо чтобы автоматом рассылались на стены моих групп в соцсетях.
2. каталог магазинов (с отзывами)
- каталог магазинов с рейтингом и отзывами покупателей+ возможность представителей отвечать на отзывы( отзывы положительные
+фото+ видео с ютуб + № Заказа) для отзывов отрицательных ( + фото + видео с ютуб + № Заказа)
3. частные объявления ( регистрация пользователя + форма объявления (5 фото (основное + 4) + категории + captha + условия
публикации (отдельная страница с условиями) для продавцов (рейтинг продавца) + чем выше рейтинг тем больше прав на акк ( подразумевается что будет возможность показывать лучших продавцов сайта в отдельном виджете) + отзывы о продавце на его странице
* - шаблон желательно HTML5
Гоголь77
Сообщения: 547
Зарегистрирован: 04 сен 2010 14:19
Когда Вы заболели: 0- 0-2004
Откуда: ЛНР. Россия.
Заголовок сообщения: Re: Вопрос к вебмастерам

Re: Вопрос к вебмастерам

Сообщение Гоголь77 »

Вижу не очень популярная ветка:) Но всё таки спрошу.
Коллеги, кто может парсить сайты с сохранением результатов в Excel или CSV?
В частности нужно вытащить инфу (название, адрес, телефон, сайт, мыло, ФИО руководителя) конкретно с этой страницы: https://www.cataloxy.ru/firms/ugol-torf-1133.htm
Также буду благодарен за любую полезную инфу по обучению этому ремеслу с нуля, то бишь для полного профана в этом деле, в инете не смог нарыть ничего толкового. Возможно не там или не то искал:)
В детстве я очень любил мультики,но никогда не думал,что я им стану!
Ruven
Сообщения: 1337
Зарегистрирован: 20 май 2011 19:51
Контактная информация:
Заголовок сообщения: Re: Вопрос к вебмастерам

Re: Вопрос к вебмастерам

Сообщение Ruven »

Гоголь77
в сети куча бесплатных парсеров
всё будет хорошо Я узнавал
Гоголь77
Сообщения: 547
Зарегистрирован: 04 сен 2010 14:19
Когда Вы заболели: 0- 0-2004
Откуда: ЛНР. Россия.
Заголовок сообщения: Re: Вопрос к вебмастерам

Re: Вопрос к вебмастерам

Сообщение Гоголь77 »

Ruven
Например???
В детстве я очень любил мультики,но никогда не думал,что я им стану!
Lar4
Сообщения: 5091
Зарегистрирован: 16 мар 2008 22:29
Откуда: Москва
Заголовок сообщения: Re: Вопрос к вебмастерам

Re: Вопрос к вебмастерам

Сообщение Lar4 »

Ruven
все рабочие парсеры платные...... безплатные одно гомно
Winner, winner, chicken dinner!
Изображение
Гоголь77
Сообщения: 547
Зарегистрирован: 04 сен 2010 14:19
Когда Вы заболели: 0- 0-2004
Откуда: ЛНР. Россия.
Заголовок сообщения: Re: Вопрос к вебмастерам

Re: Вопрос к вебмастерам

Сообщение Гоголь77 »

Lar4 писал(а):Ruven
все рабочие парсеры платные..... безплатные одно гомно
Посмотрел "бесплатные" парсеры. во-первых, это не то, что мне нужно, во-вторых, из всех бесплатных парсеров нашел только несколько действительно бесплатных, но и беспонтовых. Так что полностью согласен.
Ruven, я же сразу спросил "кто умеет парсить сайты?", кинул ссылку на сайт, который нужно парсить.
Вопрос: ты владеешь этим навыком? Если тебе делать нех... абы отписаться, то не надо - не засоряй эфир.
В детстве я очень любил мультики,но никогда не думал,что я им стану!
Ruven
Сообщения: 1337
Зарегистрирован: 20 май 2011 19:51
Контактная информация:
Заголовок сообщения: Re: Вопрос к вебмастерам

Re: Вопрос к вебмастерам

Сообщение Ruven »

Гоголь77
https://netpeaksoftware.com/ru/
пользовался этим
всё будет хорошо Я узнавал
Lar4
Сообщения: 5091
Зарегистрирован: 16 мар 2008 22:29
Откуда: Москва
Заголовок сообщения: Re: Вопрос к вебмастерам

Re: Вопрос к вебмастерам

Сообщение Lar4 »

Гоголь77 писал(а): я же сразу спросил "кто умеет парсить сайты?
для этого надо сначала скрафтить скрипт под твои нужды, движки ну и тд и тп......
мало кто из мультов это может зделать спроси Пашкевича он вроде занимается автономией ))))))))
Winner, winner, chicken dinner!
Изображение
Гоголь77
Сообщения: 547
Зарегистрирован: 04 сен 2010 14:19
Когда Вы заболели: 0- 0-2004
Откуда: ЛНР. Россия.
Заголовок сообщения: Re: Вопрос к вебмастерам

Re: Вопрос к вебмастерам

Сообщение Гоголь77 »

Ruven писал(а):Гоголь77
https://netpeaksoftware.com/ru/
пользовался этим
Чё-то я не въеду как этим можно выдернуть необходимую мне инфу (название компании, номер телефона, адрес, мыло, сайт, ФИО)...
В детстве я очень любил мультики,но никогда не думал,что я им стану!
Гоголь77
Сообщения: 547
Зарегистрирован: 04 сен 2010 14:19
Когда Вы заболели: 0- 0-2004
Откуда: ЛНР. Россия.
Заголовок сообщения: Re: Вопрос к вебмастерам

Re: Вопрос к вебмастерам

Сообщение Гоголь77 »

Lar4 писал(а):
Гоголь77 писал(а): я же сразу спросил "кто умеет парсить сайты?
для этого надо сначала скрафтить скрипт под твои нужды, движки ну и тд и тп.....
мало кто из мультов это может зделать спроси Пашкевича он вроде занимается автономией )))
Спасибо за подсказку. Ху из Пашкевич:)?
В детстве я очень любил мультики,но никогда не думал,что я им стану!
Ruven
Сообщения: 1337
Зарегистрирован: 20 май 2011 19:51
Контактная информация:
Заголовок сообщения: Re: Вопрос к вебмастерам

Re: Вопрос к вебмастерам

Сообщение Ruven »

Гоголь77
там в настройка нужно прописать какой текст искать
но тут проблема в другом
на сайте который ты дал нет ФИО руководителей
на некоторых страницах контактное лицо просто имя
всё будет хорошо Я узнавал
Lar4
Сообщения: 5091
Зарегистрирован: 16 мар 2008 22:29
Откуда: Москва
Заголовок сообщения: Re: Вопрос к вебмастерам

Re: Вопрос к вебмастерам

Сообщение Lar4 »

Гоголь77 писал(а):Спасибо за подсказку. Ху из Пашкевич:)?
шалопай
Ruven
это повезёт если спарсить нужно инфу с коммерческого движка а если самописный то надо полюбому скрипт писать
Winner, winner, chicken dinner!
Изображение
Гоголь77
Сообщения: 547
Зарегистрирован: 04 сен 2010 14:19
Когда Вы заболели: 0- 0-2004
Откуда: ЛНР. Россия.
Заголовок сообщения: Re: Вопрос к вебмастерам

Re: Вопрос к вебмастерам

Сообщение Гоголь77 »

Ruven
Мне ФИО не обязательно. Главное - название компании и номер телефона, чтобы сохранял в Excel.
Lar4
Ага, спасибо. спрошу.
Я нашёл парсинг сайтов сразу в Excel:
https://parserok.ru/
Только нужно для каждого сайта/ раздела/ категории заказывать скрипт, а это не есть хорошо - уж больно накладно.
Может есть среди нас мастера?! Кто расскажет и покажет принцип и процесс написания?
Буду благодарен.
В детстве я очень любил мультики,но никогда не думал,что я им стану!
Шалопай
Сообщения: 364
Зарегистрирован: 30 ноя 2008 3:15
Когда Вы заболели: 05.06.1998
Заголовок сообщения: Re: Вопрос к вебмастерам

Re: Вопрос к вебмастерам

Сообщение Шалопай »

Гоголь77

Здравствуй!
Это хорошо что хочешь учиться :good: (для умников - парсеры пишут не под движок а под верстку :beer: - если парсят html)

Для начало надо написать сам алгоритм. Я не думаю что ты (Гоголь) хочешь парсить одну страницу...
Обычно это выглядит так: Заходим на сайт. Парсим превьюшки и берем из них на стр с полным комплектом данных. Потом последовательно собираем данные. Потом идем на следующую стр (я про пагинацию) и так по кругу... + надо знать как часто это будет делаться (чтобы не напрягать хост донора) + не со своего ип это делать и переодически менять (в процессе парсинга менять вообще хорошо)

На каком языке будешь писать?
Воля — это то, что заставляет тебя побеждать, когда твой рассудок говорит тебе, что ты повержен.
Карлос Кастанеда
Гоголь77
Сообщения: 547
Зарегистрирован: 04 сен 2010 14:19
Когда Вы заболели: 0- 0-2004
Откуда: ЛНР. Россия.
Заголовок сообщения: Re: Вопрос к вебмастерам

Re: Вопрос к вебмастерам

Сообщение Гоголь77 »

Шалопай писал(а):Гоголь77

Здравствуй!
Это хорошо что хочешь учиться :good: (для умников - парсеры пишут не под движок а под верстку :beer: - если парсят html)

Для начало надо написать сам алгоритм. Я не думаю что ты (Гоголь) хочешь парсить одну страницу...
Обычно это выглядит так: Заходим на сайт. Парсим превьюшки и берем из них на стр с полным комплектом данных. Потом последовательно собираем данные. Потом идем на следующую стр (я про пагинацию) и так по кругу... + надо знать как часто это будет делаться (чтобы не напрягать хост донора) + не со своего ип это делать и переодически менять (в процессе парсинга менять вообще хорошо)

На каком языке будешь писать?
Здоров. из всего вышесказанного отвечаю последовательно:
1. Конечно не одну страницу (вот только по этому запросу нужно обработать 38 страниц), но пока только этот сайт (по работе нужно составлять базы данных, а готовый парсер, в частности 2GIS ни в пи..., ни в Красную Армию как говорится).
2. О процессе парсинга я более-менее имею представление.
3. Делаться это будет возможно каждый день - работа такая))).
4. Про IP тоже в курсах.
5. Я вообще не могу писать. Поэтому и обращаюсь за помощью к знающим людям.
В детстве я очень любил мультики,но никогда не думал,что я им стану!
Ответить