LINUX.ORG.RU
ФорумTalks

Про самый лучший, быстрый, популярный браузер и про мозиллу

 , scrap, , говно


0

2

Понадобилось с одного ресурса немножко данных соскрапить. requests с сессиями не хватило, поставил pypeeter. Не скрапил через браузер лет 8, до этого использовал selenium.

Вроде простой код получился, только это всё async, и так криво устроен, что сделать event loop «сбоку» и кидать в него разные ссылки в зависимости от ответа просто нереально. Все примеры - чудовищный говнокод, где вся логика в теле event loop'а.

Вишенка на торте - у хрома отваливается внешнее управление если в оффтопике включён системный прокси, а если не включён, он всё равно отваливается рандомно через 10-15 запросов. Нет, это не только у меня.

Поставил marionette к мозилле, запустил профиль с marionette, кидаю ей адреса, парсю ответы, всё спокойно, волосы гладкие и шелковистые.

У меня вопрос к фанам хрома: вы до сих пор серьёзно считаете его удобнее и быстрее мозиллы?

★★★★★

Последнее исправление: Shadow (всего исправлений: 1)
Ответ на: комментарий от tiinn

Ага, ты, значит, выкатил чудовищно редкий и специфичный пример

Скрапинг в мире хрома это чудовищно редкий и специфичный пример? Может, это связано как-то с тем, что хромом нельзя пользоваться?

Видимо, это примерно как реклама на андроиде – кто слаще морковки ничего не пробовал, тем и норм.

skiminok1986 ★★★★★
()
Ответ на: комментарий от skiminok1986

Скрапинг в мире хрома это чудовищно редкий и специфичный пример?

Да.

Может, это связано как-то с тем, что хромом нельзя пользоваться?

Нет.

Видимо, это примерно как реклама на андроиде – кто слаще морковки ничего не пробовал, тем и норм.

Реклама не в андроиде, реклама в вебе. Если запретить андроиду выходить в тырнет, никакой рекламы и не будет.

tiinn ★★★★★
()
Ответ на: комментарий от tiinn

Нет.

Если нет, то почему им нельзя пользоваться?

Реклама не в андроиде, реклама в вебе. Если запретить андроиду выходить в тырнет, никакой рекламы и не будет.

Лучшие практики прямиком из опыта пользователей хрома. Если хрому запретить выходить в тырнет, тоже рекламы не будет :)

skiminok1986 ★★★★★
()
Ответ на: комментарий от skiminok1986

Если нет, то почему им нельзя пользоваться?

Не знаю. Я же пользуюсь.

Если хрому запретить выходить в тырнет, тоже рекламы не будет :)

Ну, да. При этом, он вполне сможет открывать локальные страницы, т.е. функционал не потеряет.

tiinn ★★★★★
()
Ответ на: комментарий от tiinn

Не знаю. Я же пользуюсь.

Это синдром утёнка :)

Ну, да. При этом, он вполне сможет открывать локальные страницы, т.е. функционал не потеряет.

Откуда у пользователя хрома локальные страницы, если там скрапинг через жопу? :)

skiminok1986 ★★★★★
()
Ответ на: комментарий от skiminok1986

Это синдром утёнка :)

Откуда б? Я начинал с IE

Откуда у пользователя хрома локальные страницы

Написал. Линуксоид же ж.

tiinn ★★★★★
()
Ответ на: комментарий от Shadow

Его я потом ставил, тыкал… Композер там был неплохой, ага. Сам браузер - ну, такое себе. Явных преимуществ перед IE не было.

tiinn ★★★★★
()
Ответ на: комментарий от user42

Я тут нахваливал Edge, а эти гомики вдруг обновили политику своего хранилища паролей и всё нафиг удалилось.

user42 ★★
()
Последнее исправление: user42 (всего исправлений: 1)
Закрыто добавление комментариев для недавно зарегистрированных пользователей (со score < 50)