LINUX.ORG.RU
ФорумTalks

Про самый лучший, быстрый, популярный браузер и про мозиллу

 , scrap, , говно


0

2

Понадобилось с одного ресурса немножко данных соскрапить. requests с сессиями не хватило, поставил pypeeter. Не скрапил через браузер лет 8, до этого использовал selenium.

Вроде простой код получился, только это всё async, и так криво устроен, что сделать event loop «сбоку» и кидать в него разные ссылки в зависимости от ответа просто нереально. Все примеры - чудовищный говнокод, где вся логика в теле event loop'а.

Вишенка на торте - у хрома отваливается внешнее управление если в оффтопике включён системный прокси, а если не включён, он всё равно отваливается рандомно через 10-15 запросов. Нет, это не только у меня.

Поставил marionette к мозилле, запустил профиль с marionette, кидаю ей адреса, парсю ответы, всё спокойно, волосы гладкие и шелковистые.

У меня вопрос к фанам хрома: вы до сих пор серьёзно считаете его удобнее и быстрее мозиллы?

★★★★★

Последнее исправление: Shadow (всего исправлений: 1)

У меня вопрос к фанам хрома: вы до сих пор серьёзно считаете его удобнее и быстрее мозиллы?

Да.

windows10 ★★★★★
()

до сих пор

А что, собственно, изменилось? Хром всегда был помойкой, если им раньше это не мешало им пользоваться то и сейчас не будет.

firkax ★★★★★
()

Ага, ты, значит, выкатил чудовищно редкий и специфичный пример и сразу, ко-ко-ко, хромом нельзя пользоваться. Ну, точно мужики и японская бензопила.

tiinn ★★★★★
()

Хром - говно. Например у него есть такой баг, закачки запускаются спустя долгое время, а не сразу. Поймал это на kernel.org, быстрее было запустить surf и скачать через него, чем ждать пока хром раздуплится.

vbcnthfkmnth123 ★★★★★
()
Ответ на: комментарий от windows10

вы до сих пор серьёзно считаете его удобнее и быстрее мозиллы? Да.

Я замеров не делал, поэтому про скорость не скажу, но удобней?! Это уже какой-то двузначный айсикью.

MoldAndLimeHoney ★★
()
Ответ на: комментарий от MoldAndLimeHoney

Это нехорошо, если правда. Но, специально для таких проксифаер придуман, так что, такой ли уж это недостаток?

tiinn ★★★★★
()
Ответ на: комментарий от tiinn

Это нехорошо, если правда.

Это правда.

Но, специально для таких проксифаер придуман, так что, такой ли уж это недостаток?

Я использую socks5 каждый день, не хочу никуда его заворачивать, для меня серьезный недостаток.

Впрочем, после того, как в Фоксе появились встроенные вертикальные табы, хромым всратым убожеством я пользоваться не имею никакого желания.

Я десять лет назад говорил, что Хромог – это телега с реактивным двигателем. Но сейчас и реактивный двигатель стал не слишком актуален, т.е. теперь это просто телега.

MoldAndLimeHoney ★★
()
Ответ на: комментарий от MoldAndLimeHoney

IMHO, сорта г… Понятно, что сам веб -г…, но фокс мне ближе интерфейсно, хотя никаких явных преимуществ перед хромом я у него не вижу. Вкусовщина. Обход запретов ютуба я через аддон хрома юзаю, а lorify-ng - эксклюзив фокса (да, я в курсе про tampermonkey и юзерскрипт)

tiinn ★★★★★
()
Последнее исправление: tiinn (всего исправлений: 1)
Ответ на: комментарий от stave

Да в итоге уже перешёл на селениум.

Shadow ★★★★★
() автор топика

А зачем так делать? Я обычно сохраняю кукисы и делаю на шелле или обычном ЯП. Через марионетку или селениум удобнее?

kaldeon
()
Последнее исправление: kaldeon (всего исправлений: 1)

вы до сих пор серьёзно считаете его удобнее и быстрее мозиллы?

Да. Особенно в варианте Edge.

user42 ★★
()
Ответ на: комментарий от kaldeon

Нифига не удобнее. Но надо дурачить защиту от скрапинга.

Shadow ★★★★★
() автор топика

Про самый лучший

как может быть лучшим бровсер который задушил у себя нормальный блокировщик рекламы?

Kolins ★★★★★
()

У меня вопрос к фанам хрома: вы до сих пор серьёзно считаете его удобнее и быстрее мозиллы?

На самом деле оба браузера - сорта говна. У обоих есть фатальные недостатки, среди которых в одном отломана альса, а в другом применён манифест 3ий версии. Вся надежда на божью коровку, которая пока не готова.

u5er ★★★
()
Ответ на: комментарий от u5er

Вся надежда на божью коровку, которая пока не готова.

А кто их спонсирует? Уже сколько альтернативных бровсеров было и все сгинули в /dev/null.

Kolins ★★★★★
()
Ответ на: комментарий от MoldAndLimeHoney

Я замеров не делал, поэтому про скорость не скажу, но удобней?! Это уже какой-то двузначный айсикью.

Безусловно удобнее.

Вот ты привел в пример какой-то socks5-прокси с авторизацией, который не понятно что, не понятно зачем, и не понятно как отражается на моих способностях смотреть котиков, моей жены смотреть бусики, моей маме смотреть рецепты, моему сыну шпилить в игори, и тд итп, и уж явно не относится к критерию «удобство».

Зато к этому критерию относятся внезапно всплывающие сообщения (особенно весело их ловить в фуллскрине); дебри встратых настроек, где я могу выбрать какой программой открывать XML, но не могу выбрать стартовую страницу, где я могу посмотреть установленные языки перевода, но не могу выбрать тему.

https://ibb.co/S4VJQFVq

А самое главное - это отсутствие интеграции с сервисами гугла, хоть это и своеобразный вендор-лок, но все же критерий удобства. Да мне удобнее зайти на почту, после чего этот аккаунт начинает использоваться как аккаунт Хрома - персонализируется, синхронизируется, и многое многое другое.

windows10 ★★★★★
()
Последнее исправление: windows10 (всего исправлений: 1)

Я бы сделал наверное в cypress, неочевидно что парсинг можно писать в framework’е для тестов, да. Из плюсов тебе идет сразу несколько браузеров в headless и не в headless режиме, и если нету каких-то специальных расширений, поддерживаемых на одном браузере, то код может работать со всеми, ну и в github ci реально запустить тоже вполне.

anonymous_sama ★★★★★
()
Последнее исправление: anonymous_sama (всего исправлений: 1)
Ответ на: комментарий от anonymous_sama

Ну, мне надо вырубать заголовки, что это webdriver. У хрома есть ключи, которые то работают, то не работают, прокси на webdriver даже под онтопиком не работает как надо, в итоге остановился на мозилле с патчем против заголовков (работает только на онтопике). Жаль, нет времени перекомпилять весь Firefox под оффтопик с выпиленным заголовком.

Shadow ★★★★★
() автор топика
Последнее исправление: Shadow (всего исправлений: 2)
Ответ на: комментарий от windows10

после чего этот аккаунт начинает использоваться как аккаунт Хрома - персонализируется, синхронизируется, и многое многое другое.

А, надо же. У меня наоборот - 5 аккаунтов гугла (не шучу), мешает адски.

Shadow ★★★★★
() автор топика

Это не хром, это твой async головного мозга. Потому что и pypeeter и cypress лезут изнутри со своим уставом и получается срамота. А тормозилла потому и тормозит что там все синхронно. Юзай селениум, люк.

Lordwind ★★★★★
()
Ответ на: комментарий от geometer

Да ладно, он под JS заточен. await через await в main loop. Пока лучшее для меня - undetected_geckodriver и undetected_chromedriver

Shadow ★★★★★
() автор топика
Последнее исправление: Shadow (всего исправлений: 1)

Что-то локальное, у меня под десяток тысяч страниц каждый день парсится под свои нужды и в chromedriver и в undetected_chromedriver и с прокси и с dns, и c мордой и в головолесс - не нарадуюсь насколько сейчас все удобно и круто.

One ★★★★★
()
Ответ на: комментарий от geometer

Да, там довольно запутанные данные, с одной стороны (сначала поиск, потом анализ результатов, по результату ещё скрап), и нужно изображать юзера. Т.е. у меня был вариант, или сделать синхронный код, или сделать локальный аналог callback hell, но на питоне. Я к этому был не готов. А сделать loop с очередью сообщений, который бы принимал параметры, и отдавал... Не осилил, pypeeter корутины ругались на что-то не понятное.

Shadow ★★★★★
() автор топика
Последнее исправление: Shadow (всего исправлений: 2)

Захотел я изменить/отключить неудобные мне хоткеи. Запускаю вивальди - сделал, запускаю оперу - сделал. Оба форки хрома. Волосы гладкие и шелковистые ниже пупка.

Захотел я это сделать в «лучшем» браузере мира. Но там мне отказали, лучше они снова иконки поменяют или закругления вкладок вернут, ведь это важнее.

StillSteal
()

У меня вопрос к фанам хрома: вы до сих пор серьёзно считаете его удобнее и быстрее мозиллы?

Тут как бы проблема не в том, какой Хром говно, а что уже несколько лет ФФ развивается вбок. То ли было дело, когда пилили серво и внедряли разные плюшки из него. А теперь по ощущениям почти никакой работы под капотом, только кнопочки перекрашивают и закругляют.

Irben ★★★
()
Ответ на: комментарий от Kolins

Ну так для гугла он лучший, а что юзерам не нравится - так лохи обязаны платить, если не деньгами так своими данными

no-dashi-v2 ★★★
()
Ответ на: комментарий от windows10

после чего этот аккаунт начинает использоваться как аккаунт Хрома

Ну вот она разница. Я сразу выпиливаю нафиг этот Chrome Sign-In

no-dashi-v2 ★★★
()
Ответ на: комментарий от vbcnthfkmnth123

Хром - говно. Например у него есть такой баг, закачки запускаются спустя долгое время, а не сразу

Что там скачки, он до сих пор не умеет socks прокси с паролем, приходится privoxy подкладывать.

Loki13 ★★★★★
()
Ответ на: комментарий от windows10

Вот ты привел в пример какой-то socks5-прокси с авторизацией, который не понятно что, не понятно зачем, и не понятно как отражается на моих способностях смотреть котиков

Сейчас уже прямо начал отражаться. Мне жене сильно сложнее проксю настроить. Приходится ей включать квн(и ходить через него не только для котиков), а то никаких котиков не будет. Всё потому что мне лень ей привокси настраивать на офтопике, а открывать беспарольный socks-проки на впс, это вообще за гранью.

Loki13 ★★★★★
()

Да. Про удобство - индивидуально и простому юзеру, коих из 80+% большиство, async, event-loop и т.д. не нужны, ему сайтики открывать нужно. Быстрота - где в посте про быстроту? Ну и хромые быстрее переваривают тяжелые сайты.

not_anon
()
Ответ на: комментарий от MoldAndLimeHoney

Так всё равно нужно ставить расширение для прокси, независимо от браузера. Не лазить же каждый раз в настройки браузеры для его вкл/выкл.

not_anon
()
Ответ на: комментарий от Loki13

Всё потому что мне лень ей привокси настраивать на офтопике, а открывать беспарольный socks-проки на впс, это вообще за гранью.

Поставь на роутер tinyproxy - он умеет http/https в socks, при этом гораздо легче и меньше privoxy.

Shadow ★★★★★
() автор топика
Ответ на: комментарий от Loki13

Всё потому что мне лень ей привокси настраивать на офтопике

В нормальных ОС есть масса соответствующих программ, там не надо ничего вообще настраивать, кроме разве что разрешения.

У меня например Cloudflare Warp.

1. apt-get install cloudflare-warp;

2. В трее возле часиков toggle на On или Off.

Все.

Никто в здравом уме не будет лезть в какие-то socks или прокси, а минимум зайдут в «скачать vpn бесплатно», или максимум в «как разблокировать квн в России».

Что вообще за привычка решать тривиальные вещи при помощи какого-то жесткого дрочева?

windows10 ★★★★★
()
Ответ на: комментарий от Shadow

Поставь на роутер tinyproxy - он умеет http/https в socks, при этом гораздо легче и меньше privoxy.

Ага, ну и конечно же когда нужен локальный IP - легче открыть URL роутера, залогиниться, открыть вкладку прокси, нажать отключение; чем ПКМ на иконке->Off =)

windows10 ★★★★★
()
Ответ на: комментарий от Shadow

Я хз, tinyproxy.ipk

Судя по нагугленному - дроч. Еще и какую-то OpenWRT зачем-то придется ставить.

Не, это уж точно не нужно.

Я уже молчу за дебильность идеи пересаживания всего дома на один и тот же VPN.

windows10 ★★★★★
()
Последнее исправление: windows10 (всего исправлений: 1)
Ответ на: комментарий от windows10

Никто в здравом уме не будет лезть в какие-то socks или прокси, а минимум зайдут в «скачать vpn бесплатно», или максимум в «как разблокировать квн в России».

Через квн нельзя(либо очень сложно) пустить отдельные сайты. А через прокси тупо правилами в браузере делается. А сокс, потому что http прокси частенько резать начали.

Что вообще за привычка решать тривиальные вещи при помощи какого-то жесткого дрочева?

И начинается дрочево включи\выключи квн при заходе на разные сайты.

Loki13 ★★★★★
()
Ответ на: комментарий от somemong

Ну может, но хром лагает-мигает, а так как у меня недоскрапинг личных кабинетов, то я в процессе ещё и UI браузера использую.

Shadow ★★★★★
() автор топика

Насчёт твоих проблем сказать ничего не могу. Но по поводу мозиллы - она ужасна. Хром это лучшее, что было в истории человечества. За 20 лет использования не встретил в хроме ни одной проблемы. В то время, как от мозиллы начинаю плеваться уже после первой секунды использования.

vbr ★★★★★
()
Последнее исправление: vbr (всего исправлений: 1)
Закрыто добавление комментариев для недавно зарегистрированных пользователей (со score < 50)