LINUX.ORG.RU
ФорумTalks

Посоветуйте что можно опубликовать

 , , , ,


1

2

Планирую создать публикацию, идея простая - брутфорсом перебираю доменные имена сайтов, жду ответ от днс сервера, если есть айпи пишу в базу данных связку доменное имя и айпи. После завершения будет база данных из которой можно посмотреть имена сайтов. Можно конечно поискать в ней смешные имена и маты на английском или на транслите. На досуге можно будет посерфить эти сайты, потому что мои сайты на которые я хожу уже стали заезженными. Что ещё можно сделать с этим?

Перемещено dataman из general



Последнее исправление: doomer (всего исправлений: 1)
Ответ на: комментарий от dataman

Как грубо, но можно например сделать кнопку рандомный сайт как случайная публикация на Википедии

doomer
() автор топика

Что ещё можно сделать с этим?

Забить.

devl547 ★★★★★
()
  1. Брутфорсом нет смысла перебирать чтобы получить список всех доменов - есть платные списки (20 в месяц вместе с cctld) или бесплатный икан czds, без cctld но основные зоны большие получишь. Могу скинуть первое или второе, если нужно.

  2. Для резолва https://github.com/blechschmidt/massdns

  3. Будет интересно, но вряд ли у тебя есть ресурсы (и доменов меньше) https://commoncrawl.org/blog/august-2026-crawl-archive-now-available

Файл всех доменов могу залить куда-нибудь разово.

anonymous
()
Ответ на: комментарий от anonymous
  1. Можно ещё смотреть лог всех выпущенных сертификатов и тоже его парсить. Но это имеет смысл только для сабов, потому что домены у нас и так есть из пункта 1.
anonymous
()
Ответ на: комментарий от doomer

Как грубо

Я не про наждачку, а про нескучные обои.
На которых будут:

смешные имена и маты на английском или на транслите

dataman ★★★★★
()

И чтобы ты понимал объем - в интернете всего зарегистрировано сейчас чуть меньше 350млн доменов. Это немного для обработки, но вручную какие то там смешные названия искать - бред. Надо брать CC и юзать :) но дорого выходит.

Кстати тут @KivApple свой семаграм когда делал, вроде его юзал.

anonymous
()
Ответ на: комментарий от yars068

Эта кнопка переходила на первую ссылку из поисковой выдачи вместо показывания поисковой выдачи.

firkax ★★★★★
()
Последнее исправление: firkax (всего исправлений: 1)
Ответ на: комментарий от doomer

Ради интереса посмотрел в своей базе самые длинные имена, актуально на 19 августа:

shipcontentforhumanseverywhereacrosstheentireuniversewithvercel.international

И

onthemostinsanefullqualifieddomainnamethathaseverbeenregistered.international

Удачи с перебором.

anonymous
()
Ответ на: комментарий от peregrine

Да, как 8.8.8.8 работает… Это невозможно же

Ты не видишь разницы между кэширующим dns и трансфером зоны?

router ★★★★★
()
Ответ на: комментарий от router

Записи, которые скрыты принципиально, ты не подберёшь, а всё остальное собирается через сканирование, логи сертификатов, пассивный DNS (привет клаудфлару, кратору и что там в рунете осталось), файлы зон.

peregrine ★★★★★
()
Ответ на: комментарий от peregrine

Я не очень понимаю, как можно в соседнем треде обсуждать енумы, а в другом писать о том что не понимаешь как работает днс.

anonymous
()
Ответ на: комментарий от peregrine

склонировать DNS

собирается через сканирование, логи сертификатов, пассивный DNS (привет клаудфлару, кратору и что там в рунете осталось), файлы зон.

anonymous
()
Ответ на: комментарий от anonymous

Легко. Я понимаю сложность брутфорса адресов, а вот все кто с серьёзными мордами решили так искать DNS-записи, ну удачи. Если что, сканирование делают по словарям, для типовых адресов, вроде: superadmin.mysite.com и то когда нашли mysite.com

peregrine ★★★★★
()
Последнее исправление: peregrine (всего исправлений: 1)
Ответ на: комментарий от peregrine

Я не знаю, кто тут кроме опа собрался что-то брутфорсить. Чуть выше есть мой комментарий про czds и остальное.

anonymous
()
Ответ на: комментарий от anonymous

А как ты думаешь они эти списки получают? По словарикам и покупают у некоторых доменных зон или друг у друга. Но я почему-то уверен, что скоро проблема ТС-а отпадёт сама собой. Сделают тебе централизованный DNS со всеми 40 сайтами из белого списка, а остальные отключат.

peregrine ★★★★★
()
Последнее исправление: peregrine (всего исправлений: 2)
Ответ на: комментарий от peregrine

А как ты думаешь они эти списки получают?

Я зарегистрировался в icann и получил. Cctld там нет, с ними сложнее.

anonymous
()
Ответ на: комментарий от peregrine

Закусывать надо.

https://czds.icann.org/

Конкретно оттуда у меня (статистика слегка устаревшая)

Total zones: 1,015

Total domains: 251,560,485

Причем там не только сами домены, но и файлы зон.

anonymous
()
Ответ на: комментарий от anonymous

Завтра Координационный центр (подчиняющийся РФ) скажет что ничего не передаст ICANN и у ICANN не будет ни одной актуальной записи про состояние рунета. Я бы, кстати, давно так поступил, челикам из РКН на заметку. Сразу будет чебурнет, и ICANN будет в этом виноват, т.к. захочет знать что там уровнем ниже и будет послан. А дальше у него 2 варианта — зоны рунета перестают продаваться где ты их купил или он блокирует зону RU и та сама объявляет себя корневым центом.

peregrine ★★★★★
()
Последнее исправление: peregrine (всего исправлений: 1)
Ответ на: комментарий от peregrine

Ну ты действительно пьяный? Я ведь два раза написал, что в czds нет cctld, к чему эти рассуждения?

Не вижу смысла дальше здесь что-то писать.

anonymous
()
Ответ на: комментарий от doomer

Что ещё можно сделать с этим?

продавать историю. Например история whois вполне продается.

Самое смешное днс запрос работает при белых списках

и это вполне эксплуатируется.

MirandaUser2 ★★
()

Так начинался гугл… Но на третий день они поняли, что не успевают покупать харддиски…

andytux ★★★★★
()

можно искать оптимальные для разных задач. Например «для печатания ping с наименьшим перемещением руки»

ping g.gg

Обычно оно пингуется, но лет 6 назад долго лежало, но теперь похоже переехало на cloudflare и пингуется как прежде

GPFault ★★★★
()
Последнее исправление: GPFault (всего исправлений: 1)

Что ещё можно сделать с этим?

Попробуй девушку найти. Говорят, помогает.

CrX ★★★★★
()

Лучше к ЕГЭ готовься.

seiken ★★★★★
()

Зря вы все так накинулись на ТС.

Да, формулировка того, что он хочет сделать детская и в целом ни о чем, но сама проблема уже стоит в полный рост. Мы видим только то, что есть на первой странице пары поисковиков. Огромный пласт информации ушел на дно. Иногда даже приходится переключаться на тот же дакдакго не потому, что он лучше ищет, а потому, что он предлагает незаезженные сайты, просто более бедная, но другая база поиска.

Понятно, что информации в вебе больше, чем способен переварить любой компьютер, поэтому это может быть только распределенная система, размазанная по миллионам пользователей. Что то типа матрикс, где каждый комп держит свой маленький сегмент индекса веба и может отвечать на поисковые запросы в этом индексе. Индексы пересекаются, дублируются, но в целом сеть даст возможность копнуть гораздо глубже.

Как побочный эффект, такой проект может отнять монополию на информацию у поисковиках с их конфликтом интересов по впариванию рекламы вместо реальных ответов на запросы.

usermod
()
Ответ на: комментарий от usermod

Что то типа матрикс, где каждый комп держит свой маленький сегмент индекса веба

Учитывая что сейчас все федеральные провайдеры подменяют DNS запросы (для борьбы с квн), на этот ваш сегмент сразу получите уголовную статью.

Lordwind ★★★★★
()

Ужасная идея.

Большинство доменов не будет существовать, а время перебора быстро приблизится к тысячам лет при росте количества букв.

Лучше возьми индекс common crawl и выдери оттуда уникальные доменные имена. Как минимум будет фильтр, что домен существует и там есть контент.

Ещё есть вариант парсить аукционы по истекшим доменам. Правда, там доступа к контенту нет (домен уже истёк и сайт умер), но там тоже может быть что-то интересное (плюс можно чекнуть через wayback machine, что там было).

Брутфорсить перебором всех букв мертворожденная идея. Но если её делать, то хотя бы словарным перебором. И всё равно считаю, что фигня. Парсинг каталогов даст больше.

KivApple ★★★★★
()
Ответ на: комментарий от anonymous

Будет интересно, но вряд ли у тебя есть ресурсы

Да какие ресурсы. Можно потоково обрабатывать без сохранения на диск, трафик на кабельном Интернете часто безлимитный, либо можно арендовать VPS с безлимитным трафиком.

Я перемолотил несколько терабайт за неделю тупо на ноутбуке и домашнем Интернете, когда искал t.me ссылки для своего semagram.io.

Платишь по сути только временем.

KivApple ★★★★★
()
Последнее исправление: KivApple (всего исправлений: 1)
Ответ на: комментарий от anonymous

Да. На таком объёме 99% доменов мусор, на большей части из которого даже контента нет. И кнопка «случайный домен» будет открывать либо парковочную страницу, либо вообще таймаут подключения.

Тут нужно какой-то ML классификатор прикручивать определяющий «интересность» домена.

Правда, точность будет низкая не зная контента, а даже просто сделать 350 миллионов HTTP запросов (значительная часть которых упрется в timeout) это достаточно ресурсозатратно.

И опять же лучше чтобы мы домены брали из каких-то индексов. Если на домен есть ссылки, если туда смог дойти паук, то это сигнал значительно повышающий шанс чего-то интересного.

KivApple ★★★★★
()
Последнее исправление: KivApple (всего исправлений: 3)
Ответ на: комментарий от usermod

Мы видим только то, что есть на первой странице пары поисковиков. Огромный пласт информации ушел на дно

Какая из нужной ушедшей на дно инфы не доступна из ЛЛМ’ок?

seiken ★★★★★
()

брутфорсом перебираю доменные имена сайтов

Ха-ха-хааа!

lomaster
()

брутфорсом перебираю доменные имена сайтов

Старый анекдот «что тут думать, трясти надо!» на современный лад.

Dimez ★★★★★
()
Последнее исправление: Dimez (всего исправлений: 1)
Ответ на: комментарий от peregrine

Но я почему-то уверен, что скоро проблема ТС-а отпадёт сама собой. Сделают тебе централизованный DNS со всеми 40 сайтами из белого списка, а остальные отключат.

Ты понемногу превращаешься в https://i-a.drive-data.ru/aoAAAgJ6EuA-1920.jpg, не надо так.

Dimez ★★★★★
()
Вы не можете добавлять комментарии в эту тему: только для зарегистрированных, score>=50.