Когда деградация ИИ-шечки придёт в равновесие с деградацией человеков?

И кто же менее мусорное будет отделять от более мусорного ради интернет-2?

Придётся человекам попотеть. Сейчас же вполне себе человеки определяют, какие тырнет-адреса блокировать в рунете, а какие - нет ;)

Не будут они потеть, пока в интернетах есть маркетолухи и деньги. Именно приход этих сущностей привёл к тому, что интернет из полезных материалов превратился в кучу повторяющегося шлака и рекламы.

Вот, я и предполагаю, что в результате деградации обоих интеллектов, естественных и нет, денег в интернетах не останется.

Почему? Всякие маркетплейсы и прочее будут жить и процветать.

Ты забываешь, что интернет в текущей его реалии это уже не заложенная в 1960х мечта о доступности по всему миру знаний, это просто отмыв бабла и развод лохов.

Я предполагаю, что продавцы разучатся продавать, а покупатели - покупать. Спрос - фикция, виртуальные продавцы и виртуальные покупатели заполонят виртуальные магазины с виртуальными товарами. В этом потоке мусора реальный покупатель попросту не найдёт реального продавца. Да и деньги, съест инфляция, в реале все обратно на бартер перейдут. Гвозди нужны? Давай, я тебе полбуханки хлеба, ты мне полкило гвоздей.

Да не, не будет такого.

В некоторых африканских странах уже случалось.

маркетолухи и деньги. Именно приход этих сущностей привёл к тому, что интернет из полезных материалов превратился в кучу повторяющегося шлака и рекламы.

Получается чтобы было хорошо в интернете/образовании/медицине/макдональдсе.. нужно чтобы оно существовало без денег и маркетологов, а как побочный продукт военки.

Не то чтобы «чтобы было хорошо», а ИИ вносит отрицательную обратную связь, купировать которую пока не удаётся.

Да всё это купируется, реальные серьёзные ИИ-ки никто не кормит случайным мусором из интернета, его там фильтруют предварительно.

А как они могут отличить то, что сгенерировано человеками от того, что сгенерировано ИИ-шечкой? Никак.

А как они могут отличить то, что сгенерировано человеками от того, что сгенерировано ИИ-шечкой? Никак.

А зачем им отличать? Человеки тоже могут бред поставлять. Нужно отличать качественную информацию от некачественной. Например инфу о вебтехнологиях надо брать не с лорчика, где только «не нужно», а из официальных сайтов и документации)

Купили как-то суровым сибирским лесорубам японскую бензопилу.
Собрались в кружок лесорубы, решили ее испытать.
Завели ее, подсунули ей деревце.
«Вжик» — сказала японская пила.
«У, бля...» — сказали лесорубы.
Подсунули ей деревце потолще. «Вж-ж-жик!» — сказала пила.
«Ух, бля!» — сказали лесорубы.
Подсунули ей толстенный кедр. «ВЖ-Ж-Ж-Ж-Ж-Ж-Ж-ЖИК!!!» — сказала пила.
«Ух ты, бля!!» — сказали лесорубы.
Подсунули ей железный лом. «КРЯК!» — сказала пила.
«Ага, бля!!!» — укоризненно сказали суровые сибирские лесорубы! И ушли рубить лес топорами…

Мне почему то вспомнился этот анекдот. К чему бы это.

А им инфы жёстко не хватает. Поэтому, они хватаются за любую, в том числе и ЛОРчик.

Чем обширнее тренировочная база данных, тем лучшие результаты демонстрирует обученная на ней генеративная модель. Однако время эффективного роста таких баз, когда условное качество натасканного на них ИИ оказывалось пропорционально их объёму, судя по всему, уже прошло. Хотя где-то наверняка можно ещё отыскать, если постараться, неоцифрованную оригинальную информацию по неким специфическим направлениям (тексты на вымерших языках, узкоспециализированные научные труды полувековой и более давности, творения непризнанных литераторов и т. д.), ценность её для тренировки актуальных ИИ сомнительна. Есть ещё проприетарные базы данных крупных корпораций, но, поскольку все подобные структуры — Amazon, Google, Microsoft и проч. — так или иначе уже вовлечены в ИИ-гонку, информация из этих баз уже в значительной мере используется для тренировки проприетарных же БЯМ. А затем опосредованно — через порождаемые теми генерации — всё равно проникает в Интернет, после чего неизбежно идёт на корм другим ИИ: соответствующие краулеры трудятся без устали, невзирая на любые технические или легальные попытки ограничить их активность. Хотя попытки такие не прекращаются: то японское правительство направило недавно OpenAI формальный запрос на ограничение использования защищённых авторским правом персонажей аниме и видеоигр для тренировки Sora 2 (уж слишком убедительно напрыгивает на грибы генеративный Марио!), то против Apple Intelligence выдвигают обвинение в незаконном обучении на пиратским образом оцифрованных книгах, — и подобных новостей каждый месяц набирается с десяток, не меньше.

Так что действительно, похоже, весь массив данных, на котором в принципе имеет смысл обучать генеративные модели, уже целиком и полностью пущен в ход, да вдобавок и не по одному разу. Такое мнение высказал Нима Рафаэль (Neema Raphael), глава подразделения инжиниринга данных в Goldman Sachs: «У нас уже закончились данные. Мы исчерпали всё, что доступно в Сети». Аналитик подозревает, что низкая себестоимость нашумевшей китайской БЯМ DeepSeek, к примеру, может объясняться как раз тем, что для её тренировки не собирали по старинке вручную оригинальные (созданные людьми) источники, а догенерировали необходимый объём информации сверх некоторого предварительно накопленного минимума, обратившись к уже действовавшим на то время другим генеративным моделям.

Вообще весь текст бредовый. Какие мертвые языки, нафига было упоминать персонажей аниме? Абы что писать. Ну возможно (возможно) всю качественную инфу уже запихнули в БЯМ, значит ли это, что «инфы жестко не хватает»? Это означает лишь, что всю инфу уже запихнули. Если инфы по чему-то нету в нормальных источниках, может и хрен с ним, этими знаниями, вот нашел в стиле уже притащеного сюда анекдота про лесорубов, как русские эксперты проверяют интеллект модели с помощью вопроса, как надеть свитер, чтобы можно было срать не снимая штаны

Ну допустим есть проблема, но без скепсиса это воспринимать стоит, когда остановится прогресс с LLM.

Но ведь прогресс не только в количестве данных. Это вообще очень молодая технология, если брать с уровня массовости применения, а не создания логических нейронов. Те же общедоступные сейчас развиваются так, что разница видна невооруженным взглядом тем, кто ими пользуется.

Причем основной прогресс вообще был при появлении нужного оборудования, а не логики. А логику еще развивать и развивать теперь.

DeepSeek

догенерировали необходимый объём информации

Догенерировали тут не то слово, тут в китайской манере сп-ли знания другой модели, которую обучили нормально. Не потому что не хватило инфы для обучения, а чтобы не вкладываться в сбор информации, а скопировать готовое.

Если инфы по чему-то нету в нормальных источниках, может и хрен с ним, этими знаниями, вот нашел в стиле уже притащеного сюда анекдота про лесорубо

Тут проблема в том, чтоб, грубо говоря, дабы ИИ-шечка на вопрос «сколько будет дважды два?» выдавала «4», это «дважды два - четыре», должно ей встретиться сто тыщ раз. Одного-единственного упоминания в википедии сугубо недостаточно. Поэтому, каждую достоверную инфу надо сгенерировать сто тыщ раз, и скормить ИИшечке.

Но ведь прогресс не только в количестве данных.

Ну естественно

основной прогресс вообще был при появлении нужного оборудования

И еще будет

А логику еще развивать и развивать

И это тоже. И инструментарий, LLM пока не умеет пользоваться дебаггером.

Вот openai хочет сделать суперапп, который будут открывать вместо тиктока и соцсетей, и залипать в нем целый день. С покупками. Меня вот больше волнует деградация человеков связаная с этим, а не с обучением иишки на иишке)

Но, это уже приводит к тому, что тырнет полнится заведомо неверными данными

Так, уже и до ии, это случилось.

А как они могут отличить то, что сгенерировано человеками от того, что сгенерировано ИИ-шечкой?

Методами машинного обучения, лол. Это легко решается.

Методами машинного обучения, лол. Это легко решается.

Ну-ну. Решайте.

<Анекдот про Чапаева и колодец>

когда остановится прогресс с LLM

А он продолжается? Как будто бы очень сильно замедлился.

А он продолжается?

Да. С тем, что сталкивался лично, не так давно вышедшая Sonnet 4.5 таки прогресс. Ну и GPT-5, хоть от него ожидали большего. OpenAi пишут, что они пытались сделать недорогую модель (читай менее ресурсоемкую), можно конечно сказать, что просто не осилили более умную) Но с мощностями действительно проблема. Скоро будет новая модель от Гугла.

интернет из полезных материалов превратился

Это когда интернет был полон полезных материалов? Всегда были крупицы полезного(которое на форумах искали) и куча разного рода порнухи. Из действительно полезного был MSDN(и скатился в шлак из-за индусов, а не из-за интернета), тот, старого образца. А форумы типа xda, 4pda и сейчас остались, и даже меньше этой информации не стало, просто шлака больше стало. Единственная проблема, что с ростом интернета не выросло количество полезного кратно росту, но и меньше не стало.

Человек, который использует продукт т.н. «ИИ» уже деградировал окончательно. Сама использование термина «ИИ» в отношении нейросеточек - уже само по себе признак деградации. Так что нет, никакого роста деградации человеков не будет, она уже произошла.

Поскольку нынешнее поколение учится на этих ваших интернетах, каждое последующее будет всё тупее и тупее, потому что тупеет сам интернет. Ессно, в какой-то момент человечество отбросит интернет как помойку, и начнёт учиться на старых добрых рефератах в бумажной библиотеке (если к тому времени бумажные библиотеки останутся), но сколько времени пройдёт? 30 лет? Или, всё-таки, 60?

Бред какой-то, сейчас самое лучшее время чему-либо учиться, ведь через интернет есть доступ практически к любым учебникам, лекциям, статьям, пересказам и объяснениям. Ну да, надо пытаться разбираться нормальный источник или нет, но это надо делать всегда. Но это нужно делать и при заходе в библиотеку. Если какой-то высер горе-профессора, просиживающего штаны за бюджетные деньги, напечатали на бумаге потому что есть квота по публикации книг, это не превращает высер в учебник. Ну и я вангую, ещё не все напр. учебники по экономике времен совка сожгли на помойке.

сейчас самое лучшее время чему-либо учиться

и это время в России где-то с середины нулевых, т.е. 20 лет, а на Западе от 30 до 40 лет. Что-то за это время уровень интеллекта человечества не подрос. ЧСХ, антиваксерские протесты охватили именно развитые, а не развивающиеся, страны.

Это примерно как в древнем Риме - римляне понапридумывали много полезных технических штук, но промышленную революцию сделать не смогли, и варварские королевства попросту всё отбросили за ненадобностью.

Да, сейчас самое лучшее время чему-либо учиться, но никто не учится, и курьеры, и порнозвёзды, зарабатывают больше какого-нибудь учёного средней руки. И детей оставить гораздо больше шансов у порнозвезды, чем у учёного средней руки. Т.е. интеллект не приносит социальных выгод.

У тебя оч много пространных заявлений про уровень интеллекта человечества и среднюю зарплату порнозвёзд, но ни одного конкретного числа или источника.

Можно посмотреть например на Glassdoor ЗП учёного-исследователя в США - в районе $9000/мес. Если погуглить средний заработок например на онлифанс, получается почему-то всего $150-180 долл/мес. Т.е. разница в 50 раз.

Или ты сравниваешь ЗП топ 1% вебкамщиц с сотрудником НИИ Зажопинска, которое существует в основном как форма соц. обеспечения?

Ну и так, за последние 30-40 лет много чего было изобретено похлеще научной фантастики, да и науку сейчас много где двигают энтузиасты из дома.

Можно посмотреть например на Glassdoor ЗП учёного-исследователя в США - в районе $9000/мес.

А у нас учёные только в США живут? А вот порнозвёзды - по всему миру.

да и науку сейчас много где двигают энтузиасты из дома.

на чистом энтузиазме и без денег, да. А вот порнозвёзды обладают, хм, популярностью в социуме.

Ты про антиваксеров завёл, поэтому я подумал что США. Ну в общем дай конкретики, без неё это просто нытьё и дискутировать не о чем.

Только сразу ещё раз скажу, нет смысла говорить про ЗП учёных в РФ, Уганде и пр. Обычно наука финансируется или гос-вом, или высокотехнологичным бизнесом. В РФ первые не хотят, а вторые вырезаны первым. Как и нет смысла хвалить Северную Корею за отсутствие протестов.

Ты про антиваксеров завёл, поэтому я подумал что США

А в России их не было? Или в Европе?

Обычно наука финансируется или гос-вом, или высокотехнологичным бизнесом. В РФ первые не хотят

Так, наука в загоне не только в России. Она, в целом, дай бог, в десяти странах хорошо финансируется. Порнозвёзды и курьеры же выиграли в целом по миру.

Да, молодежь уже не та пошла. Мы в их годы в библиотеки вручную ходили, а не этот вот все. И никаких телефонов. И компьютер был один. На всю страну. В столице. Тупеет молодежь..

В огороде бузина, а в Киеве геранька. Аналогии не получилось у тебя.

Я вообще-то про то, что во все времена сызмальства дети учатся каку в рот не тащить. :) А если кто-то уже в сознательном возрасте придумывает какие-то отмазки чтобы прилюдно наестся откровенного говнеца, да ещё и выдаёт это за нечто модное-крутое и призывает других тоже попробовать, то это просто сумасшедший, копрофаг, место которму в психушке. Так же и «пользователи ИИ».

Совершенно неважно какая вычислительная мощность у тебя в кармане. Это количество принципиально не может перерасти в качество в обсуждаемой области. Если ты тупорылые нейросеточки называешь «ИИ» и употребляешь результат их работы - то ты ничем не лучше копрофага. Особенно, если выдаёшь это своё психическое отклонение за нечто модное и трендовое.

Вообще ситуация офигенная, как по мне. С одной стороны ИИшки позволяют сделать то, что я не мог бы сделать еще годами или вообще никогда, а с другой стороны профессионалы только ноют, не умеют пользоваться ИИшками и снижают свой конкурентный коэффициент относительно меня. Потому что отрицают ИИ и опираются только на свои знания. Жаль не все. Ну или настоящие профессионалы заняты делом и я их просто не вижу в этих общедоступных местах, где все только ноют.

Плохо чтоли? Ну классно же.

Полностью поддерживаю! Не пользуйся «ИИ». И всех так научи.

Флаг в руки, барабан на шею. Только занимайтесь своей копрофагией не в публичных местах.

Проблема в том, что этот луддизм - только на старте технологии. Молодежь то тоже не дебилы и все поголовно уже всем этим пользуются.

В итоге конкуренты отваливаются только среди древних дедов, которые не хотят учиться новому. А сзади уже подпирают молодые и умные.

У вас гигиена и поддержание чистоты считаются луддизмом? Ну ОК.

Да какая разница как ты это называешь? Вопрос в том, кто кроме меня может создавать продукт в конечном итоге. То есть в количестве конкуренции.

Я то всеми руками «ЗА», чтобы ты этим не пользовался. И не только ты, а как можно большее количество народа.

Вопрос в том, кто кроме меня может создавать продукт в конечном итоге.

Производство продукта тоже подчиняется закону garbage in - garbage out. Если ты делаешь свой продукт из говна, то ничем кроме говна твой продукт являться не может, в каую упаковку его не заворачивай. Только такие же копрофаги как ты и будут твой продукт потреблять. Такая себе, конечно, целевая аудитория.