LLM - замена мозгу, небольшой опыт

На след №-летие ЛОРА, Максиму нужно вынести предложение написать скрипт, банящий на полгода за словосочетания «нейросеть», «LLM», «ИИ», «gemini», «chatgpt», «grok» и тд.

Реально притомили уже этой затычкой в каждую жопу.

Можно нейросетью анализировать посты, и банить за использование или упоминание нейросети, чтобы нейросеть отслеживала пользователей нейросетей и банила за нейросеть из нейросети через нейросеть, чтобы нейросети шли отсюда сидеть в нейросетях через нейросети, получая сгенерированные ответы нейросетью от нейросети, читая в нейросетях.

несмотря на дурь и несуразицу американской медицины, как-то так получается, что польза есть

Они живы скорее вопреки. Слышал такое выражение «хорошая генетика»? Это оно. Оставь в покое этих счастливчиков, и поразмышляй о тех, кто уже ушёл или стоит на пороге, хотя последнее не всегда очевидно.

Например, много ты видишь мужчин за 60? Женщин таких довольно много, но обрати внимание на их состояние… А проще прогуляться в поликлинику, где как раз тусуются «выжившие», отнюдь не на лыжных курортах или хотя бы в спортивных залах.

Проблема не в медицине, она развивается и это прекрасно, а то, что она основной частью развивается не туда — это нормально, так все делают. Проблема в самой нашей цивилизации и никакая наука проблем с болезнями и ранней смертью не решит никогда по определению.

Вот такая аналогия. Ты доверишь чинить свой автомобиль человеку, который не может его ни разобрать, ни тем более собрать назад?! А здоровье своё доверяешь… Никакие врачи не могут ни разобрать самую маленькую клеточку, ни тем более собрать её назад в живое состояние. Однако эти люди уверенно берутся «лечить» организм, состоящий из миллиардов таких клеток и являющийся системой.

Медицинская наука — это пятилетний ребенок, возомнивший себя способным рулить космическим кораблём. Я не утверждаю, что это плохой ребенок, нет.

«Да, человек смертен, но это было бы еще полбеды. Плохо то, что он внезапно смертен. Вот в чем фокус.»

Да все ништяк с медициной, в смысле, немало она умеет. Но человек же кривой, монолитный, вкусный для бактерий, грибов и паразитов, и к тому же сам старательно лезет в могилу, и других к этому склоняет. Откуда ж тут ждать чудес.

человек же кривой

Вот когда на Марсе начнут жить, вот тогда действительно будет кривой.

Да всегда были.

Какие аргументы?

Пацаны в падике так говорят, которые анатомию и физиологию изучали по-настоящему.

Ещё одни дети, возомнившие о себе…

А чего там пацаны про большой взрыв говорят, он-то хоть удачно бахнул или сразу криво пошло?

Видишь ли, я не против демагогии, но она должна быть либо веселой, либо умной.

А твоя вечная заунывная песнь вокруг «мы не знаем, как возникла вселенная, поэтому и гонорею лечить мы тоже не умеем» - это мгновенно как-то навязло и стало скучным, давно еще.

Пацанам не нравится, что некоторые органы устроены не самым удачным образом, и тому они находят объяснение — эволюция. Она не создаёт заново, а лепит из говна и палок одно поверх другого.

Я правильно понял твой первый посыл?

Теперь объясняю свой. Дети, потому что думают, что сделали бы лучше. Скорее всего и взрыв у них был кривой, иначе дела пошли бы иначе и всё было бы зашибись.

О возникновении вселенной я ещё не начинал.

Ага, правильно.

Дети, потому что думают, что сделали бы лучше.

Дык они так и не думают. Лишь мечтают. И то - не сделать лучше, а влезть в гены поглубже, чтобы хотя бы совсем кривое не вылезало.

Дык они так и не думают.

Если бы не думали, то никогда бы не отзывались о данной архитектуре, как о неудачной.

Лишь мечтают. И то - не сделать лучше, а влезть в гены поглубже, чтобы хотя бы совсем кривое не вылезало.

Здесь, к сожалению, мы в тупике разговора, что касается этих мечтаний. Нельзя сказать, что это надо прекратить, потому что хз, а вдруг. А я могу лишь противопоставить свои убеждения твоим, но мы не узнаем, кто оказался прав.

Я считаю, что это пустая трата времени, однако проблема не в этом, а в том, что подаётся обществу это всё не как, скажем, полет на другой край вселенной, а как уже серьезные шаги в известном и надёжном направлении.

Пример, как раз про гены и чебурашки. Ролик в ютубе, где тётка учёный читает лекцию беременным или около того, о генах и как эти знания можно применить, чтобы дети хорошие получились… Короче, долго вещала про последние открытия, оговариваясь каждый раз, что мы пока с этим или тем ничего поделать не можем, но вот вам пару советов… В результате «мы пока ничего не можем» и кучка советов, которые можно получить от бабулек на скамейке у подъезда совершенно бесплатно.

А чего там пацаны про большой взрыв говорят, он-то хоть удачно бахнул или сразу криво пошло?

Криво конечно. Иначе как объяснить, что вокруг всё через задницу сделано.

Если бы не думали, то никогда бы не отзывались о данной архитектуре, как о неудачной.

Да схреналь.

Ролик в ютубе

Ах, ролик в ютубе. Ты б еще карточку товара на алиэкспрессе предъявил. Ну написано же, что мазь от всего, а я намазался и только чешусь почем зря. Говно эта ваша наука!

Сообщение не читал, но заголовок впечатляет.

Мне кажется это самый главный подвох нейросетей: какая бы она умная не была, сколько бы ресурсов не было, она не может работать самостоятельно и принимать решения, т.к. ее надо постоянно перепроверять.

IMHO LLM лишь галлюцинируют на базе прочитанного в тырнете, а степень их галлюцинаций зависит кривизны промпта?

LLM — это многоуровневый паттерн матчер. Вопросы механистической интерпретации в массовых публикациях обычно не затрагиваются потому, что если бы вы поняли, как она принимает решения, то вы бы упали в обморок на месте. Этот процесс больше похож на студента со шкафом упорядоченных шпаргалок, и на каждый вопрос студент аккуратненько перебирает шпаргалки из каталога.

Другое дело, что нужно ли вам «самостоятельное решение»? В айти всего 4 года назад самым писком моды было копипаста бойлерплейта не приходя в сознание — все процессы разработки были под это заточены. Эдак 90% всех работ — это так называемое bullshit jobs, людей просто занимают для того, чтобы они не шатались по улицам просто так.

на каждый вопрос студент аккуратненько перебирает шпаргалки из каталога.

Именно этим LLM мне и нравится, с одной стороны тупая как пробка, с другой стороны идеальный поиск по чужим шпорам.

Для того, кто понимает написанное в шпорах, - это просто супер инструмент. Для непонимающего - китайская грамота в перемежку с ошибками.

Ну так то оно обучено на наборе данных, который взят в интернете, размечен специальным образом людьми. Данные из интернета взяты из жизненного опыта.

Если ты живешь в дружественных к англосаксам странах второго-третьего мира, то ты можешь поучаствовать в ручной разметке данных и дрессировке нейросетей. Специалистам по IT, химии, математике, медицине платят очень большие деньги за это дело, но даже простым людям платят зараплату мидл разработчика за дрессировку ИИ.

Вызвано это тем, что предел нынешних технологий LLM уже несколько лет как достигнут (у гугла была модель на 400 миллиардов параметров ещё в 2022), всё дальнейшее развитие пока что идёт по пути удешевления, многомодальности (фото, видео, звук), но сами трансформетры и принципы обучения не поменялись.

Галлюцинации это когда модель плохо обучена или работает в некорректном окружении

Галлюцинация — это в принципе единственный способ инференса в LLM. Усовершенствование нейросеток приводит к тому, что точность ответа повышается с 60% до 90%, до 95%, до 99%, но она никогда не сможет со 100% вероятностью дать точный ответ, даже на довольно простой вопрос.

Говно эта ваша наука!

…вчера весь город обегал, плашек три восьмых дюйма достать не мог. Нету. Нет! А трамвай собираются пускать (c)

LLM и local LLM это совершенно два разных мира. В первом случае это серьёзный помощник (сужу по google AI studio), во втором баловство на уровне минимальных задач подстановки ФИО и склонений в письмах

написать скрипт, банящий на полгода

А вот консольные команды без оформления можно и сразу не пропускать.

принимать решения вместо меня

Принимать решение придётся тебе, и выдавать агенту задания, потом проверять и выбирать. Поэтому творчество - это про людей. А мозгозаменитель - это инструмент, которым надо уметь пользоваться.

На след №-летие ЛОРА, Максиму нужно вынести предложение написать скрипт, банящий на полгода за словосочетания «нейросеть», «LLM», «ИИ», «gemini», «chatgpt», «grok» и тд.

Ага, и поручить эту работу LLM.

Эдак 90% всех работ — это так называемое bullshit jobs, людей просто занимают для того, чтобы они не шатались по улицам просто так.

А за чей счёт этот банкет?

Ага, и поручить эту работу LLM.

Можно просто grep'у =)

А за чей счёт этот банкет?

За счёт роботов. Вот Маркс мерял работу человекочасами — а что делать, если всю работу делают роботы? Кому должны ресурсы при этом доставаться? ChatGPT?

То есть по вашему вся эта суета вокруг agentic AI - бред сивой кобылы?

Ага, на сегодня это точно бредогенератор и просто чуть прокаченный фильтр данных. Не вижу фундаментальных причин бояться что он сможет действительно решить какую-то стоящую проблему, но вот в перспективе глючить скорее всего будет еще больше, т.к. качество материала, на который опирается ИИ, будет падать в связи с падением качества «специалистов из реального мира» (это как «снежный ком» будет).

Сейчас уже звучат слова, требующие чтобы учителя не опирались на домашнее задание, т.к. эта практика не действенна из-за использования школьниками ИИ (распознать при том кто/что делало домашку - тоже не вариант)… И скоро эти «молодые» специалисты попадут в наш мир - тут думаю много разъяснять не стоит что к чему…

Я вам только один пример приведу, то, с чем вчера работал. Необходимо повысить точность декодирования кубитов, используется для этого нейронная сеть. На начальном этапе данных нет вообще, все кубиты в производстве уникальны, поэтому генерируется набор искусственных данных с характеристиками дистанции для кода, скажем 5. После этого нейронка обучается и натравливается на декодер. Теперь данные начинают поступать реальные, от измерений. Делим кубиты на секции, в одной секции выполняем считывание со старыми параметрами, а в другой - доучиваем нейронку. Время от времени синхронизируем. Оказалось, что точность декодирования начинает улучшаться нелинейно и тем быстрее, чем больше дистанция. Для больших дистанций, порядка 11, появляется плато, но уже сейчас можно говорить про улучшение декодера более чем на порядок.

Это я рассказал то, что можно сказать на открытом форуме. Удачи в вашей борьбе! Повторяется история с кибернетикой, пока вы боретесь с ветряными мельницами, наш Президент подписывает указ о координированном использовании и сборе данных национального масштаба для обучения систем во всех областях науки с бюджетом примерно два триллиона.

Повторяется история с кибернетикой

ИИ - продажная девка… эээ… запада!

Довольно стремно они с агентной работой справляются судя по всему. Большой промт вообще сразу сильно ухудшает качество ответа, даже на топовых моделях.

продажная девка… эээ… запада!

Какого запада? Империализма! Совсем уже классику забыли, а ещё хотят называться домом высокой культуры быта!