LLM - замена мозгу, небольшой опыт

принимать решения вместо меня

того чела, который тебя страстно обнимает, попроси. Наверняка он справится.

Ну так то да)))

какая модель может самостоятельно работать в агентном режиме, принимать решения вместо меня

Мне кажется это самый главный подвох нейросетей: какая бы она умная не была, сколько бы ресурсов не было, она не может работать самостоятельно и принимать решения, т.к. ее надо постоянно перепроверять.

какая бы она умная не была, сколько бы ресурсов не было, она не может работать самостоятельно и принимать решения, т.к. ее надо постоянно перепроверять.

Ну, прямо как живого человека!

Живому человеку можно указать директиву «Работай нормально, пёс» подкреплённую ударом ремнём по жопе, что теоретически может повысить его качество работы. А с нейросетью такое точно не сработает.

LLM - замена мозгу, небольшой опыт

За уровнем пива в организме умеет следить? Когда подзаправиться, а когда отлить.

что теоретически может повысить его качество работы

теоретически, может.

Мне кажется это самый главный подвох нейросетей: какая бы она умная не была, сколько бы ресурсов не было, она не может работать самостоятельно и принимать решения, т.к. ее надо постоянно перепроверять.

IMHO LLM лишь галлюцинируют на базе прочитанного в тырнете, а степень их галлюцинаций зависит кривизны промпта?

принимать решения вместо меня

Ну вот они и принимают. А то что тебе не нравится результат это твои проблемы. Голову лечи, а не модель.

LLM – это китайская комната.

Это прям находка для Вишмастера: ты не просил, чтобы решения были адекватными, эффективными и полезными :)

она не может работать самостоятельно и принимать решения

Возрадуемся же тому, что мы, мясные существа с мокрыми жирными мозгами, пока еще немножко нужны.

Возрадуемся же тому, что мы, мясные существа с мокрыми жирными мозгами, пока еще немножко нужны.

У тебя же на аве мозги не мясные?

Совсем тебе голову сдавило, я смотрю. Последние каменты - какой-то сплошной сигнал sos.

Совсем тебе голову сдавило, я смотрю. Последние каменты - какой-то сплошной сигнал sos.

Галлюцинируешь как обычно?

IMHO LLM лишь галлюцинируют на базе прочитанного в тырнете, а степень их галлюцинаций зависит кривизны промпта?

Вот слышал сейчас один спикер то же утверждал что LLM на основе прочитанного в интернете..

Ну так то оно обучено на наборе данных, который взят в интернете, размечен специальным образом людьми. Данные из интернета взяты из жизненного опыта. Ну а назвать галлюцинациями можно всё. То что выдаёт модель, если она правильно настроена - связанный текст, например код, который работает всё чаще с первого раза. Так что это не первое что можно назвать галлюцинациями. Галлюцинации это когда модель плохо обучена или работает в некорректном окружении

Ну вот они и принимают. А то что тебе не нравится результат это твои проблемы. Голову лечи, а не модель.

Да мне то всё нравится. Хотелось бы разгрузить на локальную модель часть работы, в перспективе.

Нет же, по ним прям видно, как тебе херово.

Языковая модель моделирует язык (внезапно), поэтому галлюцинации - это нормальный режим работы. Иногда правильные ответы это скорее прикольный сайд-эффект от разрастания размеров модели.

В языках если есть вопрос, значит за ним зачастую следует ответ. Даже если вопрос безумный, или модель никогда не сможет дать на него правильный ответ, за вопросом почти всегда следует ответ, поэтому она его даст. Если её спросить про ISBN книги, она сгенерирует ISBN, пускай случайный, ведь ответом на такой запрос практически всегда будет ISBN. Все модели до сих пор с серьёзной миной считают буквы в предложениях, хотя для них это невозможная задача (из-за токенизации), и почти любая модель признается в этом, но только если спросить :)

Никакой логикой, мышлением и т.п. так никогда не пахло, это тупая матрица вероятностей. Пускать такое добро в свободное плаванье опасно, уже есть куча историй успеха в виде удалённых баз в продакшене и т.п.

Ждём на ЛОРе врачей с такими же запросами.

Никакой логикой, мышлением и т.п. так никогда не пахло, это тупая матрица вероятностей. Пускать такое добро в свободное плаванье опасно, уже есть куча историй успеха в виде удалённых баз в продакшене и т.п.

Однако если посмотреть на то, как работает Grok, то зайчатки логики у него есть, но очевидно, они описаны не в виде LLM, а неким императивным алгоритмом, который периодически дёргает LLM для получения очередной дозы галюнов для гугления.

Меня волнует вопрос, какая модель может самостоятельно работать в агентном режиме, принимать решения вместо меня.

Два болвана из «Вовки в Тридевятом царстве». Но есть нюанс.

Я как-то был у психо-терапевта. Было это хрен знает, когда, но, видимо, когда советская медицинская школа уже стала разваливаться, и в поликлиники стали набирать деревню с окраин, которая даже по-русски не особо говорила. Девочка задала пару вопросов, потом стала что-то искать в здоровенном талмуде (но не про Яхву, а про медицину), потом пошла что-то спрашивать к старшему коллеге. В результате выписала какие-то таблетки. После этого визита я решил, что лучше буду здоровым, и тогда таблетки покупать, и тем более пить, не нужно.

К чему это я? К тому, что такую медицину LLM вряд ли испортит.

я решил, что лучше буду здоровым, и тогда таблетки покупать, и тем более пить, не нужно.

А ещё говорят, медицина не помогает ;)

После этого визита я решил, что лучше буду здоровым, и тогда таблетки покупать, и тем более пить, не нужно.

Слова мужчины 🤝

Я сам недавно бодался с жестоким тревожно-фобическим расстройством почти без таблеток и с помощью правильной книги, и потом таки дошёл до психотерапевта… После разговора с ним, я понял, что дальше сам и принял единственно правильное решение — прекратить болеть совсем и душевно, и физически.

Мне кажется это самый главный подвох нейросетей: какая бы она умная не была, сколько бы ресурсов не было, она не может работать самостоятельно и принимать решения

То есть по вашему вся эта суета вокруг agentic AI - бред сивой кобылы?

IMHO LLM лишь галлюцинируют на базе прочитанного в тырнете,

Если бы это было правдой, такие компании как Google, Microsoft, OpenAI и Anthropic не покупали бы графические карты еще неостывшими с фабрик TSMC, а нашли бы лучшее применение своим деньгам.

Я полностью согласен со всем сказанным вот до этого момента «Пускать такое добро в свободное плаванье опасно». Опасно, если подконтрольно. А если умеючи, то это даёт конкурентное преимущество со всеми вытекающими. А если сейчас упустить, то конкуренты получат преимущество также со всеми вытекающими.

Вывод: Не делай глупостей, но и не хлопай ушами. Впрочем, всё как всегда.

Я как-то был у психо-терапевта.

Девочка задала пару вопросов, потом стала что-то искать в здоровенном талмуде …, потом пошла что-то спрашивать к старшему коллеге.

В результате выписала какие-то таблетки.

У меня для вас несколько плохих новостей. Во-первых психотерапевт обычно таблетки не выписывает. Во-вторых, раз нужна консультация старших товарищей, а книга полноты картины не добавили, возможно случай ваш непростой. В-третьих, ошибки психиатров дорого могут обойтись пациенту, тут лучше перебдеть, хуже уже не будет.

Шучу-шучу. Не обижайтесь. Вы сами подставились, я только комментирую.

Во-первых психотерапевт обычно таблетки не выписывает.

Так в том-то и дело.

А с нейросетью такое точно не сработает.

Вы абсолютно правы! © ChatGPT

психотерапевт обычно таблетки не выписывает

Ну прям.

психотерапевт обычно таблетки не выписывает

Ну прям.

Психотерапия имеет неформальное шуточное определение «лечение разговорами». Медикаментозным лечением психических заболеваний занимается психиатр.

Имхо нынче все полюбили прописать чего-нибудь хотя бы по мелочи. Впрочем, не могу спорить и не буду, может, это действительно нечастое явление.

Психотерапия имеет неформальное шуточное определение «лечение разговорами».

Вы спутали с психотерапевта с психологом. И да, первый выписывает таблеточки, но не те, что психиатр, второму не позволено.

Нет, ничего я не путал. Психолог - вообще не доктор.

У них это называлось экспертными системами и было уже давно, хотя совсем прямой аналогии конечно же нет.

Конечно, я не претендую на истину в последней инстанции, но мое понимание такое.

Психолог - это ученый, который занимается изучением мыслительных процессов человека. Образование - высшее университетское. Может привлекаться для медицинских научных исследований. Не врач, не лечит людей по прямой специальности.

Психиатр - врач, имеющий высшее медицинское образование, лечит психические заболевания и отклонения. Поскольку имеет лицензию, имеет право выписывать медикаменты.

Психотерапевт - социальный работник, который может и не иметь специального образования. Помогает пациентам проходить и справляться со сложными периодами в жизни. Основной способ помощи - общение и обучение.

Понятно, что нет черного и белого, всюду есть оттенки, но мое понимание этих трех терминов примерно такое. Поскольку пациенту выше прописали таблетки, это был скорее всего психиатр, даже если ему прописали ибупрофен, который можно купить без рецепта в любой аптеке.

психотерапевт обычно таблетки не выписывает

Чё?! 🤨

Ты все напутал, но ты не виноват, это у нас дурацкая терминология в России. По-хорошему, психолог — это любой учёный в области нейро-психо-бла-бла, психотерапевт — это который конкретно работает с пациентами, но психически здоровыми, а психиатр соответственно с больными.

У нас психолог работает со здоровыми и как правило по сути гуманитарий, то есть ему даже серьезные препараты не дают выписывать, да он в них и не обязан шарить. Психотерапевт — это врач со всеми вытекающими: образование, практика и т. д., поэтому он выписывает препараты и наблюдает реакцию пациента на них. Но первые два работают только с психически «здоровыми». А психиатра не испортили 😁

Да, возможно у вас это так. В США так, как я написал. Отсюда и реакция. У нас психотерапевт - не врач, а психолог - ученый. Забавно.

Конечно, я не претендую на истину в последней инстанции, но мое понимание такое.

Психолог - в среднем девочка с немедицинскими курсами, которая выбрала эту профессию, потому что любит поговорить) Многим и это помогает. Например семьям разруливать конфликты. Но если крыша едет, нужно что-то посерьезнее. Есть конечно и более хорошие психологи, это просто то, что лично я видел.

Психиатр - врач, имеющий высшее медицинское образование, лечит психические заболевания и отклонения. Поскольку имеет лицензию, имеет право выписывать медикаменты.

Психотерапевт - что-то посредине, так как на всех психиатров не напасешься, новое явление для этой страны, но не только говорит с пациеном, но и занимается вещами типа КПТ, и может выписывать некоторые таблетки и имеет мед. образование

Ну вот и славненько! Ситуацию прояснили. Хорошо бы к теме вернуться, а то потрут всю ветку как оффтопик и будут правы.

Да, точно, в Штатах, психотерапевт, а по-нашему психолог. А наш психотерапевт отличается от психиатра только работой — образование вроде как одинаковое, но он с шизиками не работает, зато «нормальных» сажает на таблетки конкретно.

Психолог - в среднем девочка с немедицинскими курсами, которая выбрала эту профессию, потому что любит поговорить

Однако, поскольку я отказался от таблеток, то психотерапевт направил меня к клиническому психологу, но что это за зверь я проверять не стал.

Я с удивлением для себя узнал, что в США использование антидепрессантов, почти национальное бедствие. Их прописывают по поводу и без повода как аспирин. Побочные явления, как всегда, неутешительные - паника, депрессия, и суицид. Отличное лечение!

Увы, у нас то же самое.

Побочные явления, как всегда, неутешительные - паника, депрессия, и суицид.

Про такое я не интересовался. Совсем печально, если так.

Я не сторонник теорий заговоров, но вроде как уже известно, что фармацевтические компании заинтересованы, чтобы люди садились и сидели на их препаратах, ибо стабильные клиенты получаются.

В любом случае, лекарственная медицина — это фокусы-покусы, а никакое не лечение, но альтернатив у людей просто нет.