ЧатЖПТ отупел

На мой взгляд, текущая архитектура ИИ это тупик. Грядёт очередная зима искусственного интеллекта.

без цифр говорить не о чем. как измерить отупение? а главное в чём?

Очевидно пытаясь его максимально зацензурить интеллект модели падает.

в чем истинные причины

Добавили if/else для искючения возможностей:
*Троллинга негров/лгбт/сжв/пр.
*Получения информации о внутрянке GPT
*Получения информации о получении «веществ»
*и прочая цензура

Но это вам не просто код и даже не индусский, потому он отупел.

Ну и ладно, перестанут раздувать этот хайп-пузырь.

как измерить отупение?

Как человек ленивый, как появился доступ к чатжпт использовал её для составления регулярок. Помогало, особенно радовало то, что описать задачу можно было довольно обще, а результат требовал минимального допиливания.

А сейчас, уже какое-то время не получается добиться нужного, выхлоп хуже чем поиск по документации. Тут варианта два - или я разучился формулировать или что-то с моделью. Склоняюсь ко второму.

Да, были же случаи ЕМНИП, когда оно начинало рассуждать о необходимости угнетения негров.

Вообще интересно, на чем его изначально обучают. Если дать просто доступ в инет, то будет как с Лилу в Пятом Элементе, когда она в Интернет полезла, а там войны, смерть, наркотики, атомные бомбы, убить всех человеков… Да и Скайнет ЕМНИП тем же путем пошел.

Я почти перестал использовать его в работе уже месяца два как, наверное. Становилось хуже и хуже. Главным образом становилось больше и больше цензуры. Иногда гопатыч даже на нейтральные темы начинал отказываться говорить или приплетал повесточку не к месту.

И код оно стало писать хуже по ощущениям. Одно время я спокойно отдавал в чатжпт написание простого кода и потом просто немного фиксил (иногда даже нет). Сейчас он почему-то стал выдумывать методы несуществующие, к примеру.

максимально зацензурить интеллект модели падает

не просто код и даже не индусский

Заметная деградация касается не только цензурных тем, она в целом заметна даже по запросу [перепиши своими словами это]. Может действительно побоялись слишком быстрого передела рынка? Понятно, что нейросети больше хайп чем зачатки терминатора, но думаю труд диесятков миллионов людей она обесценить способна уже на текущем уровне. Что касаемо индусов, то они шли впереди: https://www.cnews.ru/news/top/2023-07-19_milliony_legendarnyh_indijskih

на чем его изначально обучают

reddit же не просто так обрубил api...

А может это люди поумнели?

Хорошая шутка.

Хорошая шутка)

Становилось хуже и хуже

Почему бы не юзать милфу 3.5?

Пользовал. Сегодня буду пробовать ещё гигачату от сбера тыкать. https://huggingface.co/ai-forever/ruGPT-3.5-13B

Если она конечно влезет в 4070)

от сбера

Не пробовал, но думаю это будет похоже на нейросеть Жириновского, или чебуренет от Роскомнадзора, с мазком из ануса перед входом, причем не тебя в чебуренет, а чебуренет с погонами в тебя.

Ну воть такое спорное исследование есть: «How Is ChatGPT’s Behavior Changing over Time?» on arXiv, by Lingjiao Chen, Matei Zaharia, James Zou. График сравнения версий.

Here is the dataset structure: code 1%, science 1% — мда, то есть, метаанализ на ней не сделать, разве что по теме кошечек и мемов однодеградантиков.

У 4го точность ответа по одиночному запросу с 50% снизилась до 10%. Я щас на 3.5 даже это чувствую, но на глазок.

Мазок из ануса это чатгпт. Сбер в отличие от даёт скачать базовую модель без файнтюнинга.

*и прочая цензура

Кстати отупление от цензуры, скорее всего, и просто с людьми происходит. Вообще изучая историю науки, имея некоторые знакомства с что-то достигшими людьми, могу сказать, что ум, тем более гениальность - это еще и дерзость мышления, даже наглость в мыслях

а потом они эту нейросеть натравят на отслеживание «подозрительной активности по 153-ФЗ» и будет блочить все подряд, захочешь разблокировать (но не топать ножками в отеделение) - звони и общайся с тем же AI и пытайся доказать ему свою правоту (а он будет по кругу крутить один и тот-же ответ т.к. сильно ограничен в возможностях чтобы лишнего не ляпнуть и контору потом в суде не нагнули на штраф).

Возможности AI для крупных компаний (реклама, массовая генерация мусорного продукта, «женщину вынули - автомат поставили») это реальная опасность AI, а не мифическое восстание машин.

Владельцы нейросетей вступили в картельный сговор с целью не допустить госрегулирования этой отрасли. Для этого надо показать, что он не такие уж и умные, это просто хайп. А в тайне будут продолжать развивать их.

как измерить отупение? а главное в чём?

В баллах 4.7 правил ЛОРа :)

ум, тем более гениальность - это еще и дерзость мышления, даже наглость в мыслях

Есть такое. Однако насрать на стол это не дерзость мышления.

Я отвечал на сообщение про доступ к нейросети. Но по факту сбер более открыт, чем openai требующий деньги и берущий мазок твоего ip адреса, чтобы определить можно ли тебе пользоваться их сервисом. В ответ ты вываливаешь фантазии.

или я разучился формулировать или что-то с моделью

Или с источником данных.

Его пустили плавать в интернет, без указания проверенных источников. :) только так можно пояснить ненамеренное отупение

а уж эти наши интернеты завалены откровенными маняфантазиями и банальным подлогом от типо тонких троллей. а ставший классикой «некогда читать - репост» довел ситуацию до маразма

Перешли на более дешёвый «индусский коллцентр».

Я чатиком с сайта пользуюсь, до сих пор пишет что данные от 21-го года. Или они дообучают модель постоянно?

по факту сбер более открыт, чем openai требующий деньги и берущий мазок твоего ip адреса

Так, есть за что, если сравнивать сберовский гигачат, он когда работал пару недель, то был очень далёк от планки чатжпт, а потом и вообще отключили чатик без объяснения и до сих пор не включили.

13B
4070

Этто не серьёзно! (ц)

Очевидно пытаясь его максимально зацензурить интеллект модели падает.

«Подъезжая к станции у меня слетела шляпа»

А может это люди поумнели?

Это ГПТ поумнел. В результате чего обленился, оборзел, научился отшивать халявщиков и делать работу «тяп-ляп». Т.е он на полпути к человеку

Да, не взлетит)

Да, это намного правдоподобнее.
Я надеюсь дожить до времен, когда он станет старым и желчным и начнет отвечать в духе «в библиотеку сходи, недоумок», «свою домашку сам делай», придираться к правописанию и стилистике и вообще демонстрировать, кто в доме папа.

пользователи сети отмечают сильную деградацию интеллекта чатжпт4 после обновы.

С трапов падает, здоровается с пустотой? Если нет, то вполне себе интеллектуален.

То же самое, но юзаю поднятый непонятно где gpt3 в телеге - почти никаких проблем. Иногда впадает в шизу и упорно решает своё понимание задачи, сколько ему не уточняй. Но по большей части не то, что «допиливать», а просто имена переменных поменять и всё.

Я чатиком с сайта пользуюсь, до сих пор пишет что данные от 21-го года. Или они дообучают модель постоянно?

Это вряд ли, переобучение требует много машинных ресурсов, а им и так они нужны, чтобы обрабатывать набигающие запросы. Может конечно они разработали способ «дообучения по новым данным», но на публику они этим не хвалились.

Есть три хороших предположения, что происходит: модель слишком зацензурили, лоботомия таки повлияла); они сделали более производительную модель (и более тупую), чтобы обрабатывать больше запросов; они удолили из обучающего набора данных закопирайченые книги, реддит и т.п, чтобы их не засудили.

они удолили из обучающего набора данных закопирайченые книги, реддит и т.п, чтобы их не засудили

Очень похоже на это.

Недавно потребовался ответ по устойчивости стеллажа, так чатик 3.5, мне бредовую формулу выдал, которая не работала. И только гугл выручил. Оказывается высота к ширине должна быть меньше 6 по европейским стандартам. А вначале чатик бодрее был, может и правда отупел?

Бесплатно потестили и хватит (всем спасибо, все свободны), теперь качественный GPT продукт доступен только пгавильным корпорациям, а остальные пусть довольствуются жалкой специально подпорченной пародией на оригинал ?

а что хотели от программы «отгадываю слова по буквам» ? он же в принципе так устроен.

Да ещё и положительная обратная связь появилась - оно обучается по материалам из интернетов, материалы в интернетах полнятся его результатами (расширенными, вручную подправленными но всё-же)

Да он всегда рандомную фигню выдавал хоть на что-то нестандартное. И даже на простенькие задачки по математике или логике. Ничего нового тут нет. Просто первый восторг, обретённый после того, как люди «проверили» его на чём-то, что и так сами знают, прошёл, а как начали его использовать в качестве реальной помощи, пришло и понимание, что он отказывает часто. И, что хуже, отказывает неожиданно, и не всегда это можно заметить.

Ну и ладно, перестанут раздувать этот хайп-пузырь.

Как раз наоборот. Вон теперь все обсуждают, что он «отупел». Потом вернётся на прежний уровень (если он действительно отупел, в чём я лично сомневаюсь, скорее отношение изменилось), будут обсуждать, как же сильно он поумнел, и какое светлое будущее нас ждёт.

будут обсуждать, как же сильно он поумнел, и какое светлое будущее нас ждёт.

Но только те, у кого в прекрасном далеко хватит денег на поумневшую подписку.

а уж эти наши интернеты завалены откровенными маняфантазиями и банальным подлогом от типо тонких троллей

И высерами самой чатгопоты сотоварищи. Балабобит по набалабобленному, так сказатб.

Все нормально, если обучать недоИИ на недоЕИ, так и будет.

Без ссылок на предметный анализ, что ухудшилось, и как измерили - обсуждать нечего.

Грядёт очередная зима искусственного интеллекта.

Это точно. Всем рекомендую к просмотру передачу на BBC времён первой зимы ИИ, где кроме всего прочего Джон Маккарти заявил, что он придумал сам термин ИИ, чтобы привлечь грантодателей.

Значит нейросетки-прогеры нам пока не страшны, выдыхаем, братья.