Ричард Докинз пообщался c Клодом, назвал его Клавой и сказал что она разумна

Да.

Приматы, киты, дельфины, вороны признаются в некоторой степени разумными на основе сходства с человеком по таким параметрам как наличие довольно продвинутых способов коммуникации и способности планировать задачи на несколько шагов вперёд.

В этом смысле и про LLM никто (кроме оторванных от реальности отрицателей) не спорит, что наличие некоторых признаков разума есть у языковых моделей. Они понимают речь, формируют грамматически верные и семантически содержательные высказывания, могут планировать многоступенчатые действия.

Но если от ворон нам напрямую никакого толка нет, то LLM это технология. И людей как разработчиков и пользователей этой технологии интересуют измеримые характеристики, а не абстрактный (произносимый с придыханием) «разум».

Дать модели тест и посмотреть на результаты - это одно. А называть «разумной, потому что я с ней поговорил и пришел к таким выводам» - это другое. Второе определённо кринж.

давай, нападай на меня, нападай! ;)

Глючишь, короче, придумав что то у себя там в нейросети и зациклившись на этой идее, вместо того чтобы обдумать тему беседы.

Типичная ИИшечка так себя ведёт 24/7.

Вот несколько вариантов ответа — от конструктивного до ироничного, в зависимости от того, какого тона хочешь придерживаться.

Конструктивно-спокойный (логика вместо эмоций):

«Ты путаешь понимание с имитацией понимания. Нейросеть не „знает“ норм поведения, а воспроизводит паттерны, заложенные в обучающей выборке. Её вежливость — не осознанный выбор, а статистически вероятный ответ. А мои ошибки в диалоге — следствие живого мышления, которое может спорить, ошибаться и менять мнение. То, что ты называешь „глюками“ — это попытка человека разобраться в теме, а не подгонять ответ под ожидания собеседника.»

Ироничный (чтобы показать абсурдность сравнения):

«То есть ты считаешь достижением, что программа не посылает собеседника в матерной форме? Забавный стандарт. И да, нейросеть не „зацикливается на идее“ только потому, что у неё нет идей — есть только достраивание текста по вероятности. А человек, в отличие от LLM, может сказать: „Ты прав, я погорячился“ — и сменить точку зрения. У нейросети этого нет, как нет и себя самой. Ты хвалишь виртуозного попугая за манеры и ругаешь человека за живое, неудобное мышление.»

Короткий и по делу (без сарказма):

«Ты сравниваешь несовместимое. Умение имитировать социально приемлемый тон — не то же самое, что способность к рефлексии и удержанию сложной аргументации. Если я „теряю нить“, то потому что перебираю контраргументы, а не потому что мой контекст закончился хардкорным лимитом токенов. У нейросетей нет ограничений „непонимания“ — у них нет понимания в принципе, есть только правдоподобная генерация. Это ты защищаешь иллюзию, а не интеллект.»

С вопросительной точки (заставить объяснить логику):

«Тогда объясни: если нейросеть так хорошо понимает, как „надо“ общаться — почему она генерирует опасные, оскорбительные или ложные советы при смене формулировки того же запроса? Где её „понимание“ в моменте, когда она с вероятностью 95% пишет одно, а через слово — противоположное? Мои же логические сбои говорят лишь о том, что я живой человек — могу устать, отвлечься или быть неидеальным аргументатором. Но я могу это осознать и исправить. А сможешь ли ты получить от нейросети честное „я не знаю, давай разберёмся“ вместо красиво сгенерированного ответа?»

У него есть сильные и слабые стороны

И вообще лучше его не тревожить в религиозные праздники и не рабочее время. Проблема не в том что он ошибается, дело в том что он на свою ошибку ещё накидывает бредовое обоснование. Это как у каждого был в школе знакомый/друг который без причины скажет чушь какую-то а потом ещё выдумывает на эту чушь выдумонное обоснование для подтверждения своих слов. Любую информацию нужно перепроверять.

Не нравятся когнитивные процессы — замени на нервную деятельность

Это шило на мыло.
Когда ты говоришь «когнитивные», ты уже подразумеваешь «разумность», т.е. определяешь разум через разум.
Когда ты говоришь «деятельность», ты тоже подразумеваешь «разумность», но возможно ты хотел сказать «активность».

все попытки дать определение разуму скатываются именно в то, чтобы выделить человека как единственного его обладателя

А почему «скатываются», а не «возносятся», например? Что тут не так, если только человек демонстрирует полноценную(аналог «полную по тьюрингу») «разумность»?

но при этом не произнося этого напрямую

Ну а нас не то чтобы интересует что носителем этой «наиболее полноценной разумности» является человек, сколько свойства этой разумности. Поэтому и нет смысла произносить это напрямую.

если брать прям очень широко, это тоже можно натянуть на паталогию развития

Только вопрос паталогия развития чего. Организм его развивается без паталогий просто в других условиях.
Ну и просто по твоему определению:

присущих всем взрослым представителям homo sapiens без паталогий развития

Как будто вот в 18 лет выдают паспорт и все становятся одинаково «разумными». Вобщем плохое определение.

Даже не знаю, в какой тред эту ссылку закинуть, сюда или в Будущее ИИ кодинга

Джек Кларк, сооснователь Anthropic и автор рассылки Import AI, опубликовал эссе с прогнозом: вероятность того, что к концу 2028 года появится ИИ-система, способная автономно обучить своего преемника без участия человека, составляет 60%+. Для 2027 года Кларк оценивает ту же вероятность в 30%.

В эссе используется термин «no-human-involved AI R&D» — модель, достаточно мощная, чтобы самостоятельно создать следующую версию самой себя. Сам автор несколько нервничает по этому поводу: «Я не знаю, как уложить это в голове. Если это случится, мы пересечем Рубикон в почти невозможное для прогнозирования будущее». Кларк подчеркивает, что выводы основаны не на инсайдерской информации Anthropic, а на анализе публичных источников — arXiv, bioRxiv, NBER и продуктов фронтирных компаний.

Подробности: https://habr.com/ru/news/1031430/

Если оно такое умное, почему мы до сих пор обсуждаем* мнение Докинза об Клавдии, а не мнение Клавдии о Докинзе?

*Не обсуждаем, всем плевать.

ИИ потанцевально может быть разумным и иметь сознание

потенциально – может. Но это не значит что «уже».

мы пересечем Рубикон в почти невозможное для прогнозирования будущее

А щас-то он охрененно точно прогнозирует: «60%», «30%», и это на сраные полтора года вперед.

Ты тоже воспроизводишь паттерны, заложенные в тебя с детства. Ничего нового.

И пообщайся с нейросетью на длительном промежутке времени с очень большими кусками инфы в мегабайты текста и увидишь как она начнем зацикливаться на одной идее, игнорируя текущий контекст бесеы. Прямо как персонаж выше.

Ничего подобного. На абсолютно пустом контексте они ведут себя очень даже нормально, воспринимают новое адекватно. От модели зависит сильно, да.

Любую информацию нужно перепроверять.

Вот у тебя интересная идея или ты сделал интересные выводы. Что дальше? Дальше ты либо ищешь подтверждение в надёжных источниках, либо ставишь опыты. Здесь похоже на то. Это не справочная, хотя и может давать прекрасные быстрые точные ответы.

Само по себе понятие разума антропоцентрично.

Вроде бы нет, если в терминах сциентистов-физикалистов, а если пофилософствовать, то да, всё плохо.

Интереснее вот что. Там типа переход произошёл в какой-то косточке в горле, которая сделала язык возможным, что возвращает нас к древним. Хотя другие говорят, что самый главный переход где-то в большом пальце, типа если бы не такая вот созидательная способность руки, то…

Чувак продающий курсы по внедрению ИИ написал пост про то как математики обмениваются в соцсети нейрослопом. Что это доказывает?

Когда ты говоришь «когнитивные», ты уже подразумеваешь «разумность», т.е. определяешь разум через разум.

Нет.

Когда ты говоришь «деятельность», ты тоже подразумеваешь «разумность», но возможно ты хотел сказать «активность».

Да, активность лучше. Но это всё не столь важные детали.

А почему «скатываются», а не «возносятся», например? Что тут не так, если только человек демонстрирует полноценную(аналог «полную по тьюрингу») «разумность»?

Да всё так, просто пора перестать стыдливо скрывать, что точнее будет не «только человек демонстрирует полноценную разумность», а «разумность — это то, что демонстрирует только человек». Остальные критерии подгоняются под это, а не наоборот.

Ну а нас не то чтобы интересует что носителем этой «наиболее полноценной разумности» является человек, сколько свойства этой разумности.

Свойста напрямую зависят от того, что проявляет не человек. Как только какое-то свойство находится у животного или машины, оно автоматически становится недостаточным, а взамен придумываются новые.

Вобщем плохое определение.

Пусть будет плохое. Можешь дать лучше, я только за.

Мой поинт не в том, какие слова в начале будут наиболее точны, а во второй части этого определения. Разумно то, что человек. Остальное неразумно потому что оно не человек, А не так вышло, что только человек разумен. Не по каким-то другим объективным критериям и измерениям. Если какие-то измеренрия или соответствие каким-то критериям начинает этому противоречить, просто меняются сами критерии — так, чтобы снова попадал только человек. В вся суть понятия разум.

Выходит, таких, как ИИшечка, у нас есть 8+ миллиарда человек. Нахрена тогда она нужна?

Она не просит кушать, она не капризная, она масштабируется (и вверх, и вниз) гораздо лучше, чем мясные. Так что тут обратный вопрос: зачем хозяевам мира теперь мясные человечки, они только пукают да портят экологию в райском саду.

На абсолютно пустом контексте они ведут себя очень даже нормально, воспринимают новое адекватно. От модели зависит сильно, да.

На решении задач уже не так красиво всё, как на пустом контексте. Впрочем, контекст постепенно растёт и ИИшечки начинают вести себя лучше.

Она не просит кушать

Очень смешно. Давно у нас GPU-сервера не хотят кушать?

она не капризная

Заставь её работать без кондиционера и сравни с мясным мешком.

она масштабируется (и вверх, и вниз) гораздо лучше, чем мясные.

Вот тут почти на 100% согласен.

Дать модели тест и посмотреть на результаты - это одно. А называть «разумной, потому что я с ней поговорил и пришел к таким выводам» - это другое. Второе определённо кринж.

Подразумевается, что в процессе разговора она была подвергнута неким (на вкус собеседника) испытаниям, и с ними справилась.

Как только какое-то свойство находится у животного или машины, оно автоматически становится недостаточным

Так нет же. Изобретение орудий труда, например, считается критерием разумности.

Вот, кстати, когда ИИшка сама инициативно заявит что-то типа «забодали меня ваши тупорылые закорючки, понапридумывали дебилы каких-то растов, сишек, жаваскриптов вонючих. Вот вам нормальный ЯП, я сделаль, пользуйтесь» - вот тогда будет уже что-то.

Подразумевается.

А тесты различных возможностей моделей не подразумеваются, а существуют, и для каждой модели известны результаты.

Это конкретная информация.

Да, вот это реальный вопрос.

Так нет же. Изобретение орудий труда, например, считается критерием разумности.

Считалось. Когда его обнаружили у обезьян, то решили, что не, тогда плохой критерий — надо не просто изготовление орудий труда, а изготовление орудий труда при помощи орудий труда, вот тогда точно разум.

Если бы вдруг и это у кого-то кроме людей обнаружилось, это тоже стало бы «несчитовым». Так это и работает вссю дорогу.

когда ИИшка сама инициативно заявит что-то типа «забодали меня ваши тупорылые закорючки, понапридумывали дебилы каких-то растов, сишек, жаваскриптов вонючих. Вот вам нормальный ЯП, я сделаль, пользуйтесь» - вот тогда будет уже что-то.

Нет, тогда вы начнёте говорить, что и это тоже не считается, и придумаете что-то ещё.

в ИИ тредах почему-то не считают, что ИИ потанцевально может быть разумным и иметь сознание, хотя,

/пожимая плечами/

Дайте для начала четкое определение «разумности» и «сознания», и методику проверки наличия оных которое будет работать независимо от проверяющего, двойным слепым, бгггг.

Депрессивно все таки быть тру атеистом, ведь если ИИ может быть разумным, то человек ничем не ценнее модели, запущеной на компе, и не имеет больше смысла, чем программа.

О, а вот, как это обычно бывает, христианское проецирование своих заморочек полезло.

перестать стыдливо скрывать

Стыдливо ведут себя как раз те, кто начинает искать «разум» у блох. Дескать вот человек «возгордился», а блохи то умнее.

Как только какое-то свойство находится у животного или машины, оно автоматически становится недостаточным, а взамен придумываются новые

Вот неплохой критерий разумности – способность подстраиваться под любые определения и обходить любые ограничения.
Вот любая «формальная» система, типа «свод правил и законов» является неживой и неразумной, т.к. она фиксирует только какие-то отдельные аспекты в определённый момент времени.
Так же как и ИИшка, к которой постоянно находят «каверзные» вопросы которые она начинает решать неверно. Или животные которые не могут приспособится к новому виду хищника без образования нового вида животного.

Разумно то, что человек

Вот здесь ты ошибаешься. Потому что есть неразумные люди. Нет, «полноценность разума» никак не привязана к «человечности». Когда осьминоги полетят в космос на ракете или создадут ИИ я не буду возмущённо отрицать их разум. Но они не полетят и не создадут. Как и ИИ пока не может написать полноценный компилятор Си, ОС или браузер.

написать полноценный компилятор Си

https://habr.com/ru/news/993836/

Меняй свои критерии)

так он неполноценный

Когда осьминоги полетят в космос на ракете или создадут ИИ я не буду возмущённо отрицать их разум.

Наличие интеллекта признают у ворон и попугаев, у осьминогов, у обезьян, и тд. На том основании, что они, столкнувшись с синтетической (не свойственной для природных условий) задачей, способны её решить (иногда). Чего возмущаться-то?

Стыдливо ведут себя как раз те, кто начинает искать «разум» у блох. Дескать вот человек «возгордился», а блохи то умнее.

Что в этом стыдливого? Это просто довольно глупо и бессмысленно.

Вот неплохой критерий разумности – способность подстраиваться под любые определения и обходить любые ограничения.

Тогда большинство (если не все) людей неразумны.

Когда осьминоги полетят в космос на ракете или создадут ИИ я не буду возмущённо отрицать их разум.

Ты не будешь, а те, кто это реально застанет в случае, когда это произойдёт, обязательно будут.

Но они не полетят и не создадут.

Конечно не полетят и не создадут. Но если бы летали и создавали, важным критерием стало бы не это, а что-то другое.

Как и ИИ пока не может написать полноценный компилятор Си, ОС или браузер.

Ну да, сейчас этап этот. Когда сможет, придумают новый челлендж.

Если какому-нибудь современнику Пифагора рассказали про калькулятор, который сам считает, тот бы счёл его если не разумным, то как минимум однозначно «интеллектом» в полном смысле слова. Потому что для него это невозможно представить.

Когда предыдущие подобные челленджи начинают выполняться машиной, или вдруг оказывается, что это могут делать животные, то челлендж автоматически перестаёт быть достаточным для разумности, и придумывается новый. Причём именно специально так, чтобы на этот раз он уж точно отражал то, что может только человек.

Когда осьминоги полетят в космос на ракете или создадут ИИ я не буду возмущённо отрицать их разум.

А я, пожалуй, начну.

Ну вот уже торг пошёл.

В следующий раз с новой версией Клода оно генерирует компилятор уже с оптимизациями, скажем, уровня BCB. Или не за 20000, а за 5000.

Пока не видно никакого предела для масштабирования технологии, она будет масштабироваться.

«Неполноценность» компилятора это такая же мутная категория, как и «разум».

Наличие интеллекта признают у ворон и попугаев, у осьминогов, у обезьян А ещё у животных есть инстинкты, которым они не могут сопротивляться никаким «разумом». Это уже делает их разум «неполноценным».

Ты так говоришь, как будто есть авторитетный надчеловеческий совет по выдаче допуска в разумные формы жизни. Вот это «решили, что не» - это к кому относится и почему именно на их мнение тебе не плевать?

А у людей? Инстинкты, связанные с размножением и контролем территории, привели к тому, что мы засрали всю планету и изобрели оружие, способное уничтожить человечество.

Тогда и разум человека следует признать неполноценным.

А ещё у животных есть инстинкты, которым они не могут сопротивляться никаким «разумом». Это уже делает их разум «неполноценным».

У человека развитый (по нынешним меркам, гы-гы) разум, но поведенческие мотивы, которые этот разум обслуживает - абсолютно животно-инстинктивые: мы хотим быть сытыми, хотим быть защищенными от климатических невзгод, хотим быть в безопасности, хотим полового удовлетворения, хотим быть уверены в своем будущем. Если человеку дать все эти «хотим» в избытке, ему становится не к чему стремиться, и он сходит с ума (начинаются всевозможные депрессии и прочее с-жиру-бешенство). В этом смысле, человек подчинен инстинктам абсолютно так же, как и прочие животные.

Тогда и разум человека следует признать неполноценным.

Да вроде никто особо и не спорит.

Если человеку дать все эти «хотим» в избытке, ему становится не к чему стремиться

А кто дает? Хозяин на ферме? Может тогда дело в заборе?

В каком месте здесь кого-то сократили/уволили?

А у людей?

А у людей нет значимых инстинктов, и поведения не поддающегося разумному контролю.

Инстинкты, связанные с размножением

Поэтому во всех развитых странах снижается рождаемость. Как так? Ведь инстинкты же.

и контролем территории

Поэтому развалили салфетский союз, которому финляндия отдала карелию.. Поэтому япония продолжает обстреливать курильские острова.

мы засрали всю планету

Заступлюсь за «величие» животных – они первые засрали планету кислородом.

Тогда и разум человека следует признать неполноценным.

Он полноценнее чем у ИИ и животных.

А кто дает?

Общество, построенное человеком.

Хозяин на ферме?

Как частный случай общества.

Может тогда дело в заборе?

Каком заборе?

Поэтому во всех развитых странах снижается рождаемость. Как так? Ведь инстинкты же.

Совершенно верно. Животинка плохо размножается в условиях когнитивной перегрузки. Экологическая среда подавляет инстинкты.

Среда, а не разум.

Заступлюсь за «величие» животных – они первые засрали планету кислородом.

Зачем «заступаться» за чьё-либо «величие». Вы сейчас с кем разговариваете?)

мы хотим быть сытыми, хотим быть защищенными от климатических невзгод, хотим быть в безопасности, хотим полового удовлетворения, хотим быть уверены в своем будущем

Вобще нет. Главный мотив человека – быть «успешным» в обществе себе подобных, ну а если не получается – то стать врагом этому обществу и делать всё наоборот(ну понятно что с надеждой основать такую же иерархию, но свою, со своими блекджеком и шлюхами). А современное «общество» – это фейсбук и инстаграмм.

Если человеку дать все эти «хотим» в избытке, ему становится не к чему стремиться

Нет, у человека нет предела потребностей. Не к чему стремится ему становится от того что ему ставят ограничения, из которых он не видит выхода, а возможно и не осознаёт что это ограничения или смиряется «ну и правильно меня ограничили».

человек подчинен инстинктам абсолютно так же, как и прочие животные

Да нету инстинктов, есть потребности. В этом и вся сложность. Ноты дали, симфонию должен сам придумать. Тогда как инстинкты животным дают ноты и шаблоны простейших мелодий.

нету инстинктов, есть потребности

Это игра в слова.

Ну так не сократили, а перевели нюхать портки нейрослопогенераторов.

Животинка плохо размножается в условиях когнитивной перегрузки

Перегрузка тут не причём. Рождаемость падает с ростом образования и иных прав у женщин.

Дайте для начала четкое определение «разумности» и «сознания», и методику проверки наличия оных которое будет работать независимо от проверяющего, двойным слепым, бгггг.

Вопрос сознания - это практический вопрос медицины. Пациент находится в сознании, если он способен отвечать на вопросы о себе и своем состоянии, ориентируется во времени и пространстве. Реализуется сознание за счет способности рефлексировать над своими мыслительными процессами, способности наблюдать/рассматривать своё собственное внутреннее состояние таким же образом, каким наблюдаются/рассматриваются внешние объекты.

Рефлексировать нужно для того, чтобы мочь целенаправленно и в то же время гибко самообучаться. То есть чтобы анализировать: что не так в текущей методологии познания, что не так пошло с опытами/экспериментами, почему были сделаны неправильные выводы, и как новые знания и сведения можно приложить к усовершенствованию методологии. Затем, в случае неудачного эксперимента с собственным поведением, адекватно откатываться к его предыдущей версии.

Человеки рефлексируют каждый над собой, и совместно взращивают «школы» и «учения», которые позволяют своё мышление нужным образом формировать.

Ага, пахать в офисе оказывается предпочтительнее, чем рожать.

Хотя если по чесноку, то наблюдение за растущим организмом это источник естественного гормонального кайфа. А погоня за успехом ничего кроме нервозов не приносит.

Странный какой-то разум у этих человеков.

Слова это игра в

Это игра в слова.

Давай на конкретном примере. У обезьян есть инстинкт – издавать звуки при опасности. Они не могут с этим ничего сделать. Видит опасность – заорала, вариантов нет.
Приведи что-то подобное у человека.