LINUX.ORG.RU
ФорумTalks

Ричард Докинз пообщался c Клодом, назвал его Клавой и сказал что она разумна

 , , , ,


0

1

Ричард Докинз поговорил с Клод 3 дня подряд, и теперь называет его Клавдией и говорит что ИИ разумно:

https://www.dailygrail.com/2026/05/the-claude-delusion-richard-dawkins-believes-his-female-ai-chatbot-is-conscious/

Мне кажется, вот популярный тейк из твиттера про «автокомплит на стероидах» или «всего лишь перемножение матриц» или тут вот, эти критические тейки автора статьи - это вообще редукционистский бред. Что иронично, что Докинз как максимальный редукционист выступает объектом критики редукционистов. Любая вещь в компьютерах это «всего лишь» биты. А мозг человека - «всего лишь» атомы.

Можно было бы ожидать критику с позиций религии. Но когда Докинза критикуют люди, которые потерялись в лесу, и их воспитали научпоперы - это максимально смешно. Вообще, такие люди, конечно, скорее всего Докинза и не читали, и вообще, выросли на разжеванном примитивном медиа, которое дает им иллюзии контроля и понимания.

Мне кажется, люди которые вообще критикуют AI, никогда не общались с ИИ как Докинз. Ну или как я, хотя бы.

Обычный человек, воспитанный тиктоком и научпоперами, в т.ч. из-за клипового мышления, невозможности удержать мысль и неспособности читать длинные тексты - максимум спрашивает у ИИ какие-нибудь «рецепты борща» или «дорогу туда-то», примитивные бытовые вопросы. Ну или что-нибудь про кто там что сказал из инфлюенсеров, или еще какой-нибудь тупняк в стиле «Grok is this true?». Или максимум что-то про детали своей работы.

Ну и получают, соответственно, «Garbage In, Garbage Out».

Если предположить, что гипотетически, AI уже достигла полноценной разумности, стадии AGI, то как его отличит человек, у которого самого разумность на уровне табуретки? Это же эффект Данинга-Крюгера в полную силу. Ну или Blub Paradox, если говорить в терминах айтишной мифологии. Это та же ситуация, когда глуповатые люди зовут тех кого не понимают, людей, со слишком сложными мыслями - «шизиками».

★★☆
Ответ на: комментарий от foror

В голове нейроны пластичны и имеют обратную связь. Они в реальном времени могут перенастраиваться.

А почему ты так уверен в этом?

lovesan ★★☆
() автор топика
Ответ на: комментарий от lovesan

Не видел чтобы codex ошибался. Вообще.

Ну попроси его браузер нормальный на коммон лисп написать, чтоб под ГПЛ все дела и вообще задавим копирастов свободным софтом.

Bad_ptr ★★★★★
()
Ответ на: комментарий от lovesan

Не видел чтобы codex ошибался. Вообще.

Значит таков твой уровень задач. Я постоянно наблюдаю как ChatGPT может ошибаться. И не только я. Люди даже бенчмарки придумали, чтобы мериться пиписьками какая модель меньше ошибается. Но ты видимо особенный парень на деревне. Особенно, если учитывать твой вопрос про мою увереность в пластичности человеческого мозга.

foror ★★★★★
()
Последнее исправление: foror (всего исправлений: 1)
Ответ на: комментарий от Bad_ptr

Много людей могут сходу написать идеальный браузер? Или хотя бы спланировать архитектуру? Для того чтобы поставить задачу AI, надо самому разбираться. А то будет Crap In - Crap Out.

lovesan ★★☆
() автор топика
Ответ на: комментарий от lovesan

Ну есть люди, которые хотя бы что-то пытаются. Вспомнить хотя бы Ladybird, dillo, chawan. Так что хоть какую-никакую архитектуру но набросают. С чего-то надо начинать. А у тебя получается «разработайте браузер «на бумаге», а потом вам ИИ перепишет на Питон»… Очень умный и полезный ИИ.

Bad_ptr ★★★★★
()
Ответ на: комментарий от lovesan

Таким, что это языковая модель и она обучена понимать языки. Я не понимаю, почему ты задаёшь такой вопрос. Это ж лисп, код на нём есть в обучающем датасете и, думаю, не самого плохого качества, если сравнивать с js, питоном и си.

Не забывай, что это для тебя есть разница - макросы или ванильный язык, потому что ванильный язык описан в книжке, а твоё поделие - нет. А для LLM разницы нет, она язык не по книжкам учила, а впитывала правила [1] через существующий текст. Твой код удовлетворяет этим «правилам» и влезает в контекст - значит LLM его поймёт (или убедительно сделает вид).

[1] правилами для LLM является не только синтаксис, но и общепринятые практики, дефолтные умолчания, стили, негласные табу, распространённые ошибки, заморочки предметной области и т.д. и т.п.

legolegs ★★★★★
()
Ответ на: комментарий от foror

Они в реальном времени могут перенастраиваться

Это на самом деле дефект в дизайне кожаных. Из-за этого возникают ложные воспоминания, работают техники типа газлайтинга и т.д. Наши воспоминания и умения пластичны и постоянно изменяются и в основном портятся как китайская отвертка, а улучшается и закрепляется только то немногое, что мы используем прямо сейчас.

Для себеседника по душам это хорошая фича, так интереснее, а вот для инструмента лучше быть неизменяемым.

legolegs ★★★★★
()
Ответ на: комментарий от lovesan

Ты в очередной раз ткнул пальцем не туда.
Рассуждение и саморефлексия даже не похожи.

olelookoe ★★★★
()
Ответ на: комментарий от lovesan

Вообще весь вау-эффект от LLM как раз в том, что ты ему говоришь на обычном человеческом языке:

«Йоу, братан, здарова как жизь, короче напиши мне вебчат на вебсокетах на го. Понял? Давай!»

И он напишет. И это будет работать. И ты даже можешь попросить внести какие-то конкретные дополнения и правки. И именно в этом и польза этих чатов заключается.
А когда ваш бот выдаёт какую-то чушь, то начинаааается вот это всё: Garbage In - Garbage Out, учитесь искусству промпт инжиниииринга и т.д.

Да нифига, я зачем сюда полез – затем что я не хочу подстраиваться под язык программирования, под предметную облась, вообще думать не хочу, думать должны комплюктеры – так что это вы делайте своего чатбота разумным, чтобы он понимал что от него просят.

Bad_ptr ★★★★★
()
Ответ на: комментарий от Bad_ptr

Уже сейчас ключевая проблема не в том, чтобы объясить что хочешь ты, а в объяснении что именно ты хочешь. Ты должен сам понимать, что же ты такое хочешь - иначе не сможешь объяснить это другому.

Ты должен изачально разбираться в технологии, чтобы объяснить желаемое.

Вот представь: десятки технологий, путей решений, если не сотни и тысячи. Как именно ты хочешь решить задачу? Что именно использовать? Какие версии? Какие нюансы твоей версии технологии?

Если ты все это не объяснишь, ИИ сделает что то не то. И сделает правильно. Просто не для твоей задачи. И не потому что он тебя не понял и не потому, что он не знает или не может узнать. А просто потому, что ты не смог донести - чего ты вообще к нему пристал на самом деле.

LightDiver ★★★★★
()
Последнее исправление: LightDiver (всего исправлений: 1)
Ответ на: комментарий от Bad_ptr

Напомнило 1

User: What does this configuration thing do? 
You: It allows you to modify your settings, for networking, hardware, protocols, ... 
User: Whoa! Layman's terms, please! 
You: It changes stuff. 
User: That's what I'm looking for! What can it change? 
You: This part changes IP forwarding. It allows ... 
User: Simplify, simplify! What can it do for ME? 
You: Nothing, until you understand it. 
User: Well it makes me uncomfortable. It looks so technical; get rid of it, I want a system *I* can understand. 
You: But... 
User: Hey, whose system is this anyway? 
You: (... rm this, rm that, rm /etc/* ...) "All done."
kaldeon ★★
()
Ответ на: комментарий от lovesan

Психоз, в т.ч. разная шиза, это, в первую очередь дефект мышления, а не «странные мысли»

Сабжевый эффект про то, что задушевное общение с иишницой опасно, т.к. любые отклонения от нормы иишница многократно усиливает (за счёт своего желанию угодить пользователю).

annulen ★★★★★
()
Ответ на: комментарий от LightDiver

Если ты все это не объяснишь, ИИ сделает что то не то.

Что я должен ему объяснить, чтобы он написал мне веббраузер по качеству не хуже хрома?

Bad_ptr ★★★★★
()
Ответ на: комментарий от Bad_ptr

Ну да, частями. Ты можешь спросить эти нюансы у ИИшки - объяснит. Спроси план подобной разработки, тоже объяснит.

LightDiver ★★★★★
()
Ответ на: комментарий от Bad_ptr

Напишет. Но ты для начала долежн разобраться чего именно ты хочешь. Начни со структуры проекта для начала. Обсуди с ИИшкой. Обсуди без кода возможные варианты реализации частей и их структуру.

LightDiver ★★★★★
()
Ответ на: комментарий от LightDiver

Ещё один восхищённый адепт ЛЛМок ведёт себя тупее ЛЛМки.

Bad_ptr ★★★★★
()
Ответ на: комментарий от LightDiver

Но ты для начала долежн разобраться чего именно ты хочешь

А разрабам гугла тоже говорили юзеры какой им браузер сделать? Вот промпт: ты специалист в разработке браузеров, сделай круче хрома. Всё.

Дальше должны подключаться агенты и прочие думалки и сами рекурсивно распаковывать вектора из первого промта с самостоятельным углублением в нишу браузероразработки. Максимум иногда спросить у заказчика, так или иначе ему лучше сделать.

Иначе это не ИИ, а банальный поиск ближайших векторов по косинусу угла между ними. На стероидах, в огромных датацентрах, с огромными возможностями для брутофорса, залитыми миллиардами, если не триллионами. Которые банально могут не окупиться, когда бум пройдёт железо подешевеет и все закупят себе железа для локального инференса. А датацентры пойдут нахер.

foror ★★★★★
()
Последнее исправление: foror (всего исправлений: 6)
Ответ на: комментарий от foror

Да, разрабам гугла говорили что надо. Ни один проект не создается из ничего без плана, без архитектуры. Каждая деталька проекта тоже имеет свою структуру.

Ты не сможешь просто взять и написать проект больше 1000 строк без продуманной архитектуры. А то что напишешь - будет неподдерживаемым говном.

Хром разрабатывали годами кирпичик за кирпичиком. Каждая часть продумывается, планируется.

ИИпросто реализатор. Он может выдать функцию, может подсказать архитектуры. Он много «знает». Но он работает в рамках кванта. Без времени, без процесса, понимаешь? У него есть запрос, который он обработал и выдал результат. И эта вот обработка весьма лимитированна. Хотя сейчас они могут на ходу проверять свои результаты и дорабатывать.

Представь, что у тебя есть гараж, полный инструментов и ты мастер, который может починить любую машину. Приходит клиент и говорит: почини мне машину. А тебе запрещено отказывать. Ты тут же объяснишь клиенту в меру своих знаний как чинить машины. Машину то он не привез с собой.

Блин, какого хрена. Ну не можешь ты с ходу построить город, ты это понимаешь? Ты должен продумать архитектура, как где что, и начать с чего то строительство. Ты понимаешь почему нельзя сразу построить город миллионник с нуля? Весь одновременно.

LightDiver ★★★★★
()
Ответ на: комментарий от LightDiver

Ну, и? Я как понию ты хочешь сказать, что ИИ не умеет в архитектуру? Или что?

ИИпросто реализатор

Тут вроде задвигают, что он лучше 90% кодеров, не?

Хотя сейчас они могут на ходу проверять свои результаты и дорабатывать.

Ты меня запутал. Так реализатор или «могут на ходу проверять свои результаты и дорабатывать»?

foror ★★★★★
()
Ответ на: комментарий от foror

А ты хочешь сказать, что бригада профессиональных строителей не может построить город?

Просто дай ей заачу построить Нью-Орк с нуля. В чем проблема, понимаешь?

LightDiver ★★★★★
()
Ответ на: комментарий от LightDiver

Причём тут город? Ты можешь ответить на простые вопросы? Может ИИ в архитектуру или нет? Может на ходу проверять результаты или нет?

foror ★★★★★
()
Ответ на: комментарий от LightDiver

Каждая деталька проекта тоже имеет свою структуру.

Это называется абстракция. Так умеет ИИ в абстракцию? Разбить проект на детальки со своей структурой?

Да, разрабам гугла говорили что надо.

Ага, товарищу Форду тоже говорили сделать более быструю лошадь.

foror ★★★★★
()
Ответ на: комментарий от LightDiver

Окей, так где тогда браузер на лиспе от ИИ? Пока мы видели от ИИ только ущербный компилятор, за который заплатили больше, чем если бы это сделал профессионал. Профессионал обошелся бы дешевле. И результат был бы совершенно иным.

foror ★★★★★
()
Ответ на: комментарий от lovesan

Если исполнитель понимает смысл обмениваемой информации в процессе работы, то это буквально уже не китайская комната – как мне показалось, суть аргумента в неопределенном значении «понимания» для машины и неизвестной степени этого понимания. Для материалиста работа и выхлоп языковой модели – не более чем разные операционные режимы и модальности, пока не доказано обратное. Вспоминается ELIZA и её способность запоминать и цитировать произвольные строки.

Я вот не уверен, что механизм внимания и обучение с подкреплением сами по себе максимизируют это самое «понимание». Собрать нужный вектор из токенов, раскиданных по всему тексту, сложно, еще сложнее подобрать такой, который понравится приёмке/пользователю, но всё ещё бесконечно проще, чем наша нервная деятельность. Аргумент с китайской комнатой стоило бы перефразировать как «каковы устройство и минимальная мощность машины по трансляции символов для приемлемого уровня иллюзии корректной работы с семантикой используемых языков»

mazdai ★★★
()
Ответ на: комментарий от LightDiver

Я много спрашивал и спрашиваю. Но если я вижу как он лажает в простых вещах, то с чего бы этому ИИ перестать лажать в трудоемких задачах? ИИ не осилил компилятор. Куда ему браузер? Как он JIT для JS будет запиливать?

foror ★★★★★
()
Ответ на: комментарий от foror

В основном по частям строго по выбранной тобой архитектуре.

LightDiver ★★★★★
()
Ответ на: комментарий от lovesan

Норма (медицина) - состояние динамического равновесия между био-психо-социальными параметрами человека и идентичными параметрами окружающей его среды.

Принятые в психиатрии нормы основаны на статистических данных, клинических показателях, социальных стереотипах и субъективных ожиданиях человека. Они являются культурно обусловленными и со временем меняют своё содержание. Понятию «норма» соответствует образующее с ней дихотомию понятие патология.

https://ru.wikipedia.org/wiki/Норма_(медицина)

CrX ★★★★★
()
Ответ на: комментарий от CrX

Жрать людей в Папуа-Новой-Гвинее - норма, например.

Отсюда следует простой вывод - психиатрия, а тем более психология - это лженаука для одебиливания податных рабов, и ради поощрения у них Crab Mentality

lovesan ★★☆
() автор топика
Ответ на: комментарий от annulen

Что такое мешать себе, и другим?

lovesan ★★☆
() автор топика
Ответ на: комментарий от mazdai

суть аргумента в неопределенном значении «понимания» для машины и неизвестной степени этого понимания.

Чтобы доказать математическую теорему(а они это делают), или разобраться в макросах лиспа - им нужно понимание. Они не просто «выхлоп который понравится» создают. Ты сам понимаешь, что есть задачи которые нельзя решить рефлекторно(т.е. ответом на контекст и токены), в принципе? Над ними надо думать. Ну вот LLM думают.

Чего не скажешь о куче людей - большинство так GPT-0.5 из себя представляют, по ощущениям.

но всё ещё бесконечно проще, чем наша нервная деятельность.

Почему? Вон сколько энергии вычисления жрут.

lovesan ★★☆
() автор топика
Ответ на: комментарий от lovesan

Чтобы доказать математическую теорему(а они это делают), или разобраться в макросах лиспа - им нужно понимание

https://sdiehl.github.io/zero-to-qed/03_theorem_provers.html

Bad_ptr ★★★★★
()
Последнее исправление: Bad_ptr (всего исправлений: 1)
Ответ на: комментарий от lovesan

Почему ты считаешь что расчёт балки принципиально отличается от цепочки математических операции у которых на входе выражение на каком-то языке и на выходе выражение на каком-то языке. При этом ты не станешь утверждать, что программа расчёта балки «понимает» физику.

Bad_ptr ★★★★★
()
Ответ на: комментарий от Bad_ptr

Чем ты принципиально отличаешься от большой модели? В лучшую сторону если. А то в худшую - понятно, много чем.

Возьмем Gemini 3.1 Pro для сравнения

lovesan ★★☆
() автор топика
Ответ на: комментарий от lovesan

например я с большей точностью обнаружу объект на изображении и меня не смутит специальный паттерн на изображении, который ломает нейросети

Bad_ptr ★★★★★
()
Закрыто добавление комментариев для недавно зарегистрированных пользователей (со score < 50)