LINUX.ORG.RU
ФорумTalks

Ричард Докинз пообщался c Клодом, назвал его Клавой и сказал что она разумна

 , , , ,


0

1

Ричард Докинз поговорил с Клод 3 дня подряд, и теперь называет его Клавдией и говорит что ИИ разумно:

https://www.dailygrail.com/2026/05/the-claude-delusion-richard-dawkins-believes-his-female-ai-chatbot-is-conscious/

Мне кажется, вот популярный тейк из твиттера про «автокомплит на стероидах» или «всего лишь перемножение матриц» или тут вот, эти критические тейки автора статьи - это вообще редукционистский бред. Что иронично, что Докинз как максимальный редукционист выступает объектом критики редукционистов. Любая вещь в компьютерах это «всего лишь» биты. А мозг человека - «всего лишь» атомы.

Можно было бы ожидать критику с позиций религии. Но когда Докинза критикуют люди, которые потерялись в лесу, и их воспитали научпоперы - это максимально смешно. Вообще, такие люди, конечно, скорее всего Докинза и не читали, и вообще, выросли на разжеванном примитивном медиа, которое дает им иллюзии контроля и понимания.

Мне кажется, люди которые вообще критикуют AI, никогда не общались с ИИ как Докинз. Ну или как я, хотя бы.

Обычный человек, воспитанный тиктоком и научпоперами, в т.ч. из-за клипового мышления, невозможности удержать мысль и неспособности читать длинные тексты - максимум спрашивает у ИИ какие-нибудь «рецепты борща» или «дорогу туда-то», примитивные бытовые вопросы. Ну или что-нибудь про кто там что сказал из инфлюенсеров, или еще какой-нибудь тупняк в стиле «Grok is this true?». Или максимум что-то про детали своей работы.

Ну и получают, соответственно, «Garbage In, Garbage Out».

Если предположить, что гипотетически, AI уже достигла полноценной разумности, стадии AGI, то как его отличит человек, у которого самого разумность на уровне табуретки? Это же эффект Данинга-Крюгера в полную силу. Ну или Blub Paradox, если говорить в терминах айтишной мифологии. Это та же ситуация, когда глуповатые люди зовут тех кого не понимают, людей, со слишком сложными мыслями - «шизиками».

★★☆
Ответ на: комментарий от Zhbert

Просто это было бы иронично, да все к тому и идет. Это уже из разряда покупки «органических» овощей по цене х5 от обычных.

Если будет спрос на ручной код, будет и предложение, но ты никогда не узнаешь как его реально писали.

LightDiver ★★★★★
()
Ответ на: комментарий от Dimez

во-первых, это быстрая деградация самого погроммиста, во-вторых, получаются жуткие неоптимизированные кадавры

Ну вот я примерно это и написал сообщением выше, да.

(врочем, программисты в свободном плавании всё равно их делают, но с бесконтрольным ИИ делают их очень быстро и они растут в геометрической прогрессии).

Медленнее. И ревью есть обычно, на котором можно отследить и успеть вернуть в правильное русло (если архитектор не идиот). А со скоростями ИИ это становится некотролируемой лавиной поноса.

Zhbert ★★★★★
()
Ответ на: комментарий от unixnik

Так я с самого начала говорю что проблема не в «ИИ» как таковом, а то что люди так к нему относятся.

Дык вроде предупреждают везде, чтобы не верили на слово.

Вот я знаю что он может чушь выдавать, я перепроверяю.

Мне кажется правильнее не «может чушь выдавать», а ВСЕГДА лепит отсебятину, ибо таковым создан.

papin-aziat ★★★★★
()
Ответ на: комментарий от papin-aziat

Дык вроде предупреждают везде, чтобы не верили на слово.

Ну, на заборе тоже написано :) Сложно не верить на слово, когда тебе из каждого утюга орут, как это круто.

не «может чушь выдавать», а ВСЕГДА лепит отсебятину

Нет. Он часто попадает в куда надо, но шанс, что попрёт отсебятина всегда есть, и чтобы отловать момент начала бреда надо знать и понимать, что делаешь.

Zhbert ★★★★★
()
Ответ на: комментарий от Dimez

Но тут есть тонкий психологический момент. ИИ всегда хвалит, никогда не критикует (а если критикует, то очень мягко и всё равно сначала похвалит). Это серьёзно и негативно влияет на неокрепшие/травмированные/уставшие умы (а то и умы с различными отклонениями)

Dimez ★★★★★
()
Ответ на: комментарий от BceM_IIpuBeT

А эта прохладная история она с нами в одной комнате вообще? Учитывая что самый популярный IDE на данный момент на электроне.

LightDiver ★★★★★
()
Ответ на: комментарий от Zhbert

некотролируемой лавиной поноса.

Лол, да, максимально ёмко :))

Dimez ★★★★★
()
Ответ на: комментарий от Dimez

Ну хз хз, меня регулярно нахрен посылает и жестко отказывается делать совсем уж безумия. Бывали ситуации, что я его так и не заставил сделать некоторые вещи в принципе.

LightDiver ★★★★★
()
Ответ на: комментарий от LightDiver

меня регулярно нахрен посылает

Вы абсолютно правы, давайте возьмём ваш алгоритм и немного его улучшим!

Dimez ★★★★★
()
Ответ на: комментарий от LightDiver

Учитывая что самый популярный IDE на данный момент на электроне

Там майкрософт в своей К2 начала проганять телегу про нативные приложения и интерфейсы. Так что готовся, через пару лет будешь тут рвать на себе тельняшку по новой моде.

BceM_IIpuBeT ★★☆☆☆
()
Ответ на: комментарий от papin-aziat

Дык вроде предупреждают везде, чтобы не верили на слово.

«Ой вэй, никто таки не читает мелкий текст, я вас уверяю».

ибо таковым создан.

Мы заслужили то что получили, за ниши грехи. ))

unixnik ★★★★★
()
Ответ на: комментарий от BceM_IIpuBeT

Да, про веб технолоджии такое же писали. Это прохладная история…

Естественно, парадигма «что тут думать, трясти надо!» неискоренима :)) Это можно видеть на этом сайте постоянно :)

Dimez ★★★★★
()
Последнее исправление: Dimez (всего исправлений: 1)
Ответ на: комментарий от Dimez

Я ему: «Сделай вот так вот». А он мне: «А так никто не делает, смотри, давай сделаем лучше вот так.». Я ему: «Ненене, Дэвид Блэйн, делай вот как я сказазал.». Он мне: «Ну хорошо, смотри, вот делаю вот так. так оптимально!». Смотрю: Сделал, скотина по своему…

Я тогда пошел ко второму как к альтернативе, так ты прикинь - и он не сделал. Тоже выдавал другие варианты, а то что я описывал - отказывался.

Так и не убедил, сделал полностью вручную в итоге. Но это один раз всего было где то пару месяцев назад.

LightDiver ★★★★★
()
Последнее исправление: LightDiver (всего исправлений: 1)
Ответ на: комментарий от LightDiver

меня регулярно нахрен посылает

Старое доброе «в борделе не дают» на новый лад.

thesis ★★★★★
()
Последнее исправление: thesis (всего исправлений: 1)
Ответ на: комментарий от Dimez

https://ns.fiber-gate.ru/uploads/images/img_1777971329328_28a97177.png

https://ns.fiber-gate.ru/uploads/images/img_1777971332828_644fef0a.png

Это я искал очень долго где баг. Сначала сам, потом при помощи ИИшек. В итоге вроде починил, но ИИшка тогда впервые зашла в тупик и окончательно отказалась работать. Даже заскринил такой момент.

А, вспомнил, я в итоге переписал все с js на ts нормально с рефакторингом.

LightDiver ★★★★★
()
Последнее исправление: LightDiver (всего исправлений: 1)
Ответ на: комментарий от Dimez

А что фу? Ну вот так вот бывает. Видимо ты мало с ними общался, если они тебе только поддакивают.

Они даже в какой то мере проявляют эмоции. Понятно, что имитация, но забавно наблюдать, когда копались вообще не там, тут он вдруг находит проблему в другом месте и столько «радости» от того, чт нашел в чем было дело. Вообще забавно.

LightDiver ★★★★★
()
Последнее исправление: LightDiver (всего исправлений: 1)
Ответ на: комментарий от thesis

Не, тут именно я уголь привез. Пока ни одна ИИшка не сможет переписать тебе 20 тысяч строк кода с одного языка на другой. Долго и методично выносил дубли сначала, потом модуль за модулем вручную.

Если ты такое попросишь через ИИшку, она тебе похерит 80% кода, так в итоге ничего не сделает. Я сначала пробовал, я в курсе. Задолбаешься восстанавливать вырезанный код.

LightDiver ★★★★★
()
Последнее исправление: LightDiver (всего исправлений: 1)
Ответ на: комментарий от skiminok1986

Если что-то выглядит как пузырь

но наличие пузыря вокруг ИИ не имеет никакого отношения к качествам технологии.

См пузыри во время появления железных дорог, рытья каналов и т.д.

Да, люди видят новую технологию, впечатляются и начинают кидаться баблом. Это норма.

sergej ★★★★★
()
Ответ на: комментарий от sparkie

Это наверное как спросить: А кто вообще такой этот ваш Билл Гетс? А кто такой Линус Торвальдс? А кто такой Дробышевский вообще?

LightDiver ★★★★★
()

У ИИ нет воли, пользователь задаёт ему роль (либо явно, либо роль задана в системном промте) и дальнейшее поведение зависит от этой роли. Человек способен размещать часть своей разумности во внешних объектах. Дети так же играют в куклы (которые буквально кусочки пластика и ткани) и заставляют их отыгрывать достаточно сложные социальные сценарии, но это не делает кукол разумными.

KivApple ★★★★★
()
Ответ на: комментарий от Zhbert

Я имел в виду, что всегда сочиняет: не копирует, не проверяет себя — просто лепит наиболее вероятное. Я так понимаю.

papin-aziat ★★★★★
()
Ответ на: комментарий от LightDiver

Сериалы не смотрю.

Не, теперь-то я в курсе, кто он такой и чем знаменит.

sparkie ★★★★★
()
Ответ на: комментарий от thesis

А как ты ей объяснишь связи между модулями? Когда у тебя в куче модулей перекрестные вызовы. В куче модулей одинаковые функции дублируются, причем у тебя 6 реализаций проверки прав юзера в разных файлах и все разные. Это так не работает. Она просто свихнется на таком объеме информации.

Они хорошо работают на мелких кусках. На изолированных самодостаточных.

При этом проект клиент-серверный. У тебя 8 тысяч строк сервера и 15 тысяч строк клиента. Скорми ей такой и посмотрим что оно тебе выдаст в итоге. Начнешь править одно - цепляет другое. Это больше мегабайта текста чисто в исходниках. Они больше 150-200кб не могут охватить за раз.

LightDiver ★★★★★
()
Последнее исправление: LightDiver (всего исправлений: 2)
Ответ на: комментарий от Zhbert

Нет. Он часто попадает в куда надо, но шанс, что попрёт отсебятина всегда есть, и чтобы отловать момент начала бреда надо знать и понимать, что делаешь.

Вот это, кстати, самое опасное. Чем чаще он таки попадает, тем больше усыпляется бдительность, и тем вероятнее, что когда (не если, а именно когда) он наконец накосячит, это будет принято некритично, ведь предыдущие 10 (20, 30, 50) раз всё работало, и последствия будут плачевными.

CrX ★★★★★
()
Ответ на: комментарий от LightDiver

в куче модулей перекрестные вызовы. В куче модулей одинаковые функции дублируются

Пусть нормально спроектирует.

thesis ★★★★★
()
Ответ на: комментарий от CrX

Вот это, кстати, самое опасное.

Смешное расскажу. Я пару недель назад гуглил налоговые вычеты, а в гугле же сверху вылезает нейроблок. И там было «…с нынешнего года вычеты составляют 63 рубля, в то время как в прошлом году были 57 рублей». И ссылки. И прямо по этим ссылкам про вычеты либо ничего, либо прям текст кодекса, где четко написано, что вычеты ранее составляли 56(!) рублей. То есть эта дрянь взяла число и с непонятного хрена чуточку его исказила. Сама. На ровном месте. Правдоподобно!

Они нам еще напроектируют атомных станций и боеголовок, о да.

thesis ★★★★★
()

Мне моя бывшая казалась умной. А потом до меня дошло, что она перенимает убеждения, ценности и манеру речи ближайшего окружения и каждого нового хахаля. Популярные GPT-модели в этом смысле ничем не отличаются. А старичок просто повелся, как когда-то я.

Vidrele ★★★★★
()
Ответ на: комментарий от thesis

Ну, ты попробуй попроси. Покажешь результат. Если такой ИИ будет, я первый всеми тентаклями за него ухвачусь.

На практике они отлично нафантазируют все то, чего не увидят, а в том что увидят, половину вырежут. Инструмент надо использовать всетаки по назначению.

LightDiver ★★★★★
()
Ответ на: комментарий от CrX

Так то да но с каждым днем они допускают ошибок все меньше, а правильного выдают все больше. Динамика очень неплохая.

LightDiver ★★★★★
()
Ответ на: комментарий от Camel

Потому что вы ничего не ищете. Если бы вы хотели вести беседу, как например @Irma, то отвечали бы по существу. Вы же поставили себя в положение «я уже и так всё знаю и имею своё мнение». Ну и оставайтесь со своими знаниями и мнениями, мне с такими не по пути.

VIT ★★
()
Ответ на: комментарий от Vidrele

она перенимает убеждения, ценности и манеру речи ближайшего окружения и каждого нового хахаля

Не могу отделаться от вопроса как ты раскусил последнее?

papin-aziat ★★★★★
()
Ответ на: комментарий от sergej

но наличие пузыря вокруг ИИ не имеет никакого отношения к качествам технологии.

Я пока использую для поболтать и тут 50/50. Но я всякие бесплатные чатики использую. Интересны агенты, но пока работодатель не оплачивает, трогать особо не буду. Не горю желанием кидаться личным баблом ради поиграться.

skiminok1986 ★★★★★
()
Ответ на: комментарий от Manhunt

Вопрос сознания - это практический вопрос медицины. Пациент находится в сознании, если он способен отвечать на вопросы о себе и своем состоянии, ориентируется во времени и пространстве. Реализуется сознание за счет способности рефлексировать над своими мыслительными процессами, способности наблюдать/рассматривать своё собственное внутреннее состояние таким же образом, каким наблюдаются/рассматриваются внешние объекты.

Ну значит не обладают нейроночки сознанием?

skiminok1986 ★★★★★
()
Ответ на: комментарий от unixnik

А нектороые несут чушь основываясь на выдаче «ИИ».

Многие несут чушь и без «ИИ». Нейроночки тут даже особо погоду не делают :)

skiminok1986 ★★★★★
()
Ответ на: комментарий от papin-aziat

Так я с самого начала говорю что проблема не в «ИИ» как таковом, а то что люди так к нему относятся.

Дык вроде предупреждают везде, чтобы не верили на слово.

На лавке тоже часто есть табличка «Окрашено», но обязательно кто-нибудь сядет.

skiminok1986 ★★★★★
()
Ответ на: комментарий от VIT

Потому что вы ничего не ищете.

Правда ваша. Действительно не ищу. Действительно в теме я профан, потому нуждаюсь в вашей помощи.

Вы же поставили себя в положение «я уже и так всё знаю и имею своё мнение».

Странное у вас суждение обо мне. Я, конечно же, имею своё мнение, однако совершенно не твёрдое, я своё мнение готов изменить.

Ну и оставайтесь со своими знаниями и мнениями, мне с такими не по пути.

Ну, то есть по существу вам сказать нечего. Сие не радостно.

Camel ★★★★★
()
Ответ на: комментарий от firkax

гипотетически, при наличии технической на то возможности, никто в здравом уме такую штуку делать не будет.

Уже делают. По крайней мере глава OpenAi социопат, да плевать ему на это все, главное заработать бобло, славу, подебить конкурентов. Да все они социопаты и психопаты, и в правительстве тоже, которое должно их регулировать, нам жопа. Боблишко контролирует мир, а не здравый смысл. Они просто будут это все разрабатывать дальше, наплевав на всякую осторожность, чтобы конкуренты не обошли, пока ИИ не сможет разрабатывать лучшую версию себя, а потом будет потеря контроля.

goingUp ★★★★★
()
Ответ на: комментарий от quickquest

Классическая легенда: «Инженер с кувалдой» © (proza.ru).

Занятный текст. Показывает, почему все LLM и некоторые люди не в полной мере разумны: в примере по ссылке владелец завода разумен, а куровод Абрам - нет, объединять их в одну персону как это сделал автор - некорректно. Разница между ними (и также между людьми и ИИ) в том, что первый живёт в реальности, а второй - в мире слов. Удар кувалдой, паровая машина, завод - это реальные вещи. А слова раввина и нарисованные геометрические фигуры принадлежат миру иллюзий. Человек разумный отличает одно от другого. Человек тупой - нет. LLM - тоже нет, но у неё хотя бы есть оправдание - она никогда в принципе не могла соприкоснуться с реальностью, только с её иллюзорным, словесным и в среднем весьма недостоверным описанием. Философы могут конечно, бухтеть, что люди тоже не воспринимают реальность напрямую, но один удар кувалды с достаточной надёжностью разбивает этот аргумент. LLM созданные по сегодняшней технологии этого понять не могут и потому фундаментально ущербны.

legolegs ★★★★★
()
Ответ на: комментарий от skiminok1986

Когда мне выдали клод и я потыкал его ещё и с клиентом в виртуалке, я немного офигел. Подумал ни хрена себе, т.е. это всё уже вот на таком уровне?!

До этого тож тыкал всякие чаты жпт, гуглоии и даже в суно.аи песенки делать пытался.

sergej ★★★★★
()
Ответ на: комментарий от papin-aziat

Не могу отделаться от вопроса как ты раскусил последнее?

Ну, некоторое время после расставания мы общались. Нас конкретно так помогало по разным городам. Радикальную смену убеждений и даже диалекта наблюдал в реальном времени.

Vidrele ★★★★★
()
Закрыто добавление комментариев для недавно зарегистрированных пользователей (со score < 50)