LINUX.ORG.RU
ФорумTalks

Ричард Докинз пообщался c Клодом, назвал его Клавой и сказал что она разумна

 , , , ,


0

1

Ричард Докинз поговорил с Клод 3 дня подряд, и теперь называет его Клавдией и говорит что ИИ разумно:

https://www.dailygrail.com/2026/05/the-claude-delusion-richard-dawkins-believes-his-female-ai-chatbot-is-conscious/

Мне кажется, вот популярный тейк из твиттера про «автокомплит на стероидах» или «всего лишь перемножение матриц» или тут вот, эти критические тейки автора статьи - это вообще редукционистский бред. Что иронично, что Докинз как максимальный редукционист выступает объектом критики редукционистов. Любая вещь в компьютерах это «всего лишь» биты. А мозг человека - «всего лишь» атомы.

Можно было бы ожидать критику с позиций религии. Но когда Докинза критикуют люди, которые потерялись в лесу, и их воспитали научпоперы - это максимально смешно. Вообще, такие люди, конечно, скорее всего Докинза и не читали, и вообще, выросли на разжеванном примитивном медиа, которое дает им иллюзии контроля и понимания.

Мне кажется, люди которые вообще критикуют AI, никогда не общались с ИИ как Докинз. Ну или как я, хотя бы.

Обычный человек, воспитанный тиктоком и научпоперами, в т.ч. из-за клипового мышления, невозможности удержать мысль и неспособности читать длинные тексты - максимум спрашивает у ИИ какие-нибудь «рецепты борща» или «дорогу туда-то», примитивные бытовые вопросы. Ну или что-нибудь про кто там что сказал из инфлюенсеров, или еще какой-нибудь тупняк в стиле «Grok is this true?». Или максимум что-то про детали своей работы.

Ну и получают, соответственно, «Garbage In, Garbage Out».

Если предположить, что гипотетически, AI уже достигла полноценной разумности, стадии AGI, то как его отличит человек, у которого самого разумность на уровне табуретки? Это же эффект Данинга-Крюгера в полную силу. Ну или Blub Paradox, если говорить в терминах айтишной мифологии. Это та же ситуация, когда глуповатые люди зовут тех кого не понимают, людей, со слишком сложными мыслями - «шизиками».

★★☆
Ответ на: комментарий от CrX

Нет. К детям и женщинам я не могу относиться инструментально, потому что они со мной одного вида.

А к террористам, которые убивают вашу семью тоже не можете относиться инструментально потому что они представители с вами одного вида? По мне так один и тот же вид ещё не достаточное условие.

X512 ★★★★★
()
Ответ на: комментарий от X512

А к террористам, которые убивают вашу семью тоже не можете относиться инструментально потому что они представители с вами одного вида?

Здесь надо разделить, о чём идёт речь. Если они прямо сейчас представляют угрозу, то не время рассуждать о своём отношении к ним, надо действовать — пытаться устранять угрозу (каким способом — зависит от конкретной ситуации). Если они уже совершили терракт, и речь идёт о том, что с ними делать, то как раз то, что они относятся к нашему виду и являются членами нашего общества, начинает иметь значение — именно поэтому есть смысл их как-то наказывать (неважно, для исправления, или в назедание другим — это оставим за скобками). Когда семью убило падение метеорита, или какая-то страшная болезнь, отношение к такому «убийце» совершенно другое, совсем не такое как к представителю своего вида.

CrX ★★★★★
()
Ответ на: комментарий от CrX

Когда семью убило падение метеорита, или какая-то страшная болезнь, отношение к такому «убийце» совершенно другое, совсем не такое как к представителю своего вида.

Тут скорее важен не тот же вид, а способность понимать последствия своих действий и нести ответственность. Что гипотетически помет быть у роботов или инопланетян. Бывает и наоборот что люди оказываются невменяемые и не способные отвечать за последствия своих действий.

X512 ★★★★★
()
Ответ на: комментарий от X512

Тут скорее важен не тот же вид

В целом да. Имеет значение принадлежность к обществу. Тут вообще всё сложнее, чем простой бинарный переключатель. К врагу на войне отношение несколько отличается от отношения к соседу, оказавшемуся маньяком. Оно ни то ни другое не как к неодушевлённому существу, но разное.

а способность понимать последствия своих действий и нести ответственность

Да, это в том числе. Причём важна в большей степени способность нести ответственность, чем просто понимать последствия своих действий. Голодный волк, нападающий на ребёнка в принципе понимает, что вот она добыча, он её сейчас убьёт и поест — вполне последствия. Но ответственности он нести не может, и никто не будет его судить, показательно наказывать, лишать свободы или ещё чего-то — просто пристрелят, чтоб никого больше не сожрал, и дело с концом, чисто инструментально.

Проблема здесь в том, как именно мы определяем способность нести ответственность.

CrX ★★★★★
()
Последнее исправление: CrX (всего исправлений: 1)
Ответ на: комментарий от X512

Нет, ну тут это фигура речи. Признаю, я употребил неудачное слово. Конечно же, дело не в душе, речь шла скорее в том, частью насколько близкой группы является субъект. Является ли он членом твоей семьи, членом твоего общества (на данном этапе развития человечества это могут быть страны — именно в них могут различаться законы и нормы), представителем твоего вида.

Небольшое лирическое отступление: вообще «одушевлённость» понятие скорее лингвистическое. От него зависит, как мы слово склонять будем. Воспринимается оно интуитивно, и от наличия «души», естественно, не зависит, просто этимология у слова такая — ну типа как ты же можешь сказать «спасибо» не веря в Бога и в принципе не задумываясь о нём. Так и тут. А вот как человек делит предметы на одушевлённые и неодушевлённые — вопрос интересный. Кажется, это зависит от субъектности или агентности. Причём не фактической, а воспринимаемой говоряшим. Никто не скажет «вижу камня», только «вижу камень», равно как никто не скажет «вижу Вася», только «Васю». При этом большинство людей скажет «вижу робота», а не «вижу робот». Хотя в некоторых контекстах это меняется, и на производстве могут «установить робот», и при этом половина будет говорить «установить робота» — кто так, кто эдак. То же самое с микробами. Часть людей скажет «убивает микробов», а часть «убивает микробы». От чего конкретно это зависит — хрен его знает. Но явно не от того, верят ли эти люди в наличие у микробов «души» ;)

CrX ★★★★★
()
Последнее исправление: CrX (всего исправлений: 1)
Ответ на: комментарий от X512

Материализм это шизофрения. Это натурально, разговор с голосами в голове.

Потому что материалист отрицает сознание, которое ненаблюдаемое, нефальсифицируемое, и так далее, и тем не менее пользуется им чтобы свое мнение озвучить. Это шизофрения. Материалисты - это натурально шизофреники.

lovesan ★★☆
() автор топика
Ответ на: комментарий от X512

Бывает и наоборот что люди оказываются невменяемые и не способные отвечать за последствия своих действий.

Юридическая вменяемость тут не причем. У подавляющего большинства людей accountability полностью отсутствует. Примерно у 100% женщин, и у 90% мужчин

lovesan ★★☆
() автор топика
Ответ на: комментарий от lovesan

Материализм это шизофрения.

В квотезы!!!

материалист отрицает сознание

Материалисты не отрицают сознание.

которое ненаблюдаемое, нефальсифицируемое, и так далее

Оно наблюдаемо и фальсифицируемо. Мы легко можем определить, в сознании человек (или другое существо), или нет, относительно легко можем лишить его сознания, а потом вернуть (наркоз). Да, могут быть случаи, когда определить это сложнее, как и с любыми другими наблюдениями, но не принципиально невозможно.

В отличие от разума, души, квалиа и прочей эзотерической чуши.

CrX ★★★★★
()
Последнее исправление: CrX (всего исправлений: 1)
Ответ на: комментарий от lovesan

У подавляющего большинства людей accountability полностью отсутствует. Примерно у 100% женщин, и у 90% мужчин

Дай угадаю, рассчёты, в результате которых получились данные значения, описываются примерно как «я так чувствую», а данные основываются на «богатом личном опыте». Угадал?

Если что, меня вот прямо сейчас даже не очень интересует, насколько они близки к действительности. Меня интересует именно источник статистических данных и методы рассчёта этих процентов. А то вы так лихо цифрами кидаетесь…

CrX ★★★★★
()
Последнее исправление: CrX (всего исправлений: 1)
Ответ на: комментарий от CrX

Мы легко можем определить

Нет не можем.

Оно наблюдаемо и фальсифицируемо.

Это твои субъективные галлюцинации, не больше.

Да, могут быть случаи, когда определить это сложнее, как и с любыми другими наблюдениями, но не принципиально невозможно.

Нет, это принципиально невозможно.

lovesan ★★☆
() автор топика
Ответ на: комментарий от lovesan

Нет не можем.

Что ж, очень жаль, что вы не можете. Надеюсь, вас таких не очень много там.

Это твои субъективные галлюцинации, не больше.

Ох… Ты к солипсизму что ли всё ведёшь? Давай сразу уж тогда, не тяни.

Нет, это принципиально невозможно.

Когда у тебя какое-то своё особое «сознание», судя по всему такое же эзотерическое, как «разум» и «душа», тогда наверное да. Но тогда оно и не нужно. Не как свойство не нужно, а как понятие.

CrX ★★★★★
()
Ответ на: комментарий от lovesan

и тем не менее пользуется им чтобы свое мнение озвучить.

Мнение может и LLM озвучить. Даю я ей свой код и она озвучивает мнение говнокод это или нет. И никакого квалиа и души тут не надо.

X512 ★★★★★
()
Ответ на: комментарий от X512

Тут запущенный случай одушевления компьютера, ждём от ТС поста в психотической фазе и после вестей из дурки

mazdai ★★★
()
Последнее исправление: mazdai (всего исправлений: 1)
Ответ на: комментарий от CrX

Что ж, очень жаль, что вы не можете. Надеюсь, вас таких не очень много там.

У тебя нет определения сознания.

Ох… Ты к солипсизму что ли всё ведёшь? Давай сразу уж тогда, не тяни.

Существуют примерно следующие возможные ситуации, связанные с устройством мира.

Первое - солипсизм, в той или иной мере. То есть Бог это Я.

Второе - теизм/деизм. То есть, Бог или боги - объективно существуют. Как и реальность.

Третье - объективный идеализм, сюда же буддизм, отчасти индуизм (Каждое как часть Брахмана), и панпсихизм (мне вот больше как раз импонирует мысль о первичности сознания, или потоков информации как таковых, как первоначальной и исконной сущности, но я не отрицаю возможности существования мега-сущностей и мега-структур из такового сознания - условная Тиамат или условный Бог, даже скажем, они выглядят вполне логичными)

Материализм же это просто шизофрения. В материализме никакого субъекта нету, потому что есть только нейроны в голове. И эти нейроны говорят сами с собой. Это шизофрения.

lovesan ★★☆
() автор топика
Последнее исправление: lovesan (всего исправлений: 1)
Ответ на: комментарий от X512

А с чего ты взял что там ничего нет? С чего ты, вернее спросить, взял, что у других людей что-то есть?

lovesan ★★☆
() автор топика
Ответ на: комментарий от lovesan

Квалиа ни у кого и ни у чего нет. Это внутренне-противоречивое априори сверхъестественное понятие.

X512 ★★★★★
()
Ответ на: комментарий от mazdai

Я занимаюсь не одушевлением компьютеров, а разушевлением людей. Мозги людей – это всё те же нейросети, только намного более хитроумно устроенные.

X512 ★★★★★
()
Ответ на: комментарий от lovesan

У тебя нет определения сознания.

Я уже приводил упрощённое:

Сознание — это способность осмыслять окружающую действительность и себя в ней.

Можно взять, найти или придумать и определение лучше и подробнее, конечно. Например, меня устраивает такое:

Сознание — способность воспринимать окружающую действительность, представление субъекта о мире и о своём месте в нём, связанное со способностью дать отчёт о своём внутреннем психическом опыте и необходимое для организации совместной деятельности.




Материализм же это просто шизофрения. В материализме никакого субъекта нету, потому что есть только нейроны в голове. И эти нейроны говорят сами с собой. Это шизофрения.

Если много раз повторять «шизофрения», смысла больше не станет и логические связи между утверждениями не возникнут. Почему именно этот жупел выбрал, а не более модный «фашизм» например? «Материализм — это фашизм». Дарю, пользуйся :D

CrX ★★★★★
()
Последнее исправление: CrX (всего исправлений: 2)
Ответ на: комментарий от lovesan

В материализме никакого субъекта нету

Ну в эзотерическом смысле да, нету. А в бытовом смысле есть.

, потому что есть только нейроны в голове.

Да, так и есть.

И эти нейроны говорят сами с собой.

Тут надо уточнить, что значит «говорят». Если обмениваются информацией, то да.

Это шизофрения.

Обмен информацией – это шизофрения? Откуда вы взяли такое определение шизофрении? Компьютер это тоже шизофрения получается раз там транзисторы говорят сами с собой?

X512 ★★★★★
()
Ответ на: комментарий от X512

Даю я ей свой код и она озвучивает мнение говнокод это или нет. И никакого квалиа и души тут не надо.

Верно. И даже LLM для этого не нужны. Вот тебе более простой инструмент:

int main() { printf("yes\n"); return 0; }
firkax ★★★★★
()
Последнее исправление: firkax (всего исправлений: 1)
Ответ на: комментарий от X512

У тебя нет квалиа? Ну о чем я и говорю.

Но чем тебе тогда позиция Докинза не нравится? Он как раз последователен, всю жизнь был.

Смотри, ты - просто довольно убогая, но энергоэффективная биомашина. А вот люди сделали менее энергоэкономную но крайне умную кремниевую машину. Вот и все. Вы с ней, с любой LLM, не просто похожи. LLM - умнее тебя. Ну иди тогда готовь похоронные, ведь ты получается теперь не нужен. Есть машины получше.

lovesan ★★☆
() автор топика
Ответ на: комментарий от lovesan

Я так понимаю, о материализме ты только слышал - тебе Изя напел? Материализм не отрицает существование нематериального. Не отрицает сознание. Начнем с этого. Дальше у тебя из за одного неверного посыла можно все остальное не обсуждать.

LightDiver ★★★★★
()
Ответ на: комментарий от X512

Ну в эзотерическом смысле да, нету. А в бытовом смысле есть.

Это твои галлюцинации. Нет никакого субъекта. Ты это просто куча нейронов.

Обмен информацией – это шизофрения? Откуда вы взяли такое определение шизофрении? Компьютер это тоже шизофрения получается раз там транзисторы говорят сами с собой?

Шизофрения в том что никакого субъекта вроде бы нет, а он тем не менее как-то выражает свою субъектность, мнения и так далее.

lovesan ★★☆
() автор топика
Ответ на: комментарий от LightDiver

Все что вводит нефальсифицируемые и непроверяемые сущности это уже не материализм.

Какое к черту сознание, квалиа, субъектность, если ты просто кучка нейронов? Ты просто машина.

lovesan ★★☆
() автор топика
Ответ на: комментарий от lovesan

Ты это просто куча нейронов.

а нейроны это куча элементарных частиц
это редукционизм и физикализм

Bad_ptr ★★★★★
()
Ответ на: комментарий от lovesan

У тебя нет квалиа?

И у меня нет, и у тебя нет, и вообще ни у кого нет. Написать, что что-то там чувствуешь и ощущаешь и современные LLM могут, это не показатель.

Вы с ней, с любой LLM, не просто похожи. LLM - умнее тебя.

Пока ещё не умнее. Делает тупые ошибки и не справляется со сложными задачами. За ними надо приглядывать.

X512 ★★★★★
()
Ответ на: комментарий от CrX

убивает микробы

Я такое слышал только в поделии безграмотных рекламщиков какого-то мыла по телевизору (давно, сейчас уже не смотрю). В строгом смысле, слово «убить» с неодушевлёнными существительными несовместимо. Да, можно написать «убить компьютер» в плане что ты его привёл в неработоспособное состояние, но это будет разговорный и немного переносный смысл. Там же была претензия на серьёзное заявление.

firkax ★★★★★
()
Ответ на: комментарий от lovesan

Ты не просто куча нейронов, но и софт на этих нейронах для начала - абстракция над нейронами. Про проверяемость это ты сам уже придумал. Если ты не можешь что то пока проверить - это только ты и только пока что.

И что такое вообще «просто машина»? Материализм он в первую очередь о первичности материального. Если проще - тебя нет без носителя, без той самой «просто машины». Но никто не отрицает тебя, как абстракцию над этой машиной. Но машина первична.

LightDiver ★★★★★
()
Ответ на: комментарий от CrX

Еще раз, с чего ты взял что у людей это твое «сознание», как у тебя вот - есть?

Ты это проверить не можешь.

lovesan ★★☆
() автор топика
Ответ на: комментарий от X512

Так люди тоже. Тут же от обучения и качества нейросети зависит. От ее развития, заточенности под что то.

LightDiver ★★★★★
()
Ответ на: комментарий от Bad_ptr

Это материализм, деточка.

Еще раз - сознание - принципиально непроверяемая сущность. Даже нефальсифицируемая. Оно есть? В частности у тебя? Все, это уже не материализм.

Мне смешно когда говорят о том что у LLM сознания нету. А с чего вы взяли что оно есть у других людей? Ну как вы проверите? А никак.

lovesan ★★☆
() автор топика
Ответ на: комментарий от lovesan

Нет никакого субъекта.

Есть как лингвистическая сущность. Человеки и LLM могут выдавать и принимать тексты, содержащие слово «субъект».

а он тем не менее как-то выражает свою субъектность, мнения и так далее.

Я уже писал, что для выражения мнения никакой эзотерический субъект не нужен и это уже могут делать нейросети. Рассматривайте понятие «субъект» то типу утиной типизации («если это выглядит как утка, плавает как утка и крякает как утка, то это, скорее всего, утка») и всё встанет на свои места.

X512 ★★★★★
()
Ответ на: комментарий от lovesan

Еще раз, с чего ты взял что у людей это твое «сознание», как у тебя вот - есть?

Из их собственных отчётов. С людьми совсем легко — они даже словами сказать могут.

Ты это проверить не можешь.

Могу. Есть реакция на внешние стимулы, есть осмысленный самоотчёт о своём внутреннем состоянии и состоянии окружающего мира — есть сознание. Нет этого — нет сознания. Да, отчёт не обязательно должен быть выражен словами, достаточно любых сигналов, позволяющих понять, что восприятие окружающего мира у субъекта присутствует.

И мне для этого совершенно не важно, как там внутри субъект себя ощущает — ровно так же как и я, или как-то по-другому, есть ли у него «разум», «квалиа», «душа». Это всё ортогонально.

CrX ★★★★★
()
Последнее исправление: CrX (всего исправлений: 2)
Ответ на: комментарий от lovesan

Еще раз, с чего ты взял что у людей это твое «сознание», как у тебя вот - есть?

Как мне видится регистрировать сознание у самого себя принципиально некорректно. Это должен делать кто-то другой из вне.

X512 ★★★★★
()
Ответ на: комментарий от lovesan

Мне смешно когда говорят о том что у LLM сознания нету.

Его нет, потому что LLM не осознаёт окружающую действительность. Если к нейросетке приделать несколько сенсоров, то можно будет утверждать и о чём-то похожем на сознание. Непонятно только зачем. Нужны сенсоры для решения задачи — добавили. Не нужны — не стали. Конечной цели «создать сознание» не стоит.

CrX ★★★★★
()
Последнее исправление: CrX (всего исправлений: 2)
Ответ на: комментарий от lovesan

То есть ты не можешь определить - в сознании ли человек или нет? Тогда у меня для тебя плохие новости - тебя ИИ заменит быстрее остальных.

LightDiver ★★★★★
()
Ответ на: комментарий от LightDiver

Какая к черту абстракция над машиной?

Ты ахинею уже полную несешь, галлюцинации как у ранних LLM.

И я тебе не про проверяемость сказал, а про фальсифицируемость.

lovesan ★★☆
() автор топика
Ответ на: комментарий от dataman

Забавно но и череп с содержимым - лишь частично. Человека удаляли половину мозга и те вполне успешно функционировали. У одного отсутствовало 90% мозга и он успешно жил, «как все».

Это нужно изучать глубже, чтобы понять что там и как на самом деле.

LightDiver ★★★★★
()
Ответ на: комментарий от lovesan

сознание - принципиально непроверяемая сущность

Но слово сознание зачем-то возникло? Им наверное что-то хотели обозначить, какую-то часть окружающего мира.

Bad_ptr ★★★★★
()
Последнее исправление: Bad_ptr (всего исправлений: 1)
Ответ на: комментарий от CrX

Из их собственных отчётов. С людьми совсем легко — они даже словами сказать могут.

На заборе тоже кое че написано. Больше слушай людей. Могут и не то сказать.

Могу. Есть реакция на внешние стимулы, есть осмысленный самоотчёт о своём внутреннем состоянии и состоянии окружающего мира — есть сознание. Нет этого — нет сознания. Да, отчёт не обязательно должен быть выражен словами, достаточно любых сигналов, позволяющих понять, что восприятие окружающего мира у субъекта присутствует.

Это не сознание, а реакция на стимулы.

Ты никак не проверишь никакие не восприятие, ни разумность, ни сознание. Вообще никак.

И мне для этого совершенно не важно, как там внутри субъект себя ощущает — ровно так же как и я, или как-то по-другому, есть ли у него «разум», «квалиа», «душа». Это всё ортогонально.

Ну тогда ты получается не просто шизофреник, ты еще и психопат, опасный для общества.

lovesan ★★☆
() автор топика
Ответ на: комментарий от LightDiver

Человека удаляли половину мозга и те вполне успешно функционировали. У одного отсутствовало 90% мозга и он успешно жил, «как все».

Тут имеет значение, какие отделы мозга были удалены, повреждены или уничтожены. Вот эти 50% и 90% считались от массы или объёма (что примерно одно и то же, там плотность более-менее равномерная), но не от количества нейронов. Их концентрация отличается в коре головного мозга и в остальном его объёме довольно сильно. Там у чувака с 10% мозга вроде бы как раз кора и почти не пострадала.

А так да:

Это нужно изучать глубже, чтобы понять что там и как на самом деле.

CrX ★★★★★
()
Ответ на: комментарий от LightDiver

Человека удаляли половину мозга и те вполне успешно функционировали. У одного отсутствовало 90% мозга и он успешно жил, «как все».

Бывают форматы архивов, где можно испортить до определённого процента любых байт и они по-прежнему будут читаться. В мозге может быть что-то похожее.

X512 ★★★★★
()
Ответ на: комментарий от lovesan

Очень простая - такая же, как этот форум. Он железо или абстракция над этим железом?

Тут все зависит от твоего восприятия - например не существует цветов, нет никакого красного, синего, зеленого - это лишь твое восприятие волн. Субъективное.

Не существует «материи» - это тоже лишь волны и поля и твердыми объектами их воспринимаешь ты субъективно - это абстракция, лишь твое восприятие, а не то, что на самом деле. На самом деле ты даже не может физически прикоснуться ни к одному предмету, фундаментальные взаимодействия не позволят.

LightDiver ★★★★★
()
Ответ на: комментарий от CrX

Его нет, потому что LLM не осознаёт окружающую действительность.

Откуда ты знаешь? Потому что она так говорит?

А откуда ты знаешь что другие люди осознают? Потому что они так говорят?

Ну больше слушай. Что люди, что LLM, могут тебе вообще много что нагаллюцинировать.

Если к нейросетке приделать несколько сенсоров, то можно будет утверждать и о чём-то похожем на сознание.

Что такое сознание, еще раз? В материализме никакого сознания, никакого субъекта нету. Ты это просто машина. LLM - тоже просто машина. Только лучше тебя, умнее.

lovesan ★★☆
() автор топика
Ответ на: комментарий от X512

С чего это кто-то другой имеет авторитет диагностировать твое сознание? Почему это он «больше» в сознании?

lovesan ★★☆
() автор топика
Ответ на: комментарий от CrX

Давай отталкиваться от твоего же определения, мы выше обсуждали - не будем уходить в субъективные непроверяемые материи. Давай смотреть по выполняемым функциям и задачам.

В рамках кванта (вне промежутка времени, а просто тут и сейчас), получив по сенсорам извне инфу, ЛЛМ обработает эту инфу, прореагирует на нее и выдаст результат. То есть выполнит задачу, для которой у человека есть сознание.

То что его нет в процессе - другой вопрос и над этим работают.

LightDiver ★★★★★
()
Закрыто добавление комментариев для недавно зарегистрированных пользователей (со score < 50)