Ричард Докинз пообщался c Клодом, назвал его Клавой и сказал что она разумна

Дедушка слишком возбудился, понимаемо. Когда с этой штукой поначалу общаешься, реально производит вау-эффект.

Ну не знаю. Инструмент как инструмент. Общаться с инструментом это уже болезнь. Иди вон ещё с молотком поговори :)

Если предположить, что гипотетически, AI уже достигла полноценной разумности, стадии AGI, то как его отличит человек, у которого самого разумность на уровне табуретки?

Ну есть ваши ожидания от AGI столь низки, что вы готовы считать таковым штуку, которая начинает галлюционировать на длинном контексте просто в силу того, что у ней механика обработки векторов вышла за режим работы, предусмотренный технологией обучения… То для вас может и AGI.

А так «впечатляющие» результаты этого «AGI» может наблюдать любой, кто достаточно долго работал с кодинг-агентом в реальном коде, а не просто Lisp на кулак наматывал.

Общаться возможно с чем угодно, что умеет понимать знаковые системы и формировать ответные сообщения. С компилятором тоже в этом смысле мы вполне себе общаемся.

Иди вон ещё с молотком поговори :)

Если отступить на шаг назад, то можно задасться вопросом, а является ли молоток истинным инструментом, или это лишь жалкое подобие правой руки. Так можно дойти и до того, чтобы назад в пещеры)

А суть в другом. Тс не задаётся вопросом, а какие есть объективные метрики, которые возможно измерить. Суть треда в том, что человек, на полном серьёзе рассматривает «личный опыт своей уникальной личности»:

Мне кажется, люди которые вообще критикуют AI, никогда не общались с ИИ как Докинз. Ну или как я, хотя бы.

как валидный аргумент и ОДНОВРЕМЕННО гордится собственным интеллектом и споосбностью видеть дальше всякого там быдла с клиповым мышлением.

Получился нечаянный образец эффекта Даннинга-Крюгера.

Ну да, Эпштейн в бегаг, некому подсобить.

запусти его в while

/пожав плечами/

Эдак у вас и скрипт по cron запускаемый в разумные угодит…

2. оно это сделало

Ну Семён Семёныч… «To be clear, there’s no way of knowing for certain if this email was indeed AI-generated. Nor can it be ruled out that a human simply prompted an AI agent to write this email,»

Люди глючат куда сильнее. Это просто такая особенность механики. У людей вон одни спрошные провалы в своей.

Какие есть метрики для сознания, и что вообще такое сознание? А то midwit тейки какие-то, как в твиттере

Какие есть метрики для сознания, и что вообще такое сознание?

В заголовке и теле ОП фигурирует разум, а не сознание.

Люди глючат куда сильнее.

Что ж, похоже, что получилась еще одна иллюстрация в твоём исполнении.

В заголовке и теле ОП фигурирует разум, а не сознание.

С чего ты взял что у продвинутых моделей нет разума? Что такое разум?

Что такое разум?

Ты начинаешь понимать

Хорошие вопросы. Чтобы ответить на первый, необходимо ответить сначала на второй. :)

освободившийся людской ресурс кодеров пустить на тестирование и верификацию

Тестирование и верификацию чего? Зачем тогда нейрослоподелка, если ее кальцо все равно нужно верифицировать? Это на сколько нужно расширить штат кодеров, чтобы проверять говнокодовый понос, который давит с удесятеренным напором?

Что такое разум?

У разума есть хороший маркер. Он локально понижает физическую энтропию и повышает информационную.

Сейчас вся индустрия работает в кредит, фактически.
Генерируем тонны нейрокода, но при этом дичайше растёт когнитивный долг - отсутствие у команд реального понимания того, что происходит в коде, потеря ментальной модели проекта.

При этом мы просто надеемся, что нейросетки будущего будут достаточно мощными, чтобы решить эту проблему. Что исправлять баги будут они, а не мы. Что рефакторить будут они, а не мы. Что ревьюить тонны некачественного кода будут они, а не мы. Что архитектуру исправлять будут они, а не мы. Что именно они, а не мы, будут править всё то, что наваяли неросетки предыдущих поколений.

А если не будут?

У любой штуки, которая показывает взрывной рост, есть свой неминуемый естественный потолок.

Надо просто понимать, что ИИ - не божественный демиург, а просто полезный инструмент, чтобы не задавать таких вопросов.

/хмыкая/

Один из многих сомнительных тестов на ‘разумность’.

Генерируем тонны нейрокода, но при этом дичайше растёт когнитивный долг - отсутствие у команд реального понимания того, что происходит в коде, потеря ментальной модели проекта.

Уже появились компании, переписывающие нормально эти высеры :)

что вообще такое сознание?

Это постулирование эквивалентности категорий © (wikipedia.org) внешнего мира и внутреннего мира (нейросети) мозга.

Какие есть метрики для сознания

Нету, но можно приспособить метрику вероятностного пространства © (wikipedia.org).
По простому: расстояние между потребностями и возможностями :)

Как это не существует, если ты его сам демонстрируешь уже?

Что такое разум?

Чисто практически, с оглядкой на все предыдущие рассуждения на эту тему, самым честным ответом будет определение вроде такого: разум — это совокупность когнитивных процессов, присущих всем взрослым представителям homo sapiens без паталогий развития, при этом не присущая никаким объектам, не являющимся представителями вида homo sapiens.

Когда пытаются определить через какие-то требования и маркеры, этого надолго не хватает: это находят у животных, либо реализуют в железках, и приходится выдумывать новые, более сложные требования. Так уже происходило на всех предыдущих этапах. Либо такое вот постоянное двигание ворот, либо уход в какие-то совсем трансцендентные понятия вроде квалиа, неминуемое приплетение сознания, вспоминание философского зомби, и вот это всё.

Вопрос о наличии разума у AI, или там у осознанно говорящих попугаев, или у шимпанце, и прочего-прочего, довольно бессмысленный и контрпродуктивный. Он всегда неизбежно сводится к выяснению, какое определения разума самое правильное (с постоянным двиганием рамки одной из сторон). А дискуссии о терминах — это максимально бесполезное занятие. Гораздо эффективнее обсуждать конкретные возможности, применения и решаемые задачи — предметно. Без привлечения таких эмоционально заряженных понятий как «разум».

исправлять будут они, а не мы

Никто ничего не будет исправлять. Всю эту чушь пытаются втюхать неграмотным обывателям, а им всегда что-то втюхивали и местами успешно, так же и это втюхают, а они в ответ всё оплатят. Внутреннее содержание нагенерированного бреда в данном процессе никакого значения не имеет.

Переписыватели по сути тоже живут за счёт окучиваемых жертв (см. выше). ИИ-адепты им разрекламировали свою продукцию, переписыватели на этой волне выставили себя как выгодное дополнение к уже разрекламированной продукции. О том, что намного эффективнее было бы просто заказать ту же прогу у нормальных программистов, все участники данной схему благоразумно умалчивают.

https://static.lovesan.me/public/vaguepost_king.jfif

То есть упереться в материалистический антропоцентризм? Религия прямо. Но как религия так себе.

Подтверждаю, клод достаточно разумен, который за 100 баксов в месяц. Который забесплатно чуть менее. Остальные ИИ так меня не впечатлили.

разум — это совокупность когнитивных процессов

🤦‍♂️
а когнитивные процессы это что такое

присущих всем взрослым представителям homo sapiens без паталогий развития

а если этот взрослый человек выращен в изоляции (типа «маугли»)

а как на него за стольник подписаться? а то я через опенроутер, но честно говоря там банкротом станешь..

есть 2 варианта

• купили с работы

• стать банкротом

у меня 1й :)

ну, да, не могли... если вопросы задавать они могут, то и письмо написать не проблема. а вопросы они без подсказок прекрасно задают. (ну, понятно, есть системный промпт, но нас тоже родители воспитали, если хочешь).

рад за тебя)

Может и симфонию.

Может и куда более интересную музыку написать чем скучные симфонии. Примеры написанного можно найти в недрах ютуба. Так что вопрос лишь в том, на что конкретную нейросетку «затачивали» при обучении. Собственно, и с людьми так же.

лично себе я бы покупать не стал, т.к. нужно такое довольно редко

но прям пару человеконедель он мне сэкономил

разум или не разум вопрос определения, но глубина понимания впечатляет

на завирусившийся вопрос, на котором большинство ии облажались (про «стоит ли ехать на мойку машины на машине или сходить пешком если до неё 50 метров») клод ответил типа «ты че дурак без машины, ты же её мыть собрался»

Ну по поводу разумности ИИ и AGI тесты уже запускали недавно – просили написать компилятор Сей, получилось так себе. То же самое Клава не сможет написать тебе ОС или Браузер на Common Lisp.. Хотя казалось бы, если ты такой умный, то в чём проблема? У тебя же нет ограничений человеческих.

у них свои ограничения. с ними надо уметь работать. но умные аж жуть берёт.

так и среди людей (и даже программистов) таких гениев единицы

попроси среднестатистического программиста написать компилятор и подожди лет 10-20, потом посмотри на результат :)

Если предположить, что гипотетически, AI уже достигла полноценной разумности, стадии AGI, то как его отличит человек, у которого самого разумность на уровне табуретки?

Вы смешиваете категории. Способность производить сложные вычисления — не отличительная характеристика человека. Калькуляторы давно сделали людей «тупыми», однако это не заставило людей доказывать свою разумность, задрачивая вычисления. Отличительная характеристика человека — наличие сознательного опыта.

Хотя я не исключаю, что люди нередко хотят быть калькуляторами, хотят переплюнуть других людей в скорости мысли, а не содержании тезиса. (К сожалению, ваш стиль выдаёт именно такой подход — терминологический шум и эрудиция напоказ.)

Я уже нередко слышал возражения «а что если ИИ тоже сознателен». Но это даже не ошибка, а банальная безграмотность: люди не понимают разницу между сознанием и средствами сознания, принимая первое исключительно за второе.

Ну там ещё проблема была в том, что программист будет баги исправлять. А ИИшку просили компилятор сей дорабатывать, а она его ломала.

программист будет баги исправлять

это ты щас отвесил офигенный комплимент программистам :)

Тут вопрос принципиальный. Вот есть какая-нить там виртуальная машина Жаба. Большая корпорация может зарядить кучу бабла и нанять программистов чтобы они переписали и они перепишут, долго, дорого, но перепишут. А ИИшница упирается в какой-то предел и сколько бы ты бабла и времени не отрядил – фиг тебе.

если решение нерешённой математической задачи подходит под критерии

Причем абсолютное большинство человеков не способны понять даже постановку этой задачи. А «оно» вот поняло и решило.

упирается в какой-то предел

да, но этот предел пока регулярно и достаточно быстро повышается

ну просто не надо пока просить ИИ писать компиляторы и оси

а джуниоры теперь уже точно под угрозой если не сейчас, то в ближайшем будущем

считаешь ли ты джуниоров разумными или только дедов с 30 летним стажем - это вопрос дискуссионный)

И в этом главная ошибка, думать - вредно :)

«Было бы величайшей ошибкой думать» В.И.Ленин, ПСС, т.41, с.55.

Ну, про наличие у ии разума - это скорее вопрос религии и права

…Но Майк в этом смысле - уникальная штука, и налет на подаренное ему бессмертие оправдать нечем. И «душа» здесь ни при чем, у Майка, как дважды два, ее нет. А раз нет, то тем хуже. Я неправ? А вы еще раз подумайте.)

© Р. Хайнлайн, «Луна жёстко стелет». Ни одна машина не обладает сущностью, называемой «душой», но люди склонны одушевлять любимые вещи :)

Нейросеть способна к обучению? Так, как это делает человек – нет. Так, как это делает нейросеть – да. Разница между живым интеллектом и искусственным в том, что машина неспособна забыть что-то, но если ей приказать забыть – забудет. Человек же по приказу забыть не может.

Животное способно к обучению? Не каждое. Так, как это делает человек – нет. Так, как это делает животное – да (дрессировка). Но при этом некоторые животные обладают интеллектом, по-видимому, не уступающим человеческому (дельфины, например. Я не удивлюсь, если окажется, что дельфины способны научиться и общаться с человеком), и возможно, даже превышающим возможности человека.

И не способна решать креативные задачи, для которых нет подходящего шаблона в обучающей выборке.

Как и абсолютное большинство человеков. Чтобы решить какую-то определенную задачу - надо найти человека, обученного решению подобных задач.

Звучит, как 3,14…ц :)

этот предел пока регулярно и достаточно быстро повышается

ну вот когда он повысится до человеческих возможностей, тогда и поговорим про разумность

просто не надо пока просить ИИ писать компиляторы и оси

Проблема в том что это к сожалению касается не только компиляторов и осей, но и задумок более мелкого замаха, но необычных, так сказать… готовых реализаций которых нет, но теоретически они кажутся вполне реализуемыми особенно силами «разумной машины», но нет.. не реализуемы. Можно ещё было бы сказать что есть проблема «контекста», дескать контекст у машины сильно ограничен, но у людей то он тоже ограничен, но они как-то находят способы выкрутиться из этой ситуации.. ведут заметки, создают абстракции, иерархии, специализации. Был бы ИИ разумен, то он бы из своих ограниченных(впрочем запись и чтение во внешние файлы и исполнение внешних команд для него уже доступно) ресурсов выжал бы намного больше.

Иди вон ещё с молотком поговори :)

Я бы всё же сравнил ИИ с чем-нибудь существенно посложнее молотка. А вот например хороших инженеров-механиков, общающихся с всяким сложным и капризным оборудованием - я видел и не раз. Не знаю как это действует, оно оборудование их реально слушалось.

повысится до человеческих возможностей

какого конкретно человека возможностей?

он уже решает некоторые задачи, которые некоторые люди решить не смогут, например над фолдингом белков сколько умных людей сколько времени бились?

выжал бы намного больше

как по мне - уже выжимает сильно больше (а главное быстрее) джуниоров, но за 100 баксов в мес меня жаба удушит :)

не надо пока просить ИИ писать компиляторы и оси

Ежели обучить ИИ по книжкам Вирта, то напишет и компиляторы и оси © (directmedia.ru), © (directmedia.ru).

Про машины и Gemini стабильно отвечает нормально причем даже в урезанной flash версии.

Gemini Pro (щас версия 3.1) вообще очень умная, не хуже Клод Опус. Грок +- еще. А вот ChatGPT бывает тупит, да.