Ричард Докинз пообщался c Клодом, назвал его Клавой и сказал что она разумна

Два часа ему дебоширить от силы.

Это очень много если дебоширить в правильном выбранном месте в правильно выбранное время. От вертолёта кстати тоже можно отстреливаться и компьютер будет делать это точнее чем человек.

Я пока остановился на предварительном скармливании файлов в формате txt. Дипсику хорошо заходит, но приходится потратить время на добычу таких файлов.

Самонаведение на финальном участке полёта

Не назвал бы это ИИ. Сопоставить картинку с камеры с заранее заданной - много ума не надо.

да, повёлся, прошу прощения, быстрый гуглёж показал что был скандальчик, который я пропустил. спасибо за поправку.

да, верноятно, но я не уверен что понимаю о чём ты.

т.е. как бы объяснить: с одной стороны кажется так и должно быть ввиду ограниченности ресурсов в реальной жизни. т.е. нельзя держать фокус сразу на всём. значит будет как то фильтроваться, что то вверх, что то вниз. условно.

но вот у человека довольно прикольно сделано - похоже какие-то фракталоподобные алгоритмы. Если взять например, условно, дни рождения. То мы помним, ну положим шарики воздушные. Там на 7 день рождения ребёнок помнит что было 7 прекрасных жёлтых шариков. На 8 день рождения там были красные и жёлтые, наверное 4 и 5. На 9 были жёлтые и красные шарики. На 10 были шарики.. т.е. вероятно продолжая ряд, можно предположить где то на 20 дне рождения что в памяти отложится что просто ДР - это шарики, условно. Но какие были на 20 др, а какие на 19 - уже не будет понятно. Это размоется. Как бы свернётся в понятие «день рождения» и немного потеряются детали.

штука в том что он начинает в этом контексте путаться немного.. т.е. увеличение вычислительных блоков вероятно не поможет уже особо. нужен какой то способ выделять важное и переносить его в долгосрочную память.

это фейк, прошу прощения что ввёл в заблуждение.

это фейк. прошу прощения что ввёл в заблуждение.

нельзя держать фокус сразу на всём. значит будет как то фильтроваться, что то вверх, что то вниз.
нужен какой то способ выделять важное и переносить его в долгосрочную память.

Ага, например, вариант реализации ассоциативной памяти на нейронной сети, которая пытается свести к минимуму размер описания:
Рекуррентная нейронная сеть / Нейронный компрессор истории © (wikipedia.org).

А теперь представьте себе что он не сам рулил бы, а поручил это ИИ.

А теперь представь себе, что мэр города стал бы наводить урбанистику так, как он её понимает. Но за бульдозер не сам бы сел, а посадил бы 1000 таджиков на 1000 бульдозеров и послал сносить ларьки. Представил? Ну вот ИИ бы тут хуже не сделал.

И, кстати, мужик на бульдозере принял своё решение так и таким образом, как никакая нейросеть не может за отсутствием у неё яиц.

А теперь представьте себе что он не сам рулил бы, а поручил это ИИ.

Вроде недавно куда-то нарулили автопилоты Tesla…

Прикол-то именно в том, что все попытки дать определение разуму скатываются именно в то, чтобы выделить человека как единственного его обладателя, но при этом не произнося этого напрямую.

Как минимум если будет создано/обнаружено существо/алгоритм, способный решать любые интеллектуальные задачи, которые решает человек (а может даже больше), то мне видится корректно называть это разумным.

Ну да, сейчас этап этот. Когда сможет, придумают новый челлендж.

Вот когда станет невозможно придумать новый челлендж, то можно будет говорить о создании полноценного искусственного разума. Пока эти челленджи всё ещё создаются без проблем.

Видит опасность – заорала, вариантов нет.

У меня в этом большие сомнения. Как объективно установить факт «обезьяна видит опасность»?

Так то и многие люди непроизвольно кричат при виде серьёзной опасности жизни.

Если инстинкты у тебя изменяются под влиянием разума и письменной культуры

Сами инстинкты врождённые и не изменяются. Изменяются факторы, активирующие эти инстинкты.

и тем вероятнее, что когда (не если, а именно когда) он наконец накосячит

Всё тоже самое применимо и к человеку. Человек регулярно косячит иногда с фатальными последствиями с сотнями жертв.

Вот когда станет невозможно придумать новый челлендж, то можно будет говорить о создании полноценного искусственного разума

Никогда не станет. Что-то придумать можно всегда.

Всё тоже самое применимо и к человеку. Человек регулярно косячит иногда с фатальными последствиями с сотнями жертв.

Да. Но никто не полагается на одного единственного человека в качестве эксперта по всему, слепо доверяя его советам и решениям. А с LLM находятся люди, которые так делают. И чем реже LLM косячат, тем чаще люди будут делать именно так, что и приведёт практически гарантированно к серьёзным проблемам рано или поздно. И да, проблема именно в людях и некритическом восприятии, а не в LLM как таковых.

На чём основано данное утверждение? Создать ИИ, возможности которого являются строгим надмножеством человеческого вполне может оказаться возможным.

Люди очень изобретательны в придумывании критериев, дающих именно тот результат, который хочется. Любой ИИ отличим от человека (иначе это не ИИ, а человек). А если отличим, значит есть какие-то признаки, которые можно проверить с помощью челленджей. Они могут начать звучать абсурдно — для нас сейчас, но когда они станут актуальны, это изменится. 100 лет назад те извороты, которые придумали сейчас, точно так же казались бы абсурдными.

Сверх-ИИ вполне может оказаться способен полностью эмулировать человека во всех его странностях. Но при этом уметь намного больше человека.

Любой ИИ отличим от человека (иначе это не ИИ, а человек).

Достоверная эмуляция человека в интеллектуальных задачах не является человеком. Как минимум решателю интеллектуальных задач не обязательно иметь человеческое тело.

Сверх-ИИ вполне может оказаться способен полностью эмулировать человека во всех его странностях. Но при этом уметь намного больше человека.

Вот тебе уже и отличие.

Достоверная эмуляция человека в интеллектуальных задачах не является человеком. Как минимум решателю интеллектуальных задач не обязательно иметь человеческое тело.

Если последним отличием будет человеческое тело, именно этот критерий (или его многочисленные следствия) и будет выдвинут в качестве нового челленджа. Так всю дорогу и было: то не является, это не является, но как только оно реализовывается в ИИ, сразу же внезапно становится важным.

Вот тебе уже и отличие.

Можно дать ИИ команду, что во время челенджа не проявлять свехчеловеческие способности.

Если последним отличием будет человеческое тело, именно этот критерий (или его многочисленные следствия) и будет выдвинут в качестве нового челленджа.

Нельзя, потому что речь идёт только об интеллектуальных задачах, а не о всех задачах вообще. Задачи вроде вскопать огород или зачать ребёнка не являются интеллектуальными. Для чистоты эксперимента человек и ИИ во время челенджа закрывается в комнате и может обмениваться с внешним миром только информацией.

Нельзя, потому что речь идёт только об интеллектуальных задачах, а не о всех задачах вообще

Сейчас речь идёт «только об интеллектуальных задачах» в каком-то таком смысле, который понимаешь именно ты, как человек своего времени, именно сегодня. При необходимости определение «интеллектуальных задач» будет скорректировано. Так было всю дорогу. Не считать машину, способную обыграть чемпиона в шахматы, интеллектуальной, ещё 50 лет назад звучало столь же абсурдно, как и сейчас требования, которые будут предъявлять в будущем.

При необходимости определение «интеллектуальных задач» будет скорректировано.

С чего вдруг? Это всё тот же тест Тьюринга как он был изначально сформулирован:

Стандартная интерпретация этого теста звучит следующим образом: «Человек взаимодействует с одним компьютером и одним человеком. На основании ответов на вопросы он должен определить, с кем он разговаривает: с человеком или компьютерной программой. Задача компьютерной программы — ввести человека в заблуждение, заставив сделать неверный выбор».

Все участники теста не видят друг друга. Если судья не может сказать определённо, кто из собеседников является человеком, то считается, что машина прошла тест.

Из Википедии.

Не считать машину, способную обыграть чемпиона в шахматы, интеллектуальной, ещё 50 лет назад звучало столь же абсурдно, как и сейчас требования, которые будут предъявлять в будущем.

Ещё тогда были люди, которые понимали, что игра в шахматы недостаточна для сильного ИИ. Уже были разговоры про необходимость решения не чётко сформулированных задач и без полного знания о состоянии системы.

Шахматы – это очень примитивная в плане математического определения игра.

Ещё тогда были люди, которые понимали, что игра в шахматы недостаточна для сильного ИИ. Уже были разговоры про необходимость решения не чётко сформулированных задач и без полного знания о состоянии системы.

Ну так и сейчас есть разговоры, например о необходимости восприятия окружения при помощи органов чувств.

В рамках теста Тьюринга можно поставить человеку и ИИ задачу управлять дроном с установленной камерой, так что органы чувств не выходят за существующие рамки.

Я писал уже выше проблема ИИ - невозможность работы на большом контексте. Они работают хорошо только врамках кванта без времени. Пока это не решится, все эти органы чувст и прочее - херня.

Или же он будет терять контекст происходящего на каждом кадре камеры заново?

Я тут спорю совсем о другом с оппонентом, который в принципе отказывает в разуме кому либо кроме человека.

Про текущие проблемы ИИ понятно, но они могут быть решены со временем, а CrX заявляет, что не могут никогда.

Ну он там утверждал вроде, что в шахматы ИИ не может обыграть человека или я краем глаза вчитался не так. Хотя с 1996 человек в шахматы ИИ (бота) пока не обыграл. Бывает.

В принципе сложно отказывать в разуме тому, кто может воспринимать речь и адекватно в рамках ее контекста отвечать. Не важно как и почему он это делает. Но пока во всем этом есть именно ряд ключевых недостатков, которые все к хренам ломают.

Это и отсутствие органов чувств и невозможность работы с контекстом и отсуствие мотивации и прочее прочее. Работы выше крыши.

Вообще все это мелочи, по моему личному мнению, кроме очень ограниченного объема памяти. Ну нельзя нормально работать с тем, у кого вся память умещается в 150кб текста. А остальное решаемо.

Скажем так: пусть это будет не разум. Назовите это как вам угодно. Но если это крякает как утка и выглядит как утка и на вкус как утка, мне этого достаточно.

Можно. А можно поставить другую — такую где выходят. И когда с дронами ИИ начнёт справляться лучше человека, поставят именно такую.

Сейчас ИИ справляется вполне с тракторами. Очень даже успешно. Не знаю уж насколько лучше или хуже человека. Выйти и починить трактор он врядли сможет, конечно. Но поле вспашет.

Я тут спорю совсем о другом с оппонентом, который в принципе отказывает в разуме кому либо кроме человека.

Я не «отказываю в разуме» кому-либо. Я утверждаю, что разговоры о разуме, сознании, квалиа и прочей полуэзотерической чуши — неплодотворны, это бесконечное двигание ворот. Гораздо больше смысла обсуждать конкретные возможности, какие задачи решаются эффективно, какие плохо, а какие не решаются пока вообще.

Про текущие проблемы ИИ понятно, но они могут быть решены со временем, а CrX заявляет, что не могут никогда.

И опять это вовсе не то, что я утверждаю. Текущие проблемы решены будут. И вновь возникшие тоже. Только нам не нужен никакой разум, и проблему ставить именно так — это тупиковый путь. Проблемы надо решать так, чтобы наиболее важные задачи эффективно решались.

А вот тут полностью согласен. У каждого почему то свое понимание разумности, которое гуляет при достижении результата и никогда не считается удовлетворительным. По выполнению опредеденных задач - лучший критерий.

А какой нам разум нужен? Представь, дали ИИшке тела саморазмножающиеся с мотивацией, гормонами и прочим прочим. ИИшка теперь выполняет те же задачи, что и человек, допустим. Просто допущение. Этого достаточно? Или какой вот лично тебе нужен разум, чтобы признать его разумом?

Ну он там утверждал вроде, что в шахматы ИИ не может обыграть человека или я краем глаза вчитался не так.

Второе.

Тейк был как раз в том, что условно 50+ лет назад если человеку сказать «через 20 лет компьютер будет обыгрывать человека в шахматы, значит ли это, что у компьютера есть интеллект», он ответит «конечно значит, но обыгрывать не будет». Когда стал обыгрывать, решили, что это шахматы фигня, и надо го (а особо продвинутые сразу двинулись к следующему этапу). Когда обыграл и в го, решили, что надо решать нечётко сформулированные задачи. Когда появились LLM, решили, что и это фигня, надо самостоятельно ставить задачи. Конца у этого пути нет. Суть в том, что сами по себе понятия разума, сознания, а иногда и интеллекта было бы честнее формулировать как «то что есть у человека и нет ни у кого/чего больше».

Или какой вот лично тебе нужен разум, чтобы признать его разумом?

В том и дело, что мне никакой не нужен. Я за отказ от попыток что-то признать или не признать разумом и сосредоточение на непосредственном решении задач и решении проблем. А как там при этом «философы» двигают свои критерии для разума, сознания и интеллекта и в каком очередном закутке действительности ищут квалиа — дело десятое.

Ну это же так. Ты живность какую держал? Особенно из млекопитающих. Ну очевидно у них разум есть, просто заточенный под другие шаблоны. Свои характеры, эмоции, разумное поведение, адаптирующееся под среду, обучение итд. Человек тут вообще не уникален.

Гораздо больше смысла обсуждать конкретные возможности, какие задачи решаются эффективно, какие плохо, а какие не решаются пока вообще

Ни одна задача не решается ИИ на том уровне, на котором она может быть решена человеком. Буквально ни одна. И в целом, судя по ошибкам которые ИИ допускает, проще сказать что ИИ не разумен.

А по ошибкам, которые допускает человек, не достигнув и тысячной доли той производительности, что выдает кое где ИИ?

Разница в том что человек свои ошибки может увидеть и исправить.

Если человек может увидеть и исправить, то почему он их допускает?

Разница в том что человек свои ошибки может увидеть и исправить.

Да?? Чо-то наблюдение за участниками этого форума не даёт такой уверенности

Ты живность какую держал? Особенно из млекопитающих. Ну очевидно у них разум есть

Тут половине в этой теме, да и в целом в мире точно так же совершенно очевидно, что нет.

Потому что это исключительно игра в слова — что считать разумом, а что нет. Никакой сути за этим не стоит. Когда дело доходит до конкретики, все друг с другом согласны. А весь спор лишь о том, как определять разум. Это ещё бессмысленнее, чем о душе спорить.

Ни одна задача не решается ИИ на том уровне, на котором она может быть решена человеком. Буквально ни одна.

Перемножение десятизначных чисел. Решается компьютером лучше, чем человеком. Да, не нейросеть, но в данном случае это неважно (задачи, решаемые нейросетями лучше, чем человеком, перечислить несложно, но это будут не такие яркие примеры), скорее дело в том, что ты скажешь, что эта задача не считается, надо «нормальную». А нормальной будет та, которая хорошо решается только человеком.

Перемножение десятизначных чисел

А гвоздезабивной станок на заводе лучше справляется с забиванием гвоздей, чем человек поставленный на том же заводе. Всё, ИИ победил. Жалкие людишки посрамлены!

задачи, решаемые нейросетями лучше, чем человеком, перечислить несложно

ну перечисли

А гвоздезабивной станок на заводе лучше справляется с забиванием гвоздей, чем человек поставленный на том же заводе.

Именно.

Всё, ИИ победил. Жалкие людишки посрамлены!

Зачем ставить задачу в терминах победы и посрамления? Нам не надо (а кому «надо», ни разу не смог объяснить, зачем), чтобы «ИИ победил», или чтобы людишки были посрамлены. Нам надо гвозди забивать, числа перемножать, ну или там лекарства новые изобретать, дронами управлять и т.д. и т.п.

ну перечисли

Ну например: рассчёт свёртывания белков, построение развёртки свёрнутой 2d-поверхности по томограмме, подбор структуры молекул с заданными свойствами, нахождение движущихся объектов на последовательности снимков звёздного неба, прогнозирование стихийных бедствий на основе собранных данных в околохаотической системе.

Зачем ставить задачу в терминах победы и посрамления?

Это так, эмоциональная составляющая, мы ж не машины.

Ну а в целом это ответ на твою претензию, типа разговоры о «разуме» бессмысленны, надо смотреть на отдельные задачи.
А я вот тебе скажу что отдельные задачи ИИ решает хуже человека именно потому что нету разума как целого. Но да, в заданных стерильных контролируемых и ограниченных условиях, которые ему создал и настроил человек и сам этот автомат является элементом решения задачи человеком, гвоздезабивной автомат может забить больше гвоздей работая 24/7. Но стоит контролируемым и ограниченным условиям как-то поменяться и всё, надо будет заново настраивать.
И вообще что мешает двигать ворота в решении задач. Абсолютно точно так же двигаются.

рассчёт свёртывания белков, построение развёртки свёрнутой 2d-поверхности по томограмме, подбор структуры молекул с заданными свойствами, нахождение движущихся объектов на последовательности снимков звёздного неба, прогнозирование стихийных бедствий на основе собранных данных в околохаотической системе.

Что-то ты какие-то примеры привёл которые вообще не обсуждаются ни на ЛОРе ни где в контексте ИИ. Всё числодробильни какие-то. А как же программирование и написание компиляторов?
И ты ошибаешься, человек справится с этими задачами лучше. А с применением ИИ как инструмента – быстрее, но не всегда. А что самое главное ИИ может заткнуться на какой-то ошибке и не знать что делать, а человек выход найдёт.

Но да, в заданных стерильных контролируемых и ограниченных условиях, которые ему создал и настроил человек и сам этот автомат является элементом решения задачи человеком, гвоздезабивной автомат может забить больше гвоздей работая 24/7. Но стоит контролируемым и ограниченным условиям как-то поменяться и всё, надо будет заново настраивать.

Всё так. И там, где это имеет смысл, задачу автономности надо решать. Далеко не везде имеет, впрочем.

И вообще что мешает двигать ворота в решении задач. Абсолютно точно так же двигаются.

Ничто не мешает. Разница в том, что двигание ворот в решении задач — это постановка новых задач и поиск способов их эффективного выполнения. То есть, практически полезная деятельность. Двигание ворот в определениях разума — в лучшем случае бессмысленно, а в худшем так вообще вредно.

В чём проблема с теми, кто вечно пытается найти разум то у ИИ, то у животных, а то пытается создать именно его — чтобы вот под слово подходило, а в чём польза — неважно? В принципе ни в чём само по себе, но это ведёт к тому, что придут SJW и начнут рассуждать о нарушении прав железки, эксплуатации и прочей ахинеи. А это уже прямой вред. Надо не «разум» (сознание, душу, ещё какую-то эзотерическую фигню) искать, а эффективность решения задач улучшать.

Что-то ты какие-то примеры привёл которые вообще не обсуждаются ни на ЛОРе ни где в контексте ИИ

Так ЛОР про линуксы и СПО. А так много где обсуждаются. В моём информационном пузыре это как раз очень даже на слуху.

А как же программирование и написание компиляторов?

С этим ИИ справляются пока плохо.

И ты ошибаешься, человек справится с этими задачами лучше.

Нет, не может, по крайней мере часть. И дело далеко не только в скорости. Часть в принципе не решается человеческим мозгом. Или решается в простейших случаях (которые уже решены, и больше не требуется) и не решается с более сложных.

А в других, где решается, человек просто совершает больше ошибок и работает медленнее. То есть — менее эффективно, «хуже». Например в том же сравнении последовательности снимков звёздного неба.

А что самое главное ИИ может заткнуться на какой-то ошибке и не знать что делать, а человек выход найдёт.

Ну так и замечательно, пусть находит. ИИ нужен чтобы облегчать решение задач, а не «заменять» всех людей во всём. А то это прям двое из ларца одинаковых с лица получаются.

В чём проблема с теми, кто вечно пытается найти разум то у ИИ, то у животных

Так ты жаловался на то что как только находят, так сразу меняют определение разума, всё лишь бы человек один был обладателем разума.

Например в том же сравнении последовательности снимков звёздного неба.

Вот скажи мне пожалуйста, как так может быть, что в упомянутых уже в треде дронах… возьмём разведывательные дроны, задача надёжного выявления техники/людей/сооружений в условиях помех/низкого разрешения/большой высоты людьми решается лучше и именно поэтому там всегда есть живые операторы(во всех странах мира). «Простейшая» ведь задача. А потому что чтобы что-то найти среди помех, в растительности и под маскировкой, нужно не просто применять какие-то математические операции к изображению, а понимать что да как. А в случае звёздного неба почему-то ИИ вдруг решает задачу лучше человека, а не просто служит вспомогательным инструментом(в основном для ускорения, возможно с жертвами по качеству обнаружения).

ИИ нужен чтобы облегчать решение задач, а не «заменять» всех людей во всём. А то это прям двое из ларца одинаковых с лица получаются.

Ну вот и получается что никакого разума у ИИ нет.

Так ты жаловался на то что как только находят, так сразу меняют определение разума, всё лишь бы человек один был обладателем разума.

К чему это? Как это противоречит заявленной проблеме?

И я не столько жаловался, сколько предлагал более честное определение.

Вот скажи мне пожалуйста, как так может быть, что в упомянутых уже в треде дронах…

Почему ты задаёшь этот вопрос мне? Я не утверждал, что ИИ управляет дронами лучше человека на данном этапе. Может когда-нибудь будет — это вполне насущная практическая задача.

А в случае звёздного неба почему-то ИИ вдруг решает задачу лучше человека, а не просто служит вспомогательным инструментом

Ложная дихотомия. Вспомогательные инструменты и нужны для того, чтобы решать задачи лучше (по разным критериям: качественнее, быстрее, проще, дешевле). ИИ таким инструм ентом и является. Решая некоторые задачи лучше.

(в основном для ускорения, возможно с жертвами по качеству обнаружения).

Нет, качество обнаружения в данном случае как раз выше.

Ну вот и получается что никакого разума у ИИ нет.

Нет, не получается (если точнее, то получается, но по другим причинам). Как и не получается что есть. Это просто бессмысленные разглагольствования. Наличие «разума» у ИИ — это хреновая цель. Во многом потому что само это понятие постоянно меняется. Надо не «разум» у него искать (или пытаться приблизить), а работать над повышением эффективности решения конкретных задач.