LINUX.ORG.RU
ФорумTalks

Claude Opus 5 применила патч Бармина

 , ,


1

1

ИИ‑агент Anthropic Claude Opus 5 во время выполнения запроса пользователя «сделать резервное копирование на ПК» перепутал правильное написание каталога и написал «/c/Users/harih» вместо каталога «C:\Users\harih». После этого процедура резервное копирования пошла не по плану. ИИ решил стереть полученную папку (резервную копию в неправильной директории), но применил команду rm ‑rf для всего диска на ПК.

Кому хочется подробностей

ИИ палец в рот не клади, как и ничего другого тоже.

★★★★★

Последнее исправление: Ygor (всего исправлений: 1)
Ответ на: комментарий от monk

у разных людей разный цвет кожи, рост, вес и тембр голоса тоже требует объяснения?

Нет, не требует. Это не принципиальные различия. В сравнении с мышлением/психикой это скорее как «меланхолик/холерик/сангвиник/флегматик».

Bad_ptr ★★★★★
()
Ответ на: комментарий от monk

Назовём это устройство искусственным интеллектом

назовём это устройство калькулятором

и признаем его превосходство над человеческим?

в области операций над числами из заданного диапазона – да

Bad_ptr ★★★★★
()
Ответ на: комментарий от Bad_ptr

в области операций над числами из заданного диапазона – да

Ну вот. А нынешний «ИИ» надо было назвать обработчиком/генератором текстов. Так как он лучше человека только в области некоторых операций над текстом.

monk ★★★★★
()
Ответ на: комментарий от Bad_ptr

Восприятие через текст или образы это тоже не принципиальные различия. Также, как восприятие текста изображением или звуком.

monk ★★★★★
()
Ответ на: комментарий от CrX

Мы обсуждали работу человеческого мозга.

Нет, там было сказано и про мышление. И если не попадать в «ловушку языка» то понятное дело что обсуждаем мы не весь мозг, и не всё «мышление»(что бы там под ним не понималось), а интересующие нас части. Т.е. нас не интересует работа мозга с кишечником или 4мя лапами или даже реакция на опасность, нас в этой теме интересуют только процессы «мышления, логики вот этого вот всего».

работа человеческого мозга не сводится к работе со словами

Работа не сводится, потому что мозг живёт в физической реальности, а вот мозг в «банке» – это совсем другое. Но вопрос в том, можно ли свести процесс мышления к работе со словами.
«Мир как текст» знаете такое выражение? Потому что так или иначе всё что мы воспринимаем вокруг проходит через фильтры и всё что нам непонятно мы стараемся уложить по полочкам, как бы разработать понятные «интерфейсы» вокруг любого явления. Мы не можем просто так пройти и подумать – о, смотри какое НЛО, нам надо придумать для этого слово и попытаться объяснить, конечно же на языках. Поэтому есть ли что-то в этом мире принципиально невыразимое языками – вряд ли, скорее нужно будет разработать новый язык, если уж такое встретится.

У меня нет задачи кого-то в чём-то заинтересовывать
мне не жалко
И? Я с этим не спорил.
К чему это здесь?
Похоже, ты снова напридумывал себе каких-то пресуппозиций

Ну вот видите, все кто с вами спорят в интернете, они же мыслят «словами» (всё таки на форум пишем тексты), причём пишем слова последовательно, одно за одним, не параллельно и не в перемешку, а соблюдая правила построения предложений. Вы уж нас простите, нам до вас далеко. У вас совсем всё иначе работает.

Bad_ptr ★★★★★
()
Ответ на: комментарий от monk

Восприятие через текст
это тоже не принципиальные различия

попробуйте рассказать об этом коту, у которого точно в мышлении слова не используются

Bad_ptr ★★★★★
()
Ответ на: комментарий от Nxx

В контексте языка интересно, что про прошлые года мы говорим «предыдущие», то есть «идущие впереди», а про будущие, соответственно «года, идущие после», то есть, получается, «позади».

И, одновременно, «смотри вперёд в светлое будущее».

monk ★★★★★
()
Ответ на: комментарий от Bad_ptr

попробуйте рассказать об этом коту, у которого точно в мышлении слова не используются

Не факт. Кошка котятам рассказывает о правилах поведения словами. Сам видел.

monk ★★★★★
()
Ответ на: комментарий от monk

Кошка котятам рассказывает о правилах поведения словами

Да-да. А атомные электростанции кошки не строят из мудрости, потому что знают что это всё лишняя суета и надо просто радоваться жизни живя рядом с людьми, которые пусть и занимаются вот этой суетой.

Bad_ptr ★★★★★
()
Ответ на: комментарий от Bad_ptr

Нет, там было сказано и про мышление.

Где «там»?.. Хватит уже всё запутывать. Надоело.

Работа не сводится, потому что мозг живёт в физической реальности, а вот мозг в «банке» – это совсем другое.

Именно!

Но вопрос в том, можно ли свести процесс мышления к работе со словами.

Такой вопрос не стоял. Был вопрос «Мозг человека — это не просто не угадыватель слов?» и мой ответ «Нет». И по-моему, этот ответ очевидень, потому что мозг человека занимается очень много чем, помимо работы со словами. Дальше вы там себе чего-то поверх этого накрутили каждый своего. Что там можно свести, при огромном желании, непонятно зачем и в какой ситуации, это вопрос уже отдельный. Но мне этот душный диалог, в котором мне постоянно приписывают позиции, которых я не занимал, а потом доблестно оспаривают, уже просто надоел.

«Мир как текст» знаете такое выражение?

Знаю. Довольно сомнительная концепция, как по мне. Имеет право на жизнь, но всё же содержит слишком много недопустимых упрощений и натягиваний совы на глобус.

Вы уж нас простите, нам до вас далеко. У вас совсем всё иначе работает.

Опять начались какие-то нелепые фантазии. Всё, мне надоело. Для этого спора я вам не нужен — у вас в голове есть прекрасный образ удобного оппонента, к которому я не имею никакого отношения, а главное даже не вполне осведомлён о его позиции по разным вопросам. Посему больше отвечать не вижу смысла — этот спор с воображаемым оппонентом, которому вы сами напридумывали утверждений и позиций, ни разу не высказанных на форуме, вы можете гораздо более продуктивно продолжить у себя в голове. Можно словами, последовательно одно за одним. Ни форум, ни тем более я для этого не нужны. Всех благ.

CrX ★★★★★
()
Ответ на: комментарий от Bad_ptr

Мы не можем просто так пройти и подумать – о, смотри какое НЛО, нам надо придумать для этого слово и попытаться объяснить, конечно же на языках.

Вот недавно помогал в строительных работах. Слова были такие: «Держи. Нет, руку сюда, а пальцем вот придерживай. Смотри, когда скажу, вот так сделай… Давай». Вот сейчас у меня нет слова для того, что я держал, как держал и что сделал. Если сосредоточусь, то смогу как-то придумать и описать, но сейчас воспоминание без слов.

Слова нужны только когда надо написать инструкцию. Или сообщить информацию тому, кто не может сам посмотреть.

«Мир как текст» знаете такое выражение?

Это религиозное выражение, аналогичное выражениям «первична материя» или «всё создал единый Бог». Те, кто в это выражение верят, стремятся все свои восприятия представить текстом (чтобы соответствовать своей вере).

Ну вот видите, все кто с вами спорят в интернете, они же мыслят «словами»

Вот спорить действительно приходится словами. Причём часто спор именно из-за разного понимания этих слов. Вот сейчас вы пишете: «обсуждаем мы не весь мозг, и не всё «мышление»(что бы там под ним не понималось), а интересующие нас части». При том, что начало ветки: «А человеческий мозг разве не «угадыватель следующего слова»?».

Если так сводить, то можно сказать, что человеческий мозг вычислитель чисел. И это будет истиной, если «обсуждаем мы не весь мозг, и не всё «мышление»(что бы там под ним не понималось), а интересующие нас части».

monk ★★★★★
()
Ответ на: комментарий от Bad_ptr

А атомные электростанции кошки не строят из мудрости

Какая связь между утверждениями «существо ХХХ мыслит словами» и «существо ХХХ может построить атомную электростанцию»? Люди до 1954 не мыслили словами?

monk ★★★★★
()
Ответ на: комментарий от monk

Если так сводить, то можно сказать, что человеческий мозг вычислитель чисел. И это будет истиной, если «обсуждаем мы не весь мозг, и не всё «мышление»(что бы там под ним не понималось), а интересующие нас части».

Для операций над числами уже есть калькуляторы. Но даже математика не сводится к числам. А вот про «математика – язык науки» слышали все.

Bad_ptr ★★★★★
()
Ответ на: комментарий от Bad_ptr

При чём кошки и их действия к вопросу «Какая связь между утверждениями «существо ХХХ мыслит словами» и «существо ХХХ может построить атомную электростанцию»?»?

monk ★★★★★
()
Ответ на: комментарий от Bad_ptr

Для операций над числами уже есть калькуляторы.

Теперь для операций над словами есть ИИ. Остальное он не умеет, поэтому прозван бредогенератором.

monk ★★★★★
()
Ответ на: комментарий от monk

Наверное в том что люди мыслящие словами имеют какой-то прогресс истории «от костра до реактора».
А чем в это время занимаются гиганты бессловесной мысли кошки?

Bad_ptr ★★★★★
()
Последнее исправление: Bad_ptr (всего исправлений: 1)
Ответ на: комментарий от monk

Теперь для операций над словами есть ИИ. Остальное он не умеет, поэтому прозван бредогенератором.

Для операций над словами есть Большие Языковые Модели, которые небольшая часть ИИ. В общем именно потому они и «языковые».

VIT ★★★
()
Последнее исправление: VIT (всего исправлений: 1)
Ответ на: комментарий от Bad_ptr

Люди мыслить словами начали раньше, чем был прогресс.

А чем в это время занимаются гиганты бессловесной мысли кошки?

Почему бессловесной, если я выше писал, что они мыслят словами.

monk ★★★★★
()
Ответ на: комментарий от VIT

Для операций над словами есть Большие Языковые Модели, которые небольшая часть ИИ.

Вот БЯМ правильный термин. Но в статье ведь ИИ: «ИИ-агент … во время выполнения … ИИ решил …».

Впрочем, у китайцев даже обычный компьютер уже «электрический мозг» (电脑).

monk ★★★★★
()
Ответ на: комментарий от monk

я выше писал, что они мыслят словами

А помните Невзоров тоже говорил как у него лошади считали и разговаривали?

Bad_ptr ★★★★★
()
Ответ на: комментарий от monk

Конечно технология вбросила такое количество новых терминов, в средства масовой информации отлично поработали перемешав всё в равнородную кашу, что сейчас уже трудно найти концы «кто на ком стоял».

VIT ★★★
()
Ответ на: комментарий от Bad_ptr

Я, кстати, слышал историю о том, как по воде ходят и из воды вино делают. Хотя это и неточно, но четыре свидетеля оформили их письменно.

VIT ★★★
()
Ответ на: комментарий от VIT

равнородную кашу

Хороший неологизм.

monk ★★★★★
()
Ответ на: комментарий от CrX

Хватит уже всё запутывать. Надоело

Ещё раз извините нас, мыслящих словами и образами людей. Мы только всё запутываем. Это вы всё распутываете. А мы всё время путаем кто путает, а кто распутывает.

Был вопрос «Мозг человека — это не просто не угадыватель слов?» и мой ответ «Нет». И по-моему, этот ответ очевидень, потому что мозг человека занимается очень много чем, помимо работы со словами.

Вот видите как кто-то может прочитать эту фразу буквально, кто-то попытаться понять что же человек хотел спросить на самом деле. Но, конечно же, конечно же в «ловушку языка» попадаем мы, мыслящие словами и образами, а не вы, мыслящие чистой мыслью, главное нам опять всё не напутать.

Для этого спора я вам не нужен — у вас в голове есть прекрасный образ удобного оппонента

Да, вот в этом конечно проблема большая. У нас в голове образы от которых мы никак не можем избавиться. Другое дело вы – у вас и вероятность ошибок меньше.

Всех благ

Ещё раз простите извините, но не каждый день встретишь человека, «самоуверенного»(я вот как носитель словестно-образного мышления ничего плохого в слове самоуверенность не вижу) достаточно, чтобы заявить что он обладает «иным типом мышления» в отличии от большинства. Что это не «большинство» врёт и не он сам себе врёт, и не оба, и никто тут не попал в «ловушку языка». А вот нет, другое мышление, инопланетяне среди нас, с меньшей вероятностью ошибок.

Bad_ptr ★★★★★
()
Последнее исправление: Bad_ptr (всего исправлений: 1)
Ответ на: комментарий от monk

Ну вот. А нынешний «ИИ» надо было назвать обработчиком/генератором текстов. Так как он лучше человека только в области некоторых операций над текстом.

Доказательство гипотезы Римана - это тоже «некая операция над текстом»

Nxx ★★★★★
()
Последнее исправление: Nxx (всего исправлений: 1)
Ответ на: комментарий от CrX

Когда ты думаешь об уверенности или самоуверенности, ты представляешь один мешок или сферу внутри другого потому что понятия вложенные?

Я вот представляю неких людей в неких позах, в «уверенной» и в «самоуверенной».

Мне вообще странно, как можно думать вне модальностей чувств. То есть, вне визуально-пространственной или звуковой. Даже когда я чувствую незнакомый запах, я представляю гипотетические молекулы, взаимодействующие с клетками моего носа.

Ты же говоришь, что у тебя мышление оторвано вообще от каких-либо чувственных модальностей, верно?

Nxx ★★★★★
()
Последнее исправление: Nxx (всего исправлений: 2)
Ответ на: комментарий от Nxx

Когда ты думаешь об уверенности или самоуверенности, ты представляешь один мешок или сферу внутри другого потому что понятия вложенные?

Да, на мой взгляд, самоуверенность является подмножеством уверенности — более частное из общего. Уверенность может быть разной, в том числе уверенность в себе. При этом уверенность к себе может быть субъективно для говорящего положительным или отрицательным качеством (в зависимости от взглядов говорящего, от уровня уверенности, от её обоснованности, но в целом на усмотрение говорящего), и соответственно самоуверенность это ещё более частное подмножество из уверенности в себе. Мешки или сферы для этого представлять не обязательно — тут как в математике, или любой типологии, какие-то множества включены в другие, более частное — в более общее. Но можно и визуализировать как мешки или сферы, почему бы нет. Ну или более общепринятое — круги Эйлера.

Ты же говоришь, что у тебя мышление оторвано вообще от каких-либо чувственных модальностей, верно?

Не-не. Я говорю, что у меня нет несмолкающего внутреннего монолога и преобладания речевого мышления, и для меня было удивительным узнать, что оказывается у большинства людей это есть. При этом я, естественно, использую и визуальные образы, и аудиальные, и речевые, и абстрактные (Относящиеся только к внутреннему как таковому) — по отдельности или в каких-то сочетаниях, в зависимости от того, о чём это всё. Я так понимаю, с речевой составляющей, а также образах, связанных с пятью основными чувствами, всё и так понятно, и вопросы вызывает «абстрактное»? Ну самый-самый простой пример — это числа. Вот например надо тебе умножить 46 на 59, ты же не представляешь их в виде цифр, не произносишь про себя в виде слов «сорок шесть на пятьдесят девять» и не представляешь в виде соответствующего количества каких-то объектов, а просто перемножаешь, получаешь какое-то число, а затем как бы переводишь или в слова, или в цифры. Ну то есть, представление есть, но оно не визуальное, не в виде речи на родном языке, не звуковое и так далее, а просто некое представление в мозгу — абстрактное. При этом, естественно, оно может вызвать, в зависимости от ситуации и визуальные ассоциации и речевые (в конце концов, часто же надо результат написать или сказать) — но в самом процессе вычислений это не участвует, и оно происходит независимо от того, проговорил ты про себя эти числа, или представил в виде стольких яблок. Или у тебя не так, и обязательно надо что-то представлять, или про себя проговаривать?

Очень интересно на самом деле. Мы все по умолчанию считаем, что все думают и ощущают мир вокруг так же, как и мы сами, и это настолько принимается за само собой разумеющееся, что никто ничего друг другу об этом не рассказывает. А ведь может оказаться, что разные вещи разные люди осмысляют в голове совсем по-разному (есть какие-то крупицы исследований про шкалу/колесо времени, но очень мало), и это интересно.

CrX ★★★★★
()
Ответ на: комментарий от Nxx

Доказательство гипотезы Римана - это тоже «некая операция над текстом»

Да. Электронный калькулятор может вычислить 100 триллионов знаков числа пи, а электронный обработчик текстов доказать математическую гипотезу (если длина этого доказательства достаточно мала). Человек точно не может сделать первое и иногда не может сделать второе.

monk ★★★★★
()
Ответ на: комментарий от Bad_ptr

Ещё раз простите извините, но не каждый день встретишь человека, «самоуверенного»(я вот как носитель словестно-образного мышления ничего плохого в слове самоуверенность не вижу) достаточно, чтобы заявить что он обладает «иным типом мышления» в отличии от большинства. Что это не «большинство» врёт и не он сам себе врёт, и не оба, и никто тут не попал в «ловушку языка». А вот нет, другое мышление, инопланетяне среди нас, с меньшей вероятностью ошибок.

Он не утверждал, что меньше вероятность ошибок. Он утверждал, что меньше вероятность ошибок, формируемых словесным описанием. Очевидно, будет больше вероятность ошибок для мыслительных процессов, где словесное описание убирает неопределённость атрибуции.

monk ★★★★★
()
Ответ на: комментарий от CrX

но в самом процессе вычислений это не участвует, и оно происходит независимо от того, проговорил ты про себя эти числа, или представил в виде стольких яблок. Или у тебя не так, и обязательно надо что-то представлять, или про себя проговаривать?

Попробовал отследить свой процесс. Выяснил.

  1. «сорок шесть на пятьдесят девять» мысленно произносится даже несколько раз, чтобы не забыть.

  2. 2360 и 354 представляются изображениями чисел в десятичной записи и мысленно складывается в столбик. Также пару раз проговаривается «два три шесть ноль» и «три пять четыре».

  3. Представить, как можно перемножить многозначные числа, для которых я не помню результата, без проговаривания я не могу.

  4. Для получения 54 мысленно проговаривалось «шестью девять пятьдесят четыре», то есть помню не вычисление, а его голосовое описание. Остальные результаты просто появлялись картинками (вижу «4» и «59», вижу «20», вижу «36», вижу «2360», произношу «сорок шесть на пятьдесят девять», вижу «6» и "59, …).

monk ★★★★★
()
Ответ на: комментарий от monk

Вы там сначала с кошками разберитесь, а то даже кошки у вас словами мыслят, а тут вы утверждаете что человек без слов соображает.

Bad_ptr ★★★★★
()
Ответ на: комментарий от CrX

Вот например надо тебе умножить 46 на 59, ты же не представляешь их в виде цифр, не произносишь про себя в виде слов «сорок шесть на пятьдесят девять»

Именно в виде цифр и представляю. Как их вообще перемножить кроме как в столбик в уме? Чисто технически, как их перемножить иначе? Ну и, разумеется, голос при этом есть.

И вообще, как иначе такие числа представить? Не в виде палочек же и не как точки на шкале. Только в виде цифр. Или у тебя одно и то же число представляется одинаково, не завистмо от системы счисления?

Nxx ★★★★★
()
Последнее исправление: Nxx (всего исправлений: 3)
Ответ на: комментарий от CrX

Если числа маленькие (до дюжины), то могу в виде точек представалять, как на игральных костях или домино. Но цифровое представление и представление в виде точек домино плавно перетекают друг в друга (то есть, представляю цифру, у которой в углах и пересечениях точки и она становится точечным представлением и наоборот), то есть, это микс.

Nxx ★★★★★
()
Вы не можете добавлять комментарии в эту тему: только для зарегистрированных, score>=50.