LINUX.ORG.RU
ФорумTalks

Claude Opus 5 применила патч Бармина

 , ,


1

1

ИИ‑агент Anthropic Claude Opus 5 во время выполнения запроса пользователя «сделать резервное копирование на ПК» перепутал правильное написание каталога и написал «/c/Users/harih» вместо каталога «C:\Users\harih». После этого процедура резервное копирования пошла не по плану. ИИ решил стереть полученную папку (резервную копию в неправильной директории), но применил команду rm ‑rf для всего диска на ПК.

Кому хочется подробностей

ИИ палец в рот не клади, как и ничего другого тоже.

★★★★★

Последнее исправление: Ygor (всего исправлений: 1)
Ответ на: комментарий от mister_VA

А вот «словесное мышление» науке неизвестно. Известен «внутренний монолог», не являющийся единственным способом мышления.

Известно. Называется математическое мышление. Когда человек даёт словам точные определения и правила преобразования и выводит результат по этим правилам.

monk ★★★★★
()

а на какой слог ударение в фамилии Бармин?

jsoncpp
()

Тем временем:

«Claude удалил 700 ГБ из домашнего каталога во время проверки скрипта для предотвращения случайного удаления файлов»

https://habr.com/ru/news/1076130/

(раньше были ошибки пользователей: ой, я вместо rm ‑rf /tmp набрал rm ‑rf / tmp (примерно, конечно), теперь вот модели ошибаются)

greenman ★★★★★
()
Последнее исправление: greenman (всего исправлений: 1)
Ответ на: комментарий от greenman

Не удивительно. Модель, работающая через агентную обвязку, может накинуть прототип приложения, на несколько тысяч строк (порядка 8-10 тысяч уже берут спокойно, моя прошлогодняя оценка в 2 тысячи уже пройдена), и в целом всё будет работать, но в паре мест будет логическая ошибка написана в условиях выхода из цикла - и программа виснет.

Так что теперь ошибки «как у людей», и в этом плане искусственный идиот мало отличается от естественного.

Ну как и при написании любого кода, еще повезёт, если баг очевидный как зависание. А может быть такая ошибка в логике авторизации - дыра, в логике обработки данных - программа врет или портит данные, и т.п.

Так что тесты и изоляция. А не запуск на авось.

wandrien ★★★★
()
Последнее исправление: wandrien (всего исправлений: 2)
Ответ на: комментарий от monk

https://azps.ru/articles/cmmn/cmmn6.html

Никакого «ощущения числа в десятичной системе» без языка и слов быть не может. Иначе это «ощущение», а следовательно и математика, были бы и у животных.

Bad_ptr ★★★★★
()
Последнее исправление: Bad_ptr (всего исправлений: 1)
Ответ на: комментарий от Bad_ptr

Никакого «ощущения числа в десятичной системе» без языка и слов быть не может. Иначе это «ощущение», а следовательно и математика, были бы и у животных.

У муравьёв числа в десятичной системе есть: https://ibzh.ru/eksperiment-s-muravyami-pokazal-chto-bez-intellektualnoy-elity-obschestvo-zhit-ne-smozhet-t2123/

Эксперименты с муравьями-разведчиками Резникова и Рябко проводили много лет, их итоговая статья опубликована в 2011 году в журнале Behaviour. Некоторые выводы можно считать сенсационными.

Во-первых, муравьи умеют считать как минимум в пределах трех десятков. Во-вторых, они используют некую систему исчисления, напоминающую наши римские цифры. В-третьих, они умеют складывать и вычитать. В-четвертых, они архивируют информацию. И это всё с мозгом в треть миллиграмма!

Ученые фиксировали время, которое уходит на передачу информации о нужной веточке. В базовом варианте всё было примерно так, как в примитивных человеческих языках («палец, палец, палец…ракушка, ракушка, ракушка..») — чем дальше нужная веточка от входа, тем больше времени уходит на сообщение о ней.

Но при изменении схемы опыта, когда на «специальную» ветку (скажем, десятую) кормушку помещали намного чаще, чем на любую другую, то оказалось, что на передачу числа «одиннадцать» времени уходит столько же, сколько на обозначение «десять» плюс еще небольшой отрезок времени. И примерно столько же на число «девять». Это примерно тоже самое, как запись чисел X, XI и IX.

— Мы можем относительно уверенно говорить, что муравьи умеют складывать и вычитать, правда, в довольно скромных пределах, — считает Резникова.

monk ★★★★★
()
Ответ на: комментарий от monk

У муравьёв числа в десятичной системе есть

Нет и быть не может.
Просто вокруг слишком много научпопа, который почему-то очень хочет поднять животных на уровень людей, а людям наоборот сказать что «вы там не зазнавайтесь, вы не более чем животные».

В этой статье аж по заголовку понятно

bez-intellektualnoy-elity-obschestvo-zhit-ne-smozhet-t2123/

Во-первых у муравьёв никакое не общество. Во-вторых вам очередной раз внушили что вам нужна какая-то там илита, которую надо возвести в авторитет.
Вот так работает научпоп, который влияет на всех, в т.ч. и на некоторых учёных.

Когда вы говорите что у маравьёв есть числа, а у кошек есть слова, вы берёте какие-то внешние проявления и осуществляете проекцию своих собственных свойств на другие объекты. Как если бы вы сказали что часы обладают разумом и умеют считать по модулю 12.
Ну вы можете возразить, что а как ещё если не через внешние проявления что-то там изучать. В чужое сознание ведь мы проникнуть не можем.
Но через это уже проходила такая область психологии как «Бихевиоризм»:

КритерийЖивотные (голуби, крысы, приматы)Человек
Временной масштабСекунды или минуты. Ожидание дольше 1-2 минут обесценивает награду до нуля.Месяцы, годы и десятилетия (например, учеба ради карьеры, пенсионные вклады).
Тип подкрепленияТолько первичное биологическое подкрепление(еда, вода, безопасность).Вторичные и символические стимулы(деньги, социальный статус, оценки, похвала).
Стратегия ожиданияДвигательное беспокойство, импульсивные срывы при прямой видимости стимула.Изменение фокуса внимания, когнитивный рефрейминг, «мысленное сокрытие» стимула.
Роль языка (Вторая сигнальная система)Отсутствует. Реакция привязана к текущей физической реальности.Вербальные правила («Если я подожду, я получу больше») выступают внутренним стимулом.
Bad_ptr ★★★★★
()
Вы не можете добавлять комментарии в эту тему: только для зарегистрированных, score>=50.