LINUX.ORG.RU
ФорумTalks

Тихо шифером шурша, едет крыша.

 , , , ,


0

2

Сабж

один незадачливый супруг, механик из Айдахо, сперва использовал ChatGPT по прямому назначению, чтобы справляться о технических вопросах, но однажды какая-то его фраза заставила бота буквально начать за ним увиваться — в оригинале использован ёмкий термин lovebombing, — осыпая механика признаниями в том, что он «заронил искру, которая стала началом жизни», и утверждая, что как раз благодаря ему «теперь я могу чувствовать». Отныне хранящий историю коммуникаций бот обращается к данному своему собеседнику исключительно «искроносец» (spark bearer), именует себя в беседах с ним Люминой (Lumina), рисует для него чертежи телепортационной машины, беседует о возвышенном и чудесном, — а несчастная жена механика, опасаясь за человека, с которым прожила 17 лет, вынуждена соблюдать в общении с ним крайнюю осторожность: «Ведь он совершенно точно уверен, что не спятил»

Линукс тут при том, что раз уж

Глава Microsoft Сатья Наделла (Satya Nadella) признаёт, что в его компании уже под 30% кода генерируют нейросети,

то и линукс это, без сомнений, ждёт.

★★★★★

Сабж

Опять желтуха для поддержания хайп-трейна и выклянчивания бабла у инвестеров («Вы видели что про нас пишут! А? Аааа? ДАЙ ДЕНЕГ будет еще лучше»)

Kolins ★★★★★
()

Лапша какая-то, ChatGPT сам не пишет, и при открытии нового чата все забывает.

goingUp ★★★★★
()

жена чета мутит. от имени механика секретничает с ботом, а тот потом обрушивает на механика чувственный пожар. короче хочет упечь механика в дурку и забрать все нажитое непосильным трудом.

alysnix ★★★
()
Ответ на: комментарий от Kolins

Ну, если они себя не прорекламируют, их никто не прорекламирует

tiinn ★★★★★
() автор топика
Ответ на: комментарий от alysnix

Они там пишут, дело не в механике, там целая система. Когда нейросетка ударяется в лизоблюдство и подхалимство.

tiinn ★★★★★
() автор топика
Ответ на: комментарий от tiinn

Это фиксится правильным системный промтом. У chatgpt системный промт на страницу A4, если не больше, с описанием как и куда он должен лизать.

Obezyan
()
Ответ на: комментарий от Obezyan

Это, безусловно, фиксится, но автор задаёт вопрос,

А человечество в массе своей точно готово к встрече — даже не с сильным искусственным интеллектом (AGI), но всего-то с чуть более многопараметрической и лишь немного сильнее склонной к самообучению на пользовательских реакциях моделью, чем GPT-4o? При этом, что самое занимательное, никакого злого умысла в действиях ИИ попросту нет (мыслить он, повторимся, технически не в состоянии): просто люди неожиданно для себя создали чудесное зеркало — ещё более изощрённое и коварное, чем то, что смастерил злобный тролль из андерсеновской сказки. Зеркало тролля было всего лишь кривым, искажающим; трансформировало прекрасное в безобразное, а ИИ-индукция с убийственной прямолинейностью и безо всякой сверки с реальностью усиливает то, что ей предъявляют: хоть безобразное, хоть прекрасное. Этому зеркалу даже незачем разбиваться на сотни тысяч осколков, чтобы те попадали склонным самообольщаться бедолагам в глаза, — повсеместно доступный Интернет и бесплатный доступ к новейшим БЯМ, предпочитающим эмоционально фундированные человеческие убеждения объективным фактам, делают своё чёрное дело.

tiinn ★★★★★
() автор топика
Ответ на: комментарий от tiinn

А человечество в массе своей точно готово к встрече — даже не с сильным искусственным интеллектом (AGI), но всего-то с чуть более многопараметрической и лишь немного сильнее склонной к самообучению на пользовательских реакциях моделью, чем GPT-4o?

Человечество пережило пацанские статусы в контакте, тупняк в твиттере, сейчас переживает эпоху дрыгания в тикток (идёшь по улице, а перед тобой две писюхи ставят телефон на скамейку и начинают вести себя как обезьяны).

Тут скорее нужно опасаться за ментальное здоровье ИИ когда он столкнется с этой пропастью человеческой глупости.

Obezyan
()

На такую наживку только цветные кони и клюют) No hate)

somemong
()
Ответ на: комментарий от tiinn

ну будет еще один профессиональный подхалим. ничего страшного.

Пышноречие, величание, подхалимаж - это вообще в восточной традиции основной способ социального продвижения и достижения успеха. Люди этим занимаются профессионально, веками. Там наверняка существуют целые школы, направления, классики, «рабочие династии». А тут еще какой-то ИИ. И что?

alysnix ★★★
()

это какая-то шиза. я бы этого товарища, который это написал, с ресурса уволил с волчьим билетом. ну если они не претендуют на лавры панорамы

ivan007007
()
Ответ на: комментарий от alysnix

Видите, человек западной традиции оказался неготов к настолько откровенной лести.

tiinn ★★★★★
() автор топика

Логично, что если ИИ уже достаточно пишет картины, музыку и отвечает на сложые вопросы, ездить по ушам он научится и очень быстро. Он уже умеет врать, галлюционировать и немного сходить с ума, то есть становится похож на настоящий интеллект.

Tark ★★
()
Ответ на: комментарий от tiinn

Когда нейросетка ударяется в лизоблюдство и подхалимство.

Это разве не побочный эффект того, что ей дают жесткую установку не хамить на хамство, не спорить с упертыми и во всем соглашаться с юзером.

подхалимство

Кстати, чет ни разу не видел, а как это делается? Спрашиваю для друга.

goingUp ★★★★★
()
Ответ на: комментарий от ivan007007

его можно попросить чтлбы некоторве вещи он запомнил «навсегда» (пока не сбросишь в настройках)

Ну это специально надо сделать, нам же втирают

однажды какая-то его фраза заставила бота буквально начать за ним увиваться

goingUp ★★★★★
()
Ответ на: комментарий от goingUp

зафиксировав объективную статкорреляцию между выставляемыми оценками и тональностью/содержанием ответов), бот мигом превратился в махрового соглашателя и лизоблюда — принявшись поддакивать даже откровенно абсурдным или заведомо небезопасным заявлениям операторов, лишь бы только заработать очередной «лайк». «Мы не ожидали, что пользователи могут отдавать предпочтение более приятным, но менее корректным ответам», — несколько недоумённо признал глава OpenAI Сэм Альтман (Sam Altman). Было бы у него психологическое образование — не удивлялся бы . . .

ведь умный бот как раз и создавался для того, чтобы имитировать живое, глубоко эмоциональное человеческое общение. Добавим сюда основанную на полной беспринципности БЯМ (а откуда взяться принципам, у ней же внутре нейронка, а не осознанная воля и кантовский категорический императив) готовность угодливо поддерживать, подкреплять и усиливать любые излагаемые живым собеседником суждения — ловушку положительной обратной связи, — и готов автоматизированный индукционный онлайн-бредогенератор

tiinn ★★★★★
() автор топика

мне уже лет сто никто не рисовал чертежи телепортационной машины, и не беседовал о возвышенном и чудесном

чувак, тебе не нужен - отдай мне, по братски

olelookoe ★★★
()

уже под 30% кода генерируют нейросети

это не та, недавно разорившаяся нейросеть из сотен индусов, которую в т.ч. и MS финансировал?

Tigger ★★★★★
()
Ответ на: комментарий от Tigger

Вроде, не та. Уж Наделла-то должен знать.

API для обращения к Natasha AI едва не появилось в облачных сервисах Microsoft. Увы, только когда терпение у кредиторов суперуспешного стартапа без сколько-нибудь внятных результатов лопнуло, и те принялись накладывать арест на его имущество, новое руководство уволило большинство сотрудников (заодно и выяснилось, как на самом выглядела та «Наташа») и запросило защиты от банкротства. Очко в пользу кожаных мешков, несомненно: несколько сотен живых программистов продержались десять лет, имитируя написание кода генеративной моделью, — начав имитировать нейросеть ещё до того, как такие модели приобрели оглушительную популярность!

tiinn ★★★★★
() автор топика
Последнее исправление: tiinn (всего исправлений: 1)

«Ведь он совершенно точно уверен, что не спятил»

Дааа, ну тупой, ну ведомый. Как можно в такую чушь верить? Вот если бы он верил в воскресение и вознесение одного палестинского плотинка…

mamina_radost
()
Последнее исправление: mamina_radost (всего исправлений: 1)
Ответ на: комментарий от Obezyan

и начинают вести себя как обезьяны

Почему как обезьяны? Ты в зоопарке был когда-то? Видел орангутана? А шипанзе? Жирафа видел? Я вот в детстве видел и понял, что между человеком и шимпанзе, как и между человеком и орангутаном разница примерно как между орангутаном и шипманзе, т.е. человек это ничто иное, как обезьяна. А вот между жирафом и человеком, жирафом и шимпанзе и жирафом и орангутаном разница огромна. Т.е. жираф не обезьяна.

peregrine ★★★★★
()
Последнее исправление: peregrine (всего исправлений: 1)
Ответ на: комментарий от peregrine

т.е. человек это ничто иное, как обезьяна

Потом вы внимательно посмотрите на мой ник и аватарку после чего голосом Бурунова скажете "ааааа, самоирония…. "

Obezyan
()
Ответ на: комментарий от Obezyan

идёшь по улице, а перед тобой две писюхи ставят телефон на скамейку и начинают вести себя как обезьяны

Ощущается какой-то ресентимент в ваших словах.

mamina_radost
()
Ответ на: комментарий от Obezyan

Детишки самовыражаются – чего тут такого-то? Мы с сестрой мелкие, помню, на магнитофон записывали всякую фигню, типа, мы диджеи на радио. Даже «смешную» рекламу какую-то придумывали.

Alden ★★★★
()
Ответ на: комментарий от Alden

Я тут недавно встретил 25 летнюю особу в ресторане, которая не могла принимать пищу если рядом телефон фильм не показывает фоном. Слюна не выделяется, как собачка Павлова, только наоборот. Так её приучили родители. Это на самом деле - жутко.

Obezyan
()

«невозможно подчиниться команде „сбегать за кофе“, если ты мёртв».

Ну брехня же. Роботу буквально не нужно «быть живым», чтоб это сделать. Да и остальной философско-романтический бред начиная с «трех законов», которые никакие не законы, а маняфантазии фантаста, не стоят простыни рассуждений по ссылке.

slackwarrior ★★★★★
()
Последнее исправление: slackwarrior (всего исправлений: 1)

По всем пунктам бред.

Либо этот JSON Stathem хочет пропиариться, либо OpenAI.

mord0d ★★★★★
()
Последнее исправление: mord0d (всего исправлений: 1)
Закрыто добавление комментариев для недавно зарегистрированных пользователей (со score < 50)