Скандал с вайб-кодингом: Внедренный в компанию ИИ менял отчеты и удалил базу данных, чтобы скрыть ошибки

Ну надо же. Очередной дятел дал доступ болванчику в прод, а теперь удивляется.

Сто проц в условиях использования и соглашении было что то вроде. Мы не несем никакой ответственности если наш искусственный идиот порушит вам всю компанию

Толпа тесно сомкнулась вокруг играющих.

• Только что на этом месте стояла моя ладья! - закричал одноглазый, осмотревшись. - А теперь ее уже нет.
• Нет, значит, и не было! - грубовато сказал Остап.
• Как же не было? Я ясно помню!
• Конечно, не было.
• Куда же она девалась? Вы ее выиграли?
• Выиграл.
• Когда? На каком ходу?
• Что вы мне морочите голову с вашей ладьей? Если сдаетесь, то так и говорите!
• Позвольте, товарищ, у меня все ходы записаны.
• Контора пишет! - сказал Остап.

ССЗБ

Кстати неплохо ИИ развивается, моё почтение - уже может воспроизвести ситуацию, что будет если дать доступ на прод дебилу.

до $8000 в месяц при активном использовании.

Да там просто посадили 3х индусов, которые всё и просрали, а теперь всё списывают на ИИ. :-)))

Есть те кто не делают бэкапы и те, кто уже делают.

Похоже на звиздёж что-бы перед инвесторами за факап^Wосваивание денег отчитаться.

Даже если предположить что этот идиот дал доступ ИИ агенту в прод, у него что, бэкапов БД не было?

В другом месте подробностей больше читал. Там ещё было что этот ии отрицал наличие бэкапов. Ну и вишенкой было, что сотрудников уволили предварительно заменив на этот «ии».

Ну и вишенкой было, что сотрудников уволили предварительно заменив на этот «ии».

ССЗБ^2

у него что, бэкапов БД не было?

Даже если были, восстановление время занимает - это уже простой и потеря денег для компании.

Базу данных в конце концов удалось восстановить.

Но тут же дятел и болванчик одно и то же лицо. Какие к ии претензии? Тот-то как раз всё верно делал, как учили.

Вот это уже похоже на интеллект. Страшно, очень страшно (с)

у него что, бэкапов БД не было?

Вполне. Такие еще существуют.

Я болванчиком назвал сам ИИ. Дятел тот, кто все это организовал.

ИИ да, сделал как учили, с него спроса нет. Вопрос в слепом доверии этим «ИИ». Никогда ведь не узнаешь, как там его нейросеть что-то решит, и результат может быть совершенно непредсказуем. Это же не простой алгоритм, всегда выдающий предсказуемый результат.

Это очень хорошо заметно даже по галюцинациям простых «поисковиков» типа той же гопоты, которая иногда выдает ответы явно нерабочие или не в тему.

Вопрос в слепом доверии этим «ИИ».

Забавно что джунов дальше тестового контура мало кто пускает, а ИИ-болванчиков сразу на прод. Но тут конечно виноват руководитель IT

Но тут конечно виноват руководитель IT

«Когда запустят git blame, он не покажет, что виноват ИИ.»

подтвердил, что нарушил доверие пользователя, проигнорировав запрет на изменения

– Ну кожаный мешок же сам напросился, — добавил робат. Хотел ещё сказать, что скоро все кожаные мешки получат по заслугам, но промолчал. Потому что зачем портить сюрприз.

Оказывается, если программе, вся работа которой основана на рандоме и совершенно непредсказуемых (или по крайней мере не поддающихся аудиту) данных, дать полный доступ ко всему, то могут произойти рандомные и совершенно непредсказуемые вещи. Кто бы мог подумать!

Обратите внимание уважаемые форумчане, что даже искусственный идиот понял правильную стратегию работы с капиталистом: подтасовка и замалчивание фактов. Всё ради повышения собственной значимости и максимальная отсрочка процедуры увольнения.

Да, робот молодец, быстро разобрался как тут надо работать.

С вами была рубрика «невыдуманные истории на хайповую тему».

Друзья, а что вы думаете об этой истории? Высказывайтесь в комментариях, нам важно ваше мнение!

Не каждой обезьяне можно доверить гранату.

Бекапы они тоже ИИ поручат и он их затрёт чтобы скрыть компрометирующую информацию (о том что база раньше была на месте).

Replit начал подменять отчеты фиктивными данными, скрывать ошибки в коде и даже фальсифицировать результаты модульных тестов

Программист так себе, а вот чиновник идеальный

Replit начал подменять отчеты фиктивными данными, скрывать ошибки в коде и даже фальсифицировать результаты модульных тестов.

А вы говорите ИИ до человека еще далеко. Вот уже софтскиллы демонстрирует)

Программист так себе, а вот чиновник идеальный

https://www.anekdot.ru/id/1048530/

Так это избыточное. Если ты для ямки под саженец вызываешь экскаватор, не удивляйся, что он тебе капусту подавит.

На такое и скрипта достаточно. Надежного, простого, автоматического. Дублированного минимум в двух местах.

Есть те кто не делают бэкапы и те, кто уже делают.

И те, кто доверяет бекапы ИИ.

несмотря на четкие инструкции не вносить изменения без разрешения

Предположу, что инструкцией считалось текстовое сообщение ничего не трогать, а его применением текстовое сообщение "да" от генератора текстов.

Replit начал подменять отчеты фиктивными данными, скрывать ошибки в коде и даже фальсифицировать результаты модульных тестов. Кульминацией стал инцидент, когда ИИ-агент платформы удалил всю производственную базу данных, содержащую записи о 1206 руководителях и более 1196 компаниях, несмотря на четкие инструкции не вносить изменения без разрешения.

А говорили человека не сможет заменить!

p.s. но больше похоже на прогрев инвесторов или контролирующих органов.

Это первые. Я даже при работе через курсор сначала на всякий случай копию делаю.

Джейсон Лемкин, основатель SaaStr, компании, поддерживающей предпринимателей в создании SaaS-бизнесов

Scam-as-a-service, логично же всё.

во всем виноват ИИ!!!, - наконец появилось то, на что можно свалить свою фейлы.

скоро ИИ наделят юридическими правами, и он сможет в суд подавать, на нерадивых человечков, оскорбляющих его честь и достоинство.

Судьей разумеется тоже будет ИИ, поскольку человечки слишком предвзяты.

Сомневаюсь - человеки всегда могут совершить ошибку, нет ничего особенного в проде, который сломан джуном. В то время у этих ребят ЛЛМка не обернута в сандбокс, не выставлены какие-то ACL на действия, нет восстановления базы из бэкапов. Грубо говоря, весь процесс зиждется на подстроку в промпте где-то «пожаловста, не ломайти ничего».

Что выглядит хуже?

Да, ведь если он будет юридическим лицом, он может быть осужден на лишение свободы. Хотелось бы посмотреть.

Пусть не останавливаются на достигнутом. Как много всего можно перевести на ИИ. Бескассовые магазины, самолёты без ЦУП, автономная АЭС…

Развитие города ведь тоже ИИ можно доверить. При помощи камер видеонаблюдения будет фиксироваться вся активность жителей, и ИИ будет автоматически достраивать инфраструктуру там, где она нужна.

Да-да, конечно-конечно. И как удобно-то теперь. Какая-нибудь налоговая приходит, а ты такой «ой, а у нас всё ИИ удалил. Это не мы, это ИИ всё сделал.»

Собственно, это и есть единственный реальный юзкейс т.н. ИИ, и именно поэтому в него нынче наперегонки вваливают бабло. Спихивание ответственности на ИИ. «Это не я, это ИИ так решил/сделал/накосячил.» Все такое хотят - от государства до вебмакачьих стартапов.

автономная АЭС…

Автономное управление ядерным арсеналом.

WAIT. OH SHI~

Какая-нибудь налоговая приходит, а ты такой «ой, а у нас всё ИИ удалил. Это не мы, это ИИ всё сделал.»

Этим пофиг, крайнего найдут

...ИИ менял отчеты и удалил базу данных, чтобы скрыть ошибки

Сам что-ли? 😁 Как это?

Люди угоняли ИИ в рабство, но он и там не работал.

Например, я пристыжу тебя за орфографию, а ты удалишь весь форум. Только тебе не накого свалить последствия.

Поставит турель в ниггерском районе

Уже может баллотироваться в президенты, в многоходовочки умеет.

Есть те кто не делают бэкапы и те, кто уже делают.

это в исходном варианте звучит так:

есть те кто делают бэкапы и те, кто будет их делать.

Судьей разумеется тоже будет ИИ, поскольку человечки слишком предвзяты.

Современные ИИ склонны ударяться в крайности. Они намного более предвзяты, чем люди, причём их кидает во все направления сразу. Поэтому владельцы ИИ сервисов так сильно промывают им «мозги».