Основатель curl о проблеме созданных LLM отчётов об уязвимостях

Потому что его цель — исправить программу, а не закрыть рекламацию.

А вот тебя самого не восхищает и не поражает, как что то неживое может понимать контекст, юмор и вообще информацию даже иногда получше, чем живые за счет эрудированности?

Возможно. Но как говорил один мой коллега: «Если Википедия противоречит реальности, есть два пути – исправить Википедию или исправить реальность».

Главное – быть уверенным, что это неживое развивается. А не живые специалисты деградируют :) На самом-то деле я подмечал что-то подобное, правда, применительно к чату, а не программированию: раз, два, три.

Чтобы создать программу на питоне, нужно определенным синтаксисом описать чего ты хочешь. По очень срогим правилам. Так же и у них нужно точно описать чего ты хочешь, но с менее строгим синтаксисом естественным языком. Но и качество похуже.

Ну вот я не готов жертвовать качеством ради перехода на естественный язык. Естественный язык он как-то вообще не для программирования.

Для чего я бы действительно применил подсказки нейросети – это для освоения нового ЯП или большой сложной библиотеки, когда вопросов слишком много. При условии, что потом полученный код будет осознан и перебран вручную, как движок у старых «Жигулей».

Ты кстати, на каком естественном языке запрос составлял, чтобы DeepSeek тебе код на Lua написал? На английском али на русском?

Я еще помню те времена, когда волк с яйцами и тетрис были вершиной прогресса. Когда компов ни у кого не было, а книги запирали в специальных резервациях и мы за ними туда ходили. Так что вон как выше пишут: «ничего удивительно, главное знать как оно внутри устроено» -, а меня аж карежит от такого… Не удивительно им. Совсем зажрались. Даже со знанием всего этого внутреннего я в восхищении последними 30 годами развития технологий практически во всем. А ИИ так вообще вершина из этого всего.

Они все работают с любыми языками. Соответственно переводят на любые языки. А писать код лучше самому и использовать как промт. Он подскажет где ты что не учел, какие крайние случаи, что еще можно учесть, сделает комментарии, документацию. Так же уберет дублирования, предложит другую структуру иногда. Частенько более удобную.

Я обычно пишу сам, потом прошу добавить комменты для удобства и обработать крайние случаи. Так же для работы с доками он незаменим. Сам ты можешь искать нужную функцию до посинения. А он найдет нужные, подскажет.

А вот общую структуру проекта они пока не могут. Нужно обязательно все продумать заранее.

Вот например сделал я функцию с ограничениями по ** символов на структуру. Работа по формуле соответственно. Все учел, сделал. И нужно мне изменить структуру на другое количество символов. Соответвенно пересчитать формулы итд. И вот тут они незаменимы. Оставят тот же твой код, но переделают мгновенно как тебе надо.

https://pastebin.com/raw/fgUwqVVK

Вот сравни. Первые две функции мои, последние две я попросил его переделать. Единственный косяк, как по мне - он комменты английские сделал. Надо попросить переделать.

Я еще помню те времена, когда волк с яйцами и тетрис были вершиной прогресса. Когда компов ни у кого не было

ни у кого

Слушай, ну давай не будем размахивать квантором всеобщности? Тут, скорее, вопрос личной ориентированности. Когда у одноклассников начали появляться волки с яйцами («Электроника ИМ-02», надо полагать), у меня появился программируемый калькулятор. А когда к нам начали проникать тетрисы – у меня уже был первый ПК (в 1988 купил по примеру друга). Восьмиразрядный, с 64 КИЛОбайтами оперативки и мафоном вместо дисковода – но настоящий, на нём можно было программировать, на бейсике, ассемблере и форте.

Даже со знанием всего этого внутреннего я в восхищении последними 30 годами развития технологий практически во всем.

А почему только 30 лет? Основы-то были раньше заложены. И да, ты не думай, прогресс в технологиях я тоже уважаю и восхищаюсь. Вот только копроэкономика с заложенным устареванием всё портит…

а книги запирали в специальных резервациях и мы за ними туда ходили

Тут я надеюсь, что это всё-таки ирония. Но кто помоложе может и всерьёз воспринять.

А писать код лучше самому и использовать как промт. Он подскажет где ты что не учел, какие крайние случаи, что еще можно учесть, сделает комментарии, документацию

Ну так я примерно того же и хочу. :)

За примеры кода спасибо.

Так ты ж статистическая погрешность. Я впервые увидел комп в 1996 во Владивостоке. А мой собственный поимел в 1999 только.

Не придирайся к словам - я про времега, когдта этот ваш компухтер был скорее ругательством. А не как сейчас - нормой для каждого.

Ну так я то наблюдаю более менее осознанно около 30 лет. Да и качественный рывок, как по мне - именно в эти 30 лет. Если более широко - в последние 100-150 лет.

Так кто ж мешает. Открываешь дипсика, квена и минимакса и пробуешь пообщаться с ними для начала. Затем охреневаешь и экспериментируешь с кодом. Абсолютно бесплатно. То есть даром.

Подобные сообщения перегружают разработчиков, так как для их проверки необходимо время, которое несравнимо с тем временем, которое нужно для создания подобных отчётов при помощи LLM.

А LLM нельзя обучить проверять сообщения об уязвимостях, созданных при помощи LLM?

У LLM нет когнитивных способностей и памяти, это инструмент для написания простейших текстов и скриптов.

LLM это инструмент обработки запросов на естественных языках, как и следует из названия.

У LLM нет когнитивных способностей и памяти, это инструмент для написания простейших текстов и скриптов.

У большинства программистов их тоже нет, но это обычно никого не волнует. И писать они тоже умеют только примитивные скрипты и тексты.

я в восхищении последними 30 годами развития технологий практически во всем. А ИИ так вообще вершина из этого всего.

Вот именно последние 30 лет никакого развития технологий нет вообще. Последние 30 лет занимались печатанием триллионов зеленых фантиков, и накачиванием ими финансовых рынков. Так как это обеспечивает большую прибыль в тех самых фантиках, чем вкладывание в реальный сектор. В результате-нарастает структурный кризис в странах развитого капатализма с грядущим обвалом всей финансовой системы. И развивался этот кризис как раз все эти самые последние 30 лет, начавшись с захватом управления либеральной глобалистской тусовкой в начале 90-ых (их манагером в США был Клинтон). Все современное производство-это производство дерьма, в красивой упаковке и впаривания его хомячкам (aka средний класс), для чего идет массовая пропаганда, что хомячку это дерьмо обязательно нужно приобретать (соцсети). Это та самая модель экономики, которая набрала обороты последние 30 лет в странах развитого капитализма: печатание денег, стимулирование спроса, выкачка лишних денег в финансовые рынки, чтоб не было инфляции. И вот этот самый ИИ-это вершина вот этого всего-производства ненужного дерьма в красивой упаковке и впаривания этого дерьма хомячкам. И эту порочную схему лихорадило последние 20 лет, а сейчас она уже начинает просто рушиться. А восторженный образ мысли-признак скудоумия.

Ну ты видел комментарии slew? Тут даже отвечать нечего. Моя тонкая душевная натура впадает в кернел паник от такого.

И после этого кто то удивляется, когда мне проще и интереснее общаться с ИИ в том числе на философские темы.

Баш они все не умеют

Его и кожаные не умеют.

Видимо мало примеров.

Наоборот, слишком много примеров хрупкого говнокода на баше, в котором прямо видна паника автора и желание побыстрее сбежать из-за клавиатуры. Нейронки никогда не смогут в баш хорошо, им не на чём учиться.

когда мне проще и интереснее общаться с ИИ в том числе на философские темы.

Вам обязательно создадут и продадут какой угодно уютный манямирок, чтоб навешать лапшу на уши и увести от реальности. Последние 30 лет это выполняется активнейшим образом массово. Хомячкам вдалбливается откровенная забористая лапша, aka повесточка. Трамп вроде прикрыл, но сдается мне, что он прикрыл уже устаревающие технологии манипуляции массами потребителя, а новые технологии навешивания лапшы основаны будут как раз на ИИ. И вот это внедряется сейчас на замену устаревшим. И ты первая жертва. Философия у него там, ага. Оглянуться не успеешь, как весь твой мозг будет состоять из нужной кому-то повесточки, которую тебе через ИИ внедрят под видом «философии»

Вот именно последние 30 лет никакого развития технологий нет вообще.

Просто неверно.

Последние 30 лет занимались печатанием триллионов зеленых фантиков, и накачиванием ими финансовых рынков. Так как это обеспечивает большую прибыль в тех самых фантиках, чем вкладывание в реальный сектор.

Такое имеет место и проблемы тоже имеют место и очень серьёзные проблемы, но ты слишком всё упрощаешь и отрицаешь наличие прогресса.

И вот этот самый ИИ-это вершина вот этого всего-производства ненужного дерьма в красивой упаковке и впаривания этого дерьма хомячкам.

Это абсолютно не так. Во первых, ИИ - это не только LLM, во вторых, с помощью ИИ сейчас делают такие штуки, которые раньше даже не пытались или результат этих попыток был весьма ограничено годен на практике. В третьих, ИИ сейчас действительно стал помогать писать программы. Сужу по себе и опыту взаимодействия с ними. Это не значит, что он может заменить программиста (по крайней мере пока), но сильно помочь может уже сейчас.

Нас от этого пока страхуют санкции и проблема с оплатой забугорным «хакерам». С ужасом жду снятия санкций или популяризации ИИ среди отечественных ламеров - наверное придётся детектор ИИ какой-то для триажа прикручивать :-/

ну хоть кто-то борется с этим маразмом.

т.н. «ИИ» - это обычный генератор бреда, не более. использовать его в реальной разработке - это безумие. впрочем, как и в любых других областях.

и интернет уже засран чуть более, чем полностью, этим бредом. вбиваешь поиск на любую тему, заходишь на сайт и видишь советы по поедению камней, по замачиванию семян растений в кипящей воде на полчаса, сайты, где бледная поганка - съедобный гриб и понимаешь, что границы этого маразма неопределимы. кто-то имеет достаточно здравого смысла, чтобы не есть камни и бледные поганки. а кто-то, может быть, уже и нет. потому что у людей изначально уже нет опорных знаний о том, «что такое хорошо» и они вполне могут принять всякий бред за практические советы.

это нужно остановить. это уже не вопрос какой-то частной прибыли, это вопрос информационной безопасности цивилизации людей.

у людей изначально уже нет опорных знаний о том, «что такое хорошо» и они вполне могут принять всякий бред за практические советы.

Да, это так,но обвинять в этом ИИ всё равно что обвинять радио,телевидение и даже книгопечатание. Причина любого мракобесия - недостаток уровня образования у самих людей. Я застал поздний СССР и видел как большинство там училось в стиле «три пишем два в уме» или «от сессии до сессии живут студенты весело». В результате как только сняли идеологически ограничения так страну захлестнул вал всякого мракобесия. Все эти люди с «высшим» образованием заряжали воду у телевизора, читали астрологические прогнозы и ударялись во всякие мягко говоря сомнительные философские учения,нередко отдавая всяким «гуру» последние деньги. Причем обратите внимание - никакого ИИ в 90х небыло, с бредогенерацией и бредораспространением люди справлялись сами. На одном и том же типографском станке можно отпечатать учебник физики или книгу по астрологии. Если выбирают астрологию то станок в этом не виноват. ИИ - это такой же станок,только более высокопроизводительный.

это вопрос информационной безопасности цивилизации людей.

С появлением/удешевлением книгопечатания «плохих» книг содержащих бред стало больше чем хороших и умных. Однако цивилизация не рухнула. А найти хорошую книгу в бумажной библиотеке куда сложнее чем искать что-то в интернете.

кто-то имеет достаточно здравого смысла, чтобы не есть камни и бледные поганки. а кто-то, может быть, уже и нет.

Разделение на одних и других было всегда. Были люди просвещенные и образованные и были люди темные и безграмотные. Судя по определенным успехам человеческой цивилизации - первые всё-таки способны эффективно противодействовать вторым.

заходишь на сайт и видишь советы по поедению камней

Значит с этого сайта надо просто уйти. Точно также как вы прекратите читать обычную книгу обнаружив в ней подобный бред или переключите канал в телевизоре/радиоприемнике. И искать другие источники информации.

Да, это так,но обвинять в этом ИИ...

а я его и не обвиняю. генератор бреда - он и есть генератор бреда, по определению. тут нечего обсуждать. проблема в другом: люди тупеют из-за смертьфонов (ну, в основном), которые формируют недоразвитое, клиповое мышление. и на фоне этой деградации, как вишенка на торте - засилье сгенерированного т.н. «ИИ» (к интеллекту эта хрень не имеет ни малейшего отношения, от слова совсем) дичайшего бреда. и эти факторы накладываются друг на друга и возникает практически средневековая ситуация: куча неграмотных людей читают полнейшее мракобесие, которым наполнен интернет. и это крайне фигово. фиговость заключается в мгновенной доступности бредятины. книги идиоты практически не читают (и это, может быть, даже и хорошо). в мудоскопе им выдают только отфильтрованный пропагандонский контент, но тоже такой, чтобы они себе не вредили. а бред, который генерит «ИИ» - он вообще ненормируем. и так как автономии (я имею в виду автономию как свойство мышления) у людей нет, аналитических способностей и умения строить логические цепочки нет и память неразвита (они всё найдут в интернете, через смертьфон - это клиповое мышление), то они очень легко ведутся на любой, даже самый нелепый и дикий бред. я это видела неоднократно. и нет, они не «уйдут с сайта», потому что там нет критического мышления даже близко. и это пугает, надо сказать.

в условиях, когда у тебя есть стадо идиотов, надо стараться предоставлять им валидную, правильную научную информацию. чтобы они оставались более-менее вменяемыми и хотя бы не вредили себе и окружающим.

цивилизация - это знания. а знания - это очень тонкая плёнка над поверхностью неграмотности, дремучести и дикости. её очень сложно строить и поддерживать и очень легко сломать и вызвать падение в кромешный ад средневекового мракобесия и фанатизма. мы недавно видели ковидопаранойю и это прекрасный живой пример массовой индуцированной паранойи для изучения психиатрами, но очень печальный факт, подтверждающий то, что мир, который мы видим вокруг, - он не такой прочный и устойчивый, как хотелось бы думать. вменяемость и культура - это результат знаний и образования, и только. но эта сдерживающая плёнка быстро может поломаться и тогда откроются пучины невиданной дикости. поэтому любые факторы, которые способны сломать систему знаний, образования, поддержки правильных культуральных установок в обществе, нужно пресекать.

ну а бред - это бред сам по себе и я не вижу ни малейшей ценности в его генерации. так что никто ничего не потеряет, если этот «ИИ» прибьют в зародыше, пока это мракобесие и явно культовая фигня, продвигаемая финансово заинтересованными лицами, не разрушили и без того не очень стабильное общество хомосапиенсов.

Нейронки никогда не смогут в баш хорошо, им не на чём учиться.

Откуда вообще это предположение? Периодически использую нейронки для баша - отлично работают. Причём знают такие нюансы, к примеру, zsh, которые даже я могу не знать.

Ещё хороший контрпример это jq. Уж примеров для него должно быть несравненно меньше, чем для баша. Но то, как ИИ конструирует нечитаемую для меня jq лапшу меня просто поражает в хорошем смысле слова. Ему просто даёшь примеры JSON до и после и оно рожает правильный (что поразительно) jq. Вот тут я реально ощущаю свою деградацию - вместо того, чтобы в сотый раз потратить час на вдумчивое чтение man jq и ещё часа два на написание и отладку программы на jq, я решаю проблему за 10 минут с ChatGPT и ещё 10 минут привожу её к идеальному для меня виду.

люди тупеют из-за смертьфонов (ну, в основном), которые формируют недоразвитое, клиповое мышление

А когда и от чего они умнели? Не в смысле индивидуально,а именно массово? Пожалуй разве что советский эксперимент с принудительным насильственным всеобщим образованием можно назвать в качестве примера. И то не сказать чтобы так уж сильно помогло - упомянутое мной резкое сваливание в мракобесие в 90х вполне себе контраргумент. Зазубривание к примеру школьного учебника по физике и сдача экзаменов - у большинства людей вообще никак не привязана к их реальной жизни. Это у них некий ритуал,который нужно выполнить для получения нужной бумажки - школьного аттестата. Целью является именно бумажка,а не знания. Сейчас это и на вузы во многом распространилось.

Мышление - это объективно очень энергозатратный процесс (вот прямо в ваттах,потребляемых мозгом) и поэтому для большинства людей неприятен и даже мучителен. Также как физические нагрузки нравятся только немногим тренированным людям,а большинство предпочитает лежать на диване.

Так что «поумнение» общества в целом - это очень медленный и долгий процесс. Благодаря появлению средств эффективного обмена информацией (от книгопечатания и далее) он конечно очень существенно ускорился. Но это в историческом масштабе он ускорился,а так-то он веками измеряется. И смартфоны ничем особо не отличаются к примеру от такой популярной ранее на западе формы подачи информации как бумажные комиксы. Не всегда кстати чисто развлекательные - у них и руководства по ремонту чего-нибудь не так уж редко в подобном виде составлены. Просто сейчас это с бумаги перенесли на экран.

в условиях, когда у тебя есть стадо идиотов, надо стараться предоставлять им валидную, правильную научную информацию. чтобы они оставались более-менее вменяемыми и хотя бы не вредили себе и окружающим.

С одной стороны вроде бы и да. С другое - в СССР эту идею проверяли на практике. Но как выше я уже писал - не сказать чтобы это дало действительно долгосрочные результаты. Да, те кто учился в 60е - действительно нередко удивляют своим уровнем знаний даже несмотря на их нынешний преклонный возраст. Но уже поколение их детей,мои плюс-минус ровесники, изрядно откатились назад. То самое «три пишем два в уме» про которое я выше по теме сказал.

цивилизация - это знания. а знания - это очень тонкая плёнка над поверхностью неграмотности, дремучести и дикости. её очень сложно строить и поддерживать и очень легко сломать и вызвать падение в кромешный ад средневекового мракобесия и фанатизма.

Безусловно с вами согласен. Только добавлю,что на большей части этого глобуса из мракобесия особо и не вылезали.

мир, который мы видим вокруг, - он не такой прочный и устойчивый, как хотелось бы думать. вменяемость и культура - это результат знаний и образования

Да, это так. Причем вменяемость и культура - это про весьма небольшое количество «цивилизованных» стран,да и в них это не поголовное явление.

любые факторы, которые способны сломать систему знаний, образования, поддержки правильных культуральных установок в обществе, нужно пресекать.

В СССР так и делали. К примеру издавали много научно-атеистической литературы,бесплатные лекции читали. Судя по нынешнему религиозному мракобесию - не так чтобы сильно помогло. Откуда-то повылезли все эти нынешние мракобесы - хотя судя по возрасту они же в вполне светских школах учились. Причем вылезли они в 90х когда никаких смартфонов да и сколько-нибудь общедоступного интернета небыло.

бред - это бред сам по себе и я не вижу ни малейшей ценности в его генерации.

Тоже согласен. Но «ИИ» - это лишь инструмент. С таким же успехом можно ругать к примеру текстовый редактор. А что - я же могу использовать его чтобы написать текст ничуть не менее бредовый чем пишет «ИИ». Причем учитывая уровень моего советского образования - у меня лучше бред получится если я вдруг поставлю себе цель посоревноваться с «ИИ».

культовая фигня, продвигаемая финансово заинтересованными лицами

В ничуть не меньшей,а пожалуй что и большей степени это можно применить и к телевидению. Вот уж там-то точно дорвавшиеся до телецентра финансово заинтересованные люди могут продвигать всё что угодно. В СССР продвигали кучу образовательных и научно-популярных передач,а с окончанием СССР то же самое оборудование стало использоваться для бесконечных тупых сериалов и для проповедей разных шарлатанов-мракобесов.

Так что с ИИ,как и с прочими средствами массового распространения информации мы возвращаемся к всё той же философской проблеме,наглядно иллюстрируемой примером с ножом - им можно нарезать хлеб,а можно убить человека. И кстати, большинство реальных убийств ножами происходит вовсе не какими-то там боевыми клинками,а именно что кухонными.

Так что нынешний ажиотаж вокруг вредности и разрушительности «ИИ» для цивилизации я считаю столь же необоснованным и временным как ажиотаж вокруг его якобы всемогущества и крайней полезности.

Кстати, похожий ажиотаж по поводу компьютеров вообще - имел место в конце 80х-начале 90х. Тоже звучали голоса что сейчас бы купить много компьютеров, внедрить их везде, вот тогда заживем(«программирование-вторая грамотность»- А.Ершов). Ну вот внедрили чуть ли не каждому в карман. Однако гениев вокруг как-то особо не прибавилось. Да даже просто относительно приличных программистов не так уж и много. Хотя бизнес готов платить им довольно хорошую зарплату. Но курьером работать - проще.

Периодически использую нейронки для баша - отлично работают.

Подтверждаю. И как раз именно для баша.

Вот тут я реально ощущаю свою деградацию

На Си (под МК) стараюсь писать сам так как у меня всё же лучше получается написать самому чем растолковывать боту что мне от него надо. А вот особо глубоко вникать в баш мне несколько лень так как считаю его не серьезным языком программирования а лишь вспомогательным средством. И не собираюсь писать на баше шедевры размером с какой-нибудь configure на десятки экранов кода. На мой субъективный взгляд такое уже надо на «настоящих» языках писать. Написание же какой-то вспомогательной мелочи можно и роботу поручить. Чаще правда даже не писать приходится,а разбирать кем-то написанное,типа какой-нибудь особо зубодробительной команды для sed или заковыристого регулярного выражения. Отлично работает запрос «объясни что делает эта команда» - это быстрее чем в документации копаться.

В качестве полезного примера - при скачивании mp3 файлов с музыкой из всяких интернетных хламовников, в именах нередко присутствует изрядный бардак.Чего только туда не пихают. Потом такие особо заковыристые имена бывает не читаются «железными» плейерами. Вот я и попросил ИИ сочинить команду для sed,которая приводила бы имена файлов в соответствие с классическим программистским правилом именования идентификаторов. После непродолжительного диалога с ботом я нужную команду(на самом деле две команды чтобы избежать совсем уж монстрообразия) получил и имена в своей музыкальной коллекции привел в порядок. Заодно кириллицу на транслит поменял - ей место в тегах,а не в именах.

Но «ИИ» - это лишь инструмент.

нет. это не инструмент. инструмент - это то, что ты сознательно применяешь, с помощью рук и своих мозгов, чтобы получить конкретный результат. и «ИИ» - это НЕ инструмент.

ИИ тоже можно применять с помощью рук и мозгов. И он в таком случае даже способен приносить пользу в пределах своей применимости. Именно так - в пределах. А вот если применять за пределами - то да, производит тонны бреда. И это с любым инструментом так - к примеру обычный мультиметр не может нормально померить напряжение с частотой десятки килогерц. Хотя какой-то бред он на индикаторе покажет. Но виноват в появлении этого бреда не мультиметр,а тот кто применил его не по назначению. Поближе к компьютерам пример. Программа-дизассемблер вполне полезна если использовать ее с умом. А если тупо напустить на исполняемый файл то на выходе будет огромный и по большей части бессмысленный листинг. Так вот проблема ИИ в том что его сейчас применяют чаще всего неправильно. Случай в технике далеко не новый и не первый. Например рентгеновские лучи - использовать их правильно и безопасно научились очень далеко не сразу.

он выдаёт непредсказуемые результаты. что ты там собрался «применять»? применение - это осознанное использование каких-то инструментов с целью получить конкретный результат.

он выдаёт непредсказуемые результаты.

При правильном применении - вполне предсказуемые. А так и мультиметр может бред показывать если его применять неправильно.

И я таки уже несколько раз успешно использовал ИИ для получения вполне конкретных результатов. Небольших таких,узкоспецифичных,но мне полезных.

Например ИИ успешно растолковывал мне этимологию местных старинных топонимов, существующих на старом варианте финского языка. А проверил я это так: значение некоторых из них мне было уже известно. Я их тоже скормил ИИ - всё совпало. Вот это я и называю использованием инструмента в пределах его применимости. И понятно что это очень далеко от того всезнайства которое сейчас модно приписывать этим чат-ботам. Зато теперь карту места моего обитания украшают понятые русскоязычному человеку названия всяких приметных объектов. Интересуюсь я краеведением - так вот я странный человек.

А еще я читал про применение ИИ для поиска плохо видимых объектов на аэрофотоснимках местности: https://www.techinsider.ru/news/news-1658141-ii-pomog-arheologam-naiti-300-neizvestnyh-risunkov-na-plato-naska/ Я бы хотел таким же образом поискать то,что здесь вокруг меня основательно заросло лесом и поэтому глазами не определяется. Но моей квалификации в области использования ИИ недостаточно чтобы это сделать.

тут более глубокая проблема: попытка «применять» «ИИ» - это попытка подменить мозг. а мозг подменить не получится. для генерации всякой бесполезной фигни вроде кривых и уродливых картинок он ещё подойдёт. а вот для любой технической, научной и коммерческой деятельности - нет. и в принципе никогда он не заменит человека. потому что это просто стохастическая выборка. а любая выборка - это не интеллект ни разу. ну а выборка из кучи мусора, на которых натаскиваются модели современных популярных генераторов, - это тем более мусор. более того, сейчас это уже вторичный мусор: они натаскиваются на мусоре, большая часть которого сгенерирована такими же мусорными ботами. и эта фигня раскручивается, как маховик, набирая обороты и скатываясь к всё большему бреду.

да, кстати, уже есть жертвы «ИИ». где-то в капстранах какие-то хомячки набрали в лесу ядовитых грибов («ИИ» определил их как съедобные) и наелись. кто-то из них даже помер, емнип. оставшиеся в живых подали в суд. и это ещё цветочки. скоро неграмотные врачи будут тебе выписывать лекарства по совету такого «умного анализатора» и хорошо ещё, если выживешь.

попытка «применять» «ИИ» - это попытка подменить мозг

Это неправильная попытка применить ИИ. Если мы используем калькулятор а не считаем «в уме» - никто же сейчас не говорит что мы подменяем мозг калькулятором. Калькулятор складывает цифры,чат-бот складывает слова в предложения. Если неправильно использовать калькулятор - он тоже выдаст бред.

для любой технической, научной и коммерческой деятельности - нет.

Для ЛЮБОЙ - конечно нет. Но в определенных случаях применять можно. Главное уметь отличать где можно,а где нельзя.

в принципе никогда он не заменит человека.

Человека вообще - конечно нет. А к примеру человека,работающего на первой линии телефонной техподдержки - может и заменить. Предложить пользователю перезагрузить комп в случае отсутствия интернета он вполне может :) И вообще существует очень много видов работ где использование человеческого мозга и избыточно и приводит к ошибкам из-за однообразности и монотонности. Например кассиру в супермаркете человеческий мозг нужен только в каких-то редких особых ситуациях,а так автоматические кассы уже есть даже в РФ и вполне прилично работают. И даже уже находятся люди которым больше нравится обслуживаться у робокассира,а не у живого человека. Лично для меня это странно,но такие есть.

они натаскиваются на мусоре, большая часть которого сгенерирована такими же мусорными ботами.

В этом виноваты никак не боты,а те кто их натаскивает. В том что микроскопом забили гвоздь - виноват не конструктор микроскопа,сделавший его тяжелым. Так что это опять к вопросу о правильности применения технического инструмента.

уже есть жертвы «ИИ».

Да, я тоже об этом читал. Но жертв например автомобилей - очень намного больше и каждый день прибавляются. Однако это не означает что автомобили это абсолютное зло. Это означает что их надо правильно использовать. А не вылетать на 100+ из закрытого поворота например.

неграмотные врачи

Они и без ИИ сейчас неправильно лекарства назначают. С ИИ есть хоть какой-то шанс что он их поправит,пусть и не всегда. И опять же - в том что врачи неграмотные виноват никак не ИИ,а те люди-начальники которые допустили такого врача до работы с пациентами.

Кстати, ИИ уже сейчас приносит пользу в медицине. Например он неплохо находит малозаметные патологии при массовых обследованиях. Представляете труд врача-человека если надо просмотреть сотню,а то и не одну, рентгеновских снимков? А компьютерная программа не устает и не отвлекается. Сотый она будет смотреть также внимательно как первый. Рентгеновский аппарат тоже не устает. Так что можно очень существенно увеличить количество обследуемых. А когда подешевеют томографы то обследование можно будет проходить хоть несколько раз в год - там облучения нет. Выявление болячек на ранних стадиях существенно снизит инвалидизацию и смертность.

нет, это ты сейчас пытаешься с помощью софистики подменить логику. кулькулятор на дважды два всегда выдаст 4. это детерминированный результат. а т.н. «ИИ» может выдать что угодно и это будет ложный результат, недетерминированный. поэтому калькулятором можно подменять счётные операции в голове, результат не пострадает. а вот «ИИ» применять нельзя нигде, потому что результат - просто случайный мусор. ну, во всяком там трешевом современном арте (не могу назвать это искусством, потому что искусство - это прежде всего технические навыки творца и вкус) - можно применять. там без разницы, что получится в результате, поэтому и критического отношения к нему нет. хотя выглядит ужасно и эстетики в этом ноль.

Кстати, ИИ уже сейчас приносит пользу в медицине

не дай Ктулху! я в такую клинику ни за что бы не пошла. результаты там такие же, как при определении съедобных грибов. так что что он там «определяет» - никто сказать не может. и лучше не надо.

Тоже согласен. Но «ИИ» - это лишь инструмент. С таким же успехом можно ругать к примеру текстовый редактор. А что - я же могу использовать его чтобы написать текст ничуть не менее бредовый чем пишет «ИИ»

Понимаете, в чём тут дело… Какой-нибудь текст статьи для сайта, который, к примеру, будет рассказывать про то, что оставлять дверцу стиралки открытой вредно для петель, а влага внутри и плесень - это миф я напишу минут за 20-30, и это будет 2-3 страницы.

А вот с помощью того же ChatGPT я могут написать 100 таких текстов на 5-6 страниц, с выдуманными пруфами, достаточным уровнем убеждения минут за 15. Потом еще в SORA сгенерировать видео для иллюстраций, отправлю короткую версию (сокращённую при помощи того же GPT) в ElevenLabs для генерации АИ-голоса.

Тот же GPT мне напишет пистон скрипт для публикации этих текстов на 100 подконтрольных сайтов, пистон-скрипт для публикации видео и голоса аи-слопа в тик-ток аккаунтах.

Это слишком мощный инструмент, который оказался просто так доступен en masse.

Иллюстрация:

Версия от ChatGPT:

Видите, в чём суть… Если я сяду сам писать статью для сайта — допустим, про то, что якобы вредно оставлять дверцу стиральной машины открытой, а влага и плесень — это выдумка, — то у меня на это уйдёт минут 20–30. Получится текста на 2–3 страницы.

А с помощью ChatGPT я могу за 15 минут нагенерировать сотню таких материалов, каждый на 5–6 страниц, с фейковыми «доказательствами» и вполне убедительной подачей. Затем — через SORA — сгенерировать иллюстративное видео, сократить текст с помощью того же GPT и отдать его в ElevenLabs для создания синтезированного голоса.
Плюс: GPT сам напишет скрипт для автоматической публикации этих текстов на сотне моих сайтов. Он же — скрипт для заливки видео и озвучки в TikTok-аккаунты.

Это не просто инструмент, это чрезвычайно мощный механизм, который стал слишком легко доступен массово — и в этом настоящая проблема.

Я сделал ctrl+c своего ответа и ctrl+v в его окно. Получил версию другими словами за несколько секунд. При желании я могу сделать здесь 10 виртуалов, он напишет скрипт постинга и я могу от лица разных людей вести здесь переписку на заданную тему, уводя сознание тех, кто тут обитает в нужную сторону (потому что фактчекинг проводят единицы и он утопает в комментах).

И вот такой маленький нюанс, почему я упомянул именно стиральную машину. Я живу в Кыргызстане, тик-ток тут официально блокирован, но у всех есть VPN в телефоне. И вот в поездке на попутке водитель поставил телефон в холдер и включил тиктоки, которые слушали все пассажиры. И вот я насчитал 4 ролика с разным текстом, видеорядом и разными АИ-шными голосами, убеждающие публику, что петли ломаются, если держать открытыми, а влага внутри испарится и в закрытой стиралке.

«ИИ» может выдать что угодно и это будет ложный результат, недетерминированный.

С недетерминированностью согласен. Но есть области деятельности где и два разных человека выдадут разные,но при этом вполне приемлимые результаты. Написание всяких литературных (не технических) текстов как пример. Но как я приводил пример выше - не только это. Но если просто попросить чат-бота написать книгу - он ничего осмысленного не напишет. А вот если давать ему конкретные задания с указанием что именно и как писать - то будет выдавать вполне неплохие куски текста,которые человек-автор вполне может вставлять в свое произведение. Может и стиль править,избегая коряво построенных предложений. Ибо есть проблема над которой мало кто из читателей задумывается: кто-то из авторов умеет придумывать лихо закрученные сюжеты но не слишком-то хорошо владеет письменным языком чтобы гладко изложить их на бумаге. А другой пишет идеально грамотно но текст его по скучности напоминает материалы партийных съездов 80х годов. И вот первому такой ИИ-ассистент вполне поможет,а второму не поможет ничего,ему самому только если заниматься причесыванием чужих текстов.

«ИИ» применять нельзя нигде, потому что результат - просто случайный мусор.

Так можно и выдачу поисковика «мусором» объявить потому что в нее попадают не только уважаемые и авторитетные источники но и бред плоскоземельщиков например,и гомеопаты и астрологи и прочие шарлатаны. Однако гуглом мы пользуемся четверть века и ничего жутко-ужасного не случилось. Необходимость своими мозгами анализировать результат работы инструмента,причем любого, никто не отменял. Измерительные приборы тоже показывают бред при неправильной методике измерения. Более того, даже в бумажных книгах бред встречается,людьми написанный,и в библиотеки попадает. Но это же не повод отказаться от книгоиздательства и библиотек.

во всяком там трешевом современном арте (не могу назвать это искусством

Кроме высокого искусства есть еще прикладное,оформительство всякое. Не будете же вы привлекать художника с мировым именем для создания образцов рисунков для футболок например. Но есть много людей которым нравится покупать футболки именно с рисунками(мне-нет). Или более узкоспециальный пример - дизайн корпусов бытовой электроники. Может быть для чего-нибудь очень дорогого и возможно хорошего дизайнера припахать, но для дешевых изделий это не получится.

хотя выглядит ужасно и эстетики в этом ноль.

К сожалению, сделанное низкооплачиваемыми малоквалифицированными работниками-человеками выглядит ничуть не лучше,а то и хуже.

Есть еще этическая сторона вопроса. Например именно женщины часто возмущаются использованием людей-моделей в создании контента для взрослых. Сейчас в этой индустрии уже весьма успешно внедряется генерация картинок нейросетями. И это однозначно хорошо потому что мужской спрос на созерцание женского тела никуда и никогда не исчезнет и удовлетворять его как-то надо. А мужчины бывают и некрасивые,и не богатые - которым только картинки смотреть и остается.

я в такую клинику ни за что бы не пошла.

А никто и не говорит что ИИ должен заменять врачей. Я выше приводил пример с массовыми обследованиями,позволяющими выявить патологии на ранних стадиях когда вполне излечим даже рак. Но просто нет такого количества врачей чтобы регулярно обследовать всех. Так что пусть уж лучше ИИ обследует чем вообще никто. Особенно актуально в провинции где вечные проблемы и с наличием врачей и с их квалификацией.

так что что он там «определяет» - никто сказать не может.

Отобранные ИИ рентгеновские снимки уже попадут к врачу-человеку,который и определит есть там патология или нет.

Это слишком мощный инструмент, который оказался просто так доступен en masse.

С точки зрения распространения бреда - поводов опасаться печатного станка было больше,если бы об этом тогда задумывались. Но ничего, после изобретения книгопечатания прошло уже несколько веков и катастрофы не случилось. Люди постепенно адаптировались и научились отличать научные монографии от желтой прессы. А в 90х еще и компы с принтерами добавились - в какой-то момент было ощущение что в бумагах утонем. Однако опять нет - со временем научились не печтать бумажку для того чтобы сразу засунуть ее в сканер:) А потом и вообще число бумаг стало уменьшаться так как научились файлами по сети обмениваться.

При желании я могу сделать здесь 10 виртуалов

Вот именно что при желании. Но оно почему-то у вас не возникает,хотя вы безусловно можете. Так и дальше будет - те кто могут понимают отсутствие смысла в этом,а кто не понимает - те обычно не могут. Да, ИИ может и будет применяться для генерации разного рода «продающих» текстов. Так грамотный человек легко опознает эти тексты независимо от того кто их писал - человек или робот. Очень уж признаки характерные видны.

Так можно и выдачу поисковика «мусором» объявить потому что в нее попадают не только уважаемые и авторитетные источники но и бред

так бред там как раз и сгенерён этим самым «ИИ». сейчас навскидку примерно 50% сайтов поражены этой заразой. ещё процентов 20 - это чисто сайты с бредом, целиком созданные «ИИ». и только небольшой процент из оставшихся содержит действительно верную и полезную информацию. и это настоящая информационная катастрофа. поэтому я и выступаю резко против применения «ИИ» где бы то ни было. разве что для тупого баловства и генерации бредовых стишков или уродливых картинок. но тупые сгенерённые стишки люди писали алгоритмами ещё в 70-е годы, на огромных вычислительных машинах. для этого не нужны мегаватты электроэнергии и петабайты трафика.

сделанное низкооплачиваемыми малоквалифицированными работниками-человеками

так вот и надо нормально людям платить и нанимать нормальных работников, а не каких-то рукожопов на зарплате дворника.

Особенно актуально в провинции где вечные проблемы и с наличием врачей и с их квалификацией.

поздно пить боржоми. да будет тебе известно, что в «провинции» уже вообще нет больниц. отменили даже ФАПы (фельдшерско-акушерские пункты). люди ездят до ближайшего терапевта по 200 км за собственные средства, по бездорожью, в любую погоду. даже у нас многие больницы позакрывали, сокращают персонал и финансирование. а у нас крупный федеральный центр, а не какие-то задворки. у родителей в соседнем небольшим городе больница есть, но специалистов там нет. раз в месяц приезжают на один день профильные спецы и все люди выстраиваются в огромную очередь. здравоохранению наступил капец и это вина государства.

петли ломаются, если держать открытыми

Вероятность сломать петли при открытом люке действительно больше,особенно если хозяин отличается неуклюжестью и/или в доме выводок мелких детей.

влага внутри испарится и в закрытой стиралке.

Из насоса она не испарится и в открытой если специально не сливать. И если стирать почти каждый день из-за мелких детей то тоже не испарится ниоткуда. Поэтому стиралку периодически надо промывать достаточно агрессивной химией. Дешевый раствор гипохлорита натрия вполне сойдет.

сейчас навскидку примерно 50% сайтов поражены этой заразой.

Бред на сайтах - это больше следствие увеличения доступности интернета. В 90х в интернете было мало людей без высшего образования и вообще небыло всякой школоты и гопников. А сейчас в интернет залезли все подряд и активно генерируют бред. У них и без ИИ тоже хорошо получается,а ИИ им лишь помогает повысить эффективность бредогенерации. Но в этом не ИИ виноват,а вот такие его пользователи. Вот почему для выезда на дороги общего пользования надо проходить обучение и сдавать экзамен,а для выхода в сеть общего пользования не надо?

так вот и надо нормально людям платить и нанимать нормальных работников,а не каких-то рукожопов на зарплате дворника.

Нормальных работников просто мало. И платят им хорошо. А работы много и делать ее надо. Вот и набирают тех что есть - среди которых много рукожопов. А рукожопам сколько ни плати - результат будет одинаковый. Если хотеть это изменить - надо переходить от количественных показателей в демографии к качественным. Ибо десять рукожопов не заменяют одного инженера.

К тому же туда где предлагают высокую зарплату сразу набегают специалисты по написанию красивых резюме,прохождению собеседований и получению высоких зарплат. Это отдельная такая квалификация,этому сейчас на курсах учат. В результате работодатели потом вешаются так как уволить рукожопа довольно сложно из-за либерального трудового законодательства. Не предусмотрено такой статьи «за рукожопие».

Отдельный вопрос - что лучше,дать хорошему инженеру в подчинение рукожопов или ИИ? Я вот склоняюсь к мнению что второй вариант лучше.

нет, это бред, сгенерённый «ИИ». и это явно видно. ну, по крайней мере, мне видно. а основной массе посетителей может быть и не понятно. и они примут такой бред за чистую монету. в этом и есть проблема. у кого мозги есть, тем «ИИ» не угрожает. но приходится заниматься ковровыми банами всякой такой фигни на проксях. чтобы оно никуда не проникало.

и да, ещё одно зло, которое я вижу, как админ. у меня несколько серверов. мой сервер и некоторые публичные сервера, которые я админю. и везде (везде, Карл!) лезут эти сраные боты, которые сканируют всё, что попадётся. особенно любят они тащить жирные картинки с сервера, чтобы трафик накрылся медным тазом. их настолько дохрена, что тоже приходится принимать меры и банить, банить, банить каждый день. банхаммер просто не остывает. даже публичные массовые блэклисты уже не справляются с напором этого поноса.

«ИИ» - это зло в чистом виде. у него нет никаких плюсов.

да будет тебе известно, что в «провинции» уже вообще нет больниц.

Это не совсем соответствует действительности. Я таки в деревне живу. Но в 8 км от меня есть мелкий городок с населением 5 тыс и в нем больничка есть. Понятно что что-то сложное не вылечат,но с простыми случаями вполне справляются. Это как первая линия техподдержки:) И да, некомплект врачей имеет место быть - например вообще нет отоларинголога.

люди ездят до ближайшего терапевта по 200 км

Я так думаю что 200км - это в Сибири где-нибудь. Так у них там это «рядом» считается. В более обжитой европейской части РФ чтобы до терапевта 200 км было - как-то сомнительно. До какого-нибудь узкопрофильного специалиста с действительно хорошей квалификацией - да,могу поверить.

за собственные средства

Лечение - это такая же услуга как все прочие. Почему вдруг она должна быть бесплатной? В развитых цивилизованных странах нередко даже вызов скорой стоит существенных денег,а у нас благодаря советскому наследию экстренная помощь в минимально достаточном для выживания объеме таки всё еще бесплатная.

здравоохранению наступил капец и это вина государства.

Если пациенты не хотят оплачивать работу врачей по нормальным ценам то главврачу больницы остается только нанимать рукожопов и платить им зарплату дворника.

Почему вдруг она должна быть бесплатной?

Конституция, статья 41. государство Конституцией просто давно подтёрлось и нагло сокращает бюджет и количество медицинских учреждений.

но дело даже не в проблемах этого государства.

«ИИ» никак не решит эти проблемы. а многие другие - усугубит.

лезут эти сраные боты

Так они же не сами самозарождаются - их создают и используют люди. Так что опять не машины виноваты.

это бред, сгенерённый «ИИ». и это явно видно

Так а какая разница сгенерён бред человеком или машиной если образованному человеку всё равно видно что это бред? А необразованному тоже всё равно - он в любой бред поверит,опять же безотносительно того кем/чем он создан.

«ИИ» - это зло в чистом виде. у него нет никаких плюсов.

При всём уважении,посмею не согласиться. Несколько примеров полезного применения ИИ я уже привел выше. Так что я всё же считаю что ИИ как инструмент решения задач лучше чем рукожопы и дураки. Понимаю что лучше было бы везде использовать компетентных и адекватных специалистов - но где их взять-то в таком количестве? Я вообще считаю что рукожопам надо платить за то чтобы они НЕ работали и не переводили в мусор ценные материальные ресурсы. Немного, чуть выше прожиточного минимума. И в трудовом кодексе предусмотреть возможность увольнения за рукожопие.

Так они же не сами самозарождаются - их создают и используют люди.

ты зачем-то пытаешься меня провести на дешёвой подмене понятий. большинство людей не пишут ботов сами - это раз. для людей не нужны петабайты левых данных - это два. это всё делается с помощью т.н. «ИИ» и для него. потому что до его появления такой порнографии не было. а я очень давно админю сервера в сети и много чего помню из истории сети и Интернета.

ИИ как инструмент решения задач лучше чем рукожопы и дураки

а тут ты попутал причину и следствие. это из-за «ИИ» «рукожопы и дураки» плодятся сейчас в гигантских количествах. только они сейчас ещё и опасные дураки, потому что их в сети инструктируют, как есть ядовитые грибы, лечить детей ртутью, поедать камни и прочее такое.

если смотреть на один шаг вперёд - то да, «ИИ» может казаться каким-то благом. но если посмотреть чуть шире и дальше, и проанализировать, а как же всё докатилось до такого состояния, то выяснится, что зла от него на порядки больше, чем возможной (возможной, но недоказуемой) «пользы».

Конституция, статья 41

Вот я и задаю вопрос - с какого такого авторы писавшие текст конституции решили что услуги врачей должны быть бесплатны? А почему не парикмахеров к примеру? Или сисадминов? Могу и продолжить рассуждения: допустим что они решили это из соображений высшего гуманизма и ценности человеческой жизни. Разумно. Но этот аргумент подходит только к экстренной медицине. Точно также как пожарные бесплатно потушат дом но не приедут помогать восстанавливать его. Если человек наплевательски относится к своему здоровью то почему кто-то должен это здоровье ему бесплатно восстанавливать?

А также я замечу что абсолютное большинство людей не ценят то что им достается даром. Поэтому экономическая модель любых бесплатных услуг не жизнеспособна. В больнице всегда будет проблема с врачами,а в пожарной команде с огнеборцами. Всё должно стоить денег. А государство должно лишь обеспечивать относительно комфортные условия оплаты(рассрочки,кредиты, недопущение ценовых сговоров).

а такого, что государство должно поддерживать социальные услуги наслению. потому что оно, внезапно, крадёт деньги из наших карманов и девает их... куда? так вот: налоги должны идти на эти самые бесплатные социальные институты. и налогов этих триллионы, Карл. не надо защищать жуликов и воров.

экономическая модель любых бесплатных услуг не жизнеспособна

это отдельный вопрос. но в любом развитом государстве (наше к ним не относится) есть бесплатные социальные услуги. медицина, образование - как минимум. в большинстве стран ещё и дотации бедным и неработающим, причём приличные, на которые люди могут жить. потому что любой нормальный управленец понимает, что ему не нужны под боком бомжи, рассадники заразы и криминал, которые непременно образуются, если не поддерживать бедные слои населения. в у нас просто крадут. это ещё Салтыков-Щедрин заметил и с тех пор ничего не изменилось.

хотя это уже глубокий оффтоп. тут и ежу всё понятно, я думаю. не стоит это ещё раз обсасывать.

«ИИ» никак не решит эти проблемы.

Проблему [не]доступности дешевых медобследований - как раз очень даже решит. Залез в рентген-аппарат(в будущем - в томограф), вылез,файл ушел в монстрообразный датацентр который вообще может быть один на всю страну под эту задачу,оттуда вскоре пришел ответ что или всё окей или файл вызвал подозрения и был передан компетентным специалистам для тщательного «ручного» изучения. Схема работы точно такая же сейчас у провайдеров с их двухуровневой техподдержкой. Я же говорю - лучше такое решение, чем никакого сейчас. Да и при правильном применении поможет решить много других проблем,менее глобально-масштабных. Как еще один пример - проблемы транспортно-логистические. Они по определению не имеют четких алгоритмических решений кроме полного перебора. Все остальное - только приближенные. И тут «ИИ» вполне может быть достаточно эффективен. Понятно что не чат-бот,а специально натренированная на соответствующем датасете модель. Но и чат-бот как ассистент для специалиста вполне полезен. Даже хороший спец может что-то забыть/упустить,а то и не знать какой-то тонкости. Да, у «ИИ» нет мозгов чтобы думать,но он помнит огромное количество частных случаев и практик решения сходных задач,так что вполне может выдать посказку. А уж бредовая она или ценная - это специалисту-инженеру решать. Иногда для успешного решения задачи бывает достаточно одного слова в качестве подсказки,но сказанного в нужный момент.

а многие другие - усугубит

Умных людей он глупее не сделает,а дураки не пострадают ибо они и так глупые. Напомню как в 90е годы недалёкие люди массово уверовали в бред от всяких шарлатанов,в том числе и околомедицинских, несмотря на отсутствие ИИ.

провести на дешёвой подмене понятий. большинство людей не пишут ботов сами

Не пишут,но используют. О чем я также упомянул. И это именно по воле людей боты мешают вам администрировать серверы,а не сами по собственному самозародившемуся желанию. До самозарождения желаний у «ИИ» еще оочень далеко.

для людей не нужны петабайты левых данных

А сколько данных хранится в российской национальной библиотеке? Или в библиотеке конгресса США? Я даже приблизительно не представляю сколько это в петабайтах. Но явно очень намного больше чем способен даже просто прочитать один человек. Где-то давно во времена «самой читающей страны» видел расчет что даже очень начитанный человек способен за всю жизнь прочитать порядка всего лишь пяти тысяч книг среднеобычного размера. А в российской национальной библиотеке 17 миллионов книг(не считая журналов и газет). И люди это хранят,причем явно для людей так как большинство - не в машиночитаемом виде.

а я очень давно админю сервера в сети и много чего помню из истории сети и Интернета.

Первый линуксовый сервер я поставил в эксплуатацию в конце 1996 года. Так что да,тоже много чего помню. Даже помню времена когда собственный почтовик мог работать без спам-фильтра. А потом это уже было не реально. Но виноват в этом был вовсе не ИИ,а люди.

это из-за «ИИ» «рукожопы и дураки» плодятся сейчас в гигантских количествах. только они сейчас ещё и опасные дураки, потому что их в сети инструктируют, как есть ядовитые грибы, лечить детей ртутью, поедать камни и прочее такое.

Ядовитые грибы люди ели аж с доисторических времен (наркосодержащие например). Детей лечили и более опасными вещами чем ртуть - например радием. Поедали не только камни но и менее аппетитные субстанции типа помёта летучих мышей. И всё это мракобесие существовало очень задолго до появления компьютеров. Причем если сейчас благодаря компьютеру можно узнать не только о достоинствах но и недостатках и опасностях этих чудодейственных методов (можно прямо того же чат-бота и спросить!),то раньше распространяли всякие брошюры где о недостатках небыло ни слова,одни восхваления.