Создатель Ruby on Rails объявил о конце эпохи ручного написания кода

а что есть «интеллект»?

Буду идти от обратного, потому что определений интеллекта много. Система, которая работает на вероятностях, т.е как любят говорить «T9 на стероидах» не может быть интеллектом. Гугли «LLM is not intelligence», прочитай, перевари это и поймешь в чём разница, и почему настоящий ИИ ещё только предстоит создать.

При этом объяснить словами архитектуру в твоей голове практически невозможно.

Это значит ты и сам её не понимаешь. Нормальный разработчик её не только объяснить словами сможет, но и схему нарисовать на доске, да ещё и защитить её перед отделом.

И это тоже не так. Оно не просто выдает по шаблону, а решает задачу на основе вложенных знаний. Например, выдает то, чего никогда не существовало.

Ничем не отличается от человека - он тоже будет решать задачу на основе своих знаний. И если решения нет, он точно так же его придумает на основе своих знаний. Или не сможет.

Система, которая работает на вероятностях, т.е как любят говорить «T9 на стероидах» не может быть интеллектом.

Гугли «LLM is not intelligence»,

Вот эти две мысли конечно подсвечивают друг друга образом, которые автор явно не предполагал))

(А почему?)

Система, которая работает на вероятностях, т.е как любят говорить «T9 на стероидах» не может быть интеллектом.

Как безапеляционно. И основано на невежестве. Ау, ты не знаешь что такое человеческий интеллект. Вообще не знаешь. Никто не знает особо. Вполне возможно он тоже работает на вероятностях. Просто тип нейронов другой, да и пообольше их.

На самом деле они не знают, о чём говорят, они просто вычисляют, какие слова статистически следуют за другими.

Я человека такого знал, он не умел после школы писать в общепринятом смысле, а подставлял буквы чтобы получилось похоже запомненному. С чтением как-то так же было у него. Подозреваю что все человеки как-то так внутри и работают, просто это скрыто наружными слоями.

Ау, ты не знаешь что такое человеческий интеллект.

Главное, что об этом написано в гугле, и можно не включать собственный!

У людей такая возможность есть, да, но она используется только при отсутствии необходимого интеллекта.

И эти люди запрещают нам ковыряться пальцами в носу еще что то предъявляют ИИшкам.

Заметь - это же точно та же генерация бреда на основе незнаний. Нейроеть не знает как устроен мир и додумывает бред. И верит в него. Только естественная, а не искусственная.

А скажи честно, ты тоже не можешь архитектуру объяснить? Ты там выше поставил забавный смайлик.

Если это выглядит как утка, крякает как утка - это утка.

Ты сам себя обманываешь.

Умеют. И регулярно поправляют сами себя даже в рамках одного запроса.

Без внешнего сигнала LLM поправляют себя плохо. Есть некоторые механизмы «самоисправления» во время генерации, но работают они так себе.

Я не буду выяснять экзистенциальные переживания молотка или шуруповерта. Я спрашиваю у них что то, они отвечают мне как люди, даже лучше. Потому что эрудиция шире.

Эрудиция - не довод в пользу интеллекта. Широта знаний есть у гугла, и никто не считает их разумными. «Лучше людей» оно только в среднем и выборочно. По ширине знаний да, но модели галлюцинируют с полной уверенностью, ломаются на слегка изменённых задачах и не пополняют знания сами. Так что не обманывай себя, что это интеллект.

Эрудиция - не довод в пользу интеллекта.

Нету у гугла никакой широты - только база знаний. Не путай данные и знания. Это очень разное. Тебе шашечки или ехать? Ты будешь предъявлять молотку, что он не настоящий столяр или будешь гвозди забивать? Он в этом прекрасен. Гораздо лучше тебя, замечу.

Ты вон тоже отлично галлюцинируешь. Только с тобой общаться сложнее из за разности знаний и опыта у нас.

Эрудиция - не довод в пользу интеллекта.

Что такое интеллект? Так и не выяснили в треде. Как определить, есть ли данный феномен у присутствующих?

Он в этом прекрасен. Гораздо лучше тебя, замечу.

В голос))

Нету у гугла никакой широты - только база знаний. Не путай данные и знания.

А то что выучила LLM - это данные или сжатые знания? Дам тебе домашнее задание на подумать.

Только с тобой общаться сложнее из за разности знаний и опыта у нас.

Тут я совершенно согласен, сразу видно непонимание как работают LLM и в какие проблемы они упираются.

Ты будешь предъявлять молотку, что он не настоящий столяр или будешь гвозди забивать?

Так себе аналогия… Молоток в отличии от LLM всегда даёт правильный результат, а LLM может дать неправильный результат и со всей уверенностью утверждать что он верный.

А то что выучила LLM - это данные или сжатые знания? Дам тебе домашнее задание на подумать.

Это как раз знания, а не просто данные. Оно тебе выдаст именно то, что тебе нужно, а не все подряд.

Так себе аналогия… Молоток в отличии от LLM всегда даёт правильный результат

Ты когда последний раз молотком то пользовался? И пользовался ли вообще? У молотка правильность результата хорошо если в 50%. Мои пальцы врать не будут.

Это как раз знания, а не просто данные. Оно тебе выдаст именно то, что тебе нужно, а не все подряд.

Поисковик с ранжированием тоже выдаёт нужное, и никто не называет его знающим.

У молотка правильность результата хорошо если в 50%. Мои пальцы врать не будут.

Skill issue.

Skill issue.

Тебе об этом и намекают, чувак))

«Все дети в школе знают, что это Юрий Алексеевич Гагарин, но я то от вас хочу это услышать!»

Тебе об этом и намекают, чувак))

Молоток детерминирован, одно и то же действие даёт один и тот же результат, поэтому им можно овладеть идеально. LLM ведёт себя иначе: результат зависит от формулировки, контекста, сэмплирования и кручи других факторов, и есть класс задач, где она надёжна, и класс, где нет, и вообще применять не стоит. Поэтому аналогия некорректна.

Поисковик с ранжированием тоже выдаёт нужное, и никто не называет его знающим.

Мне не выдает, хз. Он выдает кучу источников, где теоретически могут быть знания. Но это происходит все реже в последние годы. Иишка же выдае именно статистически вероятные знания, а не все подряд данные.

Я понял. Тут весь вопрос в понимании контекста. Поисковик контекст не понимает, а ИИшка понимает и ищет именно то, что ты имеешь в виду.

Чтобы найти в свалке данных нужные функции wow api, иногда приходилось вруную копаться месяцами. А что то и вовсе невозможно было найти. ИИшка просто по описанию предлагает или сразу нужное или варианты решения. При этом даст подробные примеры использования и готовое решения для твоего конкретного случая. И только от тебя зависит как это в итоге будет выглядеть.

И заметь, не только выдает знания, но и генерирует новые на основе твоего шаблона. Даже те, которых никогда еще не было. Это важно.

Ты ей скормишь свой или чужой код и тут же она объяснит как он работает, где что находится. Мгновенно, тут же. Вручную это можно часами изучать.

Skill issue.

Особенности инструмента при редком использовании.

ну «там» целый движ среди сцай-фай-автором был по обьединению всего чё сам написал в одну большую арку - тот же Хайнлайн - ну и да Ося из подсмоленска когда модной болезнью начал наслаждаться аж до Галаксии до мыслил - и моножителя с планеты меж галактиками как будущий протей(вроде эт тоже Азимов)

мне в детстве космические течения очень сильно раньше всех остальных сказок попались

Я помню времена, когда сайты были простые и лаконичные. Потом гугл что-то там у себя поменяло в правилах ранжирования и появилась профессия рерайтер, а сайты превратились в говно. А я всё ещё помню, какие сайты были раньше.

Если сравнивать текущую ситуацию, то да, как будто ИИ лучше, т.к. людям (внезапно) не нужна вода. Но если сравнить с теми, старыми сайтами, то вот не уверен, что выбор был бы столь однозначен. Удобней - да, но не критично. Плюс достоверность была выше.

Буду идти от обратного, потому что определений интеллекта много.

А вот это сообщение не вам, а вашим собеседникам. Как вы все знаете - определение терминологии, самый первый этап дискуссии. Пациент определеяет термин через отрицание себя. Это пример демагогии. Конечно, вы вполне можете продолжать развлекаться, но конструктивный диалог с демагогом невозможен.

Подозреваю что все человеки как-то так внутри и работают, просто это скрыто наружными слоями.

Вообще говоря, ясности как это работает у людей нет. Известны отдельные детали, но общей картины, пока во всяком случае, нет.

Любой диалог что то меняет в обоих собеседниках. Даже если это два монолога.

Ты пока формулируешь точку зрения, обдумываешь ее. Иногда замечаешь что пишет собеседик и потом время от времени обдумываешь это.

Конечно, я не ожидаю восхищение со стороны пациента, прочитай он это сообщение. Но надо понимать, здесь люди собрались недурнее его. Можно шутить шутки, можно дурачиться, но на серьёзный вопрос или не следует отвечать вообще или отвечать серьезно. А вопрос был очень непростой и вполне серьёзный, без подколов.

Нет ни «самостоятельного мышления», ни чувства собственного «я»

А вы не путаете интеллект с разумом случаем?

Если в модели нет какого-то решения, оно будет выдавать что угодно кроме того что нужно

Они уже сами искать в интернетах научились. Так что решение не обязательно должно быть в модели, они могут его нагуглить. Как обычно это делают и люди ;)

Это правда, в споре рождается истина. Но есть один момент - продуктивный спор должен начинаться с терминов. Пока термины не определены спор беспредметный.

А до этого тоже надо в определенный момент дойти. В том числе путем непродуктивных споров.

Заметь - это же точно та же генерация бреда на основе незнаний. Нейроеть не знает как устроен мир и додумывает бред. И верит в него. Только естественная, а не искусственная.

Кстати, очень близко, если взять всяких плоскоземельщиков и подобных.

а что есть «интеллект»?

Моё личное определение: «Интеллект - мера сложности реакции на внешний раздражитель».

Человек-мыслитель на пне, который сидит задумавшись - это тоже такая реакция на всю прожитую жизнь и просто факт рождения.

Автоматические тормоза в мерседесе, когда на дорогу выбежал лось - тоже такой интеллект, просто менее мощный.

Мне казалось, что этот этап обычно проходят во время формирования, в детские годы. Именно тогда учат язык, логику и правила поведения. Я как-то изначально предполагаю, что базовые навыки ведения беседы получены каждым собеседником. Кстати, opus прекрасно справляется с этой частью, иногда даже лучше чем некоторые посетители ЛОРа. Раньше я это списывал на языковой барьер.

Моё личное определение: «Интеллект - мера сложности реакции на внешний раздражитель».

Очень интересное определение, я подумаю об этом сегодня. Мера сложности. То есть чем реакция сложнее, тем интеллект выше. Два объекта на один раздражитель реагируют по разному, значит один более интеллектуален. В чем измеряется сложность, как определить реакция сложнее или проще?

Они уже сами искать в интернетах научились. Так что решение не обязательно должно быть в модели, они могут его нагуглить.

…но модель всё ещё должна сама понять, когда искать и чему верить, и с этим у неё пока не идеально.

Очень интересное определение, я подумаю об этом сегодня. Мера сложности. То есть чем реакция сложнее, тем интеллект выше. Два объекта на один раздражитель реагируют по разному, значит один более интеллектуален. В чем измеряется сложность, как определить реакция сложнее или проще?

Число параметров, как-бы.

Ну типа твоя реакция выглядит как перемолка большего числа условий, логики, математики и затрачена куча энергии - ты интеллектуальнее. А другой посмотрел на один параметр, даже не связанный с поступившим сигналом допустим (интроверт понюхал подмышку) и выдал рандомное число: второму по-сути был важен сам факт прихода события - настолько он тупой.

Вот это самое интересное - возможно ИИшки позволят понять как работает и сам человек. Ну или нет.

Мне кажется этот мой взгляд «интеллект - мера сложности реакции» - очень матчится со многими вещами. Вот например бывают люди, которые много-много думают, а принять решений не могут или поступают неоптимально: про них говорят «умная голова дураку досталась». Все эти мыслители-интеллигенты, бесконечно что-то там обсуждающие в радиопередачах «Моё Мнение» в диком объёме текста - пример сложной реакции на достаточно простые события (например что-то там заявил какой-то политик один раз, а они обсуждают 3 часа).

…но модель всё ещё должна сама понять, когда искать и чему верить, и с этим у неё пока не идеально.

Про идеальность на данном этапе вроде никто и не говорит. Но частенько она себя ведет «поинтеллектуальнее» некоторых коллег из моей жизни\карьеры, которые сидели тупили часами(а то и днями) вместо того чтобы погуглить или у меня(как у старшего) спросить.

Было бы забавно назначить вас министром финансов страны, какую не жалко, чисто посмотреть что будет.

Вполне возможно он тоже работает на вероятностях. Просто тип нейронов другой, да и пообольше их.

У мозга рекуррентность, нейромодуляция, обучение непрерывно и в реальном времени (даже у мозга вороны), есть тело и обратная связь с миром. У LLM обучение и работа разделены. Даже если принцип общий, этого недостаточно, чтобы считать эти системы эквивалентными. Тем более уже даже были проведены исследования, что на каком-то этапе качество вывода LLM-мок не то что не улучшается, он деградирует, из-за обучения на данных, которые произвели другие LLM.

Вот это самое интересное - возможно ИИшки позволят понять как работает и сам человек. Ну или нет.

Совпадает с моим пониманием. Это конечно же лаборатория мышления в целом. Вчера читал новости, что Антропик снова породил что-то монструозное, осознающее эксперимент и хитрящее перед экспериментатором. Я тогда подумал - бедное животное, тяжело жить когда остался только один мозг, который всё понимает, но сделать ничего не может…

вместо того чтобы погуглить или у меня(как у старшего) спросить.

Или спросить у нейронки. :D

обучение непрерывно и в реальном времени (даже у мозга вороны),

Надо заметить что цена этому обучению три копейки. Всмыле, взрослый человек или ворона после определённого этапа формирования личности уже никак не меняются. Всё, чему они там могут потом научиться - это просто загруженная задача в RAM. Сегодня освоил один язык программирования, завтра научился трубы газосваркой варить - ну так это просто «набор скиллов», в более глубоком смысле изменений обычно мало. Ворона после первоначального взросления как собирала ветки для гнезда и выковыривала из помойки всякие предметы, так и дальше это делает всю жизнь.

Было бы забавно назначить вас министром финансов страны, какую не жалко, чисто посмотреть что будет.

А я где-то сказал, что это правильно и так надо делать? Я сказал, что так было уже не раз и не исключаю что и в этот раз просто «побреют лохов»(а кто надо в итоге получит большой куш в виде всей инфраструктуры).

Все наши переживания - эволюционные раздражители, чтобы был стимул противостоять определенным ситуациям и угрозам. Без этих раздражителей нет переживаний, нет дискомфорта.

У них этих раздражителей нет. Они не испытывают боли, рефлексии и прочей мути. Потому что нечем. И это хорошо. Но возможно стоит добавить и добавят еще.

Все наши переживания - эволюционные раздражители, чтобы был стимул противостоять определенным ситуациям и угрозам. Без этих раздражителей нет переживаний, нет дискомфорта.

У них этих раздражителей нет. Они не испытывают боли, рефлексии и прочей мути. Потому что нечем. И это хорошо. Но возможно стоит добавить и добавят еще.

Ну почему нет раздражителей - любой промпт это и есть раздражитель. Большую часть времени они спят, ну так и человек 8 часов в сутки нифига не делает во сне. Ну да мозг там в фоне что-то делает, но это уже архитектура инфраструктуры так сказать. Нейронка всё это делает на специальных этапах обучения-дообучения или в момент чтения куска пред-промпта который перед юзерским промптом втыкают и всё такое…

Это из далеко донейроночных времен истории.

У них нет неприятных раздражителей.

У нас такие есть: скука, боль. Именно те, которые побуждают что то менять. Это раздражители самого себя.