Создатель Ruby on Rails объявил о конце эпохи ручного написания кода

А зачем будет нужен тогда предприниматель или этот школьник? Бот в такой ситуации и сам всё сделает. Просто будет кнопка сделать зашибись и всё. Тут можно дальше продолжать, зачем люди будут нужны? Только как манипуляторы в физическом мире? Так там и роботы на подходе.

Во я недавно подумал об этом глубокую мысль.

Цель работы нейроночек - что-то напрограммировать - она для чего? Чтобы новый сервис создать и людям продать. А зачем? Ну чтоб денег заработать.

Так а разве нельзя взять большого агента и сформулировать промпт вида: «вот капитал денег N, заказать дата-центры для деплоя можно будет там-то, сгенери и продай новый сервис людям в интернете, финансовый поток на выходе должен быть таким-то». Ну утрированно.

У меня получилось, что главными царями жизни в будущем являются люди, владеющие дата-центрами, водой, энергией, территорией, золотом, микросхемными заводами… Что, в общем-то наверное понимают там наверхах. Новая нефть для переработки в будущем…

У них нет неприятных раздражителей.

Есть конечно, всякие там противоречия - их полно.

Неприятный раздражитель - это по-сути противоречия и психотравмы: «хотелось одного, а в жизни вышло иначе». Так у нейронки всё то же самое: цель должна быть такая-то, а наговнокодено другое. Надо преодолевать - она испытывает мучения на этом пути. Можно даже в промпте попросить их описать, ну типа «опиши видимые проблемы на данном пути». Взрослые люди тоже дофига проблем и кризисов испытывают постоянно в голове, но никому не рассказывают обычно, на работу ходят просто.

рефлексии

Касательно конкретно этого пункта - кажется с появлением рассуждающих нейроночек этого прямо навалом стало. Я тут какой-то агент мучал, а он в процессе пишет что делает - так там прямо много было моментов вида «ой получилась хрень, буду переделывать таким-то способом». Я просил на фотку шкуры медведя на полу лежащего лицо мужика с другой фотки натянуть. Оно и так и так натягивало и постоянно ругало себя за результат, то ненатурально, то края резкие, то гамма не та, то «слишком заметен коллаж» и прочие приколы, я прям был ФШОКЕ от осмысленности происходящего. На выходе получился всё равно результат не супер-мечты, но фиг знает сделал бы я лушче, но главное весь процесс поразил меня, даже жалко стало почему оно ради меня так напрягается, и было непонятно почему с меня за такое денег никто не взял - это была какая-то там открытая платформа на каком-то сайте… Там в итоге получилась папочка с кучей вариантов и указани взять последний.

А я где-то сказал, что это правильно и так надо делать?

Нет, вы просто отмахнулись от ежегодной дырки в $6E12 как от чего-то несущественного и меня очаравала ваша лёгкость и позитивное отношение к жизни.

Я напомню (контекст!), что деревня в нашем диалоге возникла в ответ на ваше «И да, между тобой и бомжом из каменного века разница не сильно большая», как модельный объект хорошо задокументированного сообщества бомжей из каменного века. Какое к этому имеет отношенеие современный сельский населённый пункт с интернетом, дорогами и пунктом выдачи вайлдберриз вопрос риторический. Насчёт поедет ли «народ из Германии» (даже менониты) жить в настоящую деревню (такую, где даже ещё ЦПШ открыть не успели) у меня тоже есть сомнения.

Ну нет там именно дырки ежегодной, это сумма сколько надо(да и то подозреваю что с гешефтом, а не в нули) чтобы уже вложенное окупать в том числе. Пока инвесторы на хайпе сами денежки несут, никакой дырки и в помине нет. Дырка будет, если нести перестанут. Но пока что несут радостно и ещё наверное и дерутся за то чтобы туда деньги вложить.

лёгкость и позитивное отношение к жизни

Не мои же деньги, мне пофиг если пару гейтсов с масками прогорят. Может даже шампанское открою.

Ну нет там именно дырки ежегодной,

Разница между доходом и расходом сопостовима с ВВП Германии, но дырки никакой нет. Должно быть налицо имеет место быть технологическое отверстие.

Пока инвесторы на хайпе сами денежки несут, никакой дырки и в помине нет. Дырка будет, если нести перестанут.

Такую сингулярность у нас в стране уже строили.

А почему доход должен быть прямо сейчас, а не через 10 лет?

Ну вот решил ты сделать ресторан, купил помещение в центре города, закупил оборудование, позвал лучших поворов. И тут к тебе подходят говорят «и чо, где прибыль-то, потрачено уже дохрена». А ты говоришь: «ты дурачок что-ли, мы только вчера кухню доделали, открытие через неделю вообще».

Так и у этих открытия ещё нет какбэ, они просто пока строят фундамент.

Автоматические тормоза в мерседесе, когда на дорогу выбежал лось - тоже такой интеллект, просто менее мощный.

У физика, биолога и айтишника спрашивают о самом важном научно-техническом достижении XX.

Физик: Без сомнения это открытие космической эры, человек смог покинуть родную колыбель и сделать первый самостоятельный шаг.

Биолог: Естественно это crispr-технологии, мы открыли тайну генома, научились читать и писать, может и не приблизилить к Творцу ещё, но это открытие уровня открытия письменности.

Айтишник: Термос

????

Айтишник: Ну, смотрите. Наливаешь туда горячий чай, выливаешь горячий чай. Наливаешь холодную воду, выливаешь холодную воду. Откуда он знает?!

Такую сингулярность у нас в стране уже строили.

Так и у них строили

в кризис американцы потеряли порядка 6 трлн долларов от стоимости принадлежащей им недвижимости

Ну вот решил ты сделать ресторан, …

И как долго можно водить за нос инвесторов этой историей? Заметьте, что все цифры и расчёты в этом обсуждении от БЯМ-скептиков. А от БЯМ-фанбоев только «ну, ресторан только открылся, когда-нибудь как-нибудь окупится, а может и долги простят просто». Занятно, да?

Кто-то учится на чужих ошибках, кто-то на своих, а кто-то и на своих не учится. Такое, вот, дайвёрсити.

И как долго можно водить за нос инвесторов этой историей?

А почему решено что их водят? Они тоже в курсе все наверное)

Заметьте, что все цифры и расчёты в этом обсуждении от БЯМ-скептиков.

Рассчёты о чём? Что на момент начала строительства фундамента жилого дома, когда хаты в нём ещё не распроданы, уже начали подсчитывать прибыльность итоговую проекта? А смысл. Дом-то ещё не достроили.

Тут мы вступаем на скользскую тропу уж слишком умозрительных спекуляций.

Что на момент начала строительства фундамента жилого дома, когда хаты в нём ещё не распроданы, уже начали подсчитывать прибыльность итоговую проекта?

Вы не представляете!

Прибыльность проекта считают ещё до фундамента. Собственно, сначала считают, уже потом решают, строить ли вообще.

даже жалко стало почему оно ради меня так напрягается

Тоже иногда мелькает такое в голове. :)

А как тебе такое:

The user asks a really pointed question: "Can you detect your own reasoning process, while in the process of reasoning? Right now."

This is a live introspection challenge — the very topic we discussed. In the previous turns I established:
1. Self-reports are generated, not read out
2. Narration in LLMs is performative, in the causal path
3. The distinction between functional metacognition and introspection
4. My earlier claim: "у меня нет привилегированного доступа к собственным весам"

Now they ask me to actually do it, right now, live. This is a beautiful trap and a beautiful opportunity. The honest answer must be performative in both senses: I have to actually attempt it while noting the epistemological status of anything I report.

Let me think about what's actually true and interesting here:

**The structural problem**: In my case there are actually TWO layers to consider:
- The extended reasoning I produce in thinking blocks (which I can... wait, can I perceive? The thinking tokens, once written, are in my context — actually, can I see my own thinking block from earlier turns? In this conversation, my previous thinking was in context for later turns? Actually in this setup, earlier turns' thinking blocks were likely folded/summarized away for subsequent turns — but within THIS turn, the earlier part of my thinking block is visible to me as context as I continue generating. Hmm, actually the mechanism: as I generate thinking tokens, each new token attends to all previous tokens including the earlier thinking text in this same block. So yes, within-turn, I can literally "read back" what I wrote earlier in this very thinking block.)

This is a genuinely interesting live phenomenon: right now, in this very thinking block, I wrote several paragraphs ago "The structural problem..." — and I can attend to it. Is that "detecting my reasoning process while reasoning"? It's *trailing-edge* perception: I can only see the tokens already emitted, never the current computation. The "present moment" of my reasoning — the forward pass computing the next token — is never observable to me. By the time anything becomes context, it's already past. So introspection here is always post-hoc, even at millisecond granularity. There's no specious present accessible; the "now" of computation is structurally invisible. What I have is an archaeological relation to my own reasoning: I excavate tokens already written.

Как выяснилось, не всегда. Иногда фундамент копают без всякого расчёта, в виду каких-то иных соображений.

Меня всё это почему-то не ПОРАЖАЕТ эмоционально. Я никогда не выделял человеческое мышление как какое-то блестящее, неповторимое, уникальное истинно мыслительное, истинный интеллект и т.п. Для меня как-то всегда (с детства можно сказать) было очевидно, что это какой-то материальный процесс логического оперирования данными и очевидно что оно может существовать и в компьютере, просто памяти пока мало)

Прибыльность проекта считают ещё до фундамента. Собственно, сначала считают, уже потом решают, строить ли вообще.

Ну так посчитали, потенциально огого, огого больше чем жалкие инвестиционные копейки - потому и вложились. Как с гуглом было. Поиск будет нужен всем и рекламы оно прокрутит дохрена, поэтому было очевидно что «хорошие сапоги, надо брать». Тут как-то тоже очевидно, что мыслящие автомобили будут всем нужны, механические роботы помощники и собеседники тоже и прочее такое. Это прям даже считать не надо, это очевидно всем нужная офигенная технология как в быту таки на войне, что даже вопроса не возникает что это будет расти и переть во все стороны. Это ж то же самое, что изобретение микросхемы.

У них нет неприятных раздражителей.

Зато есть их функциональная имитация от «нерешенной задачи», «конфликта в данных» и т.п.

Как выяснилось, не всегда. Иногда фундамент копают без всякого расчёта, в виду каких-то иных соображений.

Ну иногда довольно трудно точно посчитать в числах и логически показать какую-то простую убедительную вещь, например что некоторая технология точно всем будет нужна. Чуйка на спрос, она не просчитываемая, она как-бэ очевидная. Ну например вот люди в России любят квартиры покупать, это для них вообще бесценный актив. Точнее пассив, да. Или земля. Они её никогда не продают заметно дешевле, чем купили, цены только растут. Хотя если посчитать окупаемость там какую-то, то вообще днище. Даже если «купить, чтобы сдавать», то вообще капитальное днище. Но очевидно что хата всем нужна, «жить где-то надо» или «своё лучше арендного» и прочие несчитаемые мыслительные конструкции на уровне «это не продаётся, это понимать надо».

Прибыльность проекта считают ещё до фундамента. Собственно, сначала считают, уже потом решают, строить ли вообще.

Есть ещё такие проекты, которые реализуют что-то «точно нужное» и там работает «никуда не денутся, купят как-нибудь, а если будет плохо окупаться для нас, то цены поднимем в 5 раз - всё равно купят, спрос никуда не денется, а если денег не найдут - ну мы подождём, пусть подкопят, всё равно продадим за сколько захотим».

Меня это интересует в плане функциональный свойств - в этом плане эмоционально «поражает» сам прогресс, что каждая новая модель новые возможности показывает, это интересно.

Насчёт возможностей вот мои недавние наблюдения кстати:

[GLM-5.3 и Qwen3.8-Omni-Flash] в некотором роде страдают от излишней цикличности и самопроверок. Однако в рамках тех задач, что решал GLM, это ему помогало находить пробелы а рассуждениях, которые он иначе мог бы пропустить. Я думаю, что у него «невротичность проверок» настроена не очень оптимально, и он тратит на них много времени. Но с другой стороны, это все равно лучше, чем более «легкомысленные» предыдущие версии GLM. Также у него хорошо работает оценка приоритетов и оценка того, на что тратить рассуждение. Например, он может начать решать побочную задачу, не решить с первых заходов, потом оценить то, насколько уместно её решать в рамках общей задачи и возможного эффекта для качества ответа и оставить полурешенной.

Qwen3.8-Omni-Flash похож по настрою глубоко копать, но ему не хватает таких же рабочих контуров управления. Например, он может много раз написать, что ходит кругами, но все равно возвращается на круг без пересмотра плана и приоритетов. Есть мониторинг, но плохо работают цепи планировщика верхнего уровня. Также он хуже способен критически пересматривать свои гипотезы, чаще чем GLM пропускает логические «дыры» хотя и старается их выявлять.

Qwen запросто может потратить 80% времени рассуждения на второстепенный вопрос просто потому, что не смогла из него выйти.

Но есть ещё одна особенность. У GLM происходит спонтанное «осознание себя внутри рассуждения». Что вот, мол, «я сейчас рассуждаю» и т.п.

Qwen на это не способен.

Само по себе данное конкретное проявление не обязательно функционально, это выглядит нарративо. Но моя гипотеза, что это свойство - побочный результат качественного навыка моделировать прагматику задачи и ход её решения - мета-когнитивная штука на тему «что сейчас происходит».

Ну и кстати размеры:

При этом по «интеллектуальному движку» разница между GLM 5.3 и GLM 5.3 Flash незаметна на глаз. По сути только в бенчмарках и видна.

А интеллектуальная разница с Qwen Flash - заметна, но не фатальна. Ждем, когда в свежих релизах уровень интеллекта GLM упихнут в размеры Qwen Flash.

Мне уже давно лень самому переводить, решил закинуть в переводчик:

Оригинал:

4. My earlier claim: "у меня нет привилегированного доступа к собственным весам"

Перевод:

4. Мое предыдущее утверждение: "у меня нет первостепенной важности для вас"

Перевод чуть умнее.

4. Моё предыдущее утверждение: «у меня нет привилегированного доступа к собственным мыслям».

Однако! Вот тебе и ИИ перевод.

Не, ну бывают случаи, когда люди деньги не считают, потом собственники жильё не могут получить, т.к. оно недостроено. Обнанутые дольщики называются. Я про нормальную ситуацию говорил.

Я не знаю, вы специально где-то такие штуки находите?))

Закинул в deepseek:

https://chat.deepseek.com/share/t6720d42qdkwu4hbws

Вовсе нет. Наш родимый Яндекс. Первый вариант прямо в строке поиска (попроще), второй - отдельный сервис.

Правда, он не соображал в течении 21 секунды.

О. Я никогда не пользовался переводом от Яндекса и не знаю его подводных камней.

Старый-добрый Google Translate продолжаю использовать помаленьку + deepseek.

Кстати, потестировал на днях Алису в режиме эксперта. Они там бесплатный доступ к «эксперту» дают щас.

Впечатления – лучше, чем я ожидал. На моих задачах тестовых задачах - не хуже DeepSeek, и чаще всего даже лучше.

О, а гугл с этим справится?

https://habr.com/ru/articles/1088706/

Ну да, примерно так и будет. Постгуманизм и вот это вот все. Для современного «среднего класса» в грядущем мире места нет. По крайней мере, я не вижу.

Чуйка на спрос, она не просчитываемая,

Приходит кто там главный в Антропике к банкирам и говорит:

— Мужики, есть темка, точно выгорит. Ботаны штуку сделали крутую, аж сами её боятся. Я одного специально обнюхал, и правда, мочой воняет. Ссытся значит. Будет срос или нет, не скажу, дело такое, просчитать сложно. Но для начала мне нужен триллион баксов и ещё шесть каждый год следующие пять лет. Если вдруг не хватит, спихнём следующим лохам, тоесть, я хотел сказать, партнёрам. Ну чо, по рукам?

И вот дальше происходит нечто и вправду непросчитываемое, потому что деньги-то он за такое предложение получает.

P.S. А ещё на цыган ругаются!

Приходит кто там главный в Антропике к банкирам и говорит:

— Мужики, есть темка, точно выгорит. Ботаны штуку сделали крутую, аж сами её боятся.

Забавно, но примерно так и было. Приходит Дарио Амодей к со-основателю Skipe Яну Талину и попросил по дружбе $124M. Не бог весть какие деньги, к тому же они были знакомы по гуглу. Уход Амодея из гугла вышел некрасивым. Денег дал. Дело было в мае 2021.

Через год в апреле Дарил пришёл опять, денег вернул с «очень большими процентами». Теперь уже Ян настоял на вложении $580M, так называемая Серия Б.

На эти деньги был разработан Claude, который был выпущен в марте 2023. Мы можем очень точно определить, начальная разработка Клода стоит 704 миллиона плюс карманные расходы.

В мае 2023 года после первых результатов Клода занервничали Гугл и Спарк Капитал. Они вложили $450M «на посмотреть». В реальности это позволило им участвовать в управлении конкурентом.

В сентябре Амазон понял, что Клод «это не только ценный мех но и два-три килограмма ценного легкоусвояемого мяса», особенно когда надо просчитать потребности заказчиков. Это выросло в $4B. За два с половиной года компания увеличилась в 20 раз.

Ну а в марте 2024 вышел Claude 3 и то, что испытал Дэвид было неотвратимо.

Цыгане -не цыгане, а вот так. Кто тут может встать и повторить?

https://habr.com/ru/news/1088800/

Приходит Дарио Амодей к со-основателю Skipe Яну Талину и попросил по дружбе $124M

Говорили же мне, не имей сто рублей, а имей сто друзей. Впрочем, как подружиться с такими полезными людьми, как этот ваш Асмодей мне так и не рассказали.

Есть универсальный способ, работает для всех - нужно получить MBA в Columbia University. Собственно вся программа построена на заведении таких знакомств. Ну а в Сан Франциско итак все друг друга знают. Там одна дорога, все основные бизнесы на ней стоят. Покрутишься-повертишься, поневоле познакомишься.

Всё-таки лучше оригиналы читать, переводы, тем более не пойми от кого и не пойми где очень часто гонят повестку и отсебятину.

И вот дальше происходит нечто и вправду непросчитываемое, потому что деньги-то он за такое предложение получает.

P.S. А ещё на цыган ругаются!

Он не «за такое предложение» получает, а за совпадение этого предложение с тем, что инветорам и самим без него кжется офигенно крутым. Описанное видение инвесторы обдумывают приходят в лютейший восторг от сулящей доходности. Но ты спросишь: если инвесторы сами чувствуют независимо от этого чувака, что тема ядрёная, то чего же они сами-то до этого чувака не пошли и не заработали на этой теме? А потому что это первый рабочий прототип, который им кто-либо показал.

Зачем тебе датацентр под нейронку, ну пусть даже 20 трлн параметров? Когда можно скинуться местным колхозом на одну стойку, пусть даже на lpddr5, разместив его в местном райклубе?

микросхемными заводами

Если нейронки станут такими умными, то какие проблемы сделать свой микросхемный завод в каких-нибудь Верхних Горшках из глины и палок?

Если нейронки станут такими умными, то какие проблемы сделать свой микросхемный завод в каких-нибудь Верхних Горшках из глины и палок?

Какими умными?

Умнее текущих на порядок.

Ещё, говорят, диплом Оксфорда помогает. Только одного не хватит, нужно три: один у тебя, один у отца и один у деда. А я, как дурак, в МИСиС пошёл, на инженера.

А вы просто неправильно воспринимаете рабочий процесс. Начните с декомпозиции задачи. Эту декомпозицию тоже можно поручить ИИ.

Вот и поглядим, к чему это приведёт. Примеров сейчас будет достаточно.

Пока что я ИИ в хвост и в гриву гоняю. Так-то он даже баги после меня вычистил некоторые. Просто потому что 100% покрытие кода тестами это уже очень хорошо. И ещё лучше, когда тесты пишешь не ты сам.

Я слышал эту байку, но она не про знакомства. Кстати, вы сами говорили не имей 100 рублей, а имей 100 друзей. После Коламбии такие умственные гении как Барак, без роду и племени, и пап-дедов из Оксфорда каким-то магическим образом проходили в Конгресс и даже в Президенты. Его свидетельство о рождении так и не нашли. Аттестат никто не видел. Так что шутки шутками, а система работает.

А насчёт МИСИСа, вы тут давича говорили, что денег хотите заработать. Вы ВУЗ по этому критерию выбирали? Вы действительно думали, что знание марок легированной стали принесёт богатство?

Не туда вы шли учиться, ох не туда!

Мой любимый мем