Вот и дожили до SDD

Американские военные чуть не атаковали китайский корабль из-за ошибочных разведданных, подготовленных с помощью ИИ

То-ли еще будет! :)

https://habr.com/ru/news/1084238/

Есть подозрение, что данные были не ошибочные, просто в итоге решили что китайский корабль атаковать сцыкотно и сделали вид, что это ошибка ИИ была.

Зачем тогда вообще было об этом сообщать?

А в 2030г планируется ни строчки кода уже не писать ручками =( Кто не согласен - все на мороз.

Да не проблема. В крайнем случае будут писать в «спеку на исправление ошибки» «добавь после строки 100500 строки: …».

Я так с Гигакодом эксперимент проводил (смогу ли написать программу не изменяя ни строки вручную). Некоторые ошибки приходилось исправлять именно в режиме «запиши в строку … текст …, добавь после строки … текст …».

Эти два варианта в норме одновременно. Хоть в США хоть в КНР. Каждому гражданину еду и кров, вне зависимости от того, работает ли он. А остальные могут конкурировать для получения места в элитных отелях и возможности оплатить летающий автомобиль.

На практике вопрос в выборе типа управления. Либо у нас есть государство-корпорация, которая обеспечивает все потребности граждан-сотрудников-покупателей. Либо у нас есть возможность каждому выбрать, хочет ли она работать на корпорацию, или хочет объединиться в небольшую артель или хочет делать что-то нужное для покупателя в одиночку. Эти варианты взаимоисключающие. На технической базе 20 века второй вариант пока побеждает (даже в КНДР есть «частный» бизнес). Но ИИ позволяет улучшить централизованное управление и возможно окончательно победит в итоге первый.

Зачем тогда вообще было об этом сообщать?

Так своим же надо объяснить почему в последний момент отменили.

у препода есть репутация

Институт репутации мёртв, такие дела. По крайней мере где я вижу его остатки только дёргаются.

А в 2030г планируется

Это означает, что надо выдать какую-то пафосную декларацию, но можно ничего не делать.

Я только одного не понял, а что, можно всерьёз браться за разработку чего либо без SDD? Те самые клятые ии-агенты подсказывают, что по сути это не более чем зафиксированный на бумаге ответ на вопрос «а собственно что мы делаем?».

Не совсем, тут проблема в другом. Классическая разработка предполагает одну реализацию, которую все знают и в которой все разбираются. Решения в этой реализации зафиксированы в коде.

При SDD или аналоге у нас появляются спецификации, которые являются ограничителями набора реализаций и добавление каждой новой спецификации может приводить к неуправляемому переписыванию части проекта и раздуванию кода. Т.е. на каждую фичу у нас буквально может быть переписан полностью проект.

С одной стороны это хорошо, что у нас появляется подробное описание фич. С другой стороны нестабильная реализация - это ужасно для сфер где код должен быть доверенным, типа криптографии, блокчейнов, научного ПО и т.д. Уже не говоря про то, что за агентами надо часто править реализацию ручками, потому что они свободно могут игнорировать часть спецификаций, могут забывать какие-то вещи или просто рандомно сбоить. Соответственно, мы получаем кривую реализацию, доправялем ее сами где ИИ не смогла, а при добавлении новой фичи наша работа может быть уничтожена и в идеале нам снова вносить правки в новую версию. Это буквально экспоненциальный рост тех долга. Плюс нам уже сказали, что кода генерироваться будет много и ревью станет чисто по спекам, в код заглядывать не будут. И вот тут конфликт, чтобы получить работающую и хорошую реализацию код подправлять надо. А чтобы генерить как макака фичи - код подправлять не надо. Что из этого выйдет?! Еще и на отсталых моделях - будем посмотреть

А изоляция модулей чтобы добавление какой то фичи куда то не требовало переписывать весь проект всё, не работает что ли? Разве не эту проблему должны были решить все эти пляски с фреймворками, апи и высокоуровневым безопастным программированием?

Или классическая концепция внёс изменение - собрал - прогнал пакет тестов, убедился что не появилось регрессии? ИИ это ведь тоже касается, ему даже проще это всё делать.

Ну и серьёзно, описывать желаемый результат прямо кодовой реализацией? Мне казалось если в проекте более 1 человека то описание желаемого результата должно быть где то записано в любом случае, иначе швах. Ну ладно если это какой то скриптик, но ведь и там через пару лет забываешь что ты тут понаписал и как это должно работать.

Фреймворк Вам архитетуру не напишет и не заменит. При желании с любым фреймворком можно так наговнякать - мама дорогая…

Ничего не могу сказать, сейчас нас переведут на SDD и потом отпишусь к каким результатам привело

Я не знаю что там по гигачатам, а гугловская ИИ по прежнему не может корректно реализовывать код по строгим статьям. Статью видит благо она даже в виде сайта есть с готовым кодом, правда на другом ЯП, а в матрицах делает ошибки на третьем знаке, от чего все дальнейшие вычисления делаются мусором (точность там нужна 10 знаков после запятой). Тесты кстати пишет так, что подставляет туда всё те же неправильные значения и они успешно проходят. Голову короче надо всегда включать, иначе говно выходит.

А ты пробовал у ИИ чатика про архитектуру вопросы задавать? Как по мне он уже лучше большинства архитекторов в ней разбирается. По крайней мере лютой дичи он не творит, а с людьми бывает такое, особенно когда начинается драка между абстракциями и производительностью, люди почти всегда выбирают абстракции, даже там где это проект хоронит и никогда не обращают внимание на то что абстракции это хорошо, но когда у тебя цепочка из 50 уровней абстракций (привет вебу), то оказывается что никто толком не соображает как оно работает на самом деле, какие побочные эффекты имеет и вообще зачем мы решаем простую задачу столь сложным инструментом, в котором ещё сверху оказывается несколько уязвимостей, которые по этой цепочке приехали откуда-то из другого чужого кода. Другое дело, что когда агенты говнокодят, то обычно не делают отдельного агента, который будет за архитектурой следить и её вопросы решать.

Кусочно-гладко. В смысле спрашиваю в конкретных местах конкретные моменты: Какой типовой подход применяют в данном случае? Какими типовыми способами это можно решить? И т.д. Иногда прошу грамотно свои мысли оформить (ну т.е. паттерн нужный я знаю, но названия не помню. Фактически, прошу правильно, по типовому, назвать все сущности и применить по делу). Потом уже смотрю, сравниваю. Слово типовой заметили? Это потому, что в таких ситуациях он разбирается лучше всего. Если что-то оригинальное надо спросить, то даже не пытаюсь ибо знаю, что фигню пороть начнёт. А уж про весь проект спрашивать - Боже упаси.

Но тут надо понимать, что я уже опытный и понимаю как надо, а самое главное - как НЕ надо делать.

Другое дело, что когда агенты говнокодят, то обычно не делают отдельного агента, который будет за архитектурой следить и её вопросы решать.

Вот только написать хотел, что когда они говкодят, то ни про какую архитектуру не думают. Потому мухи отдельно, котлеты отдельно.

Ну и в контексте темы: не уверен, что ИИ сможет адекватную архитектуру всего проекта сделать самостоятельно. Плюс её придерживаться. Особенно, если проект большой и с нюансами. А нюансы, на моём опыте везде бывают.

Что спрашиваешь, то и получаешь. Попробуй когда начнёшь новый проект начать с вопросов декомпозиции и спрашивай не типовое (это у 90% говнокодеров на гитхабе типовое), а лучшее с точки зрения поддержки при разработке и производительности во время работы проекта разбиение на модули и подзадачи провести. А дальше, когда задачи станут маленькими (аналог микроядер/микромодулей/микросервисов) внутренняя архитектура такого минимального модуля влезет в контекст и ИИ вас уделает как Тузик грелку. Да, писать здоровый монолитный монолит ИИ хреново будет. Но у таких монолитных архитектур проблемы начинаются в любом случае вне зависимости от того насколько компетентные люди их пишут. Лучший пример - БД от оракла.

ЗЫ

А чтоб ИИ не плыл он должен для своих агентов по архитектуре доку писать. Какие функции где есть и так далее. Чтоб они не вдавались в реализацию, а брали и использовали готовое, может только проверив на последнем этапе что там всё что им надо есть.

спрашивай не типовое (это у 90% говнокодеров на гитхабе типовое), а лучшее с точки зрения поддержки при разработке и производительности во время работы проекта разбиение на модули и подзадачи провести

Паттерны - типовые решения задач. В общем виде, так скажем.

Но у тебя же хотелки не про паттерны, а про архитектуру, к тому-же оригинальное. Конечно если ты спрашиваешь про паттерны то и ответы будут про паттерны. А не про то, как надо. Паттерн это как бы не что-то что отлито в граните и вот только так и надо. Паттерн это что-то что удобно решает типовую проблему и не удивляет своим решением других разработчиков.

Ну так паттерны про архитектуру. Разбиение на модули и разграничение ответственности прямо проистекает из паттернов проектирования. А вот когда лучше применять типовое решение, а когда лучше по месту, я и сам не сформулирую. А тут ещё и болвану доверять…

Что из этого выйдет?

Попкорн подорожает %)

А кто разграничивать ответственность будет? Указывать в спеках где и какие домены? ИИ чот по моему скромному опыту совершенно по идиотски разбивает зоны ответственности

как показывает практика, меньше всех тратят не те, кто продумывал запросы или как то аккуратно работал, а вообще не использовал. Те кто продумывают - это середнячок

Ура, русский язык побеждает. А если программисты не любят русский язык, то им на морозе самое место.

Я пытаюсь в таком стиле существовать уже несколько месяцев по собственной инициативе, потому что по старости мне уже лень и скучно собственно программировать. Скажем так: это почти возможно. Ощущаю себя осликом пока что, который сам себе повесил морковку и за ней бежит. В сумме работы стало больше, а результата меньше, потому что вся энергия уходит на обустройство ИИ. Но я думаю, что в общем и целом твои работодатели мыслят правильно. Другое дело, что может быть разрыв уровней управления и что они недооценивают трудности такого подхода. Ну и плюс накапливаются проблемы со временем. Во-первых, на границе человек-машина. Человек быстро деградирует и начинает на ИИ возлагать всё больше задач (вижу по себе очень чётко), а ИИ склонен косячить. Без чёткого закрепления за человеком областей ответственности, которые нельзя делегировать, всё схлопнется. Во-вторых, ИИ может произвести неимоверное количество кода любой сложности. Но ведь потом это нужно будет поддерживать и чинить. На этом легко сжигается сколько угодно токенов и сложность выходит из под контроля. А поскольку человек склонен самоустраняться из рабочего цикла, никого не остаётся, кто мог бы сохранить порядок. Вот если это уравнение удастся решить, то тогда всё будет работать. Кроме того, идут странные новости от ведущих провайдеров сервисов - они в общем-то по сути убыточны и пока не видно шансов окупиться. Пока что по узкому горизонту моих знакомств все предпочитают покупать сервисы, а не разворачивать своё железо. А локальные модели стоят, КМК пока что сопоставимо с человеческим трудом, или во всяком случае не уверен, что многие готовы инвестировать дейтствительно достаточные объёмы денег в собственную инфраструктуру. Если крупнейшие поставщики сервисов обанкротится, те, кто делал на них ставку, могут сесть в лужу. Про кражу интеллектуальной собственности тоже нельзя забывать. Может ведь получиться как с землей в исландских сагах (всю землю скупили сильные, а слабых в батраки), или как с сервисами такси (Яндекс съел всех). Т.е. собственно ИТ-отрасль будет захвачена теми, кто стоит сегодня за поставщиками моделей - они проанализируют запросы, заберут идеи, сделают всё сами, а остальных - на мороз.

P.S. ну и кстати, чисто SDD работать не будет. Нужно моделировать все аспекты процесса разработки и поддержки ПО, прежде всего, управлять знаниями о продукте. Я уже в ежедневном режиме наступаю на грабли из-за того, что где-то в документации я недоописал какие-то аспекты. Соответственно и всё большая доля задач для репочата звучит сегодня так: «ты сделал вот эту фигню. Что в документации привело тебя к решению, что так можно» и потом «а на самом деле в документации должно быть написано вот это». Я видел зелёный документ по SDD и не припомню, чтобы там про это было что-то сказано, хотя, может уже деградировал слишком сильно и пропустил.

Поверь, болван и это сможет, если он на это обучен. И он это уже может не так уж и плохо. Паттерны проектирования - это достаточно ограниченный набор знаний. Методика проведения анализа - тоже.

Сами-то паттерны да. А вот область их применения - нет. Тут сам словами не объяснишь, только с опытом приходит. Чего уж говорить о болванах.

Не знаю, у меня пока нет опыта именно разработки архитектуры с помощью ИИ. В том, что я делаю, либо архитектура уже фиксирована, либо я её сам придумываю (и кстати много косячу с большой ценой ошибки зачастую, может и не хуже болвана косячу). В конкретном случае всё зависит от того, насколько хорошо он обучен или какие методички ему подогнали в контекст. Посмотрим. Он решает разные классы задач, где нужно сочетание знаний и мышления и делает это уже весьма неплохо. Если приходит с опытом, значит, ему можно надавать примеров вида «была такая задача, решена вот так». Вопрос - откуда их взять. У тебя в карьере, если ты монстр ремесленного труда, допустим, будет 100 примеров. А он за час переварит и 10000 и получится что у него ж опа то больше.

А, вот кстати ещё один аспект. Дешевизна труда ИИ способствует тому, что начинаешь делать больше низкоприоритетных задач. Допустим, у меня был некий код 3-4 года, в котором был неудобный CLI. Я его поправил и он теперь удобный. С одной стороны, вроде хорошо. А с другой - рабочее время на это потрачено, а бизнес-результат никакого не произведено, было 3 команды, стала одна. Экономия рабочего времени исчисляется минутами в месяц. Можно зарядить поезд из таких задачек, при этом что-нибудь сломаешь с уже более тяжёлыми последствиями, а реальные задачи будут замедляться. Это я фактически наблюдаю по себе. Возможно, это мои личные особенности.

Дешевизна труда ИИ способствует тому, что начинаешь делать больше низкоприоритетных задач.

Дешевизна труда - чисто маркетинговая история. Вот когда выйдут на окупаемость, тогда и поглядим.

Дешевизна однозначно присутствует. На своей модели инвестиции в несколько сотен тыр, далее бесплатно. На новых китайцах порядка сотен руб в день, но пропускная способность и контекст гораздо больше. Проблема в этом случае только с конфиденциальными данными. По скорости работы даже локальная модель работает быстрее меня, когда не косячит. Когда косячит - медленнее, конечно и иногда в конце концов делаешь сам, но это некий не очень большой процент задач (он уменьшается, т.к. выходят новые модели, которые умнее). Кроме того, качество тоже зачастую выше. Некоторые задачи, которые ИИ решает по щелчку, я бы даже побоялся брать в работу из-за, допустим, дефицита знаний. Просто его результаты сильно зависят от конкретики. Но и кожаные мешки тоже специализированы - программист плохо крутит краники, а сантехник плохо программирует. Если задаться вопросом «а какую модель или промпт мне подобрать для решения такого-то класса задач», то наверняка этот вопрос имеет решение, хотя я этого не делал и пользуюсь доступным из коробки в универсальных моделях. Представим себе работодателя, который берёт человека, которому надо ежемесячно платить сотни тыр, который со временем придумает способы косить от работы или воровать и от которого не обязательно легко избавиться. Этот человек уже специализирован и делает не все виды задач. Кроме того, он может натаскаться по прохождению собеседований, а реальную работу делать недостаточно хорошо по недостатку квалификации или мотивации. Представим себе, что нам за эти же деньги предлагают промт или обученную под специализацию «архитектор ПО» модель, которая будет пусть даже по подписке. Кто готов отдать 100тыр в месяц за такую модель? Жабисто? А ведь это экономически выгодно даже и так.

И далее, кто именно должен выйти на окупаемость? ИИ берут как дополнительный инструмент те, кто уже имеет окупаемость. Он позволяет решать задачи быстрее. Другое дело, что поскольку он доступен всем и на рынке конкуренция, на круг никому (кроме продавцов ИИ) лучше не станет, но это уже нацпол, а не технический вопрос.

Как «кому»? Тем, кто строит датацентры как не в себя. Они же держатели самых передовых моделей.

В TIME летом была большая статья о состоянии датацентров в Норвегии и о том, что их начал монополизировать какой-то проходимец из Австралии. Так вот до ИИ он сдавал свои вычислительные мощности в аренду на майнинг, сейчас на ИИ. Так что датацентры - это совсем другой бизнес, железо окупилось уже не по одному кругу. И никакие передовые модели они не держат, просто арендуют железо, но много.

Дешевизна однозначно присутствует.

Даже к бабке не ходи! Есть косвенное тому подтверждение. Эффективные менеджеры со всех утюгов вещают о необходимости внедрения ИИ во все отрасли. Единственная вещь, которая действительно их беспокоит это снижение затрат, потому что это источник их основного дохода.

Я про Америку и их лидеров: готопу, антропиков и кто там ещё. Всё строят датацентры, всё железо выгребли, аж видяхи и память подорожала. Эти ж затраты должны отбиваться. По крайней мере, инвесторы на это рассчитывают. Как оно сложится - поглядим.

И про это тоже ходят неприятные слухи, что нвидиа входит в долю, то есть финансирование их, железо их, и владение 40%. То есть фактически продают своё железо себе же по дутым ценам и под другой вывеской.

Что-то такое я слышал. Типа получают инвестиции с обязательством закупить оборудование именно там, где надо. Это ситуацию делает более запутанной.

Но кому-то же придётся оплатить сей аттракцион. В моих расчётах пока не получается повесить это на пользователей.

Да, Нвидия опустится с 6 триллионов до разумных 2.2.

Нет, всё остальное (включая цены на еду) поднимется в X раз (в твоём случае - например в 3). А проиграют те, кто имел неосторожность хранить свои накопления в виде долларов.

Нет, всё остальное (включая цены на еду) поднимется в X раз (в твоём случае - например в 3

За какой период времени?

Может и так. Обратимся к цифрам.

С 2001 года, как я приехал в эту страну цена на мясо выросла с грубо-говоря 2.5 у.е. за условный вес, а сейчас 7, бензин с 78 копеек до 4.70, а аренда квартиры с 650 до 1600. Все цена приблизительные, не суть важно. То есть типичные цены выросли в диапазоне от 2.5-6 раз. А моя зарплата, тоже по очень грубым оценкам, выросла в 12 раз. И это я про накопления и прочий доход не считаю.

Так что я не спешу. Я подожду.

Этот аспект уже сложнее. Но качественно от него ситуация не зависит. Качественная разница между его и моим сценарием такая, его:

          /---\
         /     \
        /       \
-------/         \-----

-----------------------

Мой:

          /-------------
         /   
        /         /-----
-------/         /
                /
---------------/

От сроков зависит только длина переходного периода посередине.

Меня в таком подходе всегда интересует один вопрос. Ок, лочимся на одном из 5-6 (или меньше) AI вендоров, которые пишут код за токены. Завтра токен сильно дорожает. Что дальше? Мне говорят, что токен всегда будет дешевле «живого» кодера. Или то то что есть очень многого открытых моделей. Но, во-первых, они все равно сильно отстают от топовых коммерческих. А во-вторых, наступает такая ситуация, что когда вы решитесь на нее перейти, то банально не купите нормального количества памяти или нормальных gpu. Из просто не будет. Их скупят. И в итоге или платите по «мильону» за токен или разработаете свой продукт когда конкурент уже таких 10 выпустит.

И какой выход, не знаю. Ибо «живыми» кодерами тоже сильно не сделаешь уже. Вон DHH уже похоронил Рельсы и перешел на агенты+раст

Откроют безграничный найм, а годик другой просядут по выпуску фич. Кажется, что это не самый большой риск.

Я понял, какими ты нарисовал графики — эта инфа дошла. Но поясни, что ты имел в виду по одной оси и по другой, конкретно (наименование и единица измерения). У меня есть предположение, скорее всего верное, но не хочу расписывать долго ответ, чтобы потом в итоге просто оказалось, что в этих «графиках» имелось в виду совсем другое.

P.S. Если Стоимость акций Nvidia конкретно в USD, то всё ещё хотелось бы понять, на какой конкретно период времени. Просто увеличение стоимости всего подряд остального в N раз объясняется обычной инфляцией. И откуда следует, что рост Nvidia должен быть равен инфляции (и, соответственно, прям ровненько в «полочку» компенсировать её) — не ясно…

Вообще, как будто это их план. Все же отмечают, что кодеры быстро хватку теряют и потом им тупо в лом будет ручками это всё писать. А так все отупеют/обленятся настолько, что готовы будут любую сумму отдать. Опять же, все деньги у ИИ компаний, они смогут всех уволенных программистов собрать. Так что разорение для них тоже не страшно.

что ты имел в виду по одной оси и по другой, конкретно (наименование и единица измерения)

А что, есть варианты? По x - время, единицы любые (числа там не указаны), по y - цена акций условной нвидии и цена условной «продуктовой корзины» в долларах.

Просто увеличение стоимости всего подряд остального в N раз объясняется обычной инфляцией

Всё верно, этот процесс называется инфляцией (это определение).

И откуда следует, что рост Nvidia должен быть равен инфляции

Ниоткуда. Рост nvidia произошёл до инфляции, соответственно это инфляция будет равна росту, но с задержкой в сколько-то лет. Но конечно тут не конкретно рост акций нвидии, а вообще текущая ситуация с ростом всего подряд. Можно считать что в сфере микроэлектронного производства инфляция уже местами случилась, остальные будут её догонять т.к. иначе их продукция обесценится.

А что, есть варианты? По x - время, единицы любые (числа там не указаны), по y - цена акций условной нвидии и цена условной «продуктовой корзины» в долларах.

Да, есть варианты. По x в целом понятно, но по y может быть вовсе не в долларах, а в чём-то ещё (золотом эквиваленте, юанях, биткоинах), и от изменения единицы измерения мы получим прям противоположные результаты.

Рост nvidia произошёл до инфляции, соответственно это инфляция будет равна росту, но с задержкой в сколько-то лет.

Здесь нарушена логика. Из того, что рост nvidia произошёл до инфляции, никак не следует, что инфляция будет равна росту. Даже в принципе хоть когда-нибудь, если усугублять.

Но конечно тут не конкретно рост акций нвидии, а вообще текущая ситуация с ростом всего подряд.

Интересно здесь по идее лишь то, какова динамика нвидии на фоне «всего подряд» — будет этот рост (допустим в долларах) быстрее, чем всё остальное, медленнее, чем всё остальное, или прям ровно среднее арифметическое (что маловероятно).

Можно считать что в сфере микроэлектронного производства инфляция уже местами случилась\

Как эту фразу понимать? Инфляция в конкретной сфере… Ну ок, допустим. Как она выражается экономически?

вовсе не в долларах, а в чём-то ещё (золотом эквиваленте, юанях, биткоинах)

Вся суть моего возражения, с которого начался этот диалог, заключалась именно в оценке через доллары. Если брать цену в стабильных единицах, то разумеется цена акций будет падать, но за стабильные единицы никто не торгует, все государства такое осуждают и хотят чтоб торговали за их валюту.

никак не следует, что инфляция будет равна росту

Если между нвидией и инфляцией увидеть причинно-следственную связь, то вполне начнёт следовать.

Интересно здесь по идее лишь то, какова динамика нвидии на фоне «всего подряд»

Тебе, может, и интересно, но начало дискуссии было не об этом.

Как она выражается экономически?

Не видишь цены на память? Вместо их снижения всё остальное просто подтянется (это не быстрый процесс) чтобы восстановить баланс.