LINUX.ORG.RU
Форум — Talks  

Расстроен ли я? Что вы, я нет! Ну слегка...

 , , ,


0

4

Была такая проблема - LLM писали (и пишут) код не слишком надёжно. Их глючит, почти как людей. И нельзя быть уверенным что написанный LLM код - надёжен. Были нужны программисты, чтобы делать ревью, чтобы нести отвественность за код. Было у этой проблемы решение, называется «формальная верификация». Но оно было жутко дорогое и медленное. И лишь немногие могли себе это удовольствие позволить. Но и этот момент прошёл. Программисты больше не нужны. +- года-двух дело по моему мнению.

https://deepmind.google/blog/introducing-alphaproof-code/

Ребята, не ходите учиться на программиста. Это всё. Полностью. Ещё вероятно нужны будут некоторое время инженеры по формальной верификации, чтобы проверять спеки, но программисты - всё. Даже не могу оценить сколько останется.

По инженерам, буквально вчера узнал что гугл активно тренирует геминея на написание спек (из первых рук практически). Думаю , остальные крупные игроки делают то же. В целом, если вам сейчас не 65 и вы не на пенсии уже, и вы программист или даже инженер по ФВ - вам есть о чём подумать. Они просто верифицируют всё. А не они, так ещё кто нибудь. Это уже совершенно очевидно и дело времени, причём ближайших месяцев (выход технологии в массы я имею ввиду).

// для тех кто не понял, тема топика - цитата из «гадкого Я»

★★★★★

Последнее исправление: AndreyKl (всего исправлений: 7)
Ответ на: комментарий от CrX

если кто-то кому-то вешает лапшу на уши, значит врут все и во всём

Ну, да. Если тут годами в глаза врут и не стесняются, значит вот так тут принято. Место такое. В борделе сексом трахаются за деньги, в кабаках бухают, а в журналах пишут статьи на модные темы.

ugoday ★★★★★
()
Ответ на: комментарий от ugoday

Ты невнимательно читал. В первой части сообщения было сказано, что ИИ нужен всем. Далеко не только программистам. Рынок огромен. ИИ будет в каждом телефоне (уже началось в полный рост). Производители телефонов и прочих устройств будут включать ИИ в цену товара. Во второй части было сказано сколько тратится денег на программистов. А не сколько, потенциально, могут тратить программисты на ИИ.

rechnick ★★★
()
Последнее исправление: rechnick (всего исправлений: 1)
Ответ на: комментарий от Lordwind

Ты сам назвался инженером ФВ, кек. Меня не колышет какой тут контекст. Разработка ПО не использует ФВ кроме как в устаревших методологиях.

Ты путаешь. Это разработка без ФВ очень скоро утратит всякую актуальность. Люди будут вспоминать о ПО первой четверти 21-го века, как сейчас вспоминают о телегах с деревянными колёсами

Manhunt ★★★★★
()
Ответ на: комментарий от firkax

Видимо, выхлоп бредогенераторов в разы превосходит всё что, что делает AndreyKl (учитывая его верования в ФВ, неудивительно), ну а то что не все такие как он - он не догадался.

Давай начнём с признания простого факта: неверифицированный код, каким он был последние 50 лет, - это результат компромисса, проистекающего из бедности заказчиков и ограниченности исполнителей.

Manhunt ★★★★★
()
Последнее исправление: Manhunt (всего исправлений: 1)
Ответ на: комментарий от tcpfinhello

Основной скилл программиста в эпоху LLM является код-ревью. А это скилл жощще, чем написание кода. Все ведь знают, что ревьюить код или читать чужой код не любит вообще никто, это максимально уныло.

О том, как ИИ справляются с ревью, можно судить по потоку CVE. В том числе, в тех кодовых базах, где ревью человеками было обязательным, и человеки имели хорошую квалификацию. Например, в ядре linux.

На этом поприще кожаные уже проиграли, с разгромным счетом. Не может оно быть основным для программиста.

Manhunt ★★★★★
()
Последнее исправление: Manhunt (всего исправлений: 4)
Ответ на: комментарий от AndreyKl

я скорее сомневаюсь в том что это (субсидирование) будет долго.

Я согласен с вами. На Земле просто нету столько денег.

ugoday ★★★★★
()
Ответ на: комментарий от tcpfinhello

Программист был в свитере и очках
знающий матан, линал, ядро изнутри и радиоэлектронику

Теперь это всё знает ЛЛМ. И гораздо глубже, чем задроты в очках.

Manhunt ★★★★★
()
Последнее исправление: Manhunt (всего исправлений: 1)
Ответ на: комментарий от ugoday

Вероятно Вам виднее, я не особо в теме в этом вопросе. Знаю лишь что технологически то что я говорю верно и в текущих ценах решение очевидно, хотя технология ещё чуть чуть недозрела. Думаю дело 1-2 лет до прям массового использования.

Но это конечно с учётом текущих экономических реалий. Если там что то куда-то крякнет/лопнет, я тут судить не берусь.

AndreyKl ★★★★★
() автор топика
Последнее исправление: AndreyKl (всего исправлений: 2)
Ответ на: комментарий от Manhunt

О том, как ИИ справляются с ревью, можно судить по потоку CVE. В том числе, в тех кодовых базах, где ревью человеками было обязательным, и человеки имели хорошую квалификацию. Например, в ядре linux.

На этом поприще кожаные уже проиграли, с разгромным счетом. Не может оно быть основным для программиста.

Может. Кто-то же должен оценить качество ревью) Вот например о том, что кожаные проиграли вывод сделан именно кожаными. То есть, оценка качества ревью происходила именно кожаным.

tcpfinhello
()
Ответ на: комментарий от Manhunt

Теперь это всё знает ЛЛМ. И гораздо глубже, чем задроты в очках.

Но без человека, который всё это знает, некому разбудить это знание. Алкоголик вася и не подозревает, что нейронка разбирается в матане.

tcpfinhello
()
Ответ на: комментарий от AndreyKl

Дополню ещё утверждения могут быть некорректными. Когда оно противоречит само себе. Например парадокс брадобрея.

peregrine ★★★★★
()
Ответ на: комментарий от ugoday

Вот ещё аргумент: сейчас это может быть и пузырь. Но LLM «второго ряда» - deepseek, glm, minimax, да куча их - они совсем не такие дорогие и убыточные как OpenAI/Anthropic. Т.е. ну пузырь лопнет, ладно. Но технология то останется. Как с доткомами было. Только станет по «реальной экономической цене». Всё равно штука в месяц на Клод дешевле чем пусть даже по 2к вечнозелёных на программиста на команду из 10 человек, как ни крути. А за 2к ты их поди ещё найди, и что там они тебе сделают, тоже вопрос.

AndreyKl ★★★★★
() автор топика
Последнее исправление: AndreyKl (всего исправлений: 2)
Ответ на: комментарий от peregrine

да, спасибо! А то смысл тогда упоминать Гёделя :)

AndreyKl ★★★★★
() автор топика
Последнее исправление: AndreyKl (всего исправлений: 1)
Ответ на: комментарий от rechnick

Ты невнимательно читал

Я просто запутался в метавселенных. ИИ-фанаты одновременно утверждают, что «ИИ нужен всем» и «ИИ всех заменит». Вас это совершенно не смущает, а я теряюсь.

Производители телефонов и прочих устройств будут включать ИИ в цену товара.

Если к жопе приспособить сопроцессор фирмы Cray
Можно срать в сто унитазов в десять тысяч раз быстрей.

Во второй части было сказано сколько тратится денег на программистов

Если вы сокращаете число программистов в триста раз, то и экономия на программистах сокращается тоже в триста раз. Очевидно же. Более того, если (в качестве фантастического допущения) БЯМ научится настолько хорошо кодить, то мы можем оказаться в ситуации (идеальной, вообще-то), когда все нужные программы уже написаны. Ну, вот как с автомобилями. По большому счёту, кому нужно, те уже купили, кому не нужно, тем не нужно. Поэтому автомобилей сколько есть, столько есть, новые покупаются в рамках замены старых. Затраты на поддержание инфраструктуры остаются, а способность кодить миллион строк в секунду уже не нужна.

ugoday ★★★★★
()
Ответ на: комментарий от ugoday

Я просто запутался в метавселенных. ИИ-фанаты одновременно утверждают, что «ИИ нужен всем» и «ИИ всех заменит». Вас это совершенно не смущает, а я теряюсь.

Кажущееся противоречие на самом деле решается просто - то что тебе что то нужно, совершенно не означает что у тебя это есть.

Но вашу мысль я прочитал, там с подсчётом трудно спорить - если убрать программистов - кто пользоваться то будет?

ну как бы когда уволят программистов можно и цены поднять, куда вы денетесь с подводной лодки как бы..

AndreyKl ★★★★★
() автор топика
Последнее исправление: AndreyKl (всего исправлений: 1)
Ответ на: комментарий от tcpfinhello

Мне вот кажется, что частных самолётов через океан летает катастрофически маловато.

Только кажется. Нефти на всех не хватит. Нечего плебсу всякому разбазаривать ценный ресурс, пусть лучше осваивают питание насекомыми вместо мяса.

Manhunt ★★★★★
()
Ответ на: комментарий от ugoday

Затраты на поддержание инфраструктуры остаются, а способность кодить миллион строк в секунду уже не нужна.

но цены поднять всё равно можно. и нужно (в рамках рыночных отношений) ибо товар становится товаром с неэластичным спросом. просто задерут цены до окупаемости + баснословные прибыли. учитывая что мощностей надо будет куда как меньше (если верно предположение об отсутсвии необходимости кодить миллионы строк в секунду).

и поднимать можно пока машина будет делать лучше, быстрее и дешевле человека, т.е. до 30к зелёных в месяц как минимум навскидку.

представляете какие перспективы? а вы «где взять, где взять»

AndreyKl ★★★★★
() автор топика
Последнее исправление: AndreyKl (всего исправлений: 3)
Ответ на: комментарий от AndreyKl

Т.е. ну пузырь лопнет, ладно. Но технология то останется.

Проблема в том, что я живу в съёмной хате и огорода у меня нету. И 10-15 лет, пока экономика обратно отыграет, надо как-то пережить. Поэтому, если б данный вопрос зависел от меня, я бы предпочёл не надувать пузырей и не лопать их. А пузырёк пока только надувается и не думает притормаживать.

Всё равно штука в месяц на Клод дешевле

Тут стоят два стула. На одном подписка дёшева для потребителя (но неясно как найти триллионы, закрыть дыру в доходах у антропиков). На другом подписка стоит как крыло от Боинга (а отписка ещё дороже) и любой бизнес могут в любой момент пустить по миру. Тут деньги для держателей БЯМ находятся, зато теряются у всех остальных.

ugoday ★★★★★
()
Ответ на: комментарий от ugoday

Проблема в том, что я живу в съёмной хате и огорода у меня нету. И 10-15 лет, пока экономика обратно отыграет, надо как-то пережить. Поэтому, если б данный вопрос зависел от меня, я бы предпочёл не надувать пузырей и не лопать их. А пузырёк пока только надувается и не думает притормаживать.

ну, я вообще в этом смысле не слишком непопулярных сегодня в РФ взглядов. но есть то как есть.

AndreyKl ★★★★★
() автор топика
Последнее исправление: AndreyKl (всего исправлений: 2)
Ответ на: комментарий от ugoday

у нас долгое время было +-5 подрядчиков, которые выполняли разработки под используемые внутри компании решения. На этот год ни с кем договор не продляли, на следующий год тоже не собираются. Но появились в штате 4 Васи с опытом в нужных областях и подпиской на нейронку, вышло дешевле и что немаловажно - значительно быстрее, убрав кучу бюрократии при общении с подрядчиками.

user_undefined ★★
()
Ответ на: комментарий от user_undefined

какой отзыв в тему!

только почему то не радует меня когда мне такое рассказывают...
но есть как есть..

AndreyKl ★★★★★
() автор топика
Последнее исправление: AndreyKl (всего исправлений: 1)
Ответ на: комментарий от ugoday

Я просто запутался в метавселенных. ИИ-фанаты одновременно утверждают, что «ИИ нужен всем» и «ИИ всех заменит». Вас это совершенно не смущает, а я теряюсь.

Я такого не говорил и я вообще не ИИ-фанат. ИИ не заменит всех, а скорее уровняет всех. Это уже даже сейчас очевидно.

rechnick ★★★
()
Последнее исправление: rechnick (всего исправлений: 1)
Ответ на: комментарий от AndreyKl

это аргумент, но он слабый

Нет, это сильный аргумент.

сегодня субсидии, завтра - прибыль

Не будет никакой прибыли. Железо в ДЦ долго не живет, остановить гонку значит проиграть. Невозможно построить ДЦ, а потом жить на нем десятилетиями.

liksys ★★★★
()
Ответ на: комментарий от unC0Rr

Поэтому они не в 1000 раз дешевле человеков

Они вообще не дешевле.

liksys ★★★★
()
Ответ на: комментарий от watchcat382

О, у меня один знакомый заразился AI-лихорадкой и начал придумывать свой язык для написания спецификаций. В результате получился очередной убогий язык программирования:

service:
   has database connection

endpoint /list

parameters:
   parent_id: optional int

returns:
   list of products

may return error

must:
   list children items from database for item.parent_id == parameters.parent_id
no-dashi-v2 ★★★★
()

Их глючит, почти как людей.

Нет, их не глючит как людей. Люди не глючат, а LLM-ки галлюцинируют.

Были нужны программисты, чтобы делать ревью, чтобы нести отвественность за код.

И до сих пор нужны.

Ребята, не ходите учиться на программиста. Это всё. Полностью.

Ребята не ходите на программиста. У меня так брат умер.

Skullnet ★★★★★
()
Последнее исправление: Skullnet (всего исправлений: 1)

А чтобы навсегда закрыть этот вопрос с нейронками.

Воспринимайте нейронку как экспертную систему, которая реплицирует заложенные в ней паттерны по запросу. Выше данных в своей модели она не прыгнет без дообучения. Этот инструмент предназначен для хороший программистов, потому что требует высокого уровня экспертизы. В полуручном режиме действительно - это хороший инструмент: и быстрее и выше качество кода, тебе не нужно держать часть контекста в голове. Для слоператора - нейронка это МАГИЯ. Буквально. «Ну вот оно написало же мне сайтик на ПХП за полчаса! ПРОГРАМИСТЫ НИНУЖНЫ CONFIRMED!111». «Ну оно же РАБОТАЕТ!». Сайт выглядит как слоп, потому что даже хорошая нейронка не умеет делать КРАСИВО. Работает, но архитектура нахерачена как попало и по мере усложнения проекта он просто развалится. Слоператоры всегда замалчивают другие важные критерии. Вспоминаем теории множеств: хорошо, быстро, недорого. Как пытаешься делать действительно ХОРОШИЙ продукт с помощью ИИ инструментов выясняется что это нифига не дёшево и не быстро.

Бороться с этой заразой нужно радикально, слоператоров выгонять на мороз, потому что это рак индустрии.

Skullnet ★★★★★
()
Последнее исправление: Skullnet (всего исправлений: 2)
Ответ на: комментарий от Skullnet

Выше данных в своей модели она не прыгнет без дообучения.

вы наверное пропустили последние успехи ИИ в решении нерешённых человечеством задач математики и физики?

AndreyKl ★★★★★
() автор топика
Последнее исправление: AndreyKl (всего исправлений: 1)
Ответ на: комментарий от Skullnet

Бороться с этой заразой нужно радикально, слоператоров выгонять на мороз, потому что это рак индустрии.

чёрта с два, как раз наоборот, они сейчас ценны как никогда. бороться, соотвественно, вы можете только в рамках личных полномочий. ну, я даже успехов желать вам не буду, потому что эта борьба глупа. как минимум глупа.

луддиты по итогу проиграли как известно. и вы проиграете. это просто так не работает и всё.

AndreyKl ★★★★★
() автор топика
Последнее исправление: AndreyKl (всего исправлений: 1)
Ответ на: комментарий от rechnick

Я такого не говорил и я вообще не ИИ-фанат. ИИ не заменит всех, а скорее уровняет всех. Это уже даже сейчас очевидно.

Наоборот, сделает неравенство непреодолимым. Небожители - отдельно (с доступом к ИИ), прочий скот - отдельно (с доступом к ограниченной слабой версии ИИ, или без доступа вовсе - тут уж как партия решит).

Manhunt ★★★★★
()
Последнее исправление: Manhunt (всего исправлений: 2)
Ответ на: комментарий от Manhunt

я иначе понял rechnick:

и те кто был с опытом, и те кто не особо - с ИИ большие профи, одного от другого не отличишь.

с вашей мыслью полностью согласен, но это мне кажется не противоречит мысли речника (как я её понял), а скорее подтверждает.

AndreyKl ★★★★★
() автор топика
Последнее исправление: AndreyKl (всего исправлений: 1)
Ответ на: комментарий от ugoday

Значит количество программистов можно смело уменьшить в 365.4 раза

А значит зарплату 364.4/365.5 программистам платить не надо, можно её пустить на оплату электричества датацентрам.

unC0Rr ★★★★★
()
Ответ на: комментарий от unC0Rr

да, но он справедливо указывал на отсутствие явного экономического механизма для этого «пустить на оплату электричества»

AndreyKl ★★★★★
() автор топика
Ответ на: комментарий от Skullnet

Выше данных в своей модели она не прыгнет без дообучения.

кстати где то я это уже слышал..

AndreyKl ★★★★★
() автор топика
Ответ на: комментарий от AndreyKl

вы наверное пропустили последние успехи ИИ в решении нерешённых человечеством задач математики и физики?

Не пропустил. Вот только эти задачи на самом деле упирались в перебор большого кол-ва параметров, которые просто не способен перебрать человек.

Ещё один вопрос, какую реальную проблемы решают эти математические задачи? Пока что только померились пиписьками - «смотрите что ИИ может!».

Skullnet ★★★★★
()
Ответ на: комментарий от AndreyKl

По-моему это копиум.

– ИИ говно, он делает ошибки.

– А человек типа нет?

– эээ… чёрт… ладно, скажу, что нет, а то у меня аргументация вместе со всей картиной будущего развалится Нет!

unC0Rr ★★★★★
()
Последнее исправление: unC0Rr (всего исправлений: 1)
Ответ на: комментарий от AndreyKl

луддиты по итогу проиграли как известно. и вы проиграете. это просто так не работает и всё.

Да-да, я просто не уверовал в бога нейронки. Квантовые компьютеры уже закопали, а сколько хайпа то было, но эта штука была безобидна в отличии от нейрослопа.

Skullnet ★★★★★
()
Ответ на: комментарий от Skullnet

я не особо хочу вас разубеждать. но один вопрос всё таки задам: если вы считаете что человеческий мозг может хоть на бит больше выдать информации чем в него попало - поясните свою позицию по этому вопросу, иначе - поясние позицию по вопросу «чем же тогда человеческий мозг отличается от нейронки».

ну так, на досуге просто покумекате.

AndreyKl ★★★★★
() автор топика
Ответ на: комментарий от AndreyKl

Проблема в том, что в этой системе есть некоторый гистерезис. Всех нахрен уволят, за полгода сгенерят вообще всё, и землю, и даже бога. А потом уже никому ничего не надо будет.

unC0Rr ★★★★★
()
Ответ на: комментарий от unC0Rr

Дай угадаю, в программах, написанных тобой, не бывает багов?

Нейрослоп стократно хуже багов.

Skullnet ★★★★★
()
Ответ на: комментарий от Skullnet

ну
1) квантовые компьютеры вообще к реальности никакого отношения не имели никогда. всё что обещали - решать счётные задачи побыстрее (в отличие от)

2) я никогда в живую ими не пользовался , как и 99,99% человечеста (в отличие от)

если вас эти отличия не смущают, я дальше спорить особо смысла не вижу в эту сторону.

AndreyKl ★★★★★
() автор топика
Ответ на: комментарий от Manhunt

О том, как ИИ справляются с ревью, можно судить по потоку CVE.

А если внимательно посмотреть на суть этих CVE, то все они окажутся очень поверхностными ошибками памяти и всякими null dereferenceю.

Да, нейронки хорошо анализируют уже написанное - именно потому что LLM для этого и создавались. За полтора триллиона баксов мы получили довольно неплохой новый линтер и продвинутый автокомплит.

liksys ★★★★
()
Последнее исправление: liksys (всего исправлений: 1)
Ответ на: комментарий от unC0Rr

ну как бы по сути да, соглашусь. но шовинизм он по сути мне кажется копиум. но точно конечно не знаю.

AndreyKl ★★★★★
() автор топика
Ответ на: комментарий от AndreyKl

квантовые компьютеры вообще к реальности никакого отношения не имели никогда. всё что обещали - решать счётные задачи побыстрее (в отличие от)

Нейронки тоже не имеют к реальности никакого отношения. Они не ускоряют работу на 200% как того обещают куколды.

я никогда в живую ими не пользовался

Я никогда не видел качественных продуктов сделанных ИИ. Вернее их мало.

Skullnet ★★★★★
()
Ответ на: комментарий от unC0Rr

да, именно об этом я и говорю - потом можно поднимать цены, с подводной лодки никуда не денешься.

не о том подумал посте. в целом вы правы, да, согласен. просто я там ниже ответил тоже самое по сути.

AndreyKl ★★★★★
() автор топика
Последнее исправление: AndreyKl (всего исправлений: 3)
Ответ на: комментарий от Skullnet

Я никогда не видел качественных продуктов сделанных ИИ. Вернее их мало.

так я и говорю - формальную верификацию прикрутим и будет сильно больше.

а вообще unC0Rr по моему прав - вас не разубедить, это глубоко психологическое
- просто отрицание очевидного

AndreyKl ★★★★★
() автор топика
Последнее исправление: AndreyKl (всего исправлений: 2)
Вы не можете добавлять комментарии в эту тему: только для зарегистрированных, score>=50.