LINUX.ORG.RU
Форум — Talks  

Расстроен ли я? Что вы, я нет! Ну слегка...

 , , ,


0

4

Была такая проблема - LLM писали (и пишут) код не слишком надёжно. Их глючит, почти как людей. И нельзя быть уверенным что написанный LLM код - надёжен. Были нужны программисты, чтобы делать ревью, чтобы нести отвественность за код. Было у этой проблемы решение, называется «формальная верификация». Но оно было жутко дорогое и медленное. И лишь немногие могли себе это удовольствие позволить. Но и этот момент прошёл. Программисты больше не нужны. +- года-двух дело по моему мнению.

https://deepmind.google/blog/introducing-alphaproof-code/

Ребята, не ходите учиться на программиста. Это всё. Полностью. Ещё вероятно нужны будут некоторое время инженеры по формальной верификации, чтобы проверять спеки, но программисты - всё. Даже не могу оценить сколько останется.

По инженерам, буквально вчера узнал что гугл активно тренирует геминея на написание спек (из первых рук практически). Думаю , остальные крупные игроки делают то же. В целом, если вам сейчас не 65 и вы не на пенсии уже, и вы программист или даже инженер по ФВ - вам есть о чём подумать. Они просто верифицируют всё. А не они, так ещё кто нибудь. Это уже совершенно очевидно и дело времени, причём ближайших месяцев (выход технологии в массы я имею ввиду).

// для тех кто не понял, тема топика - цитата из «гадкого Я»

★★★★★

Последнее исправление: AndreyKl (всего исправлений: 7)
Ответ на: комментарий от CrX

там экспонента, а не прямая линия

Все теоретические «экспоненты» это экстраполяции, как «закон» Мура (а порой еще и тенденциозный игнор входящих поправок и подбор коэффициентов чтоб не пугать инвесторов). Логистическая кривая «да-да, пошла я нахрен».

slackwarrior ★★★★★
()
Ответ на: комментарий от vbr

Пока что для меня ИИ работу замедлил раз эдак в 10. Не то, чтобы я сильно жаловался, платят-то помесячно. Но зачем это надо работодателю - я так и не понял.

интересный опыт, спасибо за отзыв. предположу что дело в том что самодурство никто не отменял, но там не знаю, возможно какой то крайний случай или вроде того.

AndreyKl ★★★★★
() автор топика
Ответ на: комментарий от vbr

Нейропоп это прикол.

вот вообще не удивлюсь если лет через десяток такое станет обыденностью.

AndreyKl ★★★★★
() автор топика
Ответ на: комментарий от vtVitus

ошибки в логике прекрасно убираются, если что. называется «функциональная корректность»

AndreyKl ★★★★★
() автор топика
Ответ на: комментарий от bbc69

мысль в ту сторону, но всё же, поправлю: спека - не программа, как формулировка теоремы - не доказательство.

Скорее так: спека - формулировка теоремы, программа - её доказательство . Соотвествие Карри-Говарда называется если любопытно.

AndreyKl ★★★★★
() автор топика
Последнее исправление: AndreyKl (всего исправлений: 4)
Ответ на: комментарий от drbond

я понимаю что вникать в мысли сложно. но вроде как я написал по русски.

AndreyKl ★★★★★
() автор топика
Ответ на: комментарий от AndreyKl

Ой какой ты умный, какие слова … только причём тут ты приплёл «формальная верификация» (которая никому никогда не нужна была), если всё равно надо будет по старинке делать «функциональная корректность» т.е. генерить тонну тестов, а потом сажать тонну тестеров.

vtVitus ★★★★★
()
Последнее исправление: vtVitus (всего исправлений: 1)
Ответ на: комментарий от AndreyKl

если ты о багах то их просто не будет

Изивните, не верю. Баг - понятие растяжимое. Согласен что простых багов не будет. А сложные ловить существенно сложнее.

watchcat382 ★★
()
Ответ на: комментарий от AndreyKl

написание кода, что занимало наверное 90% времени проекта

Не согласен с такой оценкой. В хоть сколько-нибудь сложной задаче очень значительное время занимает придумывание способов решения и экспериментальная их проверка. Простой пример - написать PID-регулятор это быстро. А вот подобрать ему коэффициенты и сделать обработку всяких особых случаев, возможных в конкретном управляемом объекте - возни намного больше. Это я опять о своем хобби - программировании для микроконтроллеров.

watchcat382 ★★
()
Ответ на: комментарий от AndreyKl

Я на это ответил - рынок насыщен.

Я пока вижу только то, что разработчики начали клепать кратно больше фич и сервисов и всё это стало только сложнее поддерживать.

altwazar ★★★★★
()
Ответ на: комментарий от CrX

Выглядит она так. Никто не сказал. Пересчитай, дай свой вариант.

Как вариант она приближается к минимально возможной, которая уже достигнута.

Всё так. Только этому тренду лет как минимум не меньше, чем «истории» (той, которая с письменностью приходит). Оно как идёт многие сотни и тысячи лет так, так и идёт.

Очень сильное упрощение, как по мне. Экономика Древнего Рима была куда сильнее развита, чем в Средние века. Т.е. мы вполне имели провал в этом отношении. И замазывать его трендом - ну такое.

Внезапно развернуться может? Да конечно может. Но вероятность, что этот разворот произойдёт именно при нашей жизни, довольно мала. Хотя и не равна нулю.

Ну, на чью-то долю эти перемены выпадают. Думаю, одно из двух поколений что-то такое застанет.

bbc69
()
Ответ на: комментарий от LightDiver

Если мы возьмём все товары, то такого нет. Даже если один статистически. Да, экцессы случаются. Но то отдельные случаи.

bbc69
()
Ответ на: комментарий от AndreyKl

В контесте разговора это неважно. Обязанность заставить железку делать так как надо будет возложена на программистов, только теперь они со спеками стараться будут.

bbc69
()
Последнее исправление: bbc69 (всего исправлений: 1)
Ответ на: комментарий от slackwarrior

Жилье и еда это услуги? Ты этот «тренд» в каком учебнике макроэкономики тиснул?

Еда — нет. И она однозначно стремительно дешевеет. С жильём сложнее. Рандомная земля дешевеет, в жопе мира её чуть ли не бесплатно отдают, стройматериалы для дома тоже не дорожают, но жильё конкретно в престижных городах — дорожает.

«Средняя зарплата растет» (ТМ)

Так она и правда растёт, если смотреть по тому, сколько себе человек может на неё позволить сегодня и сто лет назад, или сто лет назад и триста лет назад, и так далее. Понятное дело, что в каких-то совсем коротких промежутках времени бывают флуктуации — как у нас сейчас спад, вызванный понятно какими событиями и решениями. Но на больших масштабах действительно растёт, что не так?

CrX ★★★★★
()
Ответ на: комментарий от bbc69

Как вариант она приближается к минимально возможной, которая уже достигнута.

Может быть.

Очень сильное упрощение, как по мне. Экономика Древнего Рима была куда сильнее развита, чем в Средние века. Т.е. мы вполне имели провал в этом отношении. И замазывать его трендом - ну такое.

Вот это справедливое замечание. Упрощение да, сильное. В раннее средневековье было довольно не очень с техническим прогрессом. Может ли он остановиться или сильно замедлиться и сейчас? Ну наверное тоже может. Но пока не похоже на то.

CrX ★★★★★
()

Во-первых, не у всех будет достаточно оборудования, чтобы со всем этим работать. Оборудование дорожает, особенно в стране с высокой инфляцией и снижением курса валюты по отношению к валютам других стран.

Во-вторых, ну появится новая технология. Появятся и новые специалисты, которые будут её осваивать и использовать.

Saakx ☆
()

Я долго прожил, и устал от хайпа и страшилок. AI-хайп - далеко не первый, и сам он происходит далеко не впервые.

Ещё было: ядерная война (тоже снова становится актуальным), глобальное похолодание, затем глобальное потепление, затем глобальное изменение климата. А где зелёные, кстати? Почему они не протестуют против датацентров ИИ, которые выделяют столько CO2, что наверное уже сопоставимо с вулканами? До чего же лицемерно!

В IT был хайп NoSQL лет 15 назад («я тут попробовал MongoDB и сразу вам говорю: забудьте про SQL, можно шортить акции Oracle, SQL мёртв, потому что он просто не может конкурировать с монгой»). И где сейчас та монга, а где SQL?..

Хайп блокчейна, хайп микросервисов (Авито посчитало и прослезилось: если отказаться от микросервисов, можно было бы сократить затраты на железо в 6 раз! А сколько они потеряли на ФОТ!)

Сейчас хайп ИИ, и такие же дебильные экстраполяции и предсказания.

А ещё в 2000 году Фукуяма предсказал конец истории. Всеобщее благорастворение в облацех. Между прочим, до сих пор ездит по миру, предсказывает чё-то.

Chiffchaff
()
Последнее исправление: Chiffchaff (всего исправлений: 1)
Ответ на: комментарий от Chiffchaff

Сейчас хайп ИИ, и такие же дебильные экстраполяции и предсказания.

Вот согласен. Пока начинают то тут, то там, появляться новости в формате: компания внедрила AI и сократила штат, но по результатам года экономический эффект в размере «у хрен его знает где он есть, но мы не увидели, наверное наберём сколько-то кожаных обратно».

SkyMaverick ★★★★★
()
Ответ на: комментарий от Chiffchaff

затем глобальное потепление, затем глобальное изменение климата

Ну это-то одно и то же.

А где зелёные, кстати? Почему они не протестуют против датацентров ИИ, которые выделяют столько CO2, что наверное уже сопоставимо с вулканами?

Да протестуют вроде, правда только с дивана. В интернетах довольно много воя по этому поводу. Статейки всякие тоже периодически пишут, типа рассчитай сколько ты нанёс непоправимого вреда одним промптом и больше никогда не пользуйся LLM (а лучше и переводчиком… а лучше и поиском тоже… а лучше вообще закрывай глазки и ложись на салазки — так безвреднее всего), и прочее подобное.

CrX ★★★★★
()
Ответ на: комментарий от vtVitus

функциональная корректность

ТС живет в каком-то манямирке, где продукт/бизнес оунер пишет подробное ТЗ аналитику, тот выдает наиподробнейший план разработки и тестирования на годы вперед со всеми критериями приёмки, остается только закодить верифицируемое ТЗ и прогнать бережно составленные если не аналитиком, то тест лидом ручные тест кейсы через стадо манки-тестеров. Когда-то давно так делали, правда. И вот нейронка действительно может заменить самые примитивные этапы SDLC полувековой давности. Но в треде всё же самое смешное в том, что ТС выдает себя за инженера, работающего по этой полувековой методологии, поэтому и радуется, что такой механический труд наконец удалось автоматизировать. Осталось подождать компоспеца, который оценит дэвэ по дэтэ в токенах.

Lordwind ★★★★★
()
Ответ на: комментарий от Chiffchaff

А где зелёные, кстати? Почему они не протестуют против датацентров ИИ

Нашли кого вспомнить. Вся зеленая повесточка-это же обыкновенный инструмент конкурентной борьбы у капиталистов, когда всем запретить пыхтеть в атмосферу, но своим можно. А тут ДЦ строят те самые свои, качающие реку бабла в ту парочку ИИ стартапов

slew
()
Ответ на: комментарий от LightDiver

Уже старт на разворованном, замечу.

ы? разворованное это ты про квартиру? круто тебя на поворотах заносит.

Мы этим временно пользуемся, пока особо не примелькались и пока это не понадобилось кому то. Арендуем временно.

то есть ты ждешь раскулачивания.

в уравнении всегда есть исключения, которые ломают всю систему.

всегда есть и будут есть.
знаешь насколько глубока кроличья нора?
даже у примитивных (но уже многоклеточных) организмов есть клетки-альтруисты (которые со всеми делятся и помогают товарищам выполнять свою функцию) и клетки-эгоисты (которые с удовольствием «приседают» на систему распределения ресурсов в организме и паразитируют на ней).

биология, не взирая на все ее ох какие изощренные механизмы, победить эту проблему не смогла.
другими словами - эволюции класть болт, ее это не волнует от слова совсем.
можно и дальше маршировать под «отречемся от старого мира» - а можно кофейку бахнуть, примерно с тем же эффектом.

olelookoe ★★★★
()
Ответ на: комментарий от watchcat382

Изивните, не верю.

это просто технология. мы можем доказать что программа соотвествует спецификации - т.е. в ней просто нет багов. это называется «формальная верификация», в частности «функциональная корректность».

AndreyKl ★★★★★
() автор топика
Ответ на: комментарий от AndreyKl

Нет, это совершенно не означает что в программе нет багов. Теперь тебе осталось доказать, что спецификация соответствует ТЗ - то есть всё с начала. Можешь ещё спецификацию спецификации придумать чтобы ещё что-нить доказать.

firkax ★★★★★
()
Последнее исправление: firkax (всего исправлений: 1)
Ответ на: комментарий от Lordwind

Не знаю как на западе, но в РФ - «Мы вам платим деньги не за то чтоб вы сделали, как написано, а за результат, который нам нужен/подходит(уже точно не помню, какое именно слово было использовано)» (c) это реальная фраза руководителя очень богатой организации. И в этом есть сакральный смысл, я не противоречивые ТЗ видел, либо на очень простые вещи, либо когда мы их сами готовили. И именно поэтому уже давно идёт отход от ТЗ в сторону ЧТЗ и модели «сделали, показали, обновили и обговорили следующий небольшой скоуп фич», а в РФ ТЗ в ит всегда был просто «предмет для начала разговора» +).

vtVitus ★★★★★
()
Последнее исправление: vtVitus (всего исправлений: 1)
Ответ на: комментарий от vtVitus

Ты и описал по сути аджайл, который в разных формах уже лет 20 как применяется и в РФ и в мире.

Lordwind ★★★★★
()
Ответ на: комментарий от firkax

в программе нет багов

Одно уточнение. Он свято верит что баг это ошибка верификации (даже джуны по книжкам 90х годов знают что это не так, но кого это волнует). То что пуговицы пришиты на жопе вовсе не отменяет того факта, что они ровные и пришиты крепко. Выделение ФВ в какие-то отдельные этап/специальность это либо больная фантазия, либо такая древность, что даже компоспец бы офигел.

Lordwind ★★★★★
()
Ответ на: комментарий от altwazar

я бы сказал что 1) значительно большая часть этих фич и сервисов уходит вникуда (т.е. никем не востребована, см. пример с играми) 2) программистов всё равно нужно значительно меньше.

но не знаю, может это мой инфо-пузырь и я чего просто не вижу.

AndreyKl ★★★★★
() автор топика
Ответ на: комментарий от bbc69

1) спеки - отдельная профессия (по крайней мере на сегодня)
2) по аналогии с формулировками/доказательствами трудозатраты на спеки значительно ниже чем на сами доказательства и программы.

AndreyKl ★★★★★
() автор топика
Ответ на: комментарий от AndreyKl

Просто раньше заниматься этими фишками было не выгодно для организации, а с нейронками ситуация изменилась. Больше проблем от самой экономической ситуации в целом и цены на железо не позволяют развернуться.

altwazar ★★★★★
()
Ответ на: комментарий от Chiffchaff

я за предсказание фукуямы не отвечаю. я говорю что сейчас в области разработки ПО (и шире,в области интеллектуального труда) происходит что то подобное промышленной революции. и я даже не знаю как применить сюда слово «хайп». ну может и «хайп», только важно совсем не это.

AndreyKl ★★★★★
() автор топика
Ответ на: комментарий от olelookoe

то есть ты ждешь раскулачивания.

А ты жаждешь продолжения воровства?

Биология много чего решить не смога, что смог хирург.

LightDiver ★★★★★
()
Ответ на: комментарий от firkax

я сказал тебе «в соотвествии со спецификацией». спецификацию ты обсуждаешь и так и так. сейчас это не делается на более-менее формальном уровне. но ради того чтобы вместо 10 программистов за два года написать это всё силами системного аналитика, инженера по ФВ и программиста за два месяца на это пойдут, по моему это очевидно.

AndreyKl ★★★★★
() автор топика
Ответ на: комментарий от altwazar

есть такое мнение, хочется верить что его адепты правы :)

AndreyKl ★★★★★
() автор топика

Программисты больше не нужны. +- года-двух дело по моему мнению.

Я 10 лет назад такое про водителей слышал.

ugoday ★★★★★
()
Ответ на: комментарий от bbc69

Если мы возьмем абсолютно все товрары, то у них будут абсолютно разные цены. Брать надо то, что товаром было и перестало - стало бесплатным. Брать надо то, что приобрело нулевую или отрицательну стоимость по тем или иным причинам.

Эксцессы случаются и в обратную сторону, когда какие то товары по безбожно завышенным ценам.

Вся проблема в неостатке производства и авторском праве. И все выходит из воровства. оттягивания ресурсов на малый процент населения сокращает и так недостаточное произвосдвта. То, чего не хватало всем и так, не хватает еще на 90% больше.

Авторское право повышает цены на товар - его не хватает еще больше, мешает производтсву товара тем, кто может его производить.

Первичен имено недостаток производства.

LightDiver ★★★★★
()
Ответ на: комментарий от ugoday

я тоже. но я тогда не поверил.. будем живы - поглядим.

AndreyKl ★★★★★
() автор топика
Последнее исправление: AndreyKl (всего исправлений: 1)
Ответ на: комментарий от AndreyKl

Человек, могущий составить полноценную и точную спецификацию, называется программистом. Обычно для написания спецификаций используются языки программирования, например Си, а компилятор по этим спецификациям генерит бинарники. Если ты хочешь добавить в обязательном порядке ещё один этап, когда сначала из спецификации на каком-то другом языке генерится сишный исходник, а потом из исходника генерится бинарник, ты конечно можешь это сделать, но саму спецификацию всё равно должен писать программист, и доказать её корректность ты не сможешь никак, потому что не с чем сравнивать - предыдущий этап сформулирован разговорным и нестрогим языком.

Ну и добавлю, никакие бредогенераторы (ллм) для детерминированной и точной конвертации одной спецификации в другую не требуются.

firkax ★★★★★
()
Последнее исправление: firkax (всего исправлений: 1)
Ответ на: комментарий от LightDiver

А ты жаждешь продолжения воровства?

что именно ты вкладываешь в это слово? какое значение?

а то, знаешь, у меня есть один знакомый, который говорит «иду воровать помидоры» имея в виду, что помидорный куст настоящий владелец плодов.

olelookoe ★★★★
()
Ответ на: комментарий от Chiffchaff

Хайп блокчейна, хайп микросервисов (Авито посчитало и прослезилось: если отказаться от микросервисов, можно было бы сократить затраты на железо в 6 раз! А сколько они потеряли на ФОТ!)

Сейчас хайп ИИ, и такие же дебильные экстраполяции и предсказания.

В отличие от всех прошлых хайпов, имеем реально работающую, причём универсальную технологию. ИИ уже реально резко сократил потребность в переводчиках, потребность в художниках для иллюстраций (по крайней мере на ресурсах типа author.today), уже даже появились эксперименты по созданию фильмов по книгам. Литература тоже стала писаться со значительным использованием ИИ. Конечно, что-то просто невероятная нейрослопная графомань, а что-то более-менее приличное, по крайней мере для значительной части аудитории. Зависит от умений поставить задачу, выбора модели и др.

Это я нарочно не программистские задачи привёл в пример.

Но и программы реально ИИ может писать по заданию. Вайбкодинг, агентное программирование - это реальные технологии, а не выдумка. Причём бурно развивающиеся.

anonymous_incognito ★★★★★
()
Ответ на: комментарий от SkyMaverick

Пока начинают то тут, то там, появляться новости в формате: компания внедрила AI и сократила штат, но по результатам года экономический эффект в размере «у хрен его знает где он есть, но мы не увидели, наверное наберём сколько-то кожаных обратно».

Сейчас трудно выделить эффект от AI в чистом виде, потому что мир вообще вступил в какую-то фазу потрясений, а компаниям проще заявить, что сокращают из-за ИИ, чем из-за финансовых проблем. Так или иначе, но например, Microsoft фактически сокращает 25% персонала. Ещё полно сообщений о массовых сокращений.

Означает ли это, что программисты не нужны и их всех заменят в итоге на Claude или что-нибудь ещё? Нет, но довольно явно, что потребность в какой-то заметной части программистов исчезла.

anonymous_incognito ★★★★★
()
Ответ на: комментарий от firkax

Ну и добавлю, никакие бредогенераторы (ллм) для детерминированной и точной конвертации одной спецификации в другую не требуются.

С бредогенераторами можно довольно эффективно постепенно уточнять спецификацию в диалоговом режиме. Особенно, если LLM при этом умеет поиск в интернете или локальной документации. От человека при этом крайне желательно иметь хотя бы общее представление о технологиях и их использовании.

anonymous_incognito ★★★★★
()
Ответ на: комментарий от anonymous_incognito

для иллюстраций

эксперименты по созданию фильмов по книгам

Литература тоже стала писаться со значительным использованием ИИ

На прошлых хайпах я не так часто использовал реакцию «блюющий смайлик»…

Ну и прошлые хайпы не засирали мир вокруг слопными low-effort картинками на буклетах, календарях, вывесках и т. д.

entrance
()
Ответ на: комментарий от anonymous_incognito

потребность в художниках для иллюстраций (по крайней мере на ресурсах типа author.today)

Оно и видно, количество омерзительной нейрослопной рекламы данного ресурса выросло в разы за последние 2 года. Ну и судя по тому что в ней написано - содержимое ресурса тоже нейрослоп чуть менее, чем полностью. На сайт не заходил.

firkax ★★★★★
()
Ответ на: комментарий от anonymous_incognito

Речь была про формальную точную спецификацию (весьма редковстречающаяся сущность, по которой фанатеет автор данной темы), а не про промпты.

firkax ★★★★★
()
Ответ на: комментарий от anonymous_incognito

Нет, но довольно явно, что потребность в какой-то заметной части программистов исчезла.

И, с такими успехами, вангую, что, как только сегодняшние миддлы уйдут чиллить на пенсию, то ВНЕЗАПНО образуется резкий кризис кадров, потому что из джунов новые миддлы не выросли, а остались сплошные промптеры, которые без Claude, ну, hello world напишут и на том спасибо.

SkyMaverick ★★★★★
()
Вы не можете добавлять комментарии в эту тему: только для зарегистрированных, score>=50.