LINUX.ORG.RU
Форум — Talks  

Расстроен ли я? Что вы, я нет! Ну слегка...

 , , ,


0

4

Была такая проблема - LLM писали (и пишут) код не слишком надёжно. Их глючит, почти как людей. И нельзя быть уверенным что написанный LLM код - надёжен. Были нужны программисты, чтобы делать ревью, чтобы нести отвественность за код. Было у этой проблемы решение, называется «формальная верификация». Но оно было жутко дорогое и медленное. И лишь немногие могли себе это удовольствие позволить. Но и этот момент прошёл. Программисты больше не нужны. +- года-двух дело по моему мнению.

https://deepmind.google/blog/introducing-alphaproof-code/

Ребята, не ходите учиться на программиста. Это всё. Полностью. Ещё вероятно нужны будут некоторое время инженеры по формальной верификации, чтобы проверять спеки, но программисты - всё. Даже не могу оценить сколько останется.

По инженерам, буквально вчера узнал что гугл активно тренирует геминея на написание спек (из первых рук практически). Думаю , остальные крупные игроки делают то же. В целом, если вам сейчас не 65 и вы не на пенсии уже, и вы программист или даже инженер по ФВ - вам есть о чём подумать. Они просто верифицируют всё. А не они, так ещё кто нибудь. Это уже совершенно очевидно и дело времени, причём ближайших месяцев (выход технологии в массы я имею ввиду).

// для тех кто не понял, тема топика - цитата из «гадкого Я»

★★★★★

Последнее исправление: AndreyKl (всего исправлений: 7)
Ответ на: комментарий от Manhunt

, so what?

Всё вокруг подорожает и вы лишитесь работы, а новые крутые проекты не будут начаты.

Если для мелкого лошья

Мелкое лошьё — это лично вы, коллега. И я тоже. И вообще все на этом форуме.

Да плевать на этот capex:

Очень хорошо, что вас не подпускают к финансовым решениям, от которых зависят жизни и судьбы людей.

ugoday ★★★★★
()
Ответ на: комментарий от ugoday

Мелкое лошьё — это лично вы, коллега. И я тоже. И вообще все на этом форуме.

Лично я в ИИ не инвестировал. У меня нет акций ИИ-компаний. Поэтому когда структура владения ИИ-шкой будет меняться, в том числе посредством формального банкротства этих компаний, меня колебания в стоимости этих акций никак не затронут.

вы лишитесь работы

Работы мы все лишимся из-за того, что наши навыки программирования стали архаикой. Новые технологии делают их невостребованными, AndreyKl привел отличный пример такого явления - промышленную революцию.

Лифтёры больше не нужны не из-за пузыря в лифтостроительной отрасли, а из-за того, что лифты теперь сами останавливаются на выбранном этаже, и двери лифтов теперь сами открываются-закрываются.

Всё вокруг подорожает

Оно и так всегда дорожает, всю жизнь так живу. Инфляция-с.
Лишь бы рост доходов поспевал за ростом цен.

новые крутые проекты не будут начаты

С чего бы?

Manhunt ★★★★★
()
Последнее исправление: Manhunt (всего исправлений: 6)
Ответ на: комментарий от Manhunt

Лифтёры больше не нужны

Парадокс, но лифтеров сегодня больше, чем 80-100 лет назад. Всего век назад лифт был экзотикой. Прокатиться на лифте для среднестатистического человека было чудом.

Сегодня лифты есть у большинства крупных производственных предприятий, больниц. И лифтеры там работают, нередко посменно. Каждый грузовой/большой лифт на предприятии дает рабочее место нескольким лифтерам.

Leupold_cat ★★★★★
()
Ответ на: комментарий от Leupold_cat

Запилить продукт нынче небольшая проблема. Большая проблема - это создать деньгоносящий актив. Особенно в виду того, что до относительно недавнего момента программисты не хотели и не задумывались о подобных мирских суетах - и могли себе это позволить.

Minoru ★★★
()
Последнее исправление: Minoru (всего исправлений: 1)
Ответ на: комментарий от Vovka-Korovka

А вот это нынче совсем не проблема. Даже если что-то было сделано не так из-за недопонимания - ну переделаем, делов-то.

Вопрос-то в другом:

  1. Будет ли этот самый заказчик, если у него тоже есть подписка за $20 на Claude
  2. Что нужно сделать, чтобы самому быть на месте этого самого заказчика.
Minoru ★★★
()
Ответ на: комментарий от Minoru

мне кажется что особенно ввиду того что создание продукта перестало быть проблемой. т.е. продуктов то много стало, конкуренция, оттуда повышенная сложность. даже те кто раньше прекрасно понимал о чём речь, сегодня я думаю будут пасовать.

AndreyKl ★★★★★
() автор топика
Ответ на: комментарий от AndreyKl

это доказательство да, в основном, LLM.

Ну зашибись, такую же фигню и с кожаными можно проворачивать, а с учетом того что они куда как изворотливее подобные доказательства станут клепатся тысячами.

anc ★★★★★
()
Ответ на: комментарий от Manhunt

Судя по разговорам на форумах, пока никто не понимает, куда податься работать после увольнения.

Да это разговоры тех кто работает по остаточному принципу.

anc ★★★★★
()
Ответ на: комментарий от AndreyKl

угу. что меня больше всего пугает, так это то что ребята учатся на программистов в вузах.

И что тебя в этом пугает?

anc ★★★★★
()
Ответ на: комментарий от anc

я не уверен что понимаю о чём ты говоришь, но таки да, тысячами. в этом и новость. т.е. это реальный работающий пример этой технологии с испльзованием LLM, и использование LLM ускорило работу раз в 200. а может в 400.

AndreyKl ★★★★★
() автор топика
Последнее исправление: AndreyKl (всего исправлений: 1)
Ответ на: комментарий от anc

гм, жалко людей, работать то негде будет программистам. кажется, это очевидно из дискуссии - что именно меня в этом пугает.

AndreyKl ★★★★★
() автор топика
Ответ на: комментарий от Manhunt

Лифтёры больше не нужны не из-за пузыря в лифтостроительной отрасли, а из-за того, что лифты теперь сами останавливаются на выбранном этаже, и двери лифтов теперь сами открываются-закрываются.

Но лифтеры всё ещё нужны.

anc ★★★★★
()
Ответ на: комментарий от AndreyKl

гм, жалко людей, работать то негде будет программистам.

Пока есть где и так и дальше будет. Шум только про сброс индусобалласта.

anc ★★★★★
()
Ответ на: комментарий от anc

Пока есть где и так и дальше будет. Шум только про сброс индусобалласта.

Ну, моя мысль в том что нет, не будет. Если производительность труда повысится в 100-200-500 раз, то нет, как есть уже не будет. Будет эффект как будто в текущие условия добавили в 100-200-500 раз больше программистов, а платить им не надо. Средние зарплаты сильно просядут и большинство останется попросту без работы. Но зато «потом ведь всё равно лифтёры нужны и их даже больше» - будет хорошим утешением, да.

AndreyKl ★★★★★
() автор топика
Последнее исправление: AndreyKl (всего исправлений: 2)
Ответ на: комментарий от Leupold_cat

Видел летом новость, что в Сербском Белграде не хватает лифтеров, ибо нету.

water_closed ★
()
Ответ на: комментарий от AndreyKl

Ну, моя мысль в том что нет, не будет. Если производительность труда повысится в 100-200-500 раз, то нет, как есть уже не будет. Будет эффект как будто в текущие условия добавили в 100-200-500 раз больше программистов, а платить им не надо.

Платить всё равно надо.

Средние зарплаты сильно просядут

И это правильно. Они явно завышены у индусокодеров сейчас. С другой стороны, с навыками у макак для набивания промптов тоже будет попроще. При этом у действительно важных специалистов зарплаты не просядут, а может даже и возрастут (правда не сразу, а когда окажется, что их осталось мало, а они всё ещё нужны).

и большинство останется попросту без работы.

Ровно наоборот. Повышение производительности труда увеличивает количество рабочих мест. В том числе если оно повышается в сотни раз. Банальный пример: сколько было писарей, и сколько они производили книг? Потом изобрели печатные станки. Сколько после этого людей стало задействовано в производстве книг? Да, у них немного поменялись требования по навыкам (всё ещё нужна грамотность, понимание, как верстается страница, и т.д., но не нужен хороший почерк — условно), но их стало больше. И не просто больше, а на порядки.

Можно взять практически любой пример, и происходит обычно именно так. Хоть в чём-то условно простом вроде производства какой-нибудь мебели, так и в чём-то ёмком по интеллектуальному труду вроде научно-исследовательской деятельности.

Людей нужно не меньше, а больше. Да, в переломный момент от них требуется адаптация к новым реалиям и подстройка имеющихся навыков, и за этим можно не поспеть. Но можно и поспеть. Будто первый раз какое-то технологическое новшество «заменяет людей», ей-богу…

Как и с предыдущими всеми такими моментами — если писать код станет в 100 раз дешевле, кода начнут писать в 10000 раз больше.

CrX ★★★★★
()
Последнее исправление: CrX (всего исправлений: 3)
Ответ на: комментарий от CrX

(правда не сразу, а когда окажется, что их осталось мало, а они всё ещё нужны).

Повышение производительности труда увеличивает количество рабочих мест.

только не сразу, мне кажется рассуждающие так упускают именно этот момент. и это «не сразу» запросто может продлиться столько что невписавшиеся в рынок просто вымрут. как это было во времена промышленной революции. потом да, конечно, когда структура общества догонит структуру технологического уклада (если догонит, кстати), то действительно количество рабочих мест вырастет. вот только много шансов что воспользуются плодами «не только лишь все». для остальных утешением будет что лифтёров то нужно больше в конце концов. лично мне это кажется слабым утешенеим. ну да сделать мало что можно, пойду работать..

AndreyKl ★★★★★
() автор топика
Последнее исправление: AndreyKl (всего исправлений: 1)
Ответ на: комментарий от AndreyKl

только не сразу

Конечно не сразу.

мне кажется рассуждающие так упускают именно этот момент. и это «не сразу» запросто может продлиться столько что невписавшиеся в рынок просто вымрут

Так и «замена» будет происходить не сразу. Это постепенный процесс. И то и другое. В вашей картине мира выкинут на мороз всех завтра, а самые тормозные — послезавтра, а потом будут медленно и мучительно в течение десятилетий набирать обратно. Нет, это работает не так. Оба процесса идут параллельно, и оба плавно. Бывают конкретные резкие мувы в конкретных компаниях или областях, но на общую картину оно не влияет. Ну кому-то нервов оно, конечно, слегка потрепет, и ощущения «надо бежать всё быстрее, чтобы оставаться на месте» придаст, это само собой.

CrX ★★★★★
()
Ответ на: комментарий от CrX

Так и «замена» будет происходить не сразу. Это постепенный процесс. И то и другое. В вашей картине мира выкинут на мороз всех завтра, а самые тормозные — послезавтра, а потом будут медленно и мучительно в течение десятилетий набирать обратно. Нет, это работает не так.

однако в прошлый раз (промышленная революция) именно так и было. и по большому счёту каждый локальнй «прошлый раз» (локальное резкое улучшение технологий, как лифты например. люди просто за пару лет остались без работы... ну да я знаю ваш ответ, сейчас их больше, но тчо то мне кажется это ответ не на мой вопрос).

так что вы не правы, всё именно так зачастую и происходило исторически, резко и быстро.

AndreyKl ★★★★★
() автор топика
Последнее исправление: AndreyKl (всего исправлений: 4)
Ответ на: комментарий от AndreyKl

Промышленная революция дала множество рабочих мест — намного больше, чем их было раньше. Быстро в том числе. Других? Да, других. Но люди ж не роботы, они умеют адаптироваться.

CrX ★★★★★
()
Последнее исправление: CrX (всего исправлений: 1)
Ответ на: комментарий от CrX

да, но дала позже, понимаете? тем людям которые потеряли работу от этого не легче. вот что вы на мйо взгляд упускаете.

Ещё есть интересный момент, анекдот старый помните?

Что скажет программист на Си программисту на Кобол когда его встретит в кафе?
- Мне чашечку кофе пожалуйста.

Но не так глобально это было, кто то пошёл в кафе, кто то переквалифицировался. А сейчас намечатеся именно глобально и довольно резко. Кафешек на всех боюсь не хватит. Там ведь обычно как раз смузихлёбы и сидят.

Но да поглядим, может быть я слишком пессиместичен, кто знает. хотя тут в треде приводили пример, три субподрядчика было, а сейчас вася с клодом в обнимку.

AndreyKl ★★★★★
() автор топика
Последнее исправление: AndreyKl (всего исправлений: 1)
Ответ на: комментарий от AndreyKl

да, но дала позже, понимаете?

Да не позже. Позже она дала их больше на порядки. А достаточно для всех — очень даже скоро.

Что скажет программист на Си программисту на Кобол когда его встретит в кафе?

Анекдот, конечно, забавный. Но суть его в том, что «программист на Кобол» — это не программист, а макака. Как и «программист на Си». Бывает просто «программист», и он использует тот язык, который требуется в конкретной ситуации, а когда нужен новый — выучиывает новый. Ну а бывает да, макака для набора текста на конкретном языке, которая необучаема. Такие да, пострадают. Но я это и выше уже упоминал.

Но да поглядим, может быть я слишком пессиместичен

Так-то я бы ваш сценарий оптимистичным назвал — это ж буквально «вкалывают роботы, счастлив человек». При таком сценарии в пору безусловный доход для всех вводить. Но его такого просто не будет, как мне кажется — все подобные вещи происходят гораздо плавнее и растянутее во времени, а глобальные последствия видны лишь на некотором расстоянии. Ну а переживать о том, что очередной «набиратель кода функций с тремя аргументами на Python 3.4» останется не у дел, и ему придётся искать какое-то более достойное занятие — как по мне, пустое…

CrX ★★★★★
()
Последнее исправление: CrX (всего исправлений: 1)
Ответ на: комментарий от CrX

вот ссылка на пример Расстроен ли я? Что вы, я нет! Ну слегка... (комментарий)


по поводу умные против макак - я приводил пример выше, процитирую

Нейронки увы работают как мультипликатор в реальности: хороший программист -> отличный программист. Говнокодер - shitcode слоператор 9000.

только сегодня наблюдал ровно обратную картину - полному новичку дали нейросетку и задачу. и он сделал задачу быстро и легко. его коллега - опытный профессионал, который точно в дискуссии легко даст фору новичку и в работе без нейросетки заткнёт того за пояс, да не просто за пояс - там разница десяток лет будет. так вот он делает задачи очень долго. и на выходе получается не фантан.

не всё так просто как вы говорите, как минимум.

так проблема глубже на самом деле. если бы опытный использовал бы этот самый клод, он был бы (подумать только!) так же хорош как новичёк.

Это уравниватель, а не мультипликатор.

Я кстати вот что придумал. Надо создать и возглавить религию - религию адептов Великого Уравнивателя. Я уже вижу что несколько человек тут вполне подойдёт на роль жрецов, Manhunt, rechnick, unC0Rr и ещё несколько человек. Так как мы предсказали пришествие Великого Уравнивателя, понятное дело мы знаем как жить при Великом Уравнивателе.

Соотвестенно бедолагам стоит нас слушать и делать как мы говорим... А то я всё «в армию, в армию».. а тут такое!

Но это планы так сказать на недалёкое будущее. Сейчас работать - это самое будущее приближать...

AndreyKl ★★★★★
() автор топика
Последнее исправление: AndreyKl (всего исправлений: 2)
Ответ на: комментарий от CrX

Да не позже.

вы просто с гуглом посоветуйтесь, что ли.

AndreyKl ★★★★★
() автор топика
Ответ на: комментарий от sergej

Да хрен бы 1/15, как бы не половину, в этом и проблема. Треть snp500 это айтишка, как раз те несколько компаний которые жестко подвязаны на ии. И большинство «стабильных» не-бондовых фондов, например пенсионных, смотрят именно на этот индекс. Если будет сдуваться медленно то индекс перестроится, уже было, а вот если с фейерверком - тогда всем прилетит

Я не про Россию, если что, мы довольно «успешно» отцепили себя от международной экономики. Но долетит и до России тоже

upcFrost ★★★★★
()
Ответ на: комментарий от AndreyKl

Нет, не все… Я бы даже сказал большинство открытий как раз делаются не перебором.

Skullnet ★★★★★
()
Последнее исправление: Skullnet (всего исправлений: 1)
Ответ на: комментарий от AndreyKl

и использование LLM ускорило работу раз в 200. а может в 400.

То что оно ускорило работу я не спорю ctrl-a, ctrl-c, ctrl-v всяк быстрее чем много отдельных кнопочек тыкать.
Но это никак не означает, что там « всё верно написано. »

anc ★★★★★
()
Ответ на: комментарий от AndreyKl

Проблему что ИИ нельзя доверять исправить невозможно, потому что галлюцинации - это архитектурная природа LLM-ок.

Skullnet ★★★★★
()
Ответ на: комментарий от AndreyKl

Средние зарплаты сильно просядут и большинство останется попросту без работы.

А вот проседание зп однозначно приведёт к проседанию результата.

anc ★★★★★
()
Ответ на: комментарий от CrX

Вот воистину именно так всё и есть ППКС!

anc ★★★★★
()
Ответ на: комментарий от CrX

Так-то я бы ваш сценарий оптимистичным назвал — это ж буквально «вкалывают роботы, счастлив человек».

Сценарий немного другой. Вкалывают роботы, а избыточная популяция ликвидируется. Ну, в рынок не вписались, и вообще болезни-войны-голод.

Manhunt ★★★★★
()
Ответ на: комментарий от AndreyKl

Что скажет программист на Си программисту на Кобол когда его встретит в кафе?

Программист на «ЯП название» это не программист, а макака.

anc ★★★★★
()
Ответ на: комментарий от Manhunt

а избыточная популяция ликвидируется.

Для такого нужно приложить очень много неординарных усилий.

Несмотря на последнюю мировую эпидемию коронавирусной инфекции, унесшей больше жизней, чем первая мировая война, население планеты и не подумало перестать увеличиваться.

Мне кажется, что остановить этот рост может только апокалипсис уровня ядерной войны, затяжной мировой войны или эпидемии, смертность от которой будет сопоставима с чумой в средние века.

Leupold_cat ★★★★★
()
Последнее исправление: Leupold_cat (всего исправлений: 1)
Ответ на: комментарий от upcFrost

как бы не половину, в этом и проблема

Я не думаю, что это прям большая проблема, это будет даже легче чем 2008й год (если будет).

sergej ★★★★★
()
Ответ на: комментарий от Skullnet

Можно. Люди тоже глючат, но в коллективах эта проблема успешно решается.

LLM ближе к человеку, чем к компьютеру: фантазирует, ленится, теряет концентрацию, … Но именно поэтому юди давно знают, как от таких работников получать результат. При всём при этом ИИ всё-таки быстрее человека и кратковременная память держит больше, чем 7-9 объектов, как у челоека.

Осталось только докрутить модель памяти и будет полноценный персональный помощник.

monk ★★★★★
()
Ответ на: комментарий от anc

Просто программист всегда проиграет программисту на «ЯП название» при написании программы на этом ЯП. Потому что у каждого ЯП есть свои неочевидные особенности, которые надо учитывать при программировании. Более того, само проектирование алгоритма необходимо делать под конкретный ЯП: если взять хороший алгоритм для Хаскела или Лиспа и реализовать построчно на Си++, будут адские тормоза.

monk ★★★★★
()
Ответ на: комментарий от monk

Можно. Люди тоже глючат, но в коллективах эта проблема успешно решается.

Нет, люди не глючат. У мозга совершенно другая архитектура.

LLM ближе к человеку, чем к компьютеру: фантазирует, ленится, теряет концентрацию

Я уже вижу симптомы ИИ психоза. Пока хорошо что не уверовали что LLM-ки разумны.

Skullnet ★★★★★
()
Последнее исправление: Skullnet (всего исправлений: 1)
Ответ на: комментарий от Skullnet

Нет, люди не глючат.

Ой, какое наивное утверждение. Вы действительно живёте в человеческом обществе?

VIT ★★★
()
Ответ на: комментарий от Skullnet

Нет, не все… Я бы даже сказал большинство открытий как раз делаются не перебором.

Если вы называете 10 петель и последнюю математическу (не помню как её, лень искать) перебором, то я утверждаю что перебор - всё.

AndreyKl ★★★★★
() автор топика
Ответ на: комментарий от anc

Это именно означает что там всё верно написано. В этом суть технологии формальной верификации.

AndreyKl ★★★★★
() автор топика
Ответ на: комментарий от Skullnet

Вы видимо не совсем в теме. ИИ доверять и не нужно. ИИ даёт доказательства, их проверяет пруф-чекер (lean, rocq, isabelle). Формальные доказательства очень надёжны. Они проверены на настоящей математике, ядро пруф чекеров относительно мало (десятки тысяч строк). Так что LLM может глючить в своё удовольствие, но доказательство либо есть (и его проверил пруфчекер и принял), либо доказательства нет , а оно написало что то что пруфчекер не принимает.

это избавляет от проблемы галлюцинаций, понимаете теперь?

AndreyKl ★★★★★
() автор топика
Ответ на: комментарий от AndreyKl

Многие люди не понимают в принципе, что такое формальное доказательство. Не понимают, в чем его суть. Им кажется, что это что-то сродни тестированию. А окончательное тестирование они ллм-ке не доверили бы. И всё — «Я ему про Фому, а он мне про Ерёму» — объяснять замучаешься.

Manhunt ★★★★★
()
Ответ на: комментарий от Leupold_cat

Для такого нужно приложить очень много неординарных усилий.
Несмотря на последнюю мировую эпидемию коронавирусной инфекции, унесшей больше жизней, чем первая мировая война, население планеты и не подумало перестать увеличиваться.
Мне кажется, что остановить этот рост может только апокалипсис уровня ядерной войны, затяжной мировой войны или эпидемии, смертность от которой будет сопоставима с чумой в средние века.

Я бы с удовольствием с тобой подискутировал, дружище. Рост населения продолжается только в тех странах, которые ещё не накрыло современной цивилизацией (знаю только об одной стране - исключении из этого правила). Ковид был относительно травоядной демонстрацией на тему, кого правительствам надо слушаться, чтобы в следующий раз можно было надеяться на вакцины от разработчика очередной эпидемии. Попытки эти вопросы в развернутом виде обсуждать моментально скатятся в нацпол, это не для ЛОР-а тема. Здесь даже ссылки на релевантные статьи выложить не получится.

Manhunt ★★★★★
()
Последнее исправление: Manhunt (всего исправлений: 1)
Ответ на: комментарий от VIT

Вы действительно живёте в человеческом обществе?

Я вот в человеческом живу, а нейрошизики видимо живут в своей голове.

Skullnet ★★★★★
()
Ответ на: комментарий от Leupold_cat

Мне кажется, что остановить этот рост может только апокалипсис уровня ядерной войны, затяжной мировой войны

Ну, ликвидация слоп-центров возможно перетечёт в это.

firkax ★★★★★
()
Ответ на: комментарий от Vovka-Korovka

обычно приходит заказчик, очень расплывчато описывает что хочет

Он больше не приходит. Он у себя на предприятии кидает стакан мелочи «на клода» студенту-стажеру и ставит задачу ему. Галера с мясными кодерами тем временем безвольно дрейфует в открытом море, на ней дерутся за пресную воду и кто-то регулярно выбрасывается за борт.

thesis ★★★★★
()
Ответ на: комментарий от Skullnet

«Вы не верите в бога!»

Ох, сколько ошибок вы сделали в фразе

ТЫ___НЕ____ПРОЙДЁЁЁЁЁЁШЬ!

Но мне Manhunt уже объяснил, так что я всё равно смог вас понять правильно:

Вы - Гендальф, стоите на мосту, в одной руке посох в другой меч, и вы кричите мне «ТЫ___НЕ____ПРОЙДЁЁЁЁЁЁШЬ!»

А я - Барложенька, который тут просто хотел по мосту пройти и которого вы таки намерены отправить на тот свет, к праотцам, ну или куда там отправляют Гендальфы Барложенек, когда им приспичит? Не знаю в общем куда точно, знаю только что туда, куда Барложенька совсем не собирается, по крайней мере пока.

Так что, да, мне не обязательно вот прям на этот мост, я просто пойду в другую сторону, спасибо большое.

AndreyKl ★★★★★
() автор топика
Последнее исправление: AndreyKl (всего исправлений: 4)
Вы не можете добавлять комментарии в эту тему: только для зарегистрированных, score>=50.