LINUX.ORG.RU
Форум — Talks  

Расстроен ли я? Что вы, я нет! Ну слегка...

 , , ,


0

1

Была такая проблема - LLM писали (и пишут) код не слишком надёжно. Их глючит, почти как людей. И нельзя быть уверенным что написанный LLM код - надёжен. Были нужны программисты, чтобы делать ревью, чтобы нести отвественность за код. Было у этой проблемы решение, называется «формальная верификация». Но оно было жутко дорогое и медленное. И лишь немногие могли себе это удовольствие позволить. Но и этот момент прошёл. Программисты больше не нужны. +- года-двух дело по моему мнению.

https://deepmind.google/blog/introducing-alphaproof-code/

Ребята, не ходите учиться на программиста. Это всё. Полностью. Ещё вероятно нужны будут некоторое время инженеры по формальной верификации, чтобы проверять спеки, но программисты - всё. Даже не могу оценить сколько останется.

По инженерам, буквально вчера узнал что гугл активно тренирует геминея на написание спек (из первых рук практически). Думаю , остальные крупные игроки делают то же. В целом, если вам сейчас не 65 и вы не на пенсии уже, и вы программист или даже инженер по ФВ - вам есть о чём подумать. Они просто верифицируют всё. А не они, так ещё кто нибудь. Это уже совершенно очевидно и дело времени, причём ближайших месяцев (выход технологии в массы я имею ввиду).

// для тех кто не понял, тема топика - цитата из «гадкого Я»

★★★★★

Последнее исправление: AndreyKl (всего исправлений: 7)
Ответ на: комментарий от sabacs

Нынешний хлеб это вкусняшка

Конечно, понадобавляют вкусовой химии, вкусно. Так можно и табуретку сожрать

slew
()
Ответ на: комментарий от LightDiver

Сельское хозяство убыточное и дотационное.

Так же как ИИ? СХ необходимо в отличии от, СХ-это еда и одежда. Кстати, если бы не засилье полуисскуственного продовольствия и одежды, в СХ было бы сильно получше. Плюс на СХ давит «капитализм, счастье», когда производитель продает продукцию только через цепочку дармоедов, скупающих прдукцию дешево, и продающих дорого.

slew
()
Последнее исправление: slew (всего исправлений: 1)
Ответ на: комментарий от slew

Я хз как там в ИИ - еще очень рано говорить об какой то там убыточности. А в сельском хозяйстве уже давно все известно и нового особо не предвитится.

Вот эту цепочку перепродажи сейчас давят сильно. Год за годом на законодательном уровне ставят палки в колеса частникам. Я так понимаю, по задумке сельским хозяйством заниматься не должен никто, кроме определенного списка людей.

LightDiver ★★★★★
()
Ответ на: комментарий от slew

Те антрофики с опенаи, ты их убытки видел? Сейчас пока пытаются снизить ежегодный убыток. О том чтоб вернуть уже потраченные сотни лярдов и в планах нет, а чтоб выйти в прибыль-об этом даже не заикаются.

У Антропика убыток совсем небольшой, еще немного и выйдут в прибыль. Может там считают хитро, конешно.

MoldAndLimeHoney ★★★
()
Ответ на: комментарий от LightDiver

А в сельском хозяйстве уже давно все известно и нового особо не предвитится.

Да, и во мне например точно ясно, что та самая автоматизация производства, вот она и сделала СХ убыточным. Вот если ты выращиваешь кортоплю у себя на огороде, копая землю лопатой и удобряя золой, а лучше просто давая отдохнуть участку, это никак не будет убыточным. Это будет прибыльным. Примерно так же оно не было убыточным для жителей той страны, о которой упомняул выше. Они там живут с того, что даст земля, продают это на базаре, едят сами. Их никто не субсидирует, они живут с земли. Убыточно оно только если организация работ по правилам, появившимся недавно: взятие кредитов, закупка аренда дорогущей техники, закупка аренда средств обработки и пр. Вот это все и не окупается тем, что получают в итоге. Да, лопатой толпы народа не копается, один-два чувака сидят в комфортабельных салонах тракторов за овер дофига лямов. Но вот именно оно и не окупается. И вот примерно та же ситуация будет и с разработкой ПО, если ее полностью переведут на нейронки. Один-два чувака будут комфортабельно разрабатывать массы софта парой фраз, вот только стоимость этого действа, стоимость работы нейронок, будет такова, что стоимостью произведенного софта затраты на нейронки не окупятся.

slew
()
Ответ на: комментарий от slew

копая землю лопатой и удобряя золой,

А ты никога не копал огород лопатой, да? И тем более не удобрял золой. И стоимость своей работы не считаешь. А где ты, кстати, столько золы то возьмешь? Мне интереса ради.

Там где этим еще занимаются, 2-3 урожая в год для начала. И не копают давно ничего руками - все верно.

Но это даже не про картошку. Картошкой ты обеспечишь максимум себя, потратив труда не это больше, чем просто купил бы этой картошки. Сельское хозяйство это животноводтсво еще например.

По проценту занятхы земель лидеры наверное кукуруза, пшеница. По проценту выхода с метра - курица, свинина. Все полезное в этой области тебе прост не позволят делать. Потому что ты не тот, кто должен получать с этого прибыль. А тот кто должен - делает это в убыток, получая субсидии.

С одной стороны ты по закону прибыль получать не можешь Ты обязан потратиться на определенные ритуалы. Очень дорогие. Без работы того кто должен получать прибыль, ты по закону прибыль получать не сможешь. С другой стороны этот кто то работает ниже самоокупаемости. Потому что ему это субсидируют. Ты можешь жить ниже самоокупаести? Не? А он может.

Правда здорово? С ИИ, надеюсь, такое сделать будет сложнее. Но зачатки уже сделаны в виде разделения секторов интернета.

LightDiver ★★★★★
()
Ответ на: комментарий от watchcat382

Но сильно больше надо будет как минимум тестировщиков, которые будут вылавливать косяки за ЛЛМ.

скажем так, если ты о багах то их просто не будет,если ты о несоотвествии спекам - то не сильно больше нужно будте етстировщиков, если вообще больше - багов то нет, надо только на функционал глянуть.

AndreyKl ★★★★★
() автор топика
Ответ на: комментарий от watchcat382

«Верно» - понятие весьма общее. Доказать в самом лучшем случае получится соответствие очень подробному техзаданию. Которое само по себе требует как бы не больше труда чем собственно написание кода по нему. Так-то и абсолютно правильная программа вполне может делать не то, чего хотел от нее заказчик. Хотябы даже потому,что заказчик, глубоко погруженный в контекст своей деятельности, считал что-то настолько очевидным что не проговорил/не описал это в техзадании. А вне его профессионального окружения это самое нифига никому не очевидно, да еще и может быть вполне контринтуитивно.

всё это и так приходится делать. разница только в том что обычные баги и написание кода, что занимало наверное 90% времени проекта, теперь уходят.

AndreyKl ★★★★★
() автор топика
Ответ на: комментарий от watchcat382

Вот и поинтересуйтесь как жили люди во времена до оной. А когда она наконец случилась - то за один только 20 век расплодились аж в восемь раз. И еда для такого количества людей внезапно нашлась.

так то оно так, да не так.

AndreyKl ★★★★★
() автор топика
Ответ на: комментарий от watchcat382

Вот жопой чую, что сначала нашлась еда, а потом уже расплодились.

LightDiver ★★★★★
()
Ответ на: комментарий от slew

Так вот что тебя бомбануло. Не знал что есть какие-то инженеры для этого. И да, это нейронками можно полностью отработать. И уже давно, года 4 точно. Как только тесты писать им можно стало доверять.

У меня совершенно другая картина. Тут кажется спорить бессмысленно, тебе с твоей колокольни виднее, мне - с моей. Кто видит лучше покажет время и только.

AndreyKl ★★★★★
() автор топика
Ответ на: комментарий от firkax

Но вот чему именно - надёжно уточнить по факту невозможно, и адепты ФВ этот аспект стараются обходить стороной.

по факту это уточняется ничуть не хуже чем без ФВ как минимум, а вообще то лушче, так как на это банально обращают внимание.

AndreyKl ★★★★★
() автор топика
Ответ на: комментарий от LightDiver

А ты никога не копал огород лопатой, да?

Копал и копаю. Ращю картошку у себя на участке, потому-что вкусная получается. Не использую технику потому-что ломучая, плюс ей горючее везти. А у меня авто нет.

И тем более не удобрял золой.

Удобряю золой от камина. Ее много, девать куда-то надо, сыплю на огород.

И стоимость своей работы не считаешь.

А сколько это стоит? Это в нерабочее время, это во время отдыха.

А где ты, кстати, столько золы то возьмешь? Мне интереса ради.

Отопляю свои 250 квм двумя тепловыми насосами и дровяным камином. 20 кубометров дров в холодную прошлую зиму сжег.

slew
()
Ответ на: комментарий от AndreyKl

ну, это то что могут «программисты»

Исправил.

да и ГТА уже есть.

А три в ряд вот никогда раньше не было, ага.

skiminok1986 ★★★★★
()
Ответ на: комментарий от slew

А сколько это стоит? Это в нерабочее время, это во время отдыха.

Ну то есть ты вместо отдыха пашешь, но не считаешь это работой. А сколько бы ты заработал во время работы за это же время? Сколько на эти деньги бы ты купил картошки?

Куб дров сейчас тысяч 10 строит вроде? То етсь ты тратишь 10*20. 200 тысяч на отопление? Оренеть ты богатый. Я в шоке. Тьфу, что я несу. 10000 это пять кубов по льготе. 40 тысяч на отопление. Ну приемлемо. Видимо у вас там тепло. У нас дрова только для растопки. Но в итоге так же выходит. 5 кубов дров, 5-6 тонн угля. Но с 5 кубов это еще плюс уголь, так что золой физически нельзя удобрять.

Допустим, средний программист зарабатыает сколько в час? 500-2000р будет? Допустим, при ручном труде тебе надо 150-250 часов в год на все. Посадить, полоть, окучить, выкопать, собрать, обработать от вредителей итд.

При средней стоимости сколько у вас там уже? 50р за кило? Ты бы смог купить этой картошки от 2 до 8 тонн в год, если бы все эти часы работал, а не херней страдал.

Но тут нюанс - не везде и не все могут это время потратить на работу. Потому и выживают как могут.

LightDiver ★★★★★
()
Ответ на: комментарий от LightDiver

Ну то есть ты вместо отдыха пашешь

Что есть отдых? Для меня вот это отдых

slew
()
Ответ на: комментарий от LightDiver

Куб дров сейчас тысяч 10 строит вроде

Брал в этом году 2.5K за куб ясеня и березы. 100 км от Мск

slew
()
Ответ на: комментарий от LightDiver

Допустим, средний программист зарабатыает сколько в час? 500-2000р будет

Не знаю какие погроммисты у вас по часам работают. В моем случае это проект, и от него зрплт с плюшками если делишки прут. Работать можно когда хочешь, и постоянно ты за клавой не сидишь, это неправильно и надоедает. ЗЫ при работе лопатой в руках много интересных мыслей рождается

slew
()
Ответ на: комментарий от slew

Реальный сектор при этом загибается

с реальным сектором происходит примерно тоже самое, что и с сельским хозяйством лет сто назад - сокращение доли в ввп и кол-ва занятых с процентов 70 до 2-3.

Особенность рейгономики-это инвестирование в финпузыри, вместо реального сектора

я не знаю при чем тут рейгономика и кто кого заставляет инвестировать в финпузыри

а пузыри - это норма, и да они лопаются, ничего страшного

sergej ★★★★★
()

Когда ИИ за неделю сам напишет аналог Solidworks или хотя бы 1С с автоматическими апдейтами под новые законы. Тогда всё. А пока это всё истерия. Я сейчас у новой Qwen 4 Max спросил про GRPC порт для Атол. Нихрена он не знает, начал чушь пороть. Спросил у Чатгпт. Опять чушь. Только когда скинул заголовок исходника драйвера они допетрили. А банально мозгов нет сходить на сайт атола и качнуть это всё дело. Да, в документации этого ещё нет, только исходники смотреть.

Хотя да, понимаю, что тут можно сбросить мем: Вы находитесь здесь

Просто, когда они Solidworks сами напишут за неделю. То всё не только будет у разрабов.

foror ★★★★★
()
Последнее исправление: foror (всего исправлений: 2)

Верификация это очень дорого и мало кому по карману. Совет из разряда - не ходите учиться на математика - ИИ сама доказывает теоремы.

vbr ★★★★★
()
Ответ на: комментарий от papin-aziat

Я год или два назад смотрел какой-то ролик в ютубе и там дятька на серьёзных щах говорил, что мол все срочно идите в творческие профессии, причём только в те, которые работают с людьми непосредственно, иначе останетесь без работы. Мне тогда показалось, что он несёт пургу.

Бабки-гадалки не автоматизируемы в принципе. Попы, кстати, тоже.

vbr ★★★★★
()
Ответ на: комментарий от vbr

Бабки-гадалки не автоматизируемы в принципе

почему? я слышал многие гадают как раз с ИИ, задают ему вопросы о будущем, как лучше поступить и т.д. :)

sergej ★★★★★
()
Ответ на: комментарий от AndreyKl

Как раньше было:

Менеджер мне напишет 10 строк, я их понял и сделал. Иногда переспрашивал. Общение занимает 5 минут.

Как сейчас:

Менеджер через клода генерит 10 страниц слопа, по 100 строк.

Я через клод пытаюсь выцепить из них те самые 10 строк смысла.

Какая-то дичь.

Пока что для меня ИИ работу замедлил раз эдак в 10. Не то, чтобы я сильно жаловался, платят-то помесячно. Но зачем это надо работодателю - я так и не понял.

vbr ★★★★★
()
Ответ на: комментарий от sergej

Бабки-гадалки не автоматизируемы в принципе

почему?

Потому, что это колдовство. Колдуном может быть только человек по определению. Робот колдун это уж слишком бредово даже для расширенного сознания.

я слышал многие гадают как раз с ИИ, задают ему вопросы о будущем, как лучше поступить и т.д. :)

Это не гадание, это консультация.

Может быть про «гадалок» не совсем правильно выразился. Имею в виду всю эту сферу магов и колдунов, с заговорами, проклятиями и тп.

Собственно поэтому и религию упоминаю. Тут тоже верховенство человека постулируется по определению. Нейропоп это прикол.

vbr ★★★★★
()
Последнее исправление: vbr (всего исправлений: 1)
Вы не можете добавлять комментарии в эту тему: только для зарегистрированных, score>=50.