LINUX.ORG.RU
Форум — Talks  

Расстроен ли я? Что вы, я нет! Ну слегка...

 , , ,


0

4

Была такая проблема - LLM писали (и пишут) код не слишком надёжно. Их глючит, почти как людей. И нельзя быть уверенным что написанный LLM код - надёжен. Были нужны программисты, чтобы делать ревью, чтобы нести отвественность за код. Было у этой проблемы решение, называется «формальная верификация». Но оно было жутко дорогое и медленное. И лишь немногие могли себе это удовольствие позволить. Но и этот момент прошёл. Программисты больше не нужны. +- года-двух дело по моему мнению.

https://deepmind.google/blog/introducing-alphaproof-code/

Ребята, не ходите учиться на программиста. Это всё. Полностью. Ещё вероятно нужны будут некоторое время инженеры по формальной верификации, чтобы проверять спеки, но программисты - всё. Даже не могу оценить сколько останется.

По инженерам, буквально вчера узнал что гугл активно тренирует геминея на написание спек (из первых рук практически). Думаю , остальные крупные игроки делают то же. В целом, если вам сейчас не 65 и вы не на пенсии уже, и вы программист или даже инженер по ФВ - вам есть о чём подумать. Они просто верифицируют всё. А не они, так ещё кто нибудь. Это уже совершенно очевидно и дело времени, причём ближайших месяцев (выход технологии в массы я имею ввиду).

// для тех кто не понял, тема топика - цитата из «гадкого Я»

★★★★★

Последнее исправление: AndreyKl (всего исправлений: 7)
Ответ на: комментарий от sergej

Ну да, а есл ты сдох не напрямую от моей руки, а потому что я тебя в такие условия поставил - это уже не считается. Действительно.

LightDiver ★★★★★
()
Ответ на: комментарий от LightDiver

до какого момента можно издалека смотреть?

до того, пока сам не вложил всё в МММ

если нет - сколько хочешь, этих пузырей тысячи уже были

sergej ★★★★★
()
Ответ на: комментарий от LightDiver

За призывы к исправлению ситуации, озвучивание фамилий полагается уголовное преследование. Поэтому я не знаю как это исправлять, кто виноват и что делать.

Честно говоря, не очень понимаю. Очевидно, что это зависит от страны пребывания, ну и гражданства, и я как-то всегда думал, что у нас оно совпдает. А если так, то как-то вот круг тех, чьи имена, фамилии и должности лучше бы не озвучивать, вообще не совпадает с кругом тех, кто хоть как-то причастен к «пузырю», о котором шла речь — и даже наоборот, за любой негатив в их адрес скорее похвалят. Ну да ок, естественно на этом я оставлю вопросы — простить нарушать законы или подвергаться преследованию было бы глупо с моей стороны.

CrX ★★★★★
()
Ответ на: комментарий от tcpfinhello

Мощ этой штуки небывало-феноменальная: одним жирненьким качественно составленным промптом я за полчаса сейчас создаю полноценную гитхаб-репу с неплохой и нужной мне софтиной. За 4 отдельных вечера, каждый раз в течении минут 30, таким макаром были сделаны:

Golang GUI софтина пуляющая в USB LTE-модем AT-команды, парсящая результат и рисующая несколько график характеристик «качества сигнала» по мнению этого модема

а в том-то и дело что ты знал про Golang, про AT-команды у модема, и про то что с их помощью можно выцепить. А например обычный пользователь про это знать не будет, и даже не будет знать что ему в принципе нужна эта информация, пока своими глазами не увидит работающую софтину.

Поэтому нет. Нейронки - это инструмент, который не только не отменяет необходимости получения соответствующих знаний и умений, а наоборот ее повышает. И чем умнее и эффективнее нейронки, тем большее значение будут иметь твои знания и умения. Потому что если нейронки повысят эффективность у всех на X%, то разница в итоговой способности дать результат между тобой и кем-нибудь еще на рынке также повысится (или понизится) на эти самые X% и станет более заметной.

Lrrr ★★★★★
()
Ответ на: комментарий от tcpfinhello

За 4 отдельных вечера, каждый раз в течении минут 30, таким макаром были сделаны:

Да, впечатляет. Но что по деньгам? (в соседней теме уже приводили затраты).

MirandaUser2 ★★
()
Ответ на: комментарий от papin-aziat

Мне кажется, короче будет ответить на вопрос: что могут такого железяки, чего не могут люди.

На оба вопроса — задолбаешься перечислять. Сравнивать, что там «короче», придётся не по единицам перечисленного, а по порядку величины, и, честно говоря, я вот вообще ни разу не уверен, какой из этих списков (из десятков тысяч… или миллионов позиций… или миллиардов позиций — их оценить-то трудно…) будет короче, а какой длиннее.

CrX ★★★★★
()

Бро, ты гонишь.

sparkie ★★★★★
()
Ответ на: комментарий от Lrrr

а в том-то и дело что ты знал про Golang, про AT-команды у модема, и про то что с их помощью можно выцепить. А например обычный пользователь про это знать не будет, и даже не будет знать что ему в принципе нужна эта информация, пока своими глазами не увидит работающую софтину.

Поэтому нет. Нейронки - это инструмент, который не только не отменяет необходимости получения соответствующих знаний и умений, а наоборот ее повышает. И чем умнее и эффективнее нейронки, тем большее значение будут иметь твои знания и умения. Потому что если нейронки повысят эффективность у всех на X%, то разница в итоговой способности дать результат между тобой и кем-нибудь еще на рынке также повысится (или понизится) на эти самые X% и станет более заметной.

Были соображения в похожую сторону. Всё низкопробное нейронками наклепают быстро. Как нейрослоп, который уже всем надоел. Дальше идеи позаканчиваются и игрушку побросают в углу.

Были мысли, что освободившееся от набора кода время позволит нарастить квалификацию в разных отраслях, на которые раньше не было времени. И начнут побеждать опять же самые умные люди, кто смог запинать стадо баранов-нейронок в очень правильном направлении.

В целом картинка получается ровно как изобретение компиляторов. Бородатые мужики перестали набирать ассемблерные портянки лично пальцами, а расселись на троне диктуют высокоуровневые идеи и конструкции, а объём машинного кода одного бинарника начал превышать мировое производство дискет при Ельцине за год, но программистов меньше не стало - ими стали называть ссаных формоклёпов быдлокодеров бекендеров гошников.

tcpfinhello
()
Ответ на: комментарий от tcpfinhello

На самом деле нейронки это просто быстрый доступ к тем знаниям, что раньше пришось бы добывать годами. А дальше все зависит от крепости твоей задницы. Чтобы что то более менее большое создать, надо долго сидеть и собственно создавать. Хоть с нейронками, хоть без.

И я не про часы и дни. Для нормальных проектов это месяцы и годы кропотливой работы.

Как было раньше. Так и осталось. Просто доступ к знаниям упрощается. Так же было и с компиляторами один в один.

LightDiver ★★★★★
()
Ответ на: комментарий от papin-aziat

Эту пургу регулярно несут то по одному, то по другому поводу.

slackwarrior ★★★★★
()
Ответ на: комментарий от tcpfinhello

Были мысли, что освободившееся от набора кода время позволит нарастить квалификацию в разных отраслях, на которые раньше не было времени. И начнут побеждать опять же самые умные люди, кто смог запинать стадо баранов-нейронок в очень правильном направлении.

кстати к крупным компаниям и государствам это тоже относится, и даже в первую очередь. Элон Маск сейчас, я уверен, уже нафигачил MCP-сервера во все возможные CAD-ы, и они прямо сейчас работают нонстоп над проектом по запуску датацентров в космос за халявной солнечной энергией. И если некоторые другие государства (не будем показывать пальцем) не начнут прямо сейчас заниматься тем же самым, то отстанут и проиграют.

Lrrr ★★★★★
()

Это уже совершенно очевидно

Нужен расклад от Дарьи Золотухиной. И проверочное гаданье на шкуре куртке Хуанга.

slackwarrior ★★★★★
()
Ответ на: комментарий от tcpfinhello

Вот я клепаю при помощи нейронки - ставлю задачи, читаю код, запускаю приёмку, тестирую, отдаю нейронке замечания. Она переписывает. И всё по кругу. Так, что Вы правы - это просто компилятор с функцией генерации кода, вот и всё. Мораль? Без человека в контуре жизнеспособный продукт не появится. Максимум - уровень MVP. Стало меньше работы? Нет. Просто я перешёл на уровень тимлида. И для работы на этом уровне нужно иметь определённые знания, которые нейронка мне в голову не вложит. Она, конечно, попытается объяснить (если попросишь), но толку, если ты не понимаешь её объяснения.

drbond ★
()
Ответ на: комментарий от Lrrr

по запуску датацентров в космос

Они там с охлаждением ему все время выдают одно и то же? Физика такая бессердечная мразь.

slackwarrior ★★★★★
()
Ответ на: комментарий от LightDiver

изобретет и физику новую

Ага, щас. «Криоарифметический движог» это примерно как вечный двигатель. Принцип Ландауэра не позволяет без выделения тепла ничего вычислять.

slackwarrior ★★★★★
()
Ответ на: комментарий от LightDiver

Законами в первую очередь и выстраиваемой системой.

не сходится пасьянс. смари, пример из недавней истории, еще до того как расплодились жыдомасоны и рептилоиды:

индустрия хранения льда.
коротко: на пике (конец XIX века) индустрия была масштабной. лёд собирали зимой с рек, озёр и прудов, а затем хранили в специальных сооружениях - ледниках (ледяных домах).
их тщательно утепляли - соломой, опилками, чтобы замедлить таяние.
дальше лёд транспортировали (кораблями, баржами, поездами) в разные уголки мира, от Карибского бассейна до Индии и Австралии.
лёд революционизировал пищевую промышленность: позволил дольше хранить мясо, овощи, фрукты, дал толчок рыбному промыслу и появлению новых напитков.
на пике в США в этой отрасли были заняты около 90 тысяч человек.

когда победил холодильник: общество потеряло профессии, отрасли, династии и очарование старого уклада, но получило безопасную еду, время и независимость от зимы.

классический пример того, что «благодаря исчезновению» индустрии чей-то быт стал заметно лучше, а чья-то жизнь перевернулась.

запланировано? сомнева-а-а-а-юсь. и сильно. переубеди меня.

olelookoe ★★★★
()
Ответ на: комментарий от olelookoe

ше лёд транспортировали (кораблями, баржами, поездами) в разные уголки мира, от Карибского бассейна до Индии и Австралии.

А в чем противоречие? Кто получил прибыль с новой отрасли? Лучше хуже. Живем мы здесь и сейчас. Весь вопрос - кто с этого всего имеет доход. Вот и все.

А почему это важно? Потому что тот кто имеет доход - это раковая опухоль. Он имеет столько, что вся его семья это не потратит за десять жизней. А за это надо платить жизнями. Кто то должен это обеспечить. Кто то должен сдохнуть в том числе.

Просто ты в одну кучу смешиваешь сразу всех. И кто изобрел. Кто сделал лучше, кто на этом ворует. А это очень разные люди и явления.

LightDiver ★★★★★
()
Последнее исправление: LightDiver (всего исправлений: 1)
Ответ на: комментарий от LightDiver

Весь вопрос - кто с этого всего имеет доход. Вот и все.

имя, сестра, имя!
кто этот холодильников начальник и морозильников командир?
кто захапал производство холодильных камер в свои жадные липкие ручонки?
кто монополизировал технологию и восседает на ней как дракон на куче золота?

olelookoe ★★★★
()
Ответ на: комментарий от LightDiver

Ах да, соцсети тоже он изобрел.

«Ну нам-то не гони» (с).

slackwarrior ★★★★★
()
Ответ на: комментарий от olelookoe

А кто ввел миф про вредность фреона в свое время? Все имена и монополисты изветстны. Бери самого крупного, не ошибешься.

LightDiver ★★★★★
()
Ответ на: комментарий от papin-aziat

Я год или два назад смотрел какой-то ролик в ютубе и там дятька на серьёзных щах говорил, что мол все срочно идите в творческие профессии

Там нужен талант. Нам, бездарям, остаётся только натуральное хозяйство. Мне кажется, что масштаб проблемы пока ещё не осознаётся в должной мере. Ведь весь офисный планктон становится ненужным, а не только айтишники. И теперь самое страшное – чиновники тоже всё. Таким образом рушится не просто постиндустриальный уклад, а вся цивилизация нового времени. Начиная с 18 века такой фигни ещё не случалось.

bread ☆
()
Ответ на: комментарий от papin-aziat

что могут такого железяки, чего не могут люди.

да практически всё.
за исключением тех железяк которые просто лежат и ржавеют.
копают - лучше, возят\таскают - лучше.
считают - лучше.
программирование и вождение самолетов с автомобилями - на подходе.
«и много других страшных слов» (с)

поэтому вопрос остается - а в чем эти железки нехорошие (культурно выражаясь) нам уступают?
что такого они не делают? не умеют? делают, но не так?
почему мы все еще ценные и нужные?
нужные кому? зачем?
бизнесу?
правительству?
друг другу?

olelookoe ★★★★
()
Ответ на: комментарий от bread

Там эта, в модных книжках пишут, что каждый человек уникально талантлив, но таланты эти надо открывать. Для этого надо читать эти самые книжки и посещать модные тренинги. Я в это не верю, но ты можешь попробовать 😊

papin-aziat ★★★★★
()
Ответ на: комментарий от LightDiver

Потому что тот кто имеет доход - это раковая опухоль.

это тот кто вовремя оседлал волну.
рискнул. успел. сумел. запрыгнул в последний вагон уходящего поезда.
сделал ставку - и выиграл.
конкурирующая стратегия.

большинство предпочитает понемногу и без риска, меньше шансов склеить ласты.
некоторые предпочитают играть и выигрывать.
и закономерно получают много больше. если выигрывают. если не попадают в печальные списки «пацан к успеху шел - не фартануло».
такова цена.

никто не запрещает и тебе и кому либо другому.
останавливает вопрос цены.
других препятствий нет.

даже сверхдоходы отдельных граждан смотрятся бледно на фоне трат на инфраструктуру.
сколько стоит километр дороги, например?
это один, а сколько их нужно и какого качества?
в золотых унитазах или в песцовых шубах или в отдыхах на лазурном побережье это сколько?
один, напоминаю, один единственный километр.

olelookoe ★★★★
()
Ответ на: комментарий от olelookoe

это тот кто вовремя оседлал волну.

рискнул. успел. сумел. запрыгнул в последний вагон уходящего поезда.

Это тот, чьи предки заработали на работорговле, наркотиках. В основном.

Ок, возьмем тех, кто оседлал волну. Если раковая опухоль оседлала волну, она перестал вредить? Да ниразу. Польза в одном не отменяет вреда в другом.

У остальных просто не возможности, времени что то пробовать. Надо пахать чтобы не сдохнуть под забором от голода. Потому что кто то никак не может нажраться.

LightDiver ★★★★★
()
Ответ на: комментарий от papin-aziat

Обслуживать железяки.

это ненадолго.
ремонтные роботы будут обслуживать роботов - и круг замкнется.
пока мы выходим на цикл самосовершенствования роботов и это кажется заманчивой перспективой.
о в недалеком будущем мы станем не нужны - ни для создания, ни для обучения, ни для ремонта и обслуживания.
экосистема станет замкнутой, самоподдерживающейся и саморазвивающейся.
а вот что дальше - это интересно.

olelookoe ★★★★
()
Ответ на: комментарий от AndreyKl

ты ведь понимаешь что формальная верификация позволяет полностью убрать ошибки?

Ты ведь понимаешь что это манямирок?

slackwarrior ★★★★★
()
Ответ на: комментарий от seiken

И первая весна ИИ произошла тоже из-за толстых кошельков военки

А первая зима — из-за бухгалтеров.

slackwarrior ★★★★★
()
Ответ на: комментарий от LightDiver

Это тот, чьи предки заработали на работорговле, наркотиках. В основном.

возможно.
у меня есть конкретный и очень наглядный контрпример из жизни.
один мой шапочный знакомый продал квартиру в центре крупного города (полученную пол наследству от родителей), чтобы открыть банк (лихие девяностые).
мог бы остаться без штанов (да и без головы) , но остался с неплохим доходом и капиталом.

много ли ты знаешь тех, кто рискнул квартирами?
я - много. гораздо больше чем один человек.
в основном тех, кто вложил в МММ и прочую шнягу.

итого - твоя песня с длинной бородой, основательно популяризованная и обкатанная, но от этого не ставшая фактом и безусловной правдой.
хотя как убеждение - принимаю. мало ли в Бразилии донов педров.
но не разделяю.

olelookoe ★★★★
()
Ответ на: комментарий от olelookoe

(полученную пол наследству от родителей), чтобы открыть банк (лихие девяностые).

Уже старт на разворованном, замечу.

Я знаю многих и кто рискнул и кто нет. Почти все доедают остатки сейчас от наворованного. Но уже сейчас на всех не хватает.

Я сам рискнул вполне в 2008 взял кредит на 120 тысяч. С зарплатой тогда в 16 тысяч в месяц. Выкупил фирму, работает фирма сейчас.

Ты же понимаешь, что это все копейки? Корм, который сожрут когда это понадобится. Ни у меня, ни у твоего знакомого, скорее всего нет нахапанного, что мы не не потратим и за 10 жизней. Мы с ним плюс минус одного порядка фигуры - на уровне плинтуса. И ты рядом с нами.

Все что есть у него, у меня, у тебя - не наше. Мы этим временно пользуемся, пока особо не примелькались и пока это не понадобилось кому то. Арендуем временно.

Работают все одинаково - ну нельзя работать 25 часов из 24. Время жизни тратят все одинаково. Но в уравнении всегда есть исключения, которые ломают всю систему. Которые работают или столько же или меньше или вообще не работают, но удерживают ресурсы для тысяч и миллионов.

LightDiver ★★★★★
()
Ответ на: комментарий от olelookoe

Сомневаюсь. Для этого машина должна обрести талебовскую антихрупкость и саморепликацию в одной из метапозиций, иначе цепочка всегда будет оканчиваться человеком.

papin-aziat ★★★★★
()
Ответ на: комментарий от CrX

Значит ли это, что через миллионы лет товары будут стоить отрицательные деньги?

Я к тому, что тренды тоже могут ломаться. Тут не угадаешь.

bbc69
()
Ответ на: комментарий от bbc69

Значит ли это, что через миллионы лет товары будут стоить отрицательные деньги?

(намеренно не читая следующий абзац) Нет, не значит, там экспонента, а не прямая линия. То есть, чем дальше, тем ближе к нулю, но никогда не равно ему.

Я к тому, что тренды тоже могут ломаться. Тут не угадаешь.

Всякое бывает, конечно. Но пока конкретно в этом плане не видно предпосылок к слому. Скорее наоборот. Ну если только инопланетяне прилетят.

CrX ★★★★★
()
Последнее исправление: CrX (всего исправлений: 1)
Ответ на: комментарий от CrX

Кто сказал, что экспонента именно к нулю стремится?

А вообще, не в этом суть. А суть в том, что тренд может развернуться. Строить планы на будущее на основании настоящего - ну такое. У советских людей можешь спросить, как они коммунизм построили. У них тоже тренды были. Хоть и назывались иначе.

bbc69
()
Ответ на: комментарий от bbc69

Кто сказал, что экспонента именно к нулю стремится?

Выглядит она так. Никто не сказал. Пересчитай, дай свой вариант.

А вообще, не в этом суть. А суть в том, что тренд может развернуться. Строить планы на будущее на основании настоящего - ну такое. У советских людей можешь спросить, как они коммунизм построили. У них тоже тренды были. Хоть и назывались иначе.

Всё так. Только этому тренду лет как минимум не меньше, чем «истории» (той, которая с письменностью приходит). Оно как идёт многие сотни и тысячи лет так, так и идёт.

Внезапно развернуться может? Да конечно может. Но вероятность, что этот разворот произойдёт именно при нашей жизни, довольно мала. Хотя и не равна нулю.

CrX ★★★★★
()
Ответ на: комментарий от bbc69

Товары уже стоят отрицательные деньги. Кое за что приплачиают, чтобы втюхать.

Деньги это костыль недостатка производства. Дай всем всё и деньги потеряют смысль.

LightDiver ★★★★★
()
Ответ на: комментарий от CrX

Да не нужны никакие инопланетяне. Там где раньше за проход в город брали деньги, теперь или бесплатно все или доплачивают иногда.

Услуги и товары могут стать бесплатными или с отрицательной стомостью. Весь вопрос в целях и производстве. Если тебе что то надо от покупателя, ты приплатишь за свою услугу для него.

Вся проблема только в том, что товаров меньше, чем потребителей. Достаточно сделать наоборот для абсолютн всех товаров и услуг и проблема исчезнет. Правда скорее всего придется немного изменить еще законы физики в плане конечности времени и пространства - но на фоне основной проблемы это такие мелочи.

LightDiver ★★★★★
()
Ответ на: комментарий от LightDiver

Просто ты в одну кучу смешиваешь сразу всех. И кто изобрел. Кто сделал лучше, кто на этом ворует. А это очень разные люди и явления.

Поздравляю, ты разоблачил основную идею книги «Атлант расправил плечи». Вся книга именно на этой подтасовке основана. Там Джон Галт и изобретатель, и бизнесмен, и борец в одном лице. Кто при этом на Галта работает – не раскрыто. И ворующий Даннешильд тоже имеется :) только он не у Галта ворует.

hobbit ★★★★★
()
Ответ на: комментарий от altwazar

Не обязательно. Это значит, что решение связанных с программированием задач будет дешевле, больше этих задач станет экономически целесообразно решать.

Я на это ответил - рынок насыщен. Я могу ошибаться, конечно, но аргумент был высказан.

AndreyKl ★★★★★
() автор топика
Ответ на: комментарий от hobbit

Я много слышал, но не читал. Мне хватило подростковых страданий Оруэла - жалею что прочитал.

LightDiver ★★★★★
()
Последнее исправление: LightDiver (всего исправлений: 1)
Ответ на: комментарий от firkax

Учитывая, что связь доказываемой математической модели с реальным ТЗ они обычно опускают,

сразу видно большого специалиста. «обычно упускают», ага, целая индустрия работает и вот никто кроме фирфакса ен знает, что именно и как делать, все то идиоты «обычно упускают» связь со спецификацией.

Иди к маме лучше.

AndreyKl ★★★★★
() автор топика
Ответ на: комментарий от bread

И теперь самое страшное – чиновники тоже всё.

Нет. Ты явно не понимаешь кто такие чиновники. Чиновники-это не госслужащие, это члены группировок по отъему госбабла. Все и так во всех странах. Задача любого чиновника-пилить и отстегавить старшему наверх. Они сейчас все кинутся пилить на внедрении великого ИИ во все сферы жизни, от которой станет всем сплошной збс (так будут плебсу вещать)

slew
()
Последнее исправление: slew (всего исправлений: 1)
Ответ на: комментарий от CrX

Тренд долгосрочный (не первый век) вполне себе один: товары дешевеют, услуги дорожают.

Жилье и еда это услуги? Ты этот «тренд» в каком учебнике макроэкономики тиснул?

Это некоторое упрощение, конечно

Чудовищное упрощение, конешшшно

но тем не менее в целом так и есть.

Все что перед «но» традиционно булшыт... Но ты еще и после «но» умудрился. Все эти шаблоны «но в главном-то да». «Средняя зарплата растет» (ТМ)

slackwarrior ★★★★★
()
Вы не можете добавлять комментарии в эту тему: только для зарегистрированных, score>=50.