LINUX.ORG.RU
Форум — Talks  

Расстроен ли я? Что вы, я нет! Ну слегка...

 , , ,


0

4

Была такая проблема - LLM писали (и пишут) код не слишком надёжно. Их глючит, почти как людей. И нельзя быть уверенным что написанный LLM код - надёжен. Были нужны программисты, чтобы делать ревью, чтобы нести отвественность за код. Было у этой проблемы решение, называется «формальная верификация». Но оно было жутко дорогое и медленное. И лишь немногие могли себе это удовольствие позволить. Но и этот момент прошёл. Программисты больше не нужны. +- года-двух дело по моему мнению.

https://deepmind.google/blog/introducing-alphaproof-code/

Ребята, не ходите учиться на программиста. Это всё. Полностью. Ещё вероятно нужны будут некоторое время инженеры по формальной верификации, чтобы проверять спеки, но программисты - всё. Даже не могу оценить сколько останется.

По инженерам, буквально вчера узнал что гугл активно тренирует геминея на написание спек (из первых рук практически). Думаю , остальные крупные игроки делают то же. В целом, если вам сейчас не 65 и вы не на пенсии уже, и вы программист или даже инженер по ФВ - вам есть о чём подумать. Они просто верифицируют всё. А не они, так ещё кто нибудь. Это уже совершенно очевидно и дело времени, причём ближайших месяцев (выход технологии в массы я имею ввиду).

// для тех кто не понял, тема топика - цитата из «гадкого Я»

★★★★★

Последнее исправление: AndreyKl (всего исправлений: 7)
Ответ на: комментарий от AndreyKl

Тогда почему человека, который впаривает бабушке сковородку с суперпокрытием по суперцене (такую что в супермаркете можно купить скажем, в 20 раз дешевле) мы считаем мошенником?

Я думаю - по привычке из детства, когда «бабушка» это была чаще всего малообразованная женщина довоенных годов рождения, на долю которой выпала весьма тяжелая жизнь. Вот только нынешние бабушки, как раз примерно мои ровесницы, все поголовно имеют обязательное в СССР с 1958 года среднее образование, а очень многие и высшее, и жили они во вполне комфортных условиях по сравнению с теми бабушками. И если они за всю жизнь не научились понимать что сколько стоит и разумно распоряжаться деньгами то виноваты в этом только и исключительно они сами. Также замечу, что любой товар стоит столько,сколько за него готовы заплатить в момент покупки. То, что где-то и когда-то он стоил дешевле (или дороже) - ничего не значит.

А на деле - злоупотребление доверием..

Тогда уж надо пересажать поголовно всех изготовителей телевизионной и печатной рекламы. По-вашему получается что они тоже «злоупотребляют». А также владельцев многих магазинов, не стесняющихся устанавливать очень высокие наценки, обычно на всякую мелочь (канцтовары как пример - поинтересуйтесь типичным уровнем наценок там, и наценка на сковородки перестанет вас удивлять).

watchcat382 ★★
()
Ответ на: комментарий от anc

Ну это фразиологизм не более того. Холодильник не хочет морозить и т.д.

Так именно об отношении к технике такие «фразеологизмы» и говорят. Объективно холодильник не может чего-то не хотеть или хотеть. Но как я уже сказал, очень многие из тех кто с техникой работает - неявно приписывают ей некоторую одушевленность и свободу воли. И совершенно не важно холодильник ли это или компьютерная программа, каковой «ИИ» и является. Ну вот нравится многим людям так к технике относиться и всё. Имеют право.

watchcat382 ★★
()
Ответ на: комментарий от AndreyKl

мой взгляд злоупотребляет, поскольку у него есть информация которой у инвесторов нет

Публичные компании имеют стандартную форму отчётности, конечно можно обсудить её недостатки, однако если даже анонимусы на лоре типа нас обсуждают эту проблему, значит мошенничества в целом нет, т.к. информации более чем дофига. В каких-то частных случаях мошенничество конечно может быть.

sergej ★★★★★
()
Последнее исправление: sergej (всего исправлений: 1)
Ответ на: комментарий от AndreyKl

Тогда почему человека, который впаривает бабушке сковородку с суперпокрытием по суперцене (такую что в супермаркете можно купить скажем, в 20 раз дешевле) мы считаем мошенником?

Так это у вас надо спросить, почему вы так считаете.

Этот впариватель является навязчивым надоедой и, возможно, спамером. Но если он не лжёт напрямую об этой сковородке (ну типа не утверждает, что она сделана из золота, когда на самом деле из чугуния), то мошенником он не является.

CrX ★★★★★
()
Ответ на: комментарий от BruteForce

прости меня если мой комментарий показался слишком грубым.

Нет, не показался. Но на всякий случай прощаю :) Просто у нас с вами по всей видимости разное отношение к технике. Так как я начал возиться с железками аж еще в дошкольном детстве, и далеко не всегда понимал в то время как в точности они работают и почему бывает капризничают и чего-нибудь хотят чтобы работать - вот у меня такое отношение и выработалось. И я не стесняюсь по сей день мысленно(а бывает и вслух) поблагодарить какую-нибудь хорошо потрудившуюся железяку. Хотя понятно что ей всё равно.

Восприятие чатбота как личность влечёт за собой неприятное последствие: ты ему начинаешь доверять как человеку и учиться как у человека, то есть без попытки критически осмыслить, учишься механически повторять. Это с людьми-то не всегда полезно, а с системой, вывод которой завязан на рандом — просто вредно.

С человеками-личностями излишнее доверие еще более вредно чем с чатботами. Бот, к примеру, очень маловероятно что станет целенаправленно вредить и вводить в заблуждение. А человеки - сколько угодно. Взять хотябы желающих продать какой-нибудь хлам под видом ценной вещи. Так что если на чатбота переносится отношение «как к человеку» то наоборот, осторожности только прибавится. А вот если относиться «как компьютеру» который в представлении многих обывателей является машиной, превосходящей среднего человека в точности, то да, упомянутые вами последствия излишнего доверия вполне возможны. И да, обычным поисковикам тоже безоглядно доверять никогда было нельзя. Потому что на первой странице может легко может оказаться какая-нибудь популярная ересь (творения плоскоземельщиков как наглядный пример).

Мой поинт в том, что даже если бы ты этого не хотел, у тебя бы не получилось.

Да всё бы получилось. Никого же последние четверть века если не больше не удивляют разговаривающие с ними персонажи в играх например.

Повышай самооценку)

Предпочитаю оценивать свои достижения объективно, а не как теперь принято в резюме писать. К тому же есть «ковбойское» правило «умеешь считать до десяти - остановись на семи». Лучше не хвастаться своими умениями. Во-первых потому что всегда найдётся тот кто умеет больше, а во-вторых потому что будет так сказать «запас» на всякие непредвиденные обстоятельства.

Вместо признания тут скажут что всё это фигня потому что за это не платят денег.

Наверняка.

Ну и зачем мне эти «мудрые» высказывания выслушиать(читать)?

watchcat382 ★★
()
Ответ на: комментарий от BruteForce

Это какие-то циничные оправдания действий

Известная на Западе фраза: «ничего личного - просто бизнес».

людям стоит заботиться о людях.

В идеальном мире да. И в СССР даже была попытка построить неконкурентное общество в котором человек человеку - друг, товарищ и брат. Даже лозунг такой был. Но не получилось к сожалению.

watchcat382 ★★
()
Ответ на: комментарий от BruteForce

Всех не запишем, запишем тех, кто говорят о полезных свойствах своего товара, даже если их полезность и крайне мала или вообще не факт что она есть

Вы видели хоть одну рекламу которая упоминала бы недостатки товара или хотябы ограничения его применимости при которых достоинства всё же проявляются? Я такую вспомнить не могу. Разве что по принудительному требованию регулятора добавят мелким шрифтом «не является лекарством, перед применением проконсультируйтесь с врачом» или еще что-то аналогичное. Так это они - не по своей воле.

watchcat382 ★★
()
Ответ на: комментарий от anc

Их никто оттуда не выписывал.

Мошенничество - это юридическая категория. За доказанное мошенничество срок дают. За недобросовестную (мягко говоря) рекламу что-то никто не сел. В самом худшем случае - штраф на юрлицо наложат, и только.

watchcat382 ★★
()
Ответ на: комментарий от bryak

Так это не мы с тобой стреляем себе в голову. Это они нам стреляют. Может это бумеранг и к ним потом прилетит, но это уж потом.

den73 ★★★★★
()
Ответ на: комментарий от watchcat382

гм-гм. однако вы знаете, заявлять что это уникальный товар который нигде больше не купишь и имеет уникальные свойства - это мошенничество по текущему законодательству на сколько я понимаю. А без этого сковородочку бабульке не втюхаешь..

AndreyKl ★★★★★
() автор топика
Ответ на: комментарий от CrX

да, вы правы. но штука в том что обычно таки лжет напрямую, заявляя что такое нигде не купишь и сковорода обладает совершенно уникальными свойствами, потому и цена. но я согласен что недоописал ситуацию.

AndreyKl ★★★★★
() автор топика
Ответ на: комментарий от watchcat382

Мошенничество - это юридическая категория. За доказанное мошенничество срок дают.

За недобросовестную (мягко говоря) рекламу что-то никто не сел. В самом худшем случае - штраф на юрлицо наложат, и только.

Так реклама вполне добросовестная, юзвери сами виноваты и не читают мелкий шрифт.

anc ★★★★★
()
Ответ на: комментарий от AndreyKl

да, вы правы. но штука в том что обычно таки лжет напрямую, заявляя что такое нигде не купишь и сковорода обладает совершенно уникальными свойствами, потому и цена. но я согласен что недоописал ситуацию.

Он правду говорит, такое г нигде не купишь, а уж какое-то особо уныло свойство которого нет ни у кого, всегда найти можно, ну или набор свойств которого ни у кого нет. Присобачте стеклянную ручку к сковородке для куры гриль и смело заявляйте что она уникальная.

anc ★★★★★
()
Ответ на: комментарий от sergej

Публичные компании имеют стандартную форму отчётности, конечно можно обсудить её недостатки, однако если даже анонимусы на лоре типа нас обсуждают эту проблему, значит мошенничества в целом нет, т.к. информации более чем дофига. В каких-то частных случаях мошенничество конечно может быть.

эти отчёты .. я конечно не спец, но вряд ли из них можно леко проследить сколько именно денег ушло в пузырь openai->nvidia->openai и сколько ушло на разработку.

ладно, тут у меня не хватит знаний чтобы спорить. Конечно, за неимением лучшего формально я должен либо согласиться с Вами, либо остаться в сомнениях.

Я понимаю что это так работает как работает. Просто я сильно сомневаюсь что лично мне _нужно_ чтобы оно так работало. Правда судить могу лишь по косвенным признакам - а именно пузыри случаются. И я полагаю что незнать об этом нельзя есл и ты условный Дарио Амодеи.

AndreyKl ★★★★★
() автор топика
Последнее исправление: AndreyKl (всего исправлений: 1)
Ответ на: комментарий от anc

да, есть такой момент. но формально не будет мошенничеством если честно сказать что уникальная стеклянная ручка. по идее если человек в себе, он должен понимать что ему эта ручка нафиг не нужна, стеклянная уникальная.

Но пожилые склонны доверять молодым выглядящим солидно людям, вот в чём проблема, на мой взгляд.

AndreyKl ★★★★★
() автор топика
Ответ на: комментарий от AndreyKl

Как раз вот такой хрени сейчас полно, продают условно годную вещь, но в нагрузку «стопку стеклянных ручек».

anc ★★★★★
()
Последнее исправление: anc (всего исправлений: 1)
Ответ на: комментарий от watchcat382

Известная на Западе фраза: «ничего личного - просто бизнес».

Ну не вообще на абстрактном Западе, а в среде организованной преступности. То ли Аль Капоне, то ли Отто Берман, но фраза с очевидным душком.

hobbit ★★★★★
()
Ответ на: комментарий от watchcat382

Вместо признания тут скажут что всё это фигня потому что за это не платят денег.

Что-то мне кажется, что ты начинаешь собеседникам свои собственные идеи приписывать. Да, пара вендотроллей скажут, да и плевать на них, но на ЛОРе в целом Just for Fun всегда ценилось.

hobbit ★★★★★
()
Ответ на: комментарий от watchcat382

За недобросовестную (мягко говоря) рекламу что-то никто не сел.

Ну вообще, до 2003 года это могло быть и уголовной статьёй. Сейчас, к сожалению, нет. Однако если в рекламе присутствуют признаки мошенничества, статью о мошенничестве вполне могут включить и самостоятельно. Да, в реальной жизни это работает куда слабее, чем должно бы…

hobbit ★★★★★
()
Последнее исправление: hobbit (всего исправлений: 1)
Ответ на: комментарий от AndreyKl

Как раз на практике (ровно до выхода статьи в топике) главной проблемой было показать формальное соотвествие функций спекам.

Чьей проблемой? Куда как важнее иметь правильные / вменяемые / рациональные спеки. Более того - они имеют тенденцию довольно быстро меняться адаптируясь под текущие реалии, и не факт что вы со своей валидацией за этими изменениями поспевать будете. И ещё - как вы в принципе собираетесь формализировать пассажи в спеках в духе «наиболее эффективным образом»? Например, что это в принципе может означать в контексте задачки с суммированием массивчика?

bugfixer ★★★★★
()
Ответ на: комментарий от sergej

это при условии, что кризисы могут устраивать любые васи. тогда да, разорившийся изза пиратства инвестор - благо для экономики, деньги не вернулись в одну кучу а распределились по сотням домохозяйств разработчиков

Laferadze
()
Ответ на: комментарий от anc

юзвери сами виноваты

Именно об этом я и говорю. Сами и только сами. У нас уже давно все поголовно имеют как минимум среднее образование и около трети - высшее. Причем среди старшего поколения доля людей с высшим образованием больше. Если это не помогает им отличать уникальные сковородки от нормальных - ну значит так учились.

watchcat382 ★★
()
Ответ на: комментарий от AndreyKl

пожилые склонны доверять молодым выглядящим солидно людям, вот в чём проблема

Я пожилой. Необоснованным доверием к кому-либо не страдаю, независимо от возраста и уж тем более солидности внешнего вида. Но к сожалению бывает что мудрость к человеку не приходит с возрастом, бывает что старость приходит одна. И если человек был дураком в молодости то он становится просто старым дураком.

watchcat382 ★★
()
Ответ на: комментарий от watchcat382

Значит вам нравится жить в обществе где человек человеку - волк.

Нет, не значит*. Это не триггер, переключающийся между двумя крайними положениями. Мне нравится жить в обществе, в котором существует здоровая конкуренция — как между компаниями и организациями, так и между индивидами. В неконкурентном обществе, которое они хотели построить, я жить бы не хотел — это буквально антиутопия. Впрочем, оно и невозможно в случае с нашим видом: люди не муравьи и не пчёлы и даже не голые землекопы, эусоциальность им насадить эффективно невозможно. Если только генной инженерией, или какую-нибудь лоботомию в детстве делать превентивно.


* Прошу обратить внимания, что именно я отрицаю — логическую связку, а не слово «нравится». Именно «не значит», про «не нравится» я пока не говорил. Просто на всякий случай, а то как всегда кто-нибудь ещё влетит в тред с двух ног, жопой прочитает и начнёт спорить с голосами в голове.

CrX ★★★★★
()
Последнее исправление: CrX (всего исправлений: 2)
Ответ на: комментарий от bugfixer

Хороший вопрос. Но ответ опять в разделении спеки и реализации.

В контексте суммирования «наиболее эффективным образом» ничего не обозначает. Каким образом это будет реализовано, таким и будет. Спеки дают только «сумму элементов массива».

Я понимаю мне кажется о чём вы говорите: например, есть оптимизации. Но ИИ их делает. Буквально два-три месяца назад в одном многолетнем проекте ушёл разработчик. Его начальник, человек не знающий языка на котором проект написан (Хаскель), сказал Клоду - оптимизируй производительность. Тот пошёл и оптимизировал почти вдвое. Где то за пару часов. Там больше нет программиста на Хаскеле, насколько я знаю.

В этом смысле участие программиста нужно, но вы поймите, я ж не сказал «вот ни одного не останется». Я сказал «затрудняюсь оценить сколько останется». Потому что затрудняюсь. Клод может это оптимизацию делать сам. В смысле создать план, в плане «1. сделать тесты на производительность 2. оптимизировать 3. прогнать тесты, 4. сделать коммит, повторить шаги 2,3 10 раз с записью в таблицу. 5 выбрать лучший по производительности вариант» и запустить агента выполнять это. И агент сделает хорошо. Останется вопрос только - не напортачил ли. Тут поможет формальная верификация. Кто то должен поставить задачу клоду «оптимизируй». Да, кто то должен. Но поставить задачу это сколько , 20 минут? 30? А такая задача могла бы занять у человека недели труда. Рост производительности очень большой.

AndreyKl ★★★★★
() автор топика
Последнее исправление: AndreyKl (всего исправлений: 1)
Ответ на: комментарий от AndreyKl

В контексте суммирования «наиболее эффективным образом» ничего не обозначает. Каким образом это будет реализовано, таким и будет. Спеки дают только «сумму элементов массива».

Ну и грош цена тогда таким «валидациям». Мне мало знать что имплементация когда-то там (через миллион лет?) выплюнет правильную циферку, мне вон самые обычные юнит-тесты дадут куда как больше информации и уверенности.

Его начальник, человек не знающий языка на котором проект написан (Хаскель), сказал Клоду - оптимизируй производительность. Тот пошёл и оптимизировал почти вдвое.

Это говорит о двух вещах: (1) авантюризме человека граничащем с безумием, (2) что код изначально был написан из рук вон плохо.

И агент сделает хорошо.

Сказки Венского леса.

ПыСы. Чем больше я вас слушаю тем чаще ловлю себя на мысли что я был бы ну очень счастлив видеть кого-то из конкурентов купившимся на ваши идеи - диверсия вышла бы просто зачётная…

bugfixer ★★★★★
()
Ответ на: комментарий от AndreyKl

Я сказал «затрудняюсь оценить сколько останется».

Это не так уж и важно. Сейчас я повторю свою мысль из предыдущих комментариев в этой теме, но постараюсь сделать это более развернуто.

Вы все еще продолжаете мыслить в русле, что LLM вытеснит программистов. LLM, безусловно, все изменит, но нужно смотреть на это в ключе новых возможностей.

Я уже писал в этой теме про вариант эволюции профессии в «программист+LLM», который происходит прямо сейчас. Теперь программисты смогут писать более сложные и совершенные программы, работы станет больше. Похожии эволюции происходят в других сферах труда.

Если вам кажется, что программистам будет просто нечего делать (в чем я очень сомневаюсь), то рассмотрите тот факт, что существует огромный простор для деятельности в смежных сферах. И теперь с появлением LLM производительность там тоже возросла, но в меньшей степени, а порог перехода, вероятно, несколько снизился.

Первое, что мне приходит в голову - создание электронных устройств, которая охватывает все сферы жизни, от авиации до детских игрушек. Очень много современной электроники требует программирования. И LLM там куда менее успешен, но, возможно, облегчит вход для новых работников.

Leupold_cat ★★★★★
()
Ответ на: комментарий от watchcat382

Я пожилой. Необоснованным доверием к кому-либо не страдаю, независимо от возраста и уж тем более солидности внешнего вида. Но к сожалению бывает что мудрость к человеку не приходит с возрастом, бывает что старость приходит одна. И если человек был дураком в молодости то он становится просто старым дураком.

Я так не думаю. По моему мнению, к сожалению, часто люди становятся не такими активными а с этим теряется и некоторая то ли хватка, то ли бойкость. Причём внешне она часто остаётся, но при некотором напоре человек не может дать отпор, хотя будь помоложе - дал бы. И тут наглость этих ребят которые ходят по квартирам делает своё дело. «Мы предлагаем вам уникальную сковородку со сменной стеклянной ручкой. Ручек аж 6!» Заговаривают зубы и втюхивают тем кто не может от них отбиться.

Вы бы видели как у меня в ближайшем сбербанке с пожилыми обходятся.. наседают на них так со своим «купите страховку». Ни разу не видел чтобы к молодому так обращались и наседали. Потому что молодой их сразу на юх пошлёт. Ещё и в лицо плюнет. А вот пожилой часто - нет. Я понимаю что совершенно не все пожилые люди ведуться на это. При мне один мужчина даже вспылил немного на работницу «что вы ко мне пристали, я же сказал не надо!». И женщина четырежды повторила нет. Но сам факт того что работницы так наседают именно на пожилых, прям как продавцы сковородок со сменными ручками, лично мне говорит о том что аудитория податлива на это. В отличие от других возрастных категорий.

Я понимаю что не все. Если Вы сохраняете эту способность, я очень рад за Вас. Но всё таки тенденция по моему есть.

AndreyKl ★★★★★
() автор топика
Ответ на: комментарий от bugfixer

Спека не включает реализацию в общем случае, оптимизации проходят по одной и той же спеке. И это хорошо, потому что не нужно менять спеку из за оптимизаций. Можно оптимизировать по одному параметру (времени) и просто перезапускать проверку.

По остальному - эти идеи не совсем мои, вернее не только мои, они витают в воздухе буквально, и упомянутый дипмайд, которому гугл дал денег, лишь один из многих кто над этим работает. На сколько я знаю. Разговор о них, потому что они представили интересный результат.

По остальному - поживём, увидим.

AndreyKl ★★★★★
() автор топика
Последнее исправление: AndreyKl (всего исправлений: 2)
Ответ на: комментарий от Chiffchaff

Переводчики умерли давно, лет 11 назад, даже раньше. Старые технологии Google Translate (и ещё кого-то, уже забыл название, был эффективнее Google Translate) давали результат, который устраивал 80-90% пользователей. Знаю, потому что отец всю жизнь занимался переводами, повезло, что всё умерло, когда он был уже почти на пенсии.

Собственно, LLM даже начинались как переводчики, но всё же то качество перевода, которое они стали демонстрировать потом в последние годы - это уже вообще иной уровень. С программистами как бы не случилось как с переводчиками. Те ведь не совсем умерли на самом деле, там где точность перевода имеет особо важное значение, например, юридическое, всё ещё используются реальные люди. Или если всё-таки очень высокого качества хочется или тематика очень специфическая.

Про всё остальное, включая NoSQL и блокчейн энтузиасты говорили ровно то же самое: «Это перевернет мир».

В отличие от хайпа по этим технологиям, мир уже переворачивается в настоящем, а не будущем. Возможно произойдёт некоторый откат от чрезмерного энтузиазма, а возможно мир поделится на тех, кто имеет доступ к ИИ-технологиям, и тех, кто до них не допущен прямыми ограничениями и/или чудовищным ростом цен на комплектующие. Сейчас ведь у нас в стране даже сраные игровые карты, пригодные для запуска чего-то интересного начального уровня, уже стоят бешеных денег, что-то посерьёзнее вообще уже не каждый бизнес купит, а что-то (ускорители Cerebras, например) ни за какие деньги не приобретёт при всё желании.

anonymous_incognito ★★★★★
()
Последнее исправление: anonymous_incognito (всего исправлений: 1)
Ответ на: комментарий от anonymous_incognito

Собственно, LLM даже начинались как переводчики, но всё же то качество перевода, которое они стали демонстрировать потом в последние годы - это уже вообще иной уровень.

Одна проблема: всё так же не понимают общий контекст. А каждого слова может быть 10-20 переводов, которые разум может выбирать из контекста. Но да, в общем и целом не влияет: кто не понимал, тот даже не замечает ошибки. Кто понимает, тот видит ошибку, и в голове у себя корректирует.

Но ошибки заметны до сих пор. Другое дело, что их количество снизилось, да и в целом грамотность людей радикально снизилась, так что две нисходящие кривые друг-друга хорошо дополняют.

В отличие от хайпа по этим технологиям, мир уже переворачивается в настоящем, а не будущем.

Я переворота пока не вижу, кроме раздувания пузыря акций. Если он даже и есть, понять это можно будет только спустя ещё несколько лет.

Chiffchaff
()
Ответ на: комментарий от anonymous_incognito

Те ведь не совсем умерли на самом деле, там где точность перевода имеет особо важное значение, например, юридическое, всё ещё используются реальные люди.

Но не переводчики. Там правят балом редакторы. Потому что там сначала в несколько проходов работает автоматика, в том числе с собранным вручную словарем терминов, а дальше нудная редактура.

Не всем дано, и очень похоже на работу с ллм, ага.

stave ★★★★★
()
Ответ на: комментарий от xDShot

Это кстати очень интересны феномен, нейронки отсасывают на совершенно простых вещах, но иногда могут хорошо сделать программу или фичу с большим кол-вом кода. Потому что какие-то паттерны в датасете повторяются часто и могут интерпретированы однозначно, а какие-то нет. По этой же причине нейронки хорошо пишут код по аналогии - это и нужно автоматизировать, чтобы не тратить на это время, потому что это даже не важно, а вот на уникальных фичах - простреливают себе ногу из базуки. Почему программирование в полу-ручном режиме даёт максимально оптимальный результат в плане качество кода/время и для этого даже крутые модели не нужны, достаточно какого-нибудь Qwen 3.6/3.8 (а уже скоро 4-й выйдет).

Ещё никогда столько некомпетентных кодеров не палилось своим ИИ-психозом и симпингом на нейронки. Гнать таких ссаными тряпками - это супер генераторы технического долга. Такие же люди видимо электрощитки в современных квартирах делают, что после таких приходится всё переделывать… :P

Skullnet ★★★★★
()
Последнее исправление: Skullnet (всего исправлений: 1)
Ответ на: комментарий от Leupold_cat

С тем что LLM упрощает переход в другую отрасль, я соглашусь.

Первое, что мне приходит в голову - создание электронных устройств, которая охватывает все сферы жизни, от авиации до детских игрушек. Очень много современной электроники требует программирования. И LLM там куда менее успешен, но, возможно, облегчит вход для новых работников.

Но вот это всё - это позже. Сначала будет коллапс и именно в этом проблема, на мой взгляд. Те кто сейчас учатся на программистов устроится не смогут. А если смогут по демпингу, они тогда заменят оставшихся «старичков» (которых останется хорошо если 10% от текущего числа).

Я ваше понимаю «возрастёт производительность - ну будем делать нужные вещи значит, их много». Но беда (на мой взгляд) в том что структурная перестройка экономики занимает значительное время, сравнимое с трудовой жизнью человека. И массовые сокращения будут первым что случится. А массывые сокращения повлекут за собой сокращения спроса и замедление инноваций, а не ускорение. Гестерезис. И последствия будут сложными для людей.

Это моё мнение. И оно отличается от вашего. Я не навязываюсь, все мы тут живём. Просто поглядим.

AndreyKl ★★★★★
() автор топика
Ответ на: комментарий от anonymous_incognito

Собственно, LLM даже начинались как переводчики, но всё же то качество перевода, которое они стали демонстрировать потом в последние годы - это уже вообще иной уровень.

С переводчиками сложнее, для перевода большого кол-ва текста нужен просто гигантский контекст. Если юзаешь DeepL, например, то он до сих пор тупит даже на простых предложениях даже где смысл однозначен, но я английский знаю и правлю на нужные слова. На специальной терминологии оно тупо работать не будет.

Skullnet ★★★★★
()
Ответ на: комментарий от Chiffchaff

Одна проблема: всё так же не понимают общий контекст.

я пользуюсь переводами LLM регулярно. От писем до отчётов и довольно больших текстов. Я заявляю отвественно что ситуацию вы видите не совсем корректно. Их приходится иногда поправлять, но это как делать редактуру за человеком - нет-нет да ляпнет (иначе редакторы были бы не нужны, а они всю дорогоу были нужны). С тем что было уровень абсолютно другой. Вы как минимум неточны в этом вопросе.

AndreyKl ★★★★★
() автор топика
Ответ на: комментарий от BruteForce

Тут лорчане бывает открыто говорят, что им люди в целом рядом неприятны.

Это неправильные лорчане и они несут неправильный пургу.

anc ★★★★★
()
Ответ на: комментарий от anonymous_incognito

Собственно, LLM даже начинались как переводчики

Собственно, в программирование все эти антрофики оголтело полезли прежде всего потому-что LLM обделались в естественных языках. В предположении, что ЯП-ы более детерминированы и регулярны, чем естественные языки. Переводчики где были нужны, там и остаются. Никуда они не делись. В случае с разработкой ПО вижу другую проблему у LLM-это неточность нейросетей. Та самая ошибка, которую минимизируют при обучении, и которую невозможно свести до нуля, эта ошибка обязательно проявляется. Стреляет самым разным образом. И поэтому в задачах, требующих абcолютной точности, нейронки могут лажать, как минимум нужен проверяющий кожанный.

slew
()
Ответ на: комментарий от watchcat382

Ну учиться они могли где угодно, гуманитариев достаточно.

anc ★★★★★
()
Ответ на: комментарий от AndreyKl

я пользуюсь переводами LLM регулярно. От писем до отчётов и довольно больших текстов. Я заявляю отвественно что ситуацию вы видите не совсем корректно. Их приходится иногда поправлять, но это как делать редактуру за человеком

Регулярно вижу ошибки контекста в больших переводах. Типа, в переводе статьи об устройстве компьютера увидеть слово «автобус» (bus без понимания контекста).

Достаточно открыть каждую вторую статью на Хабре.

То, что живые переводчики делают тоже ошибки: да, люди ошибаются, плюс при капитализме отбор идёт по критерию цена/качество. Переводчик с iq 85 запросит намного меньше денег, а конечный покупатель книги, например, всё равно не заметит большинство косяков до покупки.

Chiffchaff
()
Ответ на: комментарий от Chiffchaff

гм. ну вероятно. я большие прямо тексты не переводил, мои отчёты, письма больше 10 страниц редко.

AndreyKl ★★★★★
() автор топика
Ответ на: комментарий от slew

Собственно, в программирование все эти антрофики оголтело полезли прежде всего потому-что LLM обделались в естественных языках.

Так обделались, что пишут, что произведения, созданные с их помощью сейчас захватили топ продаж на всех электронных площадках.

https://author.today/post/988991

Иишки захватили почти весь топ продаж на ВСЕХ площадках РФ по продаже электронных книг. Ими захвачен даже Амазон - причём не только топ продаж, а вообще вся площадка целиком - точнее, в отдельных жанрах - бульварная, развлекательная литература и прикладная литература.

‎

‎Литрес тоже захвачен Искусственным Интеллектом в лице его креатур - продакшн-агентств, таргетолов, рекламщиков.

Можно конечно стенать как автор тех слов, что читатели стали совсем непритязательными, мягко говоря:

Иишки там успешно продаются и нахваливаются полностью деградировавшими читателями-биороботами, ботами.

‎

‎Роботы создают книги для своих живых подобий - людей, ставших биороботами в условиях техноцивилизации.

Однако, факт налицо, как говорится.

anonymous_incognito ★★★★★
()
Последнее исправление: anonymous_incognito (всего исправлений: 1)
Ответ на: комментарий от Chiffchaff

Регулярно вижу ошибки контекста в больших переводах. Типа, в переводе статьи об устройстве компьютера увидеть слово «автобус» (bus без понимания контекста).

Возникает вопрос чем их авторы переводов пользовались. Мой опыт, наоборот, говорит, что даже бесплатные веб-версии таких LLM как Qwen или DeepSeek этот контекст хорошо держат. А окна в 1M токенов (и даже 256K) хватает на многое. Хотя может преувеличено отношусь.

anonymous_incognito ★★★★★
()
Ответ на: комментарий от Skullnet

С переводчиками сложнее, для перевода большого кол-ва текста нужен просто гигантский контекст. Если юзаешь DeepL, например, то он до сих пор тупит даже на простых предложениях даже где смысл однозначен, но я английский знаю и правлю на нужные слова. На специальной терминологии оно тупо работать не будет.

Попробуй в промпт сунуть словарь со специальными терминами. А вообще, контекст в 256K токенов - это уже примерно 1Мб текста в plain-text на русском языке в utf-8. Может 800 Кб. - сильно зависит от конкретной модели. Мало?

anonymous_incognito ★★★★★
()

По теме топика много думал. У меня появляется такое впечатление, что для работы программистом будут всё большую роль играть не конкретные навыки и знание технологий, а умение решить поставленную практически полезную кому-то задачу. И вот тут есть поле на котором можно свою компетенцию проявить. Всё-таки даже Claude не умеет выдать заказчику решение по принципу «принеси мне то, не знаю что», суметь добиться результата даже с его помощью ещё надо уметь.

anonymous_incognito ★★★★★
()
Ответ на: комментарий от anonymous_incognito

для работы программистом будут всё большую роль играть не конкретные навыки и знание технологий, а умение решить поставленную практически полезную кому-то задачу.

Это и сейчас является ключом к успеху на поприще - все остальные могут претендовать на гордое звание «кодера» в лучшем случае.

bugfixer ★★★★★
()
Вы не можете добавлять комментарии в эту тему: только для зарегистрированных, score>=50.