LINUX.ORG.RU
Форум — Talks  

Расстроен ли я? Что вы, я нет! Ну слегка...

 , , ,


0

1

Была такая проблема - LLM писали (и пишут) код не слишком надёжно. Их глючит, почти как людей. И нельзя быть уверенным что написанный LLM код - надёжен. Были нужны программисты, чтобы делать ревью, чтобы нести отвественность за код. Было у этой проблемы решение, называется «формальная верификация». Но оно было жутко дорогое и медленное. И лишь немногие могли себе это удовольствие позволить. Но и этот момент прошёл. Программисты больше не нужны. +- года-двух дело по моему мнению.

https://deepmind.google/blog/introducing-alphaproof-code/

Ребята, не ходите учиться на программиста. Это всё. Полностью. Ещё вероятно нужны будут некоторое время инженеры по формальной верификации, чтобы проверять спеки, но программисты - всё. Даже не могу оценить сколько останется.

По инженерам, буквально вчера узнал что гугл активно тренирует геминея на написание спек (из первых рук практически). Думаю , остальные крупные игроки делают то же. В целом, если вам сейчас не 65 и вы не на пенсии уже, и вы программист или даже инженер по ФВ - вам есть о чём подумать. Они просто верифицируют всё. А не они, так ещё кто нибудь. Это уже совершенно очевидно и дело времени, причём ближайших месяцев (выход технологии в массы я имею ввиду).

// для тех кто не понял, тема топика - цитата из «гадкого Я»

★★★★★

Последнее исправление: AndreyKl (всего исправлений: 7)
Ответ на: комментарий от tcpfinhello

ревьюить код или читать чужой код не любит вообще никто

А придется, если это не хобби-проект, а работа за деньги. Ибо ответственность за качество кода на ИИ не переложишь, в случае чего «бить будут по морде, а не по паспорту».

работа программиста чаще всего не в написании кода, а в выдаче «решения». Как он его получил никого не волновало и раньше.

Я работал программистом, именно писал код за деньги, в 90х. Тогда вообще всем было всё равно как и на чем программа написана - главное что она делат то что надо. На чем хочешь на том и пиши, лишь бы хорошо работало.

watchcat382 ★★
()
Ответ на: комментарий от alegz

делают это в долг. в суммах, уже выражающихся 9 нулями.

кажется ты путаешь деньги и капитализацию

а количество лохов, готовых дать им в долг, стремительно уменьшается.

это не в долг, просто дать

пузыри лопаются, компании банкротятся, но их имущество остаётся

вот например железнодорожный пузырь лопнул, а дороги остались

так что это не лохи, а слегка доверчивые граждане, инвестирующие в экономику в основном сша :)

sergej ★★★★★
()
Ответ на: комментарий от watchcat382

А придется, если это не хобби-проект, а работа за деньги. Ибо ответственность за качество кода на ИИ не переложишь, в случае чего «бить будут по морде, а не по паспорту».

В этом мой поинт и был.

tcpfinhello
()
Ответ на: комментарий от AndreyKl

теперь ЛЛМ пишут код за программиста полностью или почти полностью. А это значительно дешевле, значит программистов надо будет сильно меньше.

Но сильно больше надо будет как минимум тестировщиков, которые будут вылавливать косяки за ЛЛМ. А скорее всего еще и постановщиков задач нужно будет больше потому что во времена до ИИ программист нередко совмещал в себе эти две функции - сам общался с заказчиком, сам формулировал задачу, сам писал код, сам его тестировал. К тому же заказчики всё чаще - далёкие от IT люди, просто потому что всех «близких» уже окучили в той или иной степени. И эти «даёкие» вообще слабо представляют как и что в их области деятельности можно улучшить с помощью компьютеров и программ.

watchcat382 ★★
()
Ответ на: комментарий от watchcat382

У меня знакомый как раз тестировщиком работал. Собирались с js на питон переходить и тут хопа - и всех уволили. Уот так уот. Геодезическая компания какая то была. Где то год назад, может полтора.

LightDiver ★★★★★
()
Ответ на: комментарий от AndreyKl

не нужно больше ревью если есть доказательство что там всё верно написано.

«Верно» - понятие весьма общее. Доказать в самом лучшем случае получится соответствие очень подробному техзаданию. Которое само по себе требует как бы не больше труда чем собственно написание кода по нему. Так-то и абсолютно правильная программа вполне может делать не то, чего хотел от нее заказчик. Хотябы даже потому,что заказчик, глубоко погруженный в контекст своей деятельности, считал что-то настолько очевидным что не проговорил/не описал это в техзадании. А вне его профессионального окружения это самое нифига никому не очевидно, да еще и может быть вполне контринтуитивно.

watchcat382 ★★
()
Ответ на: комментарий от AndreyKl

загляни в магазины игр

Кроме игр есть еще много мест где можно приложить руки и голову. У нас вон по сей день куча всякого оборудования на ручном управлении, хотя микроконтроллеры уже пару десятков лет как доступны и дешевы. А как радиолюбитель, регулярно залезавший в прошивки всяких микроконтроллерных девайсов, могу сказать что чаще всего качество кода там от «так себе» до «отвратительно». То есть даже то что уже сделано - по большей части надо переделывать.

watchcat382 ★★
()
Ответ на: комментарий от Leupold_cat

Сейчас никому не живется легко.

Можно подумать когда-то жилось. Причем «легко» - это субъективное ощущение, живем-то на самом деле существенно лучше чем к примеру поколение наших родителей.

watchcat382 ★★
()
Ответ на: комментарий от LightDiver

Можете не верить, но это из за меня. Я когда то даже гербалайф развалил. Куда я ни приду, скоро это умрет. 3,5 года назад я взялся за программирование. Даже не шибко удивлен.

Устройся работать в РКН, пожалуйста.

CrX ★★★★★
()
Ответ на: комментарий от AndreyKl

см. пример с промышленной революцией.

Вот и поинтересуйтесь как жили люди во времена до оной. А когда она наконец случилась - то за один только 20 век расплодились аж в восемь раз. И еда для такого количества людей внезапно нашлась.

watchcat382 ★★
()
Ответ на: комментарий от LightDiver

Одна компания - не показатель. Мало ли что там у нее случиться могло. Типично в России - какие-нибудь безграмотные управленческие решения потому что хороших управленцев у нас еще больший дефицит чем хороших технарей. Именно поэтому кстати такое пренебрежительное отношение к «менеджерам» - да потому что они через одного профнепригодны.

watchcat382 ★★
()
Ответ на: комментарий от Lordwind

программирование без багов… так говорят ребята в статье

Моя профессия будет только дорожать от таких заблуждений

Потому что баг — это несоответствие требованиям, а требования формирует кто? Правильно, не иишенка.

Nervous ★★★★★
()
Последнее исправление: Nervous (всего исправлений: 1)

все подобные заявления крупных американских корпоратов надо делить на 128. Потому что они поставили на ИИ всё, и если вдруг ИИ не взлетит (в смысле - если ИИшницами этих корпоратов не начнут пользоваться все подряд, причем платя за токены, а не за дико субсидируемые подписки), то этим корпоратам крышка. А за ними, по цепочке, и всему американскому фондовому рынку.

Поэтому они нагоняют хайп как могут.

В частности если почитать эту статью хоть немного внимательно,

From there, agents powered by Gemini Carbon did the proofs, generating over six million lines of Lean

замечательно, а кто будет проверять эти 6 миллионов строк на Lean? Нейронки уже ловили на том что они «доказывали» таким способом вовсе не то что от них требовалось.

Lrrr ★★★★★
()
Ответ на: комментарий от AndreyKl

А это значительно дешевле, значит программистов надо будет сильно меньше.

Не обязательно. Это значит, что решение связанных с программированием задач будет дешевле, больше этих задач станет экономически целесообразно решать.

altwazar ★★★★★
()
Ответ на: комментарий от AndreyKl

ФВ - формальная верификация

Так вот что тебя бомбануло. Не знал что есть какие-то инженеры для этого. И да, это нейронками можно полностью отработать. И уже давно, года 4 точно. Как только тесты писать им можно стало доверять. Может просто чем-то более сложными займешься?

slew
()
Ответ на: комментарий от AndreyKl

ты попробуй, запиши что гвоорит заказчик и скорми клоду. даже голосом. и попроси написать спеку. только не плачь, когда результат превзойдёт то что ты делаешь в разы и будет сделан за минуты.

Это прокатит для сайтов визиток. Если нужно хотелку добавить вон в того макаронного монстра, который развивается уже больше 10-ти лет, и это не какой-нибудь открытый нжинкс, нейронки лажают жестко. Пробовали.

slew
()
Ответ на: комментарий от firkax

ФВ решает ровно одну проблему - генерацию справок о том, что твоя прога супер-проверенная и государству срочно надо её приобрести

Это не они сидят по ту сторону, когда у тебя возникает задача «сертифицировать ПО»? Если так, то инженеры ФВ те еще дятлы. Всю дорогу заставляли прогонять софт через жутко глючные системы анализа, и тупо потом по каждому из десятков тысяч ложных срабатываний писать коментарии подавления. Если вместо этого будет более точная нейронка, то я только за. Хотя скорее всего и нейронки будут лажать адово

slew
()
Последнее исправление: slew (всего исправлений: 1)
Ответ на: комментарий от watchcat382

ответ такой на сегодняшний день (у ребят в статье) - спецификацию пишут люди, ИИ сильно помогает в этом, но склонен без человека ослаблять спецификацию если не может доказать. Остальное - автоматически.

Переводя с технического на русский, да, обсуждать требования с заказчиком и выражать их формально - всё ещё нужен человек, но уже ИИ помогает.

Но доказыавются любые свойства , это называется термином «функциональная корректность». Опять же, переводя с технического, это значит что мы можем доказать что: программа всегда делает что должна и никогда не делает того что не должна (т.е. ведёт себя в соотвествии со спецификацией которую мы обсуждали чуть выше, которая проверяется людьми.)

очень хороший вопрос, спасибо.

AndreyKl ★★★★★
() автор топика
Последнее исправление: AndreyKl (всего исправлений: 1)
Ответ на: комментарий от slew

Нет, сертификация делается не так, сертификация это в основном бюрократическая процедура. Хотя возможно справка о наличии ФВ может помочь её ускорить, я не изучал. ФВ, в теории, доказывает что имеющийся код чему-то математически соответствует. Но вот чему именно - надёжно уточнить по факту невозможно, и адепты ФВ этот аспект стараются обходить стороной.

firkax ★★★★★
()
Ответ на: комментарий от Lrrr

все подобные заявления крупных американских корпоратов надо делить на 128

Блин, я как-то привык их заявления всегда делить на 64. Надо попробовать на 128, может даже лучше сработает :)

CrX ★★★★★
()
Ответ на: комментарий от AndreyKl

потому что LLM дешевле

Сходу ошибка. Те антрофики с опенаи, ты их убытки видел? Сейчас пока пытаются снизить ежегодный убыток. О том чтоб вернуть уже потраченные сотни лярдов и в планах нет, а чтоб выйти в прибыль-об этом даже не заикаются. Чтоб перестать генерить убытки (первый пункт), подписки должны стать на пару порядков дороже. И вот уже тут использование нейронок станет нерентабельным для большинства тех, кто ими пользуется. А цены взлетят, аттракцион невиданной щедрости бесконечным не будет. ЗЫ нейронки ужет 50 лет назад могли делать все то, что делают сейчас, просто тогда к ним был подход прагматичный, использовали только тогда, когда прибыль окупала затраты, это ряд ниш, задачи которых не требуют высокой точности (распознование образов), а значит достаточно нейронок с малым количеством параметров и слабо обученные. 10 лет назад в нейронки стали качать реку бабла. И река не бесконечна, в долларовой экономике намечается серьезный шухер.

slew
()
Ответ на: комментарий от firkax

ФВ, в теории, доказывает что имеющийся код чему-то математически соответствует

А это точно возможно доказать для чего-то сложнее хелловрота?

slew
()
Ответ на: комментарий от slew

Учитывая, что связь доказываемой математической модели с реальным ТЗ они обычно опускают, то обычно можно, хоть и долго. Но по той же причине это почти бесполезно. Хотя битьё памяти наверно можно так ловить.

firkax ★★★★★
()
Ответ на: комментарий от firkax

ФВ, в теории, доказывает что имеющийся код чему-то математически соответствует. Но вот чему именно - надёжно уточнить по факту невозможно, и адепты ФВ этот аспект стараются обходить стороной.

Я верил, что в ходе ФВ можно формулировать какие-то гипотезы вида «при работе любого числа потоков в этом коде такая-то структура данных будет в любой момент целостна (тут идёт описание критерия её целостности) и никакой поток не прочитает никаких данных, которые зашли в эту (систему) через другой поток». Ну что-то такое, только выраженное на 4 страницы.

tcpfinhello
()
Ответ на: комментарий от sergej

так что это не лохи, а слегка доверчивые граждане, инвестирующие в экономику в основном сша :)

Инвестировать в экономику-это инвестировать в реальный сектор. Особенность рейгономики-это инвестирование в финпузыри, вместо реального сектора. Это обеcпечивает большую прибыль в циферках. Реальный сектор при этом загибается (что там Трамп с его MAGA?). Пузыри периодически лопаются.

slew
()
Последнее исправление: slew (всего исправлений: 1)
Ответ на: комментарий от tcpfinhello

Ну да, битьё памяти ловить. Только ведь этого недостаточно чтобы заявлять что программа правильно работает.

firkax ★★★★★
()
Ответ на: комментарий от firkax

Ну да, битьё памяти ловить. Только ведь этого недостаточно чтобы заявлять что программа правильно работает.

А там главное не правильно, а безопасно. Нам надо чтобы её не ломали только. Надо признать, что взлом по причине «идея программы была не верной, но работала она корректно» всё-таки маловероятен. Ну серьёзно, это как надо умудриться придумать например шедулер виртуальных изолированных машин, чтобы он не просто исправно шедулил витуалки или изолированные среды между собой, а ещё и платёж по карте провёл куда-то там или рута получил.

Ну типа да, ясное дело что в требованиях могли написать «если пароль от рута длиннее 255, то пустить такого рута не проверяя пароль», но это врядли совсем. И это выловят 5 нейронок, которым README.txt с дизайном системы дадут покритиковать.

Самые-то обиные ошибки как раз не потому, что не так поняли задачу, а потому что с буфером обоссались на ровном месте.

tcpfinhello
()
Последнее исправление: tcpfinhello (всего исправлений: 1)
Ответ на: комментарий от slew

Особенность рейгономики-это инвестирование в финпузыри, вместо реального сектора.

Это популярное заблуждение. В реальности в Рейгономике ставку подняли до 20%, денег никому не давали, минфин США выпускал облигации, т.е. занимал сам деньги с рынка, а бабло это пускал в ВПК вообще. Делались томагавки всякие, бомбы и самолёты и радары. На практике это было просто додавливание СССР войнушкой и всего-то делов. Ещё там налоги на богатых снизили сильно с замыслом, чтобы эти богатые больше станков пилили и больше товаров делали.

tcpfinhello
()
Последнее исправление: tcpfinhello (всего исправлений: 1)
Ответ на: комментарий от watchcat382

И еда для такого количества людей внезапно нашлась.

Стали делать сотни сортов колбасы из туалетной бумаги, и хлеба из каких-то опилок.

slew
()
Ответ на: комментарий от slew

ЗЫ нейронки ужет 50 лет назад могли делать все то, что делают сейчас

Справедливости ради надо отметить, что не могли. Ну то есть математически-идейно могли может быть, да. Переход количества в качество, когда оно смогло заниматься вот этими вот рассуждениями долговременными - это только сегодня было сделано, то есть когда вычислительная моща допёрла до небывалых высот и по 128 гигов памяти наприпаивали прямо на тот же импостер видеочипа, на котором он сам смонтирован…

tcpfinhello
()
Последнее исправление: tcpfinhello (всего исправлений: 1)
Ответ на: комментарий от sabacs

Вы бы поинтересовались чем питался народ, в общей массе, до индустриализации.

Или ели еду, или не ели. В качестве еды могли использовать лопухи, но только в периоды голода. В остальные времена была нормальная еда. А сейчс все время масса людей ест опилки и бумагу

slew
()
Последнее исправление: slew (всего исправлений: 1)
Ответ на: комментарий от sabacs

Нет основная особенность это кредитование конечного спроса.

И стягиваение ликвидности в финпузыри, иначе инфляция

slew
()
Ответ на: комментарий от tcpfinhello

Справедливости ради надо отметить, что не могли.

Не могли потому-что не развивались в нужном направлении, а не развивались потому-что бабла не выделялось на это. Все свистелки и перделки последних 10 лет прикрутили бы и 50 лет назад, там сложного ничего нет вообще, все достаточно примитивно. И железа бы наделали специализированного, и ДЦ настроили, будь тогда та река бабла

slew
()

Белки истерички всё бегают и бегают - аааа мы все умрём. В Индии миллионы программистов по цене сникерса +- сравнимых с ИИ и что всех уволили? Нет. В нулевых была концепция «программирования мышкой», тоже помню была буча, корпы туда миллиарды закапали и вот вот и программисты будут не нужны и что всех уволили? Уже никто и не помнит. Расслабте булки - ещё никого не уволили, а белки все глотки порвали от напряги.

vtVitus ★★★★★
()
Последнее исправление: vtVitus (всего исправлений: 2)

Я думаю вы слишком идеализируете возможности ИИ, это раз.

А два, всегда найдётся сотни причин ИИ не использовать где-либо: от экономических, до простого «не хотим».

unDEFER ★★★★★
()
Ответ на: комментарий от unDEFER

Ты знаешь что произошло с сельским хозяйством? Всего лет 100 назад в сельском хозяйстве было занято от 75% до 85% населени. А сейчас вразвитых странах от 1% до 5%.

Всегда найдется причина заняться сельским хозяством. Но максимум - как хобби. И это будет очень дорого. Дороже в итоге, чем купить готовое.

LightDiver ★★★★★
()
Ответ на: комментарий от LightDiver

«С изобретением автомобиля конокрадство практически прекратилось» (с)

tcpfinhello
()
Ответ на: комментарий от unDEFER

Ну… Да.. 13 лет назад я занялся сельским хозяством. Спойлер: не нужно так делать.

3,5 года назад я одумался и занялся делом - программированием. Сполйер: не нужно так делать.

LightDiver ★★★★★
()
Ответ на: комментарий от unDEFER

При всём нежелании терять работу из-за ИИ, признаю что это просто чудовищно прекрасная штука. Мощ этой штуки небывало-феноменальная: одним жирненьким качественно составленным промптом я за полчаса сейчас создаю полноценную гитхаб-репу с неплохой и нужной мне софтиной. За 4 отдельных вечера, каждый раз в течении минут 30, таким макаром были сделаны:

  1. Golang GUI софтина пуляющая в USB LTE-модем AT-команды, парсящая результат и рисующая несколько график характеристик «качества сигнала» по мнению этого модема. Софтина вроде мелкая, тупая, но сам бы я её пилил фиг знает сколько вечеров, будем честны. Смысл софтины в пулянии этой AT-команды каждую секунду, накоплении результатов в виде красивых графиков.

  2. Golang консольная софтина для проламывания proof-of-work антибот-защиты входа на один из интернет-форумов. Надо просто пойти на сайт, что-то там скачать, выпарсить «челлендж», переписать JS-алгоритм на golang, запустить его, покрутить nonce-число, получить правильный хеш, заслать обратно, получить редирект на правильную страницу. Бред какой-то, руками бы я это никогда не сделал - лень просто этим заниматься, а здесь «почему бы и нет».

  3. Google Chrome плагин, видоизменяющий на другом веб-форуме форму ввода так, что вместо аттача файла с диска я вижу в этом же интерфейсе MS Paint на минималках, в котором карандашиком рисую картинку и жму одну кнопку, картинка улетает как .jpeg аттач в форме ввода.

  4. Java-заготовка простейшего мобильного приложения для Android, которое компиляется целиком в консоли и рисует примитивный интерфейс из 3 кнопок и что-то там посылает по HTTP куда-то по нажатию этих кнопок и рисует зелёные или красные лампочки в зависимости от результата.

Каждый пункт - это полноценная гитхаб репа с хорошо оформленным кодом, с комментами и написанным README.md

Нафиг всё это нужно? Это можно всё было не делать и жить прекрасно. Но сама возможность просто чудовищно мощна.

tcpfinhello
()
Последнее исправление: tcpfinhello (всего исправлений: 1)
Ответ на: комментарий от LightDiver

А сейчас вразвитых странах от 1% до 5%

А теперь поищи где те «развитые» страны продовольствие покупают, и сколько населения задействовано там. ЗЫ вырос в одной стране, где и сейчас СХ-основная отрасль для большинства населения. Одна из бывших республик СССР

slew
()
Ответ на: комментарий от tcpfinhello

Я тут за две недели через ИИшку сделал вполе рабочий аналог дискорда года 2012 - тогда еще даже язык для написания в глаза не видел. Правда потом пришлось все еще год переписывать и до сих пор переписываю и дописываю, но результат впечатляет.

LightDiver ★★★★★
()
Ответ на: комментарий от sabacs

Грубый хлеб, дроблённое зерно

Вот согласен это есть вместо того хлеба из опилок, которые в супермаркетах продают. Можно найти хороший хлеб, но жить поблизости с такими местами-это уже везение. А так к ним не наездишься

slew
()
Ответ на: комментарий от AndreyKl

Но доказыавются любые свойства , это называется термином «функциональная корректность». Опять же, переводя с технического, это значит что мы можем доказать что: программа всегда делает что должна и никогда не делает того что не должна (т.е. ведёт себя в соотвествии со спецификацией которую мы обсуждали чуть выше, которая проверяется людьми.)

Проблему останова уже решили? Те же самые ШГ, сервер не завис и всё такое

ratvier ★★
()
Ответ на: комментарий от slew

Не шибко то и импортируют к слову и далеко не все. Торгутю сейчас все со всеми - это норма. В тех же США общая доля импорта 15-25% максимум. По каким то пунктам много, по каким то вообще нет.

Даже если брать саме хреновые страны, общая доля в сельском хозяйстве по минру упала процентов до 20-25. С 75-80 100-150 лет назад.

Деже в СССР в 1928 году в пик коллективизации было 80% населения в сельском хозяйства уже к 1940 50%, а к 1990 13%.

Сельское хозяство убыточное и дотационное. Я хз какая жопа должна быть в стране, чтобы ни чем другим заниматься выгоднее не было. Или за это платят или выхода нет.

LightDiver ★★★★★
()
Вы не можете добавлять комментарии в эту тему: только для зарегистрированных, score>=50.