LINUX.ORG.RU

Коммодитизация ИИ уже?

 


0

1

Интеллект базовых моделей быстро превращается в «электричество» — дешёвый товар с низкой добавленной стоимостью (commodity). Когда разница между закрытой моделью за $20/1M токенов и открытой моделью за $0.10/1M токенов становится минимальной никакие меры по закрытию и ограничению доступа к моделям не работают.

Ваша оценка – комодизация уже произошла (война резко упавших цен доступа) или это все «временные трудности»?

★★★★★
Ответ на: комментарий от Lordwind

Харэ галюцинировать уже. Все эти модели на одних и тех же данных обучают. Разница только в точности апроксимации, которая зависит от кол-ва весов.

Разверни локально любую модель на несколько лярдов и сравни с коммерческими.

Вот-вот. Это как трёхколёсный велосипедик с самосвалом сравнить.

yvv1 ★★
()
Ответ на: комментарий от yvv1

Не совсем верно.

Во-первых, отличается дата cut off.

Во-вторых, за недостатком человеческих данных модели обучают в том числе на выводе предыдущих версий (размеченные по реакциям пользователя или ещё каким-то критериям). В первую очередь своих, так как на чужих надо платить деньги и нарушать ToS.

Соответственно, качество модели зависит в том числе от того какое качество прошлых моделей у её производителя.

KivApple ★★★★★
()
Ответ на: комментарий от KivApple

Во-первых, отличается дата cut off.

Ну это же не надолго. В моменте да, есть какой-то разброс в данных, но они постоянно догоняют и перегоняют друг дружку. И дешёвые и дорогие модели в одинаковых условиях в этом смысле.

Во-вторых, за недостатком человеческих данных модели обучают в том числе на выводе предыдущих версий (размеченные по реакциям пользователя или ещё каким-то критериям). В первую очередь своих, так как на чужих надо платить деньги и нарушать ToS.

Опять же, этим занимаются одинаково и дешёвые и дорогие модели. Мы же изначально речь ведём про отличие дешёвых от дорогих, правильно? Я утверждаю, что оно несущественно для практического применения. Существенно отличие больших и маленьких моделей.

yvv1 ★★
()

Я начал замечать, что частое использование LLM уменьшает когнитивные способности. Вот реально. Уменьшает способность к концентрации особенно. Я думаю её можно использовать максимум 5-10 минут в день, не больше.

LLM в качестве личного ассистента тоже не особо. Вместо того, чтобы помогать, она только тратит время. Я в принципе и раньше мог запоминать встречи, но теперь голова начинает лениться и когда напоминалка срабатывает, мне надо время вспомнить чо там вообще было. Потому что башка в ложной надежде на то, что ассистент всё сделает вообще стёрла весь контекст.

Короче, это всё действует явно не на пользу мозгам. Хотя казалось бы!

anonymous
()
Ответ на: комментарий от yvv1

Это как трёхколёсный велосипедик с самосвалом сравнить

Мощность, число параметров, глубина ветвлений и т.п. это лишь потенциал, который модель может развить. Связать одно с другим, сделать выводы, найти причину, отличить от следствия. Но данные для обучения это та база, которая либо раскрывает потенциал, либо нет. Я достаточно насмотрелся на одинаковые по числу параметров модели в достаточно сложных условиях. Например не просто сложный код, а связанный с интеграциями, аналитикой, сторонними библиотеками, контрактами в разных местах и т.п. Чтобы агент мог сделать практические выводы о том, что есть баг, а что фича, модель должна быть обучена на соизмеримых по сложности данных, сами данные нужно валидировать, для этого подключаются люди, либо еще более специализированные модели-судьи. Бигтехи могут себе позволить опенсорсные модели, поскольку обучают в основном на внутренних ресурсах, поэтому и создается обманчивое впечатление, что так работают все дешевые модели. Но нет, ты явно не понимаешь как работают LLM, поэтому разговор можно считать исчерпанным.

Lordwind ★★★★★
()
Ответ на: комментарий от anonymous

Существовать можно без бензина и электричества. У меня вот машины нет, и свет выключали на пару дней. Не умер, как видишь.

А так всё очень просто — когда ИИ будет встроен в инфраструктуру городов, машин и так далее. Т.е. лет через 15-20.

peregrine ★★★★★
()
Ответ на: комментарий от LightDiver

Не. То правило всё ещё работает и будет работать до 2040 года примерно, даже если ничего нового не изобретут. С 2005 (когда закон мура перестал работать) формула просто стала другая: до этого дешевело в 2 раза за 2 года. Но один фиг экспонента как была так и осталась.

peregrine ★★★★★
()
Ответ на: комментарий от BruteForce

Ты это студентам расскажи. И дворнику Васе. А теперь дворник Вася может заменить джуна. А сантехник Женя (более трудолюбивый и дисциплинированный, чем Вася), вместе со школьной учительницей математики Марь Иванной с помощью ИИ могут спокойно заменть мидла без ИИ. И поверь, ЗП у мидла была больше чем у Марь Иванны и Жени вмесе с Васей + токены для всей троицы. В этой схеме джун уходит плакать на улицу, а мидл получает половину своей старой ЗП и тоже работает с ИИ, решая тот объём задач, который раньше решали 3 мидла и 2 джуна.

peregrine ★★★★★
()
Последнее исправление: peregrine (всего исправлений: 1)
Ответ на: комментарий от anonymous

Ты не то у ИИ спрашиваешь. Я сначала спрашиваю как можно что-то сделать и какие за и против. Иногда ИИ умнее меня оказывается, потому что занает куда больше фреймворков, библиотек и архитектур софта (как и подходов из других ЯП). Сейчас ИМХО если делать очень качественно (а не быстро), принимать решения пока выгоднее тебе. Но помочь взвесить решения он ещё как может. Кстати, это экономит кучу времени, чтоб не изобретать велосипедов.

peregrine ★★★★★
()
Последнее исправление: peregrine (всего исправлений: 1)

В целом считаю что да. Случилась своего рода коммодизация. Не вижу особой разницы между фронтир моделями Anthropic и OpenAI. Мои задачи они закрывают хорошо. Китайские фронтир модели чуть похуже (по моим ощущениям), но именно что «чуть», а не на порядки как это было еще полгода-год назад. Пользуюсь подпиской на Codex за 20$ для личных нужд, на работе тоже корпоративная подписка OpenAI есть. Заменить на Claude Code или на что-то китайское вероятно проблем не будет совсем.

Мне кажется что разработка новых моделей ИИ это довольно низкомаржинальный бизнес сегодня. Моделей много разных и все они для конечного пользователя уже кажутся одинаковыми. Как минимум у меня больше нет ощущения что условные модели Антропика на голову выше всех остальных. Это ощущение ушло, хотя было у меня под конец 2025 года.

anonymous
()
Ответ на: комментарий от peregrine

А зачем васю или женю без образования нанимать? Он же полностью бесполезный будет как работник. В том смысле что он ничего сам не поймет что ему ИИ расскажет. Он просто будет в YOLO режиме принимать бездумно все изменения что ему ИИ будет давать. И аппрувить все действия ИИ. Нужен ли такой сотрудник? Очевидно что нет, это самая бесполезная должность которую только можно себе представить.

В таком случае выгоднее вообще не нанимать женю или васю или марь иванну, а просто в полностью автономном режиме все делать агентами.

А студентам, конечно, полная задница. Математика, мехмат, прикладная математика, компьютер саенс, программная инженерия, информатика, вычислительная техника - самые бесполезные специальности сегодня. Что-то типа филологии, только учеба (как минимум экзамены и зачеты) кратно сложнее.

anonymous
()
Ответ на: комментарий от anonymous

А зачем васю или женю без образования нанимать? Он же полностью бесполезный будет как работник. В том смысле что он ничего сам не поймет что ему ИИ расскажет.

Им можно платить сильно меньше, да и понимание требуется на уровне школьника, главное требовать с ИИ чтоб он правильно разжёвывал упрямо до состояния понимания. Да, это не так быстро как сказать агентам сделай всё как надо. Но, к примеру, я у которого были только теоретические и скудные знания в области создания сайтов (я ни разу не веб разработчик, а вот с БД работал, да) нахожу даже в тупом бесплатном чатике отличный источник информации о том, как принято что-то делать в вебе. Понятно что врёт иногда, понятно что не всегда пишет правильно, например, из коробки вместо id BIGINT GENERATED ALWAYS AS IDENTITY PRIMARY KEY, предлагал делать id BIGSERIAL PRIMARY KEY, услышав что СУБД postgreesql. Просто сейчас ИРЛ можно посадить макаку за комп, которая будет тупо по строчке спрашивать у чатика каждую строчку в коде и, если человек хоть мало-мальски обучаем, то через годик он спокойно будет разбираться в совершенно незнакомой для себя технологии.

peregrine ★★★★★
()
Последнее исправление: peregrine (всего исправлений: 3)
Ответ на: комментарий от peregrine

Просто сейчас ИРЛ можно посадить макаку за комп, которая будет тупо по строчке спрашивать у чатика каждую строчку в коде и, если человек хоть мало-мальски обучаем, то через годик он спокойно будет разбираться в совершенно незнакомой для себя технологии.

Но куда более вероятно, что через годик вы также будете иметь макаку за компом, спрашивающую каждую строчку. Если вы хотите получить мало-мальски разбирающегося, вам нужно изначально садить не совсем макаку.

VIT ★★★
()
Ответ на: комментарий от peregrine

Так проще студента за еду тогда нанять. Это вообще не проблема сегодня. Студенты CS/математических направлений не вымерли (пока что), можно их нанимать буквально за МРОТ работать. Рандомный васек в этой схеме вообще не нужен, когда есть человек с профильным образованием готовый работать за тот же прайс.

anonymous
()
Ответ на: комментарий от anonymous

Можно. Но как думаешь, сколько бывших студентов CS сейчас работают не по специальности, просто потому что не нашли работу по профилю или потеряли её? Я по своим магистрам сужу — примерно половина не по профилю работает, некоторые по МРОТ.

peregrine ★★★★★
()
Ответ на: комментарий от peregrine

Зависит от вуза. Очевидно что в каком-нибудь МФТИ, ВШЭ и ноунейм областном техническом университете ситуация будет заметно различаться.

Но ваши слова только подтверждают выше сказанное - на рынке труда полным полно людей с профильным образованием и готовых работать. Нет смысла брать рандомного васю без какого-либо бекграунда, когда на его место несколько десятков голодных и безработных выпускников CS направлений есть.

anonymous
()
Ответ на: комментарий от anonymous

Очевидно что в каком-нибудь МФТИ, ВШЭ и ноунейм областном техническом университете ситуация будет заметно различаться

Очевидно что нет. Потому что в реальности уровень МФТИ, ВШЭ и ноунейм ВУЗ-а одинаков (в рамках одного региона). Разница только в том, что в первых можно встретить студентов со связями, через которых будет проще устроиться. Говорю как тот, кто учился в ноунейм ВУЗ-е и преподавал потом в этих ваших МФТИ, ВШЭ и иже с ними, которые считаются крутыми. А зачастую преподы в ноунейм и не ноунейм вообще одни и те же, т.к. на ЗП препода не разгуляешься, а если ведёшь узкую дисциплину в которой разбираешься, то будешь бегать по куче ВУЗ-ов. В понедельник в одном, во вторник в другом…

ЗЫ

Агрумент о том, что а вот в таком-то ВУЗ-е много победителей в таком-то конкурсе, на самом деле не так страшен и крут, когда узнаёшь, что в ВУЗ-е победителе на такой специальности 1 000 человек, а у ноунейм по 30-60. В первом просто было из кого набирать участников. Работодателю правда от этого не легче.

peregrine ★★★★★
()
Последнее исправление: peregrine (всего исправлений: 4)
Ответ на: комментарий от peregrine

В МФТИ и ВШЭ качество абитуриентов кратно выше, кратно больше мотивированных людей, у самих вузов больше связей с корпорациями итд итп. Какой-нибудь МТУСИ или МИЭТ уже на порядки хуже будут.

А если вне региона смотреть, то условный Братский государственный университет банально не имеет ничего того, что я перечислил выше, как и нет какого-либо рынка труда для выпускников в городе, где этот университет расположен.

anonymous
()
Ответ на: комментарий от peregrine

Я по своим магистрам сужу — примерно половина не по профилю работает, некоторые по МРОТ

Чем ваши выпускники занимаются, что они МРОТ получают? В школах учителями работают?

anonymous
()
Ответ на: комментарий от anonymous

Качество абитуриентов выравнивается на первой сессии. У меня, например, было выгнано 30% абитуриентов, после чего качество стало таким, что из оставшихся половина КФМН (которое получали уже в серьёзных ВУЗ-ах). Люди сейчас скорее демотивированные.

нет какого-либо рынка труда для выпускников в городе

А это уже проблема того что вся работа в одном городе. И мы все знаем в каком.

peregrine ★★★★★
()
Последнее исправление: peregrine (всего исправлений: 2)
Ответ на: комментарий от peregrine

Ну хз, я когда учился, то смотрел на экзаменационные вопросы у физтехов, мгушников, а потом на то, что спрашивали в моем вузе и в вузах эшелоном ниже. У меня например были гораздо более простые вопросы по матану, линалу, алгоритмам чем у физтехов.

Так что я не уверен что прям после первого курса у всех уровень выравнивается. В топ вузах банально программа гораздо более нагруженная с большим погружением в детали, когда как в условном мтуси или мирэа могут давать довольно поверхностную математику (для примера).

А стать кандидатом наук это отдельная история, которая не сильно связана с успеваемостью на первых курсах. Важен научник и его адекватность, наличие диссовета в месте где в аспирантуре учишься, само желание писать диссер и статьи в журналы ВАК, а потом еще заниматься огромной бюрократической работой чтобы допуститься к защите.

К слову, мест в аспирантурах сейчас немного, и большая часть аспирантов до защиты не доходит. У меня в вузе например из моего набора в ~100 человек на первый курс бакалавриата до кандидатской степени дошел только один человек. А всего в аспирантуре было что-то порядка 3-4 бюджетных мест на моей кафедре.

anonymous
()
Ответ на: комментарий от byko3y

программистов, админов, химиков, физиков, медиков на ставку порядка 50-70$/час

Я не в курсе зарплат химиков-физиков, но я не знаю ни одного админа, программиста, и тем более медика, который бы за эти деньги встал и пошёл что-то делать. Нанимают, возможно, джунов и «опытных джунов» (миддлов). Но зачем это делать, если условный Fable 5.1 напишет пример поэтапного решения задач «пятидесятибаксового» уровня за ~ $10…$15/h? А для более сложных задач всё равно без сеньора никак, и не потому что сложно, а потому что это сложное на митингах формируется, и никакой ИИ за тебя на эти рожи смотреть не будет ни за какие деньги.

anonymous
()

Коммодизация произошла ровно в тот день, когда любой человек на этой планете получил возможность оплатить доступ к ИИ своей кредитной картой. Дальше будет только race to the bottom. В ИТ вообще всё заканчивается race to the bottom.

Программисты были элитой на острие прогресса в 70е, в 90е любой бизнес мог нанять себе собственных программистов, в 2000е любой человек со сравнительно небольшими деньгами мог нанять галеру программистов исполнять его желания, в 2010е нанять фрилансера мог буквально любой у кого есть пульс и кредитная карта, в 2026 программистов «снизу» начал поджирать ИИ, скинув цену за час работы ниже минимальной ставки оплаты труда.

Персональные компьютеры и доступ к сети: дорогая игрушка, бизнес-необходимость, потом в каждом доме, потом у каждого домочадца, теперь вообще в каждом кармане лежит. У людей в иных странах туалетов нет, но есть смартфон с доступом в интернет. Не иметь компьютер в том или ином виде можно только если старательно этого избегать.

Сервера-датацентры-прочая инфраструктура: DARPA, мейнфреймы, километровые счета за модемные звонки в другой штат. Потом датацентры были только у богатых бизнесов, а доступ к интерконнекту был для избранных, даже если у тебя есть деньги, ещё не значит что они твои деньги хотят. ISDN, ADSL, оптика в каждый дом. Аренда серверов, VPS за доллар в месяц, облака с посекундной тарификацией и тарифами в доли цента на то, что когда-то было доступно только в мечтах, всё это на гигабит+ скоростях.

С ИИ будет та же история, можешь скринить.

Софт, кстати, как был в семидесятых «ок на 80%, с остальным либо смириться, либо допилить самому», так и остался. И вот этому феномену никакого разумного объяснения нет.

anonymous
()
Ответ на: комментарий от anonymous

Эта проблема исключительно в тебе. У меня ИИ взял на себя значительную часть рутины. Например, я больше не пишу отчёты, вместо этого я написал инструкции как эти отчёты правильно собрать: скрипт на питоне для сбора данных с источников, и простой промпт для анализа. Теперь у меня есть время качественно написать то, во что будут вчитываться адресаты отчётов – введение, выводы, рекомендации. Есть время собраться с мыслями и вместо кода (который я никогда не любил писать, прямо до отвращения) заняться детальным описанием системы, которую мы строим: что именно она должна и не должна делать, и как это помогает бизнесу. Есть время заняться формализацией процессов, а у тех, кому я эти процессы потом передам, есть время на обсуждение, вычитку черновиков и внесение правок. В конце концов, стало больше времени на детей. Пока Claude Code пыхтит, можно побыть отцом в светлое время суток. А это знаешь ли довольно долгое время было исключительно прерогативой богатых людей.

anonymous
()
Ответ на: комментарий от anonymous

И вот этому феномену никакого разумного объяснения нет.

Вы наверное в софтовой разработке не участвовали буквально никогда. Иначе невозможно обьяснить почему вы этого не понимаете.

Обьяснение «простое» - 1 требования мало того что у людей разные, они у комбинаций(!) людей разные… и еще в разное время разные. 2 другое правило 20/80. То есть что бы какую нибудь фичу реализовать идеально нужно потратить не 20% времени а 20+еще 80. 3 а еще эти формализованые требования нужно из мычащего потребителя (каковым является буквально любой человек) извлеч.

anonymous
()
Ответ на: комментарий от anonymous

Вы наверное в софтовой разработке не участвовали буквально никогда.

Всего лишь 25 лет занимаюсь этим.

Обьяснение «простое»

Это не объяснение, это набор штампов. Требования – если мы говорим о работае, а не о перманентном перепиливании конфигов и постинге на r/unixporn – как раз весьма и весьма схожи, и это видно очень хорошо в том числе из телеметрии и фидбека от платящих пользователей. А т.н. закон Парето в принципе ничего не объясняет, это эмпирическое наблюдение, которое делает вид что работает ровно до тех пор, пока не начнёшь задаваться вопросом о том, что конкретно составляет 20%, и что конкретно 80%.

anonymous
()
Ответ на: комментарий от peregrine

А теперь дворник Вася может заменить джуна. А сантехник Женя (более трудолюбивый и дисциплинированный, чем Вася), вместе со школьной учительницей математики Марь Иванной с помощью ИИ могут спокойно заменть мидла без ИИ.

Видимо поэтому участились отказы у крупных компаний вроде github, amazon, …

Все эти мечты больно разбиваются о реальность. Я делал ресерч с помощью ИИшки и утонул в количестве слов. Я пробовал заходить с разных сторон, и начинал заново. Попадет в контекст какая-нибудь гипотеза и ушли в сторону и не вернулись. Нагенерит кучу бесполезного.

Причем еще Claude использует кучу мусорных терминов и его даже по русски читать больно. Приходилось подключать другие модели, чтобы как-то этот словесный понос причесывать.

И я не один такой. Слышал такое от коллег. Более-менее сложная задача, нестандартный случай и результат очень такой себе. Для неспециалиста это выглядит все круто и непонятно. Специалист хватается за голову и не знает с какого конца начать это расчесывать в приемлемый вид.

Когда надо делать более менее стандартную задачу и есть куча отличных примеров в существующей кодовой базе, тут ИИшка блещет безусловно.

qaqa ★★
()
Последнее исправление: qaqa (всего исправлений: 1)
Ответ на: комментарий от qaqa

Когда надо делать более менее стандартную задачу и есть куча отличных примеров в существующей кодовой базе

А что, условный сайт/андроид приложение клепать (на секундочку пожалуй самое распространённое занятие программистов поди ещё и больше всего вакансий держало) это не стандартная задача, заезженная до дыр?

peregrine ★★★★★
()
Ответ на: комментарий от peregrine

условный сайт/андроид приложение

Если это не нечто одноразовое, то все равно надо иметь некоторую основу с примерами хорошего кода и ещё понимание почему эти примеры хорошие. Если доверить нейронке проект с нуля, там 100 процентов будет жесть.

qaqa ★★
()
Ответ на: комментарий от qaqa

Причем еще Claude использует кучу мусорных терминов и его даже по русски читать больно.

Вы используете Claude на русском языке? Это очень сильно ухудшает качество работы модели.

VIT ★★★
()
Ответ на: комментарий от psv1967

Увы найти человека способного учится (а описан именно такой) крайне трудно.

способного учится

Да.

slackwarrior ★★★★★
()
Ответ на: комментарий от VIT

Вы используете Claude на русском языке?

На самом деле неважно. Он на любом языке такой. Жалуются даже англоязычные.

https://www.reddit.com/r/ClaudeAI/comments/1urq8fv/opus_48_is_a_pain_in_the_a_to_read_and_to_work/

https://www.reddit.com/r/ClaudeCode/comments/1vtfib0/the_claude_language_calibration_issue_on_github/

https://www.reddit.com/r/ClaudeCode/comments/1vzi6wp/opus_5_is_insufferable/

qaqa ★★
()
Последнее исправление: qaqa (всего исправлений: 1)
Ответ на: комментарий от qaqa

Вы используете Claude на русском языке?

На самом деле неважно.

Зависит от цели использования, но язык важен. 85% текста для обучения является англоязычным.

VIT ★★★
()
  • Markdown
Пустая строка (два раза Enter) начинает новый абзац. Знак '>' в начале абзаца выделяет абзац курсивом цитирования.
Внимание: прочитайте описание разметки Markdown.
Используйте Ctrl-Enter для размещения комментария