LINUX.ORG.RU

С бесплатными ИИ что-то случилось?

 


0

2

За последнюю неделю замечаю, что резко поглупели бесплатные иишечки, доходит до того, что они даже из готового документа не могут вытащить таблицу без дополнительных пинков. С платными такого нет. Злые корпорации я еще могу понять, но дипсик-то почему? Спрашиваю, не отменен ли определенный закон, а он отвечает, что у него нет списка отмененных законов хазяина дай пажалуста. На питочнике пишет совершенно дебильнейший код, картинки скатились года на три назад и все такое.

★★★★
Ответ на: комментарий от AntonyRF

Спроси qwen дать таблицу топ 10 озёр или островов в порядке убывания, очень удивишься. Gemma 4 справляется лучше.

anonymous
()
Ответ на: комментарий от anonymous

Спроси qwen дать таблицу топ 10 озёр или островов в порядке убывания, очень удивишься. Gemma 4 справляется лучше.

Вот что получилось на a3b: link, вроде даже верно

Сначала получил список из данных модели, потом попросил сделать поиск в интернете. Но у меня q6 квантизация, как мне показалось a3b лучше работает на q6, чем на q4.

AntonyRF ★★★★
()
Последнее исправление: AntonyRF (всего исправлений: 1)
Ответ на: комментарий от CrX

Алису не щупали?

А это уже экстремизьм!

Не экстремизм, а сексуальное домогательство

Qwentor ★★★★★
()
Ответ на: комментарий от VIT

Закон Мура эмпирических законов

«Закон Мура» - это не закон, а экономическая стратегия, чтобы не было бума. Искусственное сдерживание развития монополистом (был в те времена когда глава монополиста придумал этот «закон»)

anonymous
()
Ответ на: комментарий от anonymous

Я вот слабо представляю, как из условного 32-го тех процесса прыгнуть сразу в 5-й. Оно только из интеренете видится, что это легко. Потому закон отражал скорость развития производства чипов.

bbc69
()

Кожаные мешки уже разучились сами думать. Хорошо. Скоро можно совсем закручивать гайки. Почему я не пошёл в разработчики ИИ? Сейчас бы сидел с трилиардом баксов в качестве тумбочки под ноги…

PcheloBiaka
()
Ответ на: комментарий от bbc69

Революция всегда происходит не по плану, и меняет доминирующую сторону. Монополисту это надо? Потому лучше придерживаться эволюционных стратегий, например, «закон Мура». И всячески щемить революционеров. Большую инертную массу нежелательно резко изменять траекторию, может взорваться. Ынтерпрайз.

anonymous
()
Ответ на: комментарий от anonymous

всегда ... не по плану

Сначала всё идёт по плану, а потом - да - катастрофа и может внезапно пожирать своих создателей.

novus ★★
()
Ответ на: комментарий от bbc69

Производство меняется, технология производста не меняется. Пока есть технология, позволяющая придерживаться определенной стратегии (закон предпринимателя[!] Гордона Мура), незачем менять технологию. В итоге имеем нематериковокитайскую микроэлектронику.

anonymous
()
Ответ на: комментарий от anonymous

Есть ещё одна стратегия и именно она применяется в последние пятьдесят лет. Лидер рынка усиленно скупает потенциальных конкурентов и при наличии критической массы новой технологии сам делает смену, тем самым оставаясь лидером. Примеры? Компании производства энергии по случайному совпадению GE и Westinghouse. Компании по производству электрических машин - Chevrolet и Toyota, компании по связи AT&T и Verizon … Термоядерный реактор для грид внезапно строит ComEd.

Допускаю, что людям не живущим в США названия мало что говорят. Придётся поверить на слово или искать подтверждение самостоятельно - это лидеры в своих отраслях. Они очевидным образом предотвращают революции и подрывают смену лидерства.

VIT ★★★
()
Ответ на: комментарий от anonymous

Пока есть технология, позволяющая придерживаться определенной стратегии (закон предпринимателя[!] Гордона Мура), незачем менять технологию.

Конкретно про Мура пример не в кассу. По-твоему, он в 1965-м еще году его сформулировал, с уточнением через 10 лет, чтобы доить технологии?

praseodim ★★★★★
()
Ответ на: комментарий от VIT

Компании по производству электрических машин - Chevrolet и Toyota

тащемта CATL & BYD, остальное шильдики и маржа.

etwrq ★★★★★
()
Ответ на: комментарий от etwrq

Зачем? Я же сам водитель, что же я, не вижу, что на дороге делается?

Есть интернет, а есть здравый смысл.

VIT ★★★
()
Ответ на: комментарий от VIT

Contemporary Amperex Technology[CATL] имеет совместные предприятия с компаниями SAIC Motor, Dongfeng и GAC Group. Другими крупнейшими клиентами CATL являются компании BMW, Volkswagen, Daimler, Groupe PSA, Renault, Ford, Tesla, Hyundai Motor, Toyota, Honda, Brilliance, BAIC Group, Foton Motor, Geely Automobile, NIO, XPeng, Yutong, King Long и Zhongtong Bus

https://ru.wikipedia.org/wiki/Contemporary_Amperex_Technology
катлы батарейки делают тяговые, BYD +к батарейкам делают OEM решения, +soc,EE,charging infrastructure.

etwrq ★★★★★
()
Ответ на: комментарий от VIT

да. -налоги(зелёнка, электрика, -местные рабочие), +маржа(бренд, Китай пока дешёво).
так что я бы оценил при равной электротехнлогической базе, условный ноунейм за 8-10к$ и Феррари за 1М как 1:10, с учётом софта и лимитов.
так что если на сервисе увидите CATL/BYD батарейку, знайте на вас элементарно заработали более 30к$, без уплаты налогов.
+они ещё внедрили {GIT,Dev}ops в контексте выпускаемых линеек.
редко какой субвендор доживает до EOS/EOL с наличием запчастей.

etwrq ★★★★★
()
Последнее исправление: etwrq (всего исправлений: 1)
Ответ на: комментарий от praseodim

65 и 75 годах сделал наблюдение, и сделал экстраполяцию по двум точкам применительно к одному типу микросхем - cpu x86. Где другие технологии и производства: arm, misc, микроконтроллеры, gpu, и прочие транзисторосодержащие кристаллы.

Этот «закон» - стратегия развития конкретной фирмы-монополиста.

anonymous
()
Ответ на: комментарий от bbc69

для нейронок действует закон Паретто

Скорее уж закон Вирта - «программы становятся медленнее куда быстрее, чем компьютеры становятся быстрее»

devl547 ★★★★★
()
Ответ на: комментарий от devl547

Особенно если их писать на js.

anonymous
()
Ответ на: комментарий от devl547

Имел в виду другое: Чтобы увеличить (например) контекстное окно вдвое, надо затратить в 10 раз больше электричества.

bbc69
()
Ответ на: комментарий от devl547

Я знаю, что можно выйти со своим списком любимых компаний или опровергнуть лидерство моих. Это не интересно и никому не нужно, если не сказать тривиально. К тому же в разных местах Земли лидеры разные, и я на это указал.

Суть моего сообщения намного глубже, чем перечисление лидеров. Напомню:

Лидер рынка усиленно скупает потенциальных конкурентов и при наличии критической массы новой технологии сам делает смену, тем самым оставаясь лидером.

Если есть, что сказать по существу, милости прошу. А перечислять своих любимых лидеров бессмысленно.

VIT ★★★
()
Ответ на: комментарий от anonymous

Этот «закон» - стратегия развития конкретной фирмы-монополиста.

В 65-м году фирмы Intel еще не существовало, далее она монополистом была только на рынке x86-х процессоров и то не совсем.

praseodim ★★★★★
()
Ответ на: комментарий от praseodim

В 65, по экстраполяции по одной точке, «закон» звучал по другому.

В 75 пришлось корректировать как предпринимателю (бизнес план для инвесторов).

Хорошо бы посмотреть на «количество транзисторов на кристалле» для мейнфреймов (sparc, power и тр), игровых приставок, макинтошей особенно при смене поставщика cpu, dsp процессоры и прочее.

anonymous
()
Ответ на: комментарий от AntonyRF

достаточно умное на уровне sonnet

Попробавших Fable 5 и GPT Sol предлагаешь сразу на костер за завышенные ожидания?

pekmop1024 ★★★★★
()

Там вон вышла https://github.com/JustVugg/colibri/releases/tag/v1.0.0.
https://github.com/JustVugg/colibri:

Run GLM-5.2 (744B MoE) on a 25GB-RAM consumer machine — pure C, zero deps, experts streamed from disk. Tiny engine, immense model.

Tiny engine, immense model. Run GLM-5.2 (744B-parameter MoE) on a consumer machine with ~25 GB of RAM — in pure C, with zero dependencies, by streaming experts from disk.

Colibrì is a lightweight, quality-preserving MoE runtime that treats VRAM, RAM, and storage as one managed memory hierarchy. Insufficient fast memory may reduce speed, but the default policy never silently changes model precision or router semantics.

Пилите новость, кому интересно. :)

dataman ★★★★★
()
Ответ на: комментарий от anonymous

Хорошо бы посмотреть на «количество транзисторов на кристалле» для мейнфреймов (sparc, power и тр), игровых приставок, макинтошей особенно при смене поставщика cpu, dsp процессоры и прочее.

Если и следует смотреть, то на плотность, а не количество. Плотность определяется только технологическими возможностями, а вот количество включает в себя очень большую маркетингую составляющую. AMD и Cerebras используют одновременно одну и ту же фабрику TSMC. При этом Cerebras делает один чип на пластину, а AMD - 125. И что?

VIT ★★★
()

А чего, Grok никто не юзает? Он самый толковый.

Byers
()
Ответ на: комментарий от anonymous_sama

Ну можешь сравнить кстати с duck.ai. А так по чатику Клод пока вне конкуренции.

einhander ★★★★★
()
Ответ на: комментарий от dataman

Новость перехайплена, да модель в 25 Гб озу поместится, но даже на 4х5090 выдает несчастные 3t/s. А на типичной машине лоровца будет 0,03t/s.

einhander ★★★★★
()
Ответ на: комментарий от etwrq

Джуны не нужны с Google Jules. Теперь окончательно.

lovesan ★★☆
()

Недавно зашёл на интернет и увидел там Duck AI. И подумал, а не duck ли его, этот аи? (с опечаткой)

ant1
()
Ответ на: комментарий от PcheloBiaka

Ну так не поздно всё исправить, тем более, как показывает даже это обсуждение, где собрались не самые глупые представители общества, неприятие ИИ ещё осень велико.

VIT ★★★
()
Ответ на: комментарий от VIT

Нет, это надо на тридцать шесть лет назад открутить баранку. Не сворачивать. А то мне сказали тогда, «мир рушится, ты этим канплюктором не заработаешь». И я пошёл в институт дворничества. Эх.

PcheloBiaka
()
Ответ на: комментарий от anonymous

Эм, не уверен что между 2B и 35b, разница в одну десятую, возможно, я не понял про какую модель Вы говорите под названием ‘Qwen3.5-2B.Q8’ =)

Я использую Qwen3.6-35B-A3B-UD-Q6_K.gguf - это Mixture Of Experts, где:

  • общее количество параметров 35b
  • активных параметров 3b.
  • UD - модель не была подвергнута дистилляции.
  • Q6_K - 6 битные веса и улучшенный метод квантования, использующий k-means кластеризацию для более точного представления весов
AntonyRF ★★★★
()
Ответ на: комментарий от pekmop1024

Хех, достаточно реально на самой бомж подписке строить планы на разработку так чтобы потом локальная модель исполняла их. Во-вторых и так уже 95% работы может делать локальная моделька. Я в целом в один прогон (если это так можно было назвать) делал чек-лист разработки онлайн кинотеатра, а потом сабагентами его исполнял. И это все локально было. В целом уже в реалиях чебурнета жить можно.

AntonyRF ★★★★
()
Ответ на: комментарий от VIT

неприятие ИИ ещё осень велико

Почему оно должно снижаться? Корпорасты вытворяют дичь, манагеры танцуют в экстазе, крупные государства аж подпрыгивают подпукивая…

BruteForce ★★★★
()
Ответ на: комментарий от BruteForce

Я вот тут набросал пару соображений. Посмотрите:

https://www.linux.org.ru/forum/ai/18340894?cid=18341011
VIT ★★★
()
Ответ на: комментарий от PcheloBiaka

Ну не расстраивайтесь вы так! В конце концов мир на этих канплюкторах не сошёлся. Надеюсь, удалось хотя бы найти девку статную, да детей нарожать человек пять? А про тумбочку с деньгами не думайте, в конце-концов они мало у кого есть и обычно передаются по наследству. Без дедушки-сенатора и мамы-члена совета директоров IBM о каком гараже и интерпретаторе бейсика вообще может идти речь? Учились на дворника, значит суждено мести дворы, мир жесток!

:)

VIT ★★★
()
Ответ на: комментарий от VIT

Фигасе… Закрыл капот лазерного гиперболоида и поперхнулся… У кого мама в ИБМ работала, а кто лазеры чинит… Ладно, всё это шутки. Был бы я программистом я точно также был бы сейчас у разбитого корыта. Такая у меня натура. Починяю примусы.

PcheloBiaka
()
Ответ на: комментарий от AntonyRF

Кстати, да, локальные не тупеют с каждым днем, значит, нам подсовывают все более упрощенные модели в чатиках. Похоже, мы имеем счастье наблюдать первую деменцию у кремниевых.

Irma ★★★★
() автор топика
Ответ на: комментарий от Irma

Кстати, да, локальные не тупеют с каждым днем, значит, нам подсовывают все более упрощенные модели в чатиках. Похоже, мы имеем счастье наблюдать первую деменцию у кремниевых.

Скорее всего не упрощенные версии, а с меньшей квантизацией, чтобы vram экономить, ведь зачем платить за 1000 серверов, если можно уменьшить квант (а это поднимет ошибки) и платить уже за 800 серверов при той же прибыли

AntonyRF ★★★★
()
Для того чтобы оставить комментарий войдите или зарегистрируйтесь.