Моя новая теория по поводу ИИ хайпа

Тезис: где воды нет, там люди не живут.

Возражение: а вот есть места где вода есть, а людей нет.

У меня один вопрос только: вы там отмечаете чего-то так лихо или что? В этом случае добрый (доктор) Преображенский рекомендовал не уклоняться горячих закусок.

А я к тому, что выкопать яму/насыпать дамбу это ни в коем мере не является нерешаемой задачей. Ну, если её решать, а то случаи разные бывают.

Я к тому, что там, где есть вода, люди тоже могут не мочь жить, так что переместить людей к воде не выход. Так что ваше «нет воды – нет жизни» не аргумент против «а что если нельзя построить ГЭС?»

А потом раз, реки обмелели и мощность ГЭС упала или вообще в нуль.

Зачем вы собираетесь строить ГЭС там, где нет людей? Для кого?

Не то чтоб это был совсем идиотский аргумент, но ему жёстко не хватает контекста. Что это за потом такой, а какие альтернативы, а есть страховка, что у альтернатив нет своего «а потом раз и …» и т.д. и т.п. Ну и для ГАЭС это возражение не имеет смысла совсем, та же Загорская ГАЭС от речки-переплюйки питается.

Загорская ГАЭС

Там ключевое это перепад высот в 100м. И если всё так просто, то почему таких объектов единицы и их строительство занимает десятилетия?

Ты просто не умеешь их готовить.

Всё он правильно сказал. И понадобились долгие годы исследований (attention sinks, deepseek sparse attention, RoPE, сотни их), чтобы нынешние модели вообще могли этот контекст хотя бы «архитектурно» проглатывать.

Да даже сейчас, если глянуть на тот же METR, видно, что только у одной компании есть явное преимущество (Anthropic). Что вообще странно само по себе, ибо эти ребята не были замечены в публикации каких-то статей вообще.

Там ключевое это перепад высот в 100м.

Это да. Мы ж в Плоском Мире живём. Найти холм, высотой в целых сто метров сложно.

почему таких объектов единицы

Почему бы вам не зайти в яндекс и не найти там секретную ссылку Крупнейшие ГАЭС в мире. Полагаю ГАЭС столько сколько нужно. Учтите, что в режиме аккумуляции обычные ГЭС тоже могут работать. Но, главное, заявленной альтернативы в виде химических аккумуляторов такой ёмкости (напоминаю с чего вообще началось обсуждения) и вовсе нет. Совсем. Ноль.

и их строительство занимает десятилетия?

По этому поводу есть грустный анекдот:

Старый доктор оставил вместо себя сына, недавно окончившего мединститут, и уехал в отпуск. Возвращается, а сын ему заявляет:
- Я тут Павла Моисеевича вылечил. Ты его тридцать лет лечил, а я его - за один месяц!
- Идиот! Я на его почках тебя выучил, машину купил, дачу построил... А ты его... вылечил!!!

Это да. Мы ж в Плоском Мире живём. Найти холм, высотой в целых сто метров сложно.

Холм высотой сотню метров на вершине которого можно разместить крупное водохранилище? Да непросто.

Почему бы вам не зайти в яндекс и не найти там секретную ссылку Крупнейшие ГАЭС в мире. Полагаю ГАЭС столько сколько нужно. Учтите, что в режиме аккумуляции обычные ГЭС тоже могут работать. Но, главное, заявленной альтернативы в виде химических аккумуляторов такой ёмкости (напоминаю с чего вообще началось обсуждения) и вовсе нет. Совсем. Ноль.

И что это доказывает? Где ГАЭС у каждого посёлка?

Да непросто.

Шок! По счастью, кроме вас есть и люди, которые умеют решать такие вопросы.

Где ГАЭС у каждого посёлка?

Данный вопрос имеет смысл в некой системе убеждений/картине мира, где ГАЭС у каждого посёлка зачем-то нужны. Иначе просто глупость.

Данный вопрос имеет смысл в некой системе убеждений/картине мира, где ГАЭС у каждого посёлка зачем-то нужны.

Нужны компактные и дешевые накопители энергии у каждого дома, но пока технически невозможны.

Согласен. Нужны. И телепорты. И ещё еда такая нужна, чтобы жрать сколько влезет и не толстеть. Ещё луч-сабли хочу, но это уже так, опционально, чисто для эстетики.

На горизонте 20 лет, почему-то аккумуляторы, которые раньше держали час теперь держат месяц. Вы видете только телефон, а люди, которые разрабатывают аккумуляторы, видят из как средство накопления и перераспределения энергии на атомных станциях.

как можно из этого бессвязного бубнежа вообще понять о чем речь?

разница между час и месяц - 720 раз, что за бредни? кому-то контекста явно не хватает.

за 20 лет телефоны ушли с gsm, и теперь их пиковая мощность передачи раз в 10-20 меньше, чем была в gsm. и это только пиковая, средняя должна еще сильнее меньше быть. а сами станции чуть ли не в радиусе 1км стоят.

просто пытаюсь поданные бессвязные факты расшифровать. время разговора по мобилке увеличилось не из-за прогресса в аккумуляторах, а потому что на передачу меньше энергии тратиться стало.

Поинтересуютесь, насколько изменилась плотность энергии аккумуляторов за последние 20 лет.

легко, потому что это то чем как раз интересуюсь.

для примера качественный японский SANYO 18650. 20 лет назад он был 2200мач, теперь он существует 3450мач. что этим хотел сказать-то? не пойму. подскок в 1.5 раза получился.

притом механически конструкция все та же самая 3 слоя, медная и алюминевая фольга, между ними изолятор, и «целебная жижа». чтобы увеличить емкость надо площадь этой фольги увеличивать. т.е. какой-то из слоев должен быть тоньше. очевидно что изолятор какой-то более новый сделали. ибо толщину фольги уменьшать бессмысленно, аккумулятор итак «низкотовый»

с помощью немного иной химии «целебной жижи» иногда удается поднять пороговое напряжение с 4.2 до 4.35 или около того, но это единицы процентов, хорошо если десяток в итоге даст.

с высокотоковыми тоже примерно такой же подскок был (а почему бы ему не быть, если причина чисто «механическая»). теперь они догнали по емкости те 20-летние SANYO.

чуть не забыл еще: знаменитый трюк с лепестками на фольге, тоже помог поднять емкость. потому что можно потоньше фольгу поставить, обеспечив тот же самый ток в тех же тепловых режимах.

по итогам, кроме серьезных механических измерений в конструкции, все остальные приросты были мизерными. только не пойму причем тут плотность энергии, если она +- на том же самом уровне осталась (теоретическая). но «практическая» типа подроста, потому что просто механически компакткнее утрамбовали.

долгие годы исследований (attention sinks, deepseek sparse attention, RoPE, сотни их), чтобы нынешние модели вообще могли этот контекст хотя бы «архитектурно» проглатывать

Справедливости ради, работа со сверхбольшим контекстом — это изначально проигрышная игра, потому что простой механизм внимания весьма неэффективен при росте контекста (O(N^2) по памяти и вычислениям), потому ранние исследователи даже не пытались такие большие контексты впихивать в модели.

потому что простой механизм внимания весьма неэффективен при росте контекста (O(N^2) по памяти и вычисления

Да, это правда. Только с тех пор Deepseek проделал фундаментальную работу по улучшению этого самого attention. И оно уже работает на новых китайских моделях (GLM-5, Minimax M2.5). Надо ждать V4/R2, благо, что немного осталось.

Я не разбираюсь в нейросетях, но мал-мала разбираюсь в людях. И вот заявления «прошлое поколение было так себе, текущее уже почти норм, а следующее будет огого» идут регулярно и неизменно с самого начала ИИ-хайпа. Я так полагаю, что и после «V4/R2» ничего существенно не поменяется.

И вот заявления «прошлое поколение было так себе, текущее уже почти норм, а следующее будет огого» идут регулярно и неизменно с самого начала ИИ-хайпа.

Мб выразился не совсем точно.

1. Хайп не одобряю категорически
2. Качественно действительно ничего не поменяется с точки зрения простого пользователя.
3. V4/R2 жду, ибо Deepseek нынче единственный, кто публикует качественные репорты. И по сути именно Deepseek ответственен за большую часть прогресса с 2024 года. Чтение китайских статей нынче единственный способ следить за происходящим, не работая на одного из двух геев в Долине.

Нынешняя одержимость применением LLM в кодинге/математике вообще является побочным продуктом того, что для таких задач можно достаточно дёшево и легко делать окружения для обучения (пошло со времён RLVR). Имхо для обеих задач они достаточно бесполезны. Особенно с тенденцией к агентам и прочей дряни.

в серьезных вопросах этому чуду доверять это себе в ногу стрелять.

а без ии в гугле ты находишь информацию и сразу ей доверяешь? ии это и есть «концентрат» гугла. если он несёт чушь значит большинство обсуждений по этой теме несёт чушь. если ты такой преисполненный специалист, что можешь распознать, что в ответе ии нет правды - зачем вообще было спрашивать?

обычно путь от любви до ненависти к ии проходят гуманитарии. они-то думали, что это священный грааль, а оказался т9. но мы-то с вами тут понимаем что к чему. очередной инструмент которым нужно уметь пользоваться.

если что-то в мире не даёт тебе 100%-ного, всеобъемлющего решения всех твоих проблем - это не значит, что инструмент плохой. линукс тебя прям всем устраивает?

зы: вот для тебя как для человека из автосервиса: приходит механик и говорит:«эти ВАШИ пневматические гайковёрты это какая-то чушь! мало того, что компрессор запусти, баллоны набей, шланг протяни, а только потом пользуйся. лучше старыи добрым ключом».

Ненавижу антихриста.