Сколько ОЗУ хватает для ваших задач?

Мне 32 уже мало. Разожрались..

Это пузырь инвестиций, а не пузырь технологии.

Я не знаю почему сейчас вообще выпускают компьютеры меньше, чем с 32.

Чтобы зставить скупых дураков платить дважды. Учитывая чир память сейчас максимально распасвается - апгрейд только через покупку нового девайса.

Шестнадцать. Есть тридцать два, но там не линукс.

8 было мало, приходилось прямо ужиматься, следить, какие программы сейчас запущены, и всё равно периодически либо срабатывал oom-killer, либо система намертво зависала и приходилось перезагружаться.

Сейчас 16, пока, вроде, хватает.

Сейчас 40, забил максимально. Занято приблизительно 24 включая виртуалки и браузер.

По разным оценкам моё ОЗУ мозга человека имеет объём от 100 Тб до 2,5 Пб. Вроде хватает.

По разным оценкам моё ОЗУ мозга человека имеет объём от 100 Тб до 2,5 Пб. Вроде хватает.

Это цифры от балды. Человеческую память в принципе сложно измерять в таких единицах, поскольку она специфична, но даже если прикидывать, то в любом случае именно ОЗУ в том смысле, в котором имеется в виду оперативная память, будет явно меньше, причём намного. Если чисто все связи между нейронами пересчитать, то может оно и столько, конечно (не пересчитывал, не проверял), но оно там не всё память в том смысле, в каком оно понимается для компьютера.

32 иногда не хватало. 64 - норм было в до ИИ эпоху. Сейчас надо 256-512.

Тем не менее по признаку необходимости постоянного питания и не восстановлению очень скоро после смерти - она всё же оперативная.

Читаю все это и мягко говоря ох….реневаю. Вспоминаю СМ-1625 в альмаматер в 91 году. На 512Кб RAM, диск один на 256Мб - идет лабораторка на шести удаленных терминалах а на двух мы в танчики в псевдографики лупимся и всем все хватало. Разожрались однако….

у меня кажется 32GB, но занято всегда только 8 максимум.

Мне вполне достаточно 16 Гб ОЗУ + 8 Гб своп. Когда-то было 8 Гб ОЗУ + 8 Гб своп. Хотя контейнерами, vm и прочей дрянью не увлекаюсь - просто не нужно.

Это больше к Ubuntu с половиной софта в снапе идёт

Мне в детстве и 8 мегабайт хватало

апгрейд только через покупку нового девайса.

Технически перепаять чипы памяти на плате - не особая проблема даже в домашних условиях с помощью недорогой паяльной станции с феном. Память же обычно не в BGA корпусах, а в корпусах с ногами. У кого нет опыта пайки и паяльной станции - можно отнести туда где то и другое есть, это совсем не дорогая работа.

Другой вопрос - увидит ли девайс добавленные мегабайты? Прецеденты успешной перепайки в интернете описаны.

для девайса есть несколько предусмотренных вариантов памяти, и тот вариант памяти который установлен «программируется» перепайкой 3-4 резисторов. Каждый резистор - 1 бит, и соотвественно.

Для того чтобы перепайка была успешной - вам необходима схема устройства, в которой описаны комбинации этих резисторов и поддерживаемые типы чипов. Если схемы и бордвью нет - можно забыть про перепайку.

Для дома - 8, для работы - 16, для LLM - 16.

64 Гбайт, при меньшем количестве локальная генерация картиночек ломается и падает.

Это вы большие и качественные картиночки генерируете. Мне хватает 16Гб ОЗУ и 8 видеопамяти

MacBook Pro M1 Pro 16Gb. Claude, Safari, Docker, Zoom, Sublime, Mail, Telegram, Postman, 2-3 Zed - жить можно. Если в добавок 1-2 инстанса Rider запустить, то уже тесновато становится.

На виндовой тачке (i9 13900k) стоит 32Gb. Вполне комфортно, не смотря на то, что там не 1-2, а 5-6 Visual Studio запущено. В память не утыкаюсь.

Имхо, для меня сейчас минимум - 24Gb.

Спадет хайп - перестанут вливать бабло в убыточные проекты - внезапно окажется, что прибыльных-то и не было. Во всяком случае, из тех, что «ИИ каждому, и никто не уйдет».

Сейчас идёт бурное развитие отрасли, которую западные (в основном американские конечно, но не только) очень серьёзные люди решили профинансировать по полной программе, вложив настоящие деньги, необходимые для реального технического рывка.

Поэтому, то что сейчас происходит - это не надувание пузыря, это очень масштабное гигантское финансирование научно-исследовательских и опытно-конструкторских разработок за счёт лохов =)

На каком-то этапе достигнутые результаты сочтут достаточными и финансирование будет уменьшаться. Не исключено, что со стороны это будет выглядеть как лопание пузыря, кто-то обанкротится, у кого-то собственник поменяется и т.д. Но в конечном итоге останутся немногочисленные компании, которые и будут рулить новыми технологиями. Остальные их повторить не смогут, потому что не найдут подобных ресурсов.

Гигантское финансирование того, что не окупается - это космическая программа, например. Пока была гонка приоритетов - бабла не жалели. Где она теперь?

Вы выдаете оптимистичные надежды за гарантированное будущее. Эволюция против. Нежизнеспособное - вымирает, а ваши воздушные замки - просто ошибка выжившего.

Гигантское финансирование того, что не окупается - это космическая программа, например. Пока была гонка приоритетов - бабла не жалели. Где она теперь?

Это от неокупаемости что ли околоземные орбиты засрали коммерческими спутниками?

Если вопрос про всякие пилотируемые полёты и дальние исследования, то они тоже никуда не делись, США и Китай сейчас похоже соревнуются кто первый вновь высадится на Луну (или вообще первый, если верить тем, кто считает, что американцы на неё не летали), Индия что-то активно шевелится туда же и даже Япония. Вокруг Марса уже целая спутниковая группировка и по поверхности шныряют, исследуют.

Вы выдаете оптимистичные надежды за гарантированное будущее.

Я не надежды выдаю, а объясняю что происходит. Не надувание пузыря, а финансирование разработок. Причём выставленные на публику LLM (платные и бесплатные) это вершина айсберга.

Спутники, если кто не помнит, научились выводить на орбиту еще в 1957 году.

От дальнейшей космической гонки, сожравшей немерянное количество бабла, в сухом остатке имеем убыточную для всех участников МКС и уже утопленную «Мир».

Прошло полвека, Карл! Участники все еще «активно шевелятся» в выбивании и освоении бюджетов, но когда будут хоть какие-то результаты и как эти затраты окупать хотя бы теоретически - неизвестно и поныне.

Спутники, если кто не помнит, научились выводить на орбиту еще в 1957 году.

А первые ЭВМ ещё ранее научились делать. И что?

От дальнейшей космической гонки, сожравшей немерянное количество бабла, в сухом остатке имеем убыточную для всех участников МКС и уже утопленную «Мир».

Ты ещё НИИ назови убыточными и БАК (большой адронный коллайдер). Бабла много сожрала американская лунная программа, на всё остальное ушло и уходит куда меньше, чем на вооружения.

Окупаемость притом может быть и не совсем прямой. Например, в ходе лунной программы американцы в её рамках много денег вложили в микроэлектронику и ИТ.

А первые ЭВМ ещё ранее научились делать. И что?

И их разработка довольно быстро стала окупаться. Даже до взрывного развития персоналок. После него отрасль вообще стала золотой рекой.

Бабла много сожрала американская лунная программа

Ущерб советской экономике от космической гонки практически невозможно оценить. Тем более, что с гонкой вооружений она была связана неразывно. Разве что косвенно - по той заднице, в которой в итоге оказались практически все другие отрасли.

контейнеры и vm не нужны вообще

Космос - это не только прибыль здесь и сейчас. Космос - эта наука, результаты которой могут пригодиться в самых неожиданных случаях в будущем. Например, Эйнштейн, развивая общую теорию относительности и глазом не вёл, что его результаты будут учитываться в каждом мобильнике через 100 лет при определении положения тела (то самое gps)

П.С. 32GB впритык с запущенной VM

Энергозависимая не значит «оперативная»

Писать код - ~8GB, пара-тройка инстансов IDE. Если приходится поднимать часть инфры локально на контейнерах, например под интеграционные тесты - много, поэтому у меня сейчас 64GB, пока хватает.

Везде уже ощущается, что достаточно, но без запаса:

• 64гб на ПК
• 64гб на ноуте моем
• 16гб на макбук от рабты на 90% заполнено
• 128гб домашний сервер, как холодное хранилище - чувствует себя замечательно
• 32гб - Lenovo Tiny для эксперементов
• 128гб - второй домашний сервер на Proxmox

Как бы хотел обновиться:

• 1-2тб рабочий комп
• 2-4тб домашний сервер
• 128гб ноут

Но увы, с текущими ценами почти не реально =(

Текущая ситуация при бенчмарках

давно известно, что 640Gb хватит всем

Достаточно 16Гб. Почти на всё будет хватать, кроме нейронок и каких-то очень тяжелых счётных задач.

Уже давно в BGA, но небольших размеров. Паяется феном, отреболить при необходимости – не проблема. Но если память распаяна, перепаять чипы недостаточно, требется поправить SPD-блок в прошивке, либо выбрать подходящий страпами. Отдельной микросхемы EEPROM/flash памяти с этим самым SPD, как на дискретных модулях памяти, уже не делают.

32Gb, но хочу расширить до 64, т.к. сборка генты(обычно при сборке qtwebengine) в 12+ потоков падает по OOM, приходится ограничивать 8 потоками сборки. А зачем я тогда 12 ядерный процессор покупал?

Но вообще, для повседневной работы хватило бы и 16Гб наверное, хоть и впритык.

в текущих реалиях.. на ноуте худо бедно влажу в 16, но на рабочем компе даже 32 уже маловато

Пока в предел 16Гб не утыкался. Но где-то 10-12Гб бывает занятым.

У меня сборка приводила к OOM даже на 64 гигах, если запущен браузер и пара виртуалок.

и пара виртуалок.

Наверное виртуалкам много отдал памяти. Так вроде 2.4Гб на поток сборки это предел. Соответственно при сборке в 12 потоков, это будет 28Гб. Можно конечно в 24 потока собирать(количество ядер * 2), как рекомендуется некоторыми на гентуфорумах, но как мо мне - это перебор.

У меня 24 реальных ядра (i9-13900), так что приходится следить, чтобы не все были заняты.

24, конечно, там и 64Гб будет мало.

640KB, я верю Уильяму.

Типичное потребление в рабочий день - вся доступная (~24Gb резидентной + оставшиеся 40 на кеш и шаред).

Иногда бывает мало, когда нужен стенд для тестов и приходится по нескольким тачкам размазывать.

У меня на игровом компьютере 16 GB, на рабочем ноутбуке распаяно 32. Есть макбук с 64, но им я не пользуюсь. Везде хватает, хотя игровой я хочу заменить. До повышения цен на память планировал в новом игровом поставить 128 GB, просто потому, что могу. Сейчас уже все эти планы, конечно, ушли в прошлое, но меньше 32 ставить не буду.

Что касается твоего вопроса. Ради увеличения памяти до 64 GB использовать удалённый сервер считаю нецелесообразным.

Удалённый сервер нужен, если нужен очень многоядерный процессор или мощная видеокарта, которые в ноутбуке или не бывают, или сделают его использование некомфортным (вес, шум, потребление). Или нужно очень уж много памяти, например 512 GB, которую в ноутбуке найти сложно.

64 GB памяти в ноутбуке найти можно, даже с завода. Ещё проще найти ноутбук с нераспаянной памятью и установить туда сколько нужно. Это не повлияет ощутимо на энергопотребление.

Что касатеся запуска контейнеров. Без конкретики сказать сложно. Сама ОС обычно потребляет немного, в пределах 100 MB. Т.е. заменив виртуалку с линуксом на контейнер, ты сэкономишь 100 MB на инстансе. Реально даже меньше. Если ты запускаешь это дело сотнями, то смысл есть. Если десятками и меньше, то скорей всего смысла уже нет. Память жрёт софт, а не ОС. От того, что он запущен в контейнере, меньше жрать он не будет.

При этом контейнеры на мой взгляд гораздо удобней виртуалок и я их использую почти для всего. Только ИИ-помощника я запускаю в виртуалке, есть у меня какой-то иррациональный страх перед ним, боюсь, что вылезет из контейнера, а виртуалка всё же получше защищена. Поэтому даже не обращая внимания на контекст я посоветую контейнеры, если для тебя разницы нет.

А как должен выглядеть процесс разработки? Вот есть несколько проектов, каждый развернут в docker. Использовать тот же ssh чтоб подк. к серваку, где есть docker и там проекты разворачивать? Локально вообще docker не использовать?

Вообще докер умеет в ssh нативно. Т.е. ты просто настраиваешь и дальше используешь docker CLI локально, а он команды выполняет удалённо. Конечно локальный каталог ты таким макаром не подключишь в контейнер, но в остальном получается вполне себе комфортно, если сервер в твоём городе.

Поэтому, то что сейчас происходит - это не надувание пузыря, это очень масштабное гигантское финансирование научно-исследовательских и опытно-конструкторских разработок за счёт лохов =)

Это надувание пузыря. Такого же пузыря, как интернет в 2000-е. Этот пузырь неизбежно лопнет, неизбежно обанкротятся огромное количество компаний.

Когда лопнул пузырь интернета, осталась поддержка интернета во всех операционных системах и программах в принципе. Остались программные технологии. Остались трансконтинентальные кабели. Остались кабели до конечных абонентов. Осталась инфраструктура, на которой уже вырос современный интернет.

Так и сейчас. Пузырь ИИ лопнет. Это понимают абсолютно все. Но обанкротятся не все. И останутся все вложения в инфраструктуру, ПО и науку, которые делаются сейчас.

Это модель развития в капитализме. И она неплохо работает по итогам. Хотя в моменте может быть страшновато.

32ГБ хватает, обычно потребление памяти в районе 20ГБ. Несколько проектов в Idea, барузер, докеры + что-то еще. Есть возможность обновить памяти до 64ГБ, но дорого.

Если в однозадачнос режиме «открыл программу, поработал, закрыл, открыл следующую», то 4гб ddr2 - вполне себе жизнеспособный вариант. А так конечно на сколько есть денег. Недавно урвал планку ddr5 на 32гб по очень хорошей цене, можно сказать таких больше нет. Значит, в следующем компе будет 32 и этого будет хватать.

Сеть 70B параметров с квантованием Q4_K_M занимает 42 гига. Для запуска свистом хватает 64 гига памяти. А с учетом, что современные нейросетки, обычно, МОЕ целиком gguf в память мапить не нужно. В общем, 64 гига DDR5 меня устраивает для того, чтоб чаты через llama.cpp крутить. И SSD PCI-e 5.0 для быстрой подгрузки в память.

А для картинок и видео - 16 гб памяти на видеокарте хватает.