Приехал M5 Pro

Нейросети офигенно работают на кластере из видеокарт, причём не геймерских.

А на макбуке они офигенно работать не будут. Но как-то - будут. И это, пожалуй, одна из немногих задач, где эта самая unified memory пригождается. Пусть там GPU и медленный в сравнение с топовыми Nvidia, но 128 GB RAM, например, это 128 GB RAM и это круче каких-нибудь 16 для определённых задач.

вот конкретно сейчас я на нем запускаю gromacs

Вы молекулярной биологией занимаетесь?

кстати нейросети на нем офигенно должны работать

Одна только проблема – ограниченный объём оперативной памяти(это и к gromacs относится и любому «тяжёлому» софту).

Учитывая, что накопитель там припаян, в таком сценарии ноутбук превращается в кирпич в любом случае

Интересное мнение, но как на счет загрузки с внешнего накопителя?

Смотря какие нейросети, вообще меня достал уже этот хайп на нейросети. Это единственная задача которую можно решать на gpu?

Я на досуге много чем занимаюсь, я покупал себе ноутбук не для того чтобы опционами торговать, этого мне и на работе хватает :) Я думаю что 64G с головой хватит для моих экспериментов.

Интересное мнение, но как на счет загрузки с внешнего накопителя?

У меня первый макбук был 2012 года. В нём за время жизни сломалась клавиатура и звуковой тракт, а также батарея фактически умерла. В итоге работать за ним можно было, если подключить USB-клавиатуру и USB наушники, и не отходя от розетки.

В общем можно, но нафиг надо.

Так и тут. Типа в теории может и можно было бы, но нафиг надо.

Решать-то можно много чего, помню как биткоины майнил на GPU. Ещё хеши паролей можно перебирать. Но из популярных, помимо прямого назначения - как будто бы да, только нейросети приходят на ум, причём конкретно LLM-ки. Есть сейчас такая мода у некоторых людей - запускать китайские модели локально, чтобы коварный Альтман не стырил их ценные алгоритмы.

Ещё, конечно, есть куча нейросетей, которые как-то ушли на фон и подразумеваются сами по себе. Типа звонишь и шум из твоего микрофона нейросетью убирают, но про это уже даже никто не задумывается, она там мелкая и работает где угодно. Или вот Google Chrome как-то нейросетями безопасность сайтов якобы проверяет. Включаешь галочку extended security и он тут же 2 GB блоба качает.

А кроме нейросетей там, наверное, очень уж специфичные задачи, про которые знают те, кто знают.

Есть сейчас такая мода у некоторых людей - запускать модели локально, чтобы коварный Альтман не стырил их ценные алгоритмы.

пусть купят кластер gpu у nebius если есть такая паранойя

Ещё, конечно, есть куча нейросетей, которые как-то ушли на фон и подразумеваются сами по себе. Типа звонишь и шум из твоего микрофона нейросетью убирают, но про это уже даже никто не задумывается, она там мелкая и работает где угодно.

это на чем угодно работает

А кроме нейросетей там, наверное, очень уж специфичные задачи, про которые знают те, кто знают.

ну вот я этим и занимаюсь :)

Я как-то думал взять старый макбук для асахи, но потом я понял, что на мгновение потерял ориентацию. Кстати, Thinkpad T14 gen7 будет с lpCAMM2.

У меня первый макбук был 2012 года. В нём за время жизни сломалась клавиатура и звуковой тракт, а также батарея фактически умерла.

Батарея в «Макбуках» вполне себе заменяется своими руками. Самое главное это не спешить при отдирании батареи от днища корпуса - разорвавшаяся батарея вспыхивает мгновенно и тушится плохо. Я бы не спешил выбрасывать «Макбук» - он ещё сгодится для сборки приложений под старые «Айфоны» и «Айпады».

Я понял. С электрикой ты тоже на «ты». 🤣🤣

Вот именно.

https://ibb.co/Sw9Gx1Zy

root@inverter-01:~# cat /dev/inverter_status 
{"bat_voltage":"54.00","bat_charge_current":"000","bat_capacity":"100","bat_discharge_current":"00000","is_sun_charging":"0","is_ac_charging":"1","is_both_charging":"","is_charging":"1","ac_output_load":"0329","ac_output_load_percent":"005","ac_input_voltage":"236.5","pv_input_voltage":"000.0","pv_input_load":0,"sbu_off_voltage":"48.0","sbu_on_voltage":"52.0","bat_off_voltage":"43.3","bat_bulk_voltage":"57.6","bat_float_voltage":"54.0","charge_max_ac":"030","charge_max_total":"040","output_source":"UtilitySolarBattery","charge_source":"SolarThenUtility","ac_input_load":457.5,"calculated_capacity":13000}root@inverter-01:~#

Само собой подобных приборов, как заводских так и собранных у меня в доме килограммы, я могу наблюдать за метриками дома в реальном времени (https://ibb.co/5XRHX2QS - если интересно), и как человек занимающийся подобным 35 лет - я могу аргументированно заявить что фигня эти твои узипы, импульс высокого напряжения он пропускает в среднем на 30-40 мс, этого вполне достаточно чтобы выжечь логику.

Не может не пропускать, потому что таков уж физический принцип распространения ЭДС в проводниках.

У меня первый макбук был 2012 года.

Мне кажется это самая удачная модель, выпущенная в то время, когда процы уже были «ух», но еще не было мании встраивания в них всякого «ой», которое нахрен не нужно, но требовалось для работы какой-нить новой винды. Еще и с двумя SoDIMM'ками и SATA-разъемами.

До сих пор трудится у меня в качестве подкроватного сервера для всего, и в замене не нуждается.

А на макбуке они офигенно работать не будут.

Вообще-то будут.

Нейросетям для работы не нужен GPU, им нужен чипсет вычисляющий математику матриц. GPU - это лучшее что было в наличии из подобных чипсетов на момент внедрения нейросеток.

В эппловских процах начиная с M4 кажется - встроен блок NPU. Он создан для нейросеток, и они отлично будут на нем функционировать.

Конечно, с совсем топовыми nVidia не сравниться, но камон, топовая Нвидия у меня на рынке стоит $12900, а сабжевый макбук этого года с 48 Гб ОЗУ стоит $6100. Да и жрет эта Нвидия под 600 Вт.

Я особенно в дисплеях не разбираюсь, в прошлом году взял за 100к руб ноут 16" с таким дисплеем:

16'', 3K (2880 x 1800) OLED 16:10, частота обновления 120 Гц, 400 кд/м², пиковая яркость 500 кд/м², DCI-P3: 100%, контрастность 1000000:1, сертификация VESA Display HDR True Black 500, 1,07 млрд оттенков, глянцевый, на 65% меньше синего света, сертификация TÜV Rheinland, сенсорный, относительная площадь экрана: 88%, поддержка стилуса

Как он в сранении с MBP 16”?

Универсальный ноутбук-трансформер ASUS Vivobook 16 Flip поможет с легкостью решать любые задачи – и в учебе, и в работе. Его тонкорамочный 16-дюймовый 3K сенсорный экран ASUS Lumina OLED* раскрывается на полные 360 градусов и совместим со стилусом ASUS Pen 2.01. Процессор Intel Core Ultra 7 (Series 2) со встроенным нейропроцессором мощностью до 47 TOPS весьма эффективно обрабатывает искусственный интеллект, а аккумулятор обеспечивает автономную работу до 22 часов2

Как он в сранении с MBP 16”?

Как минимум бросается в глаза низкая яркость. Хотя, если смотреть на остальные цифры, этот экран поинтереснее экрана типичного корпоративного ноута.

что фиксится китайским переходником за 2 бакса.

Переходники для девайсов за оверпрайс — чудо инженерной мысли, не иначе. Касается в том числе переходников USB-C - USB-A

Посмотрел сравнение oled vs ips там пишут

В большинстве случаев IPS предлагает большую яркость в сравнении с OLED-экранами. Однако субъективно большее число нит (cd/m2) не всегда воспринимается лучше. Плюс в режиме HDR OLED матрицы могут демонстрировать лучшие значения.

Как их тогда сравнивать?

Посмотрел сравнение oled vs ips там пишут

На MBP не IPS, а Mini LED. Сравнивать можно легко – цифры яркости есть в спецификации. У твоего максимум 400 в постоянном режиме, 500 в HDR. У MBP – максимум 1000 в постоянном режиме, 1600 HDR.

Я думал mini led это способ подсветки, а сама матрица всё ещё IPS

Я думал mini led это способ подсветки, а сама матрица всё ещё IPS

Да, но контраста у Mini-LED заметно выше, чем у обычного IPS.

В эппловских процах начиная с M4 кажется - встроен блок NPU. Он создан для нейросеток, и они отлично будут на нем функционировать.

Ollama на M4 все равно GPU грузит, а не NPU.

мы, вроде, о яркости говорили

мы, вроде, о яркости говорили

Яркость она в цифрах указана в спецификации. А вот твое «субъективно большее число нит (cd/m2) не всегда воспринимается лучше» как раз связано с контрастом.

Ollama на M4 все равно GPU грузит, а не NPU.

Нейросетка - это не конкретный продукт, а способ. И это не только llm, а целый спектр других задач. Например апскейлинг и удаление шумов с видосов, распознавание объектов на все том же видео, генерация изображений и тд. Хотя llm'ок поддерживающих CoreML - тоже полным полно, и они шустрее на NPU, чем на GPU.

У меня первый макбук был 2012 года.

Мне кажется это самая удачная модель

А для меня это был самый неудачный ноутбук в моей жизни. В нём ломалось всё, что только могло ломаться. Помимо описанного - я сменил несколько дорогущих зарядок из-за того, что там на ровном месте деградировал провод. Там, кажется, отпаивалась видеокарта, по крайней мере он порой выдавал аналоги кернел паника и гугл подсказывал, что это из-за неё. Ещё там USB-порт один работал через раз.

Конечно, с совсем топовыми nVidia не сравниться, но камон, топовая Нвидия у меня на рынке стоит $12900, а сабжевый макбук этого года с 48 Гб ОЗУ стоит $6100. Да и жрет эта Нвидия под 600 Вт.

Да он и с топовыми геймерскими, уверен, не сравнится, которые стоят совсем не $12 900.

Да он и с топовыми геймерскими, уверен, не сравнится, которые стоят совсем не $12 900.

Их нельзя сравнивать, потому что это системы разного уровня. Ты же не сравниваешь спорткар с пароходным двигателем по мощности, лишь на том основании что они стоят одинаково?

Задача ноутбука - быть автономным и маленьким. Если он будет при этом производительным - вообще шикарно. Apple - ориентируется именно на такую технику.

За цену топовой видеокарты, ты получаешь: корпус, экран, клавиатуру, носитель информации, оперативную память, процессор, видеоадаптер, порты ввода-вывода. Глупо ожидать тех же ТТХ, что и от устройства, целиком заточенного на числодробилку.

Но.

Топовая видеокарта по цене топового макбука - Nvidia RTX 5090 с 32 гб ОЗУ.

Учитывая что у Apple unified memory - по количеству доступной памяти твоя топовая геймерская видеокарта уже проиграла.

Потребление у нее в моменты вычислений - 700 Вт. Ноутбук на такое не способен в силу своих конструктивных ограничений.

На моделях 8B твоя топовая геймерская выдает 150 токенов в секунду. Apple NPU M4 (даже не M5) выдает 80 токенов в секунду. Разница конечно в два раза. Вот только Apple при этом является еще и ноутбуком, который помимо генерации токенов умеет делать массу других вещей.

На моделях 70B+ твоя топовая геймерская в худшем случае их просто не запустит из-за недостатка памяти, а в лучшем случае запустит с пониженной точностью из-за переквантования. Apple прощелкает с легкостью.

Если Apple захочется в рынок чипов для ИИ - она с легкостью это сделает.

нейросети на нём запускать не планируется

Кстати нейронки там работают быстро

Я не знаю за автономность, но меня порадовала прочность моего ноутбука, когда он выжил после того как я по нему походил сойдя с ума по осени.

По моим наблюдениям люди, которые говорят, что Макбук - г…, обычно завидуют. Могу ошибаться.

Макбук - НЕ г…

но это оверпрайс. Как среднему классу купить майбах и отвозить детей в школу, ехать на работу и по дороге домой заехать в пятерочку за продуктами.

почему это оверпрайс?

По моим наблюдениям люди, которые говорят, что Макбук - г…, обычно завидуют. Могу ошибаться.

Чему там завидовать? Железо само по себе может и норм, но ОС, мягко говоря, на любителя (хотя на первый взгляд выглядит красиво — если не пытаться пользоваться, а только смотреть) и огороженная, а с установкой обычных линуксов могут быть проблемы и несовместимости. Если ничего другого нет, то жить можно, конечно. Но завидовать тут точно нечему.

root там есть а значит не огороженная, весь линуксовый софт ставится через brew

Потому что за эту цену можно больше получить без бренда эппл.

Как дорогой брендовый мультитул с ножом, пилой, ножницами, отвертками, плоскогубцами, … оно такое точно надо? если без пафоса и восторженного придыхания?

Это я к тому что печка 50+ ватт на максимуме – ты превращаешься в стационарный комп, привязанный к розетке

А в автономном плавании потребляешь <10ватт и соотв. медленно работаешь, как все из среднего/нижнего сегмента

Потому что за эту цену можно больше получить без бренда эппл.

например?

Открой магазин с железом и выбери

понятно, трындеть как говорится - не мешки ворочать :)

По лондонским магазинам мне не с руки шариться, так что сам

Ошибаешься, конечно. Да, многое там сделано хорошо и интересно, но далеко не все. Экран плохой — мне надоело все лампы в доме в нем видеть и аквариум. Клавиатура плохая — нету половины клавиш, вторая кастрированная. ОС плохая — просто плохая, лень даже все перечислять.

Слив засчитан

как скажешь. ты тут не один, остальные заценят

В очередной раз убеждаюсь: Apple - боги

И этих «богов» уже больше одного раза отправляли в гарантию. Причем прямо сходу. И ЧСХ у этих «богов» отзывы партий регионально зависимы, т.е. pn xxxхххх принимаются только для стран yyyyy.
Т.е. по pn твой девайс попадает под отзыв, НО! ЧСХ не для твоей страны. Ремонтируй за свой счет.
А так да, в целом хорошие машинки, робят и в норм масштабах, был клиент в виде аудио-видео студии робящий чуть меньше чем все на маках (только бухи на шинде сидели).

а в России у apple гарантия разве есть?

которая по дефолту удобна максимальному количеству людей.

Единственный удобный всем дефолт – мамкина титька. Всё остальное надо либо настраивать под себя, либо молча жрать, чё дают, страдая в процессе.

если так рассуждать, то и титька неудобно. Ребёнок просто ничего другого не имеет.

Титька и рот младенца прошли долгую-долгую дорогу эволюционной притирки друг к другу.

Ну раньше вполне себе присутствовала.

Он не тупит при открытии крышки

Ещё как может. Редко, но может.

и не сбрасывает звук с наушников обратно в колонки

По умолчанию нуууу почти нет, но есть нюансы когда отдельная приложуха может оставить за собой право вывода на колонки. Не только лишь я на это натыкался.

Он не включает внезапно неотключаемые обновления

Ну вообще говоря в некотором роде таки включает, другой вопрос, что это можно отложить, но для этого надо специально тыкнуть на варианты ответа когда он это запрашивает.

Он делает немного, но то что умеет - он делает идеально.

Он делает много, но не всё идеально. И после Джобса все менее и менее хорошо, косяков хватает. BSOD все чаще появляться стали.

«Может», «стали», «в некотором роде» - это не системность, а случайность.