LINUX.ORG.RU
Форум — Talks  

Сэм Альтман назвал несправедливым использование оперативной памяти

 ,


0

1

По его мнению

Локальный инференс — это крайне неэффективное распределение дефицитных ресурсов. Многие хотят использовать локальный инференс, полагая, что раз появились модели с открытым исходным кодом, которые можно запускать на собственных компьютерах, то необходимость в мощностях дата‑центров отпадает. Однако, если смотреть на ситуацию в глобальном масштабе, это крайне нерационально: значительная часть мирового запаса оперативной памяти (DRAM) стоит на пользовательских компьютерах, где она используется лишь пять процентов времени. В условиях жесткого дефицита ресурсов необходимо стремиться к максимальной загрузке мощностей в облаке.

Удивительно, но интуиция многих людей подсказывает им ровно обратное.

Кто ещё хочет оплачивать токены чатжпт?

Ответ на: комментарий от X512

Если честно, я пока не очень понимаю, как они работают. Моя задача на ближайшие три года «понять можно ли создать ISA, переносимую между разными типами кубитов»? Это ни что иное как эксперимент, мысленные идеи здесь во благо, но не сильно помощник.

VIT ★★★
()
Ответ на: комментарий от VIT

Я сам в шоке, а что делать?

Вот такая есть инструкция:

Бл҃же́нъ мꙋ́жъ, и҆́же не и҆́де на совѣ́тъ нечести́выхъ, и҆ на пꙋтѝ грѣ́шныхъ не ста̀, и҆ на сѣда́лищи гꙋби́телей не сѣ́де:
но въ зако́нѣ гдⷭ҇ни во́лѧ є҆гѡ̀, и҆ въ зако́нѣ є҆гѡ̀ поꙋчи́тсѧ де́нь и҆ но́щь.
И҆ бꙋ́детъ ꙗ҆́кѡ дре́во насажде́ное при и҆схо́дищихъ во́дъ, є҆́же пло́дъ сво́й да́стъ во вре́мѧ своѐ, и҆ ли́стъ є҆гѡ̀ не ѿпаде́тъ: и҆ всѧ̑, є҆ли̑ка а҆́ще твори́тъ, ᲂу҆спѣ́етъ.
Не та́кѡ нечести́вїи, не та́кѡ: но ꙗ҆́кѡ пра́хъ, є҆го́же возмета́етъ вѣ́тръ ѿ лица̀ землѝ.
Сегѡ̀ ра́ди не воскре́снꙋтъ нечести́вїи на сꙋ́дъ, нижѐ грѣ̑шницы въ совѣ́тъ првⷣныхъ.
Ꙗ҆́кѡ вѣ́сть гдⷭ҇ь пꙋ́ть првⷣныхъ, и҆ пꙋ́ть нечести́выхъ поги́бнетъ.

ХХ мучал людей обязательным средним образованием. От чего очень страдали и люди, и образование. XXI должен это преодолеть.

ugoday ★★★★★
()
Ответ на: комментарий от ugoday

Так у меня жена на старославянском учебники пишет. Но, надо сказать, история, языкознание, и политология в одном флаконе - смесь взрывоопасная!

VIT ★★★
()
Ответ на: комментарий от VIT

Твои самозабвенные утверждения о том, что в интернете кто-то не прав не делают тебе ни чести ни уважения. Я вижу ЧСВ у тебя до небес, спускайся к нам, профессор, в бане все равны.

зыЖ советую на досуге пофилософстовать (pun intended) почему «философия == умение в логику». Надеюсь придешь к тому же выводу что я.

ззыЖ никакой обязательной «философии» в ВУЗах на матфаке нет. Есть курсы логики. Я их записал в «дискретный анализ».

ant1 ★
()
Последнее исправление: ant1 (всего исправлений: 1)
Ответ на: комментарий от VIT

Ну, должен же кто-то делом заниматься, а не переписывать ненужно на ненужно с использованием ненужно. А гуманитарные науки суть науки о человеке и обществе, знание рождает власть над ними, в умелых руках классическая филология страшнее ядерного оружия. Соблюдайте технику безопасности!

ugoday ★★★★★
()
Ответ на: комментарий от ant1

Почему «кто-то»? Конкретно вы, человек, по вашим собственным словам прогуливавший философию, ничего в ней не понял, но высказывает авторитетное мнение. Мне моё образование не позволяет молчать. И не забывайте, магистр магистру рознь! Мой ВУЗ поручается за мой диплом репутацией.

VIT ★★★
()
Ответ на: комментарий от VIT

Тебе твое воспитание и умственное развитие не позволяет молчать, а свой ВУЗ ты уже опозорил.

ant1 ★
()
Ответ на: комментарий от VIT

Нараздают магистров кому попало, потом удивляются, что образование падает. Они у вас философию от науки не отличают, а вы хотите самолёты самостоятельно делать. Консерваторию надо править, течёт она.

VIT ★★★
()
Ответ на: комментарий от thesis

Да, оперативку отправляй слопофирмам, им нужнее, а деньги - банкам, им тоже нужнее. Материнку сдай на аффинаж, корпус на металлолом, квартиру под бордель.

firkax ★★★★★
()
Ответ на: комментарий от yvv1

следующий апгрейд

Апгрейды не нужны уже 15 лет как. Компы давно достигли той скорости, когда уже всё нужное можно на них делать за небольшое время.

firkax ★★★★★
()
Ответ на: комментарий от firkax

А тебя сдать на лигнин и целлюлозу.

thesis ★★★★★
()
Ответ на: комментарий от ugoday

Ума не приложу что делать, если на работе вдруг придётся разгребать а) навайбкоженное поделие с б) промптами в виде голосовух.

У вас /dev/null переполнился?

anc ★★★★★
()
Ответ на: комментарий от firkax

квартиру под бордель.

Ну хоть одна дельная мысль в потоке бессмыслицы.

anc ★★★★★
()
Ответ на: комментарий от firkax

следующий апгрейд

Апгрейды не нужны уже 15 лет как. Компы давно достигли той скорости, когда уже всё нужное можно на них делать за небольшое время.

Если для ваших целей достигли то это не значит, что они достигли для любых целей.

anc ★★★★★
()
Ответ на: комментарий от ant1

Мне думается, если бы там не искали очередной вундер-аннигилятор, его бы не построили. Денег бы не дали.

Ну ваши мысли безусловно авторитетный источник. А я например знаю как минимум двух человек работающих там уже больше 14 лет, как-то они не упоминали про вундервафлю.

anc ★★★★★
()
Ответ на: комментарий от anc

работающих там уже больше 14 лет

Как интересно, учитывая что контракт там обычно на год-два. Прям таки продлевают и продлевают уже 10 раз?

как-то они не упоминали про вундервафлю

Сидеть не хотят евпочя.

ant1 ★
()
Ответ на: комментарий от KivApple

ах если бы. железо для запуска glm-5.3 стоит примерно 10м рублей в аренду. а в собственность такое обойдется примерно в 2.5м долларов по ценам на сейчас

loki_ ★★
()
Ответ на: комментарий от ant1

Как интересно, учитывая что контракт там обычно на год-два. Прям таки продлевают и продлевают уже 10 раз?

Без понятия насчет их условий контракта, возможно я что-то и путаю, но вроде их типа в штат взяли, они уже давно семьи туда перевезли.
ЗЫ ЕМНИП у них после года работы условия изменялись.

anc ★★★★★
()
Ответ на: комментарий от ant1

Философия это умение логически мыслить.

Там на самом деле чуть другое: типа «мышление о мышлении». Типа, «почему мы мыслим именно так».

Но на самом деле это эталонное ненужно и никому из нормальных людей неинтересно. Для зануд-интровертов, любящих интеллектуальные жвачки больше, чем реальные достижения в объективном мире это кажется прикольным, но то что им там лично кажется прикольным не делает из прикольного что-то стоящее. В реальном мире всё просто: не работает плата с двумя FPGA как предполагалось - значит ты чертила и должен быть обоссан. Не смог за неделю модуль ядра какой-нибудь правильно отладить - на помойку тебя, тварь. А понимаешь ли ты там философию не даёт тебе никаких отмазок, а особенно то, что там эти упоротые тебе в дипломе написали за хорошие глаза. Так же, не замечено, чтобы у армии интеллектуальных гениев-философов объективно существующие реальные достижения были какими-то особо хорошими, чаще для реальных дел в жизни нужны другие качества, чем умение в голове проворачивать многомерные семантические сущности в 6 потоков с перехлёстом через многомерные пространства. Жил-был мужик, он был великим философом, а потом он умер и труп обоссали. И что толку, что он им был - не совсем ясно.

Из философов классные тролли в интернетах могут быть, умеют оригинальные высеры пилить, но тоже уже неактуально, потому что поколение увлечённых интернет-дискуссиями давно на пенсии, а нынче появились такие универсальные возражения как «мамка твоя пи**раска бугага»

tcpfinhello
()
Последнее исправление: tcpfinhello (всего исправлений: 7)
Ответ на: комментарий от VIT

Если вы действительно дипломированный математик, да ещё и уровня магистра, то вы должны знать о существовании философии как течение и философии науки как часть науки. Большинством образованных людей первое наукой не признаётся, второе - признаётся, но ни то ни другое не является математической логикой. Говорю как ваш коллега, тоже по недоразумению обладающий подобным дипломом, и тоже математик.

Ну, разговоры о дипломах точно ни к чему отношения не имеют. Диплом можно купить, можно получить честно и по выходу всё забыть, можно быть зубрилой и всех достать и получить чисто принципиально, но глубоко не понять ничего. Масса вариантов. Одно хорошо: в нормальных организациях на написанное в дипломе не смотрят, как и на сам диплом, а гоняют по собесам и проверяют испытательным сроком.

На диплом я знаю где могут посмотреть: при попытке входа в особо элитные круги, где недо идентифицировать свою принадлежность к белым англосаксонским протестантам, выросшим в пригороде вашингтона и ходивших в один и тот же гарвард, чьи родители хорошо известны нашим родителям, чтобы решить доверять этому челику корпоративные секреты или нет.

Диплом конечно задуман как пруф знаний: когда квалифицированные сертифицированные запруфанные деды честно по жосткой процедуре проверили твои знния и постановили, что чел знает что-то. Но через 5 лет тот же препод омаразмел, у него умерла жена, он впал в депрессию и начал делать чушь или плохо преподавать. Это как вино: надо знать какого года, а то в 1965 году на том склоне были заморозки и виноград был отстой, так и выпускники одной кафедры разных лет это разное, надо чтобы кто-то рашил что там в тот год на кафедре творилось, какая была коррупция, кто омаразмел, а кого заменяли ассистентом.

tcpfinhello
()
Последнее исправление: tcpfinhello (всего исправлений: 3)
Ответ на: комментарий от ant1

Там, по европейским меркам, денег не так и много давали.

firkax ★★★★★
()
Ответ на: комментарий от Dimez

OpenAI привлекла в три раза меньше инвестиций, чем было запланировано. Компания получила лишь $11 млрд из предполагаемых $30 млрд, пишет WSJ.

Уменьшение инвестиций объясняется охлаждением интереса инвесторов к сектору ИИ и повышенной осторожностью при вложении средств.

Тадам :)

Или пониманием, что «готово». ИИ хотели сделать, его сделали, он работает. Больше инвестировать не во что.

tcpfinhello
()
Ответ на: комментарий от VIT

Почему тогда не сестра делает это заявление. «Я хочу всю RAM мира в частную собственность» - это не научное открытие.

Это уже, какие-то аналогии с экспериментами профессора Выбегалло пошли, но даже там был жадным не сам профессор.

James_Holden ★★★★★
()
Последнее исправление: James_Holden (всего исправлений: 1)
Ответ на: комментарий от lenin386

Философия, товарищ, это наука о том, как вообще что-то либо доказывать. Без базовых знаний философии, любой научный, околонаучный спор превращается в словесную перепалку. И вот не понимание ценности философии, она у многих программистов прям сочится.

Не, она не об этом. Она пытается «мыслить о мышлении». Это вообще дурка и тонкий лёд.

В словестную перепалку спор превращается просто от тупости одного из собеседников или обоих сразу, там не надо искать каких-то сложных объяснений вида «плохо знаком с философией». Просто человек тупой, не держит контекст, не слышит что ему говорят и т.п. ТУПОСТЬ - зачем плодить лишние сущности-то.

tcpfinhello
()
Ответ на: комментарий от Dimez

Да откуда «готово» то.

Из описания реальности, в которой достигнуто состояние, когда ИИ решает сложные задачи быстрее, стабильнее, лучше, дешевле человека. Ну типа разработки софта и прочего там рассуждения и поиска информации, проверки доказательств и т.д. Приводить примеры как ИИ где-то обосралсо не надо, потому что обсёр нормальная часть процесса: никто же не мешает попросить исправить обсёр.

tcpfinhello
()
Ответ на: комментарий от VIT

Так у меня жена на старославянском учебники пишет. Но, надо сказать, история, языкознание, и политология в одном флаконе - смесь взрывоопасная!

Жесть конечно семья бездельников.

tcpfinhello
()
Ответ на: комментарий от tcpfinhello

Конечно! Согласен, я тоже так думаю. Но есть репутация и история. После окончания Университета Чикаго 110 Нобелей, а после окончания Университета в Сиэтле только два. Важно? Может и нет.

VIT ★★★
()
Ответ на: комментарий от tcpfinhello

Вы это - не богохульствуйте. Обратно может вернуться!

VIT ★★★
()
Ответ на: комментарий от VIT

Конечно! Согласен, я тоже так думаю. Но есть репутация и история. После окончания Университета Чикаго 110 Нобелей, а после окончания Университета в Сиэтле только два. Важно? Может и нет.

Это всё-таки важно, потому что среда. Если ты в Универе Чикаго учился, то важнее всего что ты был в этой тусовке. Я вот учился в Челябинском универе техническом, старые советские преподы делавшие ракеты это круто. Объяснили наглядно, что компьютер - это не что-то сложное над чем надо трястись, а раб которого пихают в ракету чтобы он долетел и самоубился.

tcpfinhello
()
Последнее исправление: tcpfinhello (всего исправлений: 1)
Ответ на: комментарий от tcpfinhello

Видите. Вам это очевидно. Мне понятно. Но похоже, этот очевидный факт очевиден не всем.

VIT ★★★
()
Ответ на: комментарий от tcpfinhello

У тебя очень странное представление о философии. В целом меня еще никто не переубедил что философия == логика.

И еще ты не прав вот здесь «эталонное ненужно и никому из нормальных людей неинтересно». Мне например нравится политическая философия (Платон, Аристотель, John Locke итд). Эти диды таки двигают мир, кто-то из них через 2000 лет после смерти.

ant1 ★
()
Ответ на: комментарий от ant1

Это не логика просто потому, что в ней постоянно базарят про смысл бытия, «смысл искать смысл», доказательство бытия, отличение бытия от небытия, что есть сознание, что есть справедливость, ценностные всякие вопросы и прочий бред с моралью. Была бы она просто логикой, то и говорили бы просто «логика».

Платон, Аристотель и прочие там никакой мир не двигают - они что-то там поговорили и умерли, нормальным людям глубоко пофиг что именно. Меня всегда прикалывает, когда кто-то ссылается на них в духе «это сократовский тип мышления» или там «ты рассуждаешь как стоик». Чё это за фигня, какая мне разница КАК КТО я рассуждаю, если я пришёл к рассуждениям независимо. Я бы и дальше предпочёл отвечать сам за свои мысли, а не опираться на каких-то престарелых пузатых чертей из прошлого. От того, что там именно сказал Платон или Арестотель или там Сократ - вообще нифига в мире не меняется, мир определялся и будет определяться только совокупностью интересов хозяйствующих субьектов, то есть столкновением «капиталов» и прочих выраженных в чём-либо материальных сил и интересов.

Серьёзные мужики начиная от уровня «завхоз завода» никогда не решали и не решают вопросы исходя из абстрактной логики и её правильности, всегда вопрос решается только в стиле «а если я сделаю так, то чем это нам будет выгоднее и как сделать так, чтобы нам за это ничего не было». А те, кто что-либо решают, базируясь на философии или логике, обычно ни на что не влияют, так что насрать на них жостко-прижостко.

Я конечно понимаю, что поднимаемые вопросы в философии поражают. Но мне кажется, что поражают только неокрепшие умы и постепенно это пройдёт. Мне кажется, истинный жосткий диалектический материализм гораздо круче и жощще и тяжелее и его освоение есть признак взрослого сознания, а ни что либо связанное с философской наукой. Диалектический материализм - это, простыми словами, и есть в высшей степени упоротый материализм, помноженный на понимание того, что в этом материализме действуют миллионы акторов и всё каждый день меняется - вот это настоящая дурка, а не этот детский сад с философией.

tcpfinhello
()
Последнее исправление: tcpfinhello (всего исправлений: 7)
Ответ на: комментарий от ant1

В целом меня еще никто не переубедил что философия == логика.

Логика необходима для философии. Можно даже считать её частью философии (впрочем, можно считать и иначе, но можно и так). Но философия не исчерпывается логикой. С тем же успехом можно заявить «математика == логика», и что никто не переубедил.

Философия не тождественна логике хотя бы потому что логика абстрактна, а предметом философии может являться как абстрактное, так и конкретное. Философия — это дисциплина, специализирующаяся на мышлении. Логика — часть «правильного» мышления, но не тождественна ему (оно ею не исчерпывается).

Вообще исторически, большинство наук были считались частью философии, поскольку как раз изучали бытие. Но потом они отпочковались, а вся ненаучная часть — осталась. Естественно, осталась не только логика — было бы довольно странно считать, что осталась только она. Да и зачем вообще тогда слово «философия» было бы нужно, если «логика» есть? Чтобы всех запутать?

Ты же вон сам упомянул политическую философию. А она к логике не сводится, потому что рассуждает о конкретном, а не об абстрактном. Используя при этом логику, естественно. Но не только — потому что в ней есть и постулаты. А помимо политической философии есть ещё много других направлений философской мысли, включая философию науки. Она наукой тоже не является, естественно, но предметом её изучения является в свою очередь наука. Но изучается она как феномен — с философской точки зрения, а не с научной.

CrX ★★★★★
()
Ответ на: комментарий от tcpfinhello

Мне кажется, истинный жосткий диалектический материализм гораздо круче и жощще и тяжелее и его освоение есть признак взрослого сознания, а ни что либо связанное с философской наукой. Диалектический материализм - это, простыми словами, и есть в высшей степени упоротый материализм, помноженный на понимание того, что в этом материализме действуют миллионы акторов и всё каждый день меняется - вот это настоящая дурка, а не этот детский сад с философией.

Диалектический материализм — это одно из философских течений. Такое же, как и всякие не любимые тобой стоики и прочие последователи тех или иных греки с римлянами да немцами.

CrX ★★★★★
()
Ответ на: комментарий от CrX

Диалектический материализм — это одно из философских течений. Такое же, как и всякие не любимые тобой стоики и прочие последователи тех или иных греки с римлянами да немцами.

Нет, это просто объективное описание реальности, которое отлично пруфается и имеет минимум сущностей для описания.

tcpfinhello
()
Последнее исправление: tcpfinhello (всего исправлений: 1)
Ответ на: комментарий от ant1

Нет, не взаимозаменяемы.

Хотя мне приходилось слышать «это же просто логика» в отношении того, что к логике не имеет ни малейшего отношения, а имеет, например, к жизненному опыту, наблюдаемым фактам, статистике, или чему-то ещё… Так что да, в какой-то степени в речи безграмотного быдла что угодно взаимозаменяемо со словом «логика». Примерно так же, как «системный блок компьютера» взаимозаменяем в речи некоторых со словом «процессор», а «интернет-браузер» со словом «интернет».

CrX ★★★★★
()
Последнее исправление: CrX (всего исправлений: 1)
Ответ на: комментарий от tcpfinhello

Ох ну и каша…

что есть справедливость,

Понятие справедливости в философии не определено, так как никто за тысячи лет так и не дал строгого определения что такое справедливость. Отсюда следует, что справедливости не существует. Логично ;-)

там никакой мир не двигают

Лет через 50 мир элит рухнет. Не будет президентов, чинуш итп зазнавшейся «власти». Уже начинают появляться страны по типу liberland и эта «философия» набирает обороты like crazy. А это именно что идеи Платона, на секундочку.

что поднимаемые вопросы в философии поражают

Поражают разве что мечем в глаз. Этих твоих «серьезных мужиков».

ant1 ★
()
Ответ на: комментарий от tcpfinhello

Нет, это просто объективное описание реальности

Как и любое философское течение.

которое отлично пруфается

Вообще никак не пруфается.

и имеет минимум сущностей для описания

Во-первых, это не так. Много где их меньше. В солипсизме вообще одной достаточно, как экстремальный пример. Во-вторых, какая разница?

Но я в общем понял, мы тут имеем «а моя философская школа хорошая была (а ещё она не философская, потому что я так придумал), а все другие остальные такое говно». Не вижу смысла продолжать дискуссию, честно говоря. Такой уровень мне не интересен.

CrX ★★★★★
()
Последнее исправление: CrX (всего исправлений: 1)
Ответ на: комментарий от ant1

Понятие справедливости в философии не определено

Я и не сказал, что оно там определено. Но постоянно об этом там чешут. Нахрен их, короче.

Лет через 50 мир элит рухнет.

Очередной чертила-ванга с ютуба сказал поди. Кто там на этот раз? Хазин, Переслегин, Фурсов, кто там ещё у нас бывает… Диагностика кармы Лазарева!

tcpfinhello
()
Ответ на: комментарий от ant1

Поражают разве что мечем в глаз.

Не мечите в глаз! :)

CrX ★★★★★
()
Ответ на: комментарий от tcpfinhello

Нет, это я сам придумал. С кол-вом лет скорее всего ошибся, но мир движется туда. Копроилитки доигрались, народ пробуждается.

ant1 ★
()
Ответ на: комментарий от CrX

Как и любое философское течение.

Нет. Любое не описывает объективно, объективно только в диалектическом материализме, потому что перепроверяемо научно и независимо. Остальное - пустое попиз*елово. Диалектический материализм какие-то черти назвали «философским течением», видимо чтобы свою ссаную философию примазать к тренду, иначе в ней ничего вообще не осталось уже.

солипсизм

«философская позиция, утверждающая, что существует только собственное сознание, а весь внешний мир и другие люди существуют лишь в воображении человека.»

Ну мы ведь не будем рассматривать подобный бред, правда же? Я же сказал «объективно перепроверяемая и существующая в реальности». Твоё сознание ведь в голове у тебя только существует, а в голову ещё и насрано может быть при этом. То есть, там не просто одно сознание, а ещё и усранное возможно. В общем, полная труба ваще.

tcpfinhello
()
Последнее исправление: tcpfinhello (всего исправлений: 2)
Ответ на: комментарий от ant1

Нет, это я сам придумал. С кол-вом лет скорее всего ошибся, но мир движется туда. Копроилитки доигрались, народ пробуждается.

Не реалистичное бредовое утверждение.

tcpfinhello
()
Вы не можете добавлять комментарии в эту тему: только для зарегистрированных, score>=50.