LINUX.ORG.RU
ФорумTalks

шеф, усьо пропало! - умники придумали распределенный тренинг моделей нейросетей

 ai models training


1

3

натолкнулся на свежачок - https://habr.com/ru/companies/bar/articles/909432/

Обычно нейросети нужно тренировать на мощном железе, сконцентрированном в одном датацентре. Результат такой тренировки попадает в руки той бигтех-корпорации, которой по карману иметь свои датацентры и самостоятельно тренировать модели за бешеные миллионы баксов. Есть ли другой путь?

Встречайте INTELLECT-2 — первую параметрическую модель размером 32B, обученную с помощью асинхронного обучения с подкреплением (RL) на динамическом, однородном рое вычислительных узлов. Доступ к узлам изолирован и не требует дополнительных привилегий — теоретически, это могут быть какие-то компьютеры волонтёров в интернете.

Короче теперь волонтеры, сбившись в стаю, смогут тренировать себе модели, оставив с носом мегакорпорации.

Залез к ним в чатилку, смотрю насколько грамотно генерит она с++ для сложных задач. пока вроде без без нареканий.

При ответе она выдает обильный ризонинг, то есть ход своих размышлений.

chat.primeintellect.ai

★★★

Последнее исправление: alysnix (всего исправлений: 1)

Теперь корпорации будут распределённо тренить свои модели на наших устройствах через свои трояны!

Bad_ptr ★★★★★
()
Ответ на: комментарий от Bad_ptr

Учитывая количество никем не проверенного кода в веб-аппках того же гугла, я бы не был уверен, что еще не. Просто не наглеют, чтобы выглядело как обычные тормоза джаваскрипта.

pekmop1024 ★★★★★
()
Ответ на: комментарий от James_Holden

Учитывая количество никем не проверенного (и не понятого) кода в движке хрома, уничтожать надо не жабаскрипт, а сам гугол. И мелкософт. И вообще всех, у кого работает больше полутора прогромистов включая индусов-аутсорсеров.

apt_install_lrzsz ★★★
()
Ответ на: комментарий от apt_install_lrzsz

вообще всех, у кого работает больше полутора прогромистов включая индусов-аутсорсеров.

Вот это верно. Используют наемный труд - значит кулаки!

James_Holden ★★★★★
()

Это на самом деле очень круто, если люди действительно научились обучать большие нейросети распределённо. Это не обязательно через трояны делать, можно и легально через boinc или wcg за донаты. Просто ещё одна опция файн тюнить модели под свои нужды.

yvv1
()

Нуачо? Натренировал, вот, жене на сапоги. Теперь на шубу тренирую.

И волотеры оставят с носом мегакорпорации. И мегакорпорации оставят волонтеров с чем-нибудь. Все как обычно.

Ecl
()

Потом выжившие будут рассказывать об этом у костра своим двухголовым детям.

-- Папа, вы что, сами пустили ИИ на свои системы?
-- Да. Нам очень хотелось побыстрее писать сортировку пузырьком.
thesis ★★★★★
()

Первым делом надо натренировать ее проникать на домашние системы, так сказать, обеспечить кормовую базу.

Irma ★★★
()
Ответ на: комментарий от pekmop1024

Я косвенно был знаком с собственником компании, который скупал лагающие бесплатные приложения из маркетов и добавлял туда майнер, лол. Думаю для того же гугла раскидать такое на сотню миллионов устройств посильная задача.

Tark ★★
()
Ответ на: комментарий от frunobulax

Лол, именно. Оказалось довольно дешево оптимизировать узыкие места и втыкать замен майнер вполовину мощности, заодно и отзывов положительных вал. Вот такая вот хитрая бизнес стратегия.

Tark ★★
()
Ответ на: комментарий от frunobulax

Кстати у движка анрила за счет непредсказуемых фризов даже на мощных машинах на эту тему лютый задел.

Tark ★★
()
Ответ на: комментарий от Tark

У этого даже вполне себе белое определение есть - fog computing :)

pekmop1024 ★★★★★
()

Мда.. You’ve reached your daily message limit Please add funds to your wallet to continue using the AI model.

Ну такое. Раст он не знает, отвечает так себе. Интерфейс на троечку, лимит - с десяток вопросов в день, если не меньше.

LightDiver ★★★★★
()
Ответ на: комментарий от LightDiver

все перечисленное не имеет отношения к самой распределенной тренировке. а речь именно о ней.

alysnix ★★★
() автор топика
Ответ на: комментарий от Irma
  • а вы используете искусственный интеллект?
  • мы и естественный не используем ))
irton ★★★★★
()
Ответ на: комментарий от alysnix

Вау.. ну круто (наверное - я не успел даже спросить что он умеет особо). А мне то что с этого? Или это я его обучать должен, чтобы пополнять при этом кому то кошелек?

Это общая беда некоторых компаний - жадность их губит. Мэйл тот же, теперь эти.

LightDiver ★★★★★
()

В теории это все очень круто звучит, потому-что можно сдавать свое оборудование в пользование в аренду как-бы создавая базовый доход и мысль для человека, что он не простой Васян, а помогает развивать целую ИИ сферу сдавая в аренду свою пекарню. Но по факту кроме POW майнинга эфира, когда он еще был POW, ничего рабочего не видел, так что-бы даже Васян справился. Остальное либо цена входа высокая, либо выхлоп сомнительный и более сложный вход.

anonymous_sama ★★★★★
()
Ответ на: комментарий от PPP328

Там вообще АдЪ и Израиль. Периодически тыкают пальцем в рандомный пакет и попадают в жопу троян или майнер.

pekmop1024 ★★★★★
()

Так а толку если большинство карт там уровня A100? Цену на них сами загуглите. Проблема обучения давно не в вычислительной мощности в конкертной карте, проблема в общем количестве памяти необходимом для развертывания всех весов.

Obezyan
()
Ответ на: комментарий от pekmop1024

Как-будто в apt/rpm/portage/pacman дела обстоят чем-то лучше.

X512 ★★★★★
()
Ответ на: комментарий от alysnix

не бывать этому! все выключаем компы!

И начинаем использовать счеты.

anc ★★★★★
()
Ответ на: комментарий от Irma

Первым делом надо натренировать ее проникать на домашние системы

Ну это как раз не сложно «скачать бесплатно и без смс бальшые сиськи»... и люди сами потянутся.

anc ★★★★★
()
Закрыто добавление комментариев для недавно зарегистрированных пользователей (со score < 50)