LINUX.ORG.RU
ФорумTalks

RISC-V для народа

 


0

2

Первую в мире настольную рабочую станцию для ИИ на базе RISC-V оценили в 10 000 долларов. Tenstorrent TT-QuietBox 2 выдает 2654 TFLOPS и имеет 128 ГБ памяти GDDR6

В основе системы лежат четыре специализированных ИИ-ускорителя Blackhole. В совокупности они обеспечивают работу 480 ядер Tensix с колоссальной вычислительной мощностью в 2654 TFLOPS (FP8). Аппаратная конфигурация включает 128 ГБ видеопамяти GDDR6 и 256 ГБ системной памяти DDR5. Главная особенность архитектуры — наличие памяти SRAM на кристалле. Такой подход устраняет «бутылочное горлышко» DRAM и позволяет полностью отказаться от дефицитной и дорогой памяти HBM.

Подробности



Последнее исправление: unclestephen (всего исправлений: 2)

так «для народа» или для ИИ ? :-)

PS/ всё новое - хорошо забытое старое. Когда-то «Рабочая станция на RISC архитектуре», а что бывают другие ?

MKuznetsov ★★★★★
()
Ответ на: комментарий от Lusine

Полагаю что ничего другого туда и не встанет

unclestephen
() автор топика
Ответ на: комментарий от sabacs

Можно перечислить по фамильно народ у которого есть лишние 10 k$ на эту игрушку?

Любой C++ быдлокодер из яндекса с зарплатой $4K лето отработавший.

lesopilorama
()
Последнее исправление: lesopilorama (всего исправлений: 1)
Ответ на: комментарий от yvv1

тут как у яблока, бюджетными будут предыдущие модели, архитектура будет развиваться, старое будет лежать на авито, мечты-мечты

unclestephen
() автор топика
Ответ на: комментарий от Lusine

Особый упор разработчики сделали на программную среду: станция поставляется с предустановленной ОС Ubuntu 24.04 и полностью открытым ПО на всех уровнях (от компилятора до ядра).

unclestephen
() автор топика

Слабый конфиг за 10к Раньше за такие деньги можно было мак взять с 512 ГБ памяти и запихать в неё любую открытую LLM-ку.

foror ★★★★★
()
Последнее исправление: foror (всего исправлений: 1)
Ответ на: комментарий от sabacs

А откуда взялась логика, что покупать надо именно на лишние? Ты же покупаешь что-то нужное)

lesopilorama
()
Ответ на: комментарий от foror

Раньше за такие деньги можно было мак взять с 512 ГБ памяти и запихать в неё любую открытую LLM-ку.

А щас чо, нельзя? Подорожало чтоли. Когда подорожало?

lesopilorama
()
Ответ на: комментарий от lesopilorama

Хз, не отслеживал тему последние месяцы

foror ★★★★★
()

Это вообще не для народа скорее всего. Допустим некий рептилоид обосрался с метавсленной, обосрался сделать собственный ГПУ. А бабки капают, девать некуда. И вот эти индусы-китайцы, кто там не знаю, - А вот и мы, вот как умеем. Давай, бабки, нибировец хренов и тебе сделаем.

foror ★★★★★
()
Ответ на: комментарий от unclestephen

как же народ без ИИ?

Народ без «ИИ» просто замечательно.

unixnik ★★★★★
()

настольную рабочую станцию для ИИ

Зачем искуственному интеллекту настольная рабочая станция? Станция ладно, но стол-то ему зачем? Что дальше — коврик для мыши покупать?

ugoday ★★★★★
()

Первую в мире настольную рабочую станцию для ИИ

Первую

slackwarrior ★★★★★
()
Ответ на: комментарий от ugoday

Станция ладно, но стол-то ему зачем? Что дальше — коврик для мыши покупать?

кстати вполне себе бизнес-идея: продавать мышей и коврики оптимизированные для ИИ.

Для визуального эффекта - пусть светятся под блютуз. Слова в рекламу придумают спец.нанятые люди. Главное это «мысль» ! Коврик для ИИ - зачёт

MKuznetsov ★★★★★
()
Ответ на: комментарий от ugoday

Зачем искуственному интеллекту настольная рабочая станция? Станция ладно, но стол-то ему зачем?

Чтобы у него не было комплексов, что он в чем-то уступает разрабам проектов на гитхабе, где запрещено контрибутить ИИ, и чтобы он мог об этом писать блогозаписи!

goingUp ★★★★★
()

Fp8 это что ? 8 битный флоат ?

Reset ★★★★★
()
Ответ на: комментарий от sabacs

У меня есть но мне нахер оно не надо :)

Reset ★★★★★
()

https://tenstorrent.com/hardware/blackhole:

Blackhole™ p100a
$999

The Blackhole™ p100a features 
 
Tenstorrent’s high performance Blackhole™ Tensix Processor, with 120 Tensix Cores and 28 GB of GDDR6, operating at up to 300W in an active-cooled form factor geared for desktop workstations. p100a is supported by Tenstorrent’s fully open source software stack, granting developers full access to the metal.

System Requirements
CPU: x86_64 architecture*
Motherboard: PCI Express 5.0 x16 slot, dual-slot width**
Memory: 64 GB
Storage: 100 GB (> 2 TB recommended)
Power Connectors: 12V-2x6
Total Board Power: Up to 300W
Power Supply: ATX 3.1 Certified
Operating Temperature Range (Die): 0C - 95C
Operating System: Ubuntu version 22.04 (Jammy Jellyfish)***
Internet Connection: Required for driver and stack installation

*CPU core count and number of sockets will depend on the amount of host preprocessing and post-processing required before and after the accelerator processing.

**p100a can function in slots with PCIe 5.0 x8 or x4 connectivity at potentially reduced performance.

***To check your version, type ‘cat /etc/os-release’.
dataman ★★★★★
()

10 000 долларов

для народа

Для какого?

gffff
()

Отлично.

Пройдет хайп - будут продавать на олх\авито по 10 баксов\пучок, как сейчас криптодрочеры продают асики и видеокарты без видеовыходов: https://prom.ua/ua/m2692903029746734801-sht-diskretnyh-videokart.html (я не виноват, юзайте впн или проксю). Никому кстати не нужны 10 видеокарт уровня 1080ti за 60 баксов?)

windows10 ★★★★★
()
Ответ на: комментарий от question4

Зачем они нужны без выдеовыходов?

Ну вот примерно и сабжевая дичь из той же оперы. 100500 терафлопсов, сотни оперативки, но не будет какой-нибудь характерной для десктопа фишки - и можно просто выкинуть, как очередной asic.

windows10 ★★★★★
()
Ответ на: комментарий от Behem0th

Там погода нелетная, говорят.

А в Ленинграде с крыши потекло,
И что мне не лететь до Ленинграда?
В Тбилиси - там все ясно и тепло,
Там чай растёт, но мне туда не надо.
LightDiver ★★★★★
()
Закрыто добавление комментариев для недавно зарегистрированных пользователей (со score < 50)