Что взять для нейронок?!
Всем привет!
Таки там говорят OpenSource ИИ стал достаточно бодрым, особенно Qwen a3b. Gemma a4b и вообще там прогресс полным ходом идет. Хотелось бы потыкать это все дело, на текущий момент есть:
- Ryzen 7950x
- Mobo Aorus EliteAX x670e
- ddr5 6000 64gb
- NVMe 1tb
- 1квт БП
И в качестве видюхи затычка 1060. Что в целом уже выглядит как хорошая база для домашнего ИИ, остается только норм видюху купить.
В идеале повайбкодить бы быстро, не ожидая модель по 15 минут. И вот думаю, как это организовать дешевле. Вижу такие варианты:
- Взять 3090 или две, но боюсь что они будут медленными
- Китайская 4090 с 48гб vram - тут не ясно что с надежностью
- A6000 48гб vram - медленее 4090 и возможно медленее и 3090 и стоит дороговато
- 5090 32gb - тоже дорого и хватит ли 32?
Подскажите что лучше?