V100 кто-нибудь закупался?

В основном мусор. Китайцы проверяют работоспособность на уровне воткнул - включил, значит ок. Могут прогнать тест 5 минутку. Но ни кто не будет тебе часами гонять тесты и смотреть не посыпятся ли ошибки. Я так думаю, что шанс примерно одинаковый получить тыкву что за 12к, что за 17к =) Тут чистая лотерея. С другой стороны оно все серверное, а значит надежное. Так что есть шанс купить и сразу будет ок.

Я так то только по форумам ходил, хотел раньше купить по 6-8 тыщ, но не стал. А сейчас экономика не сильно сходиться за 10 летние карточки.

Цены запредельны на данный момент, смысла нет ИМХО.

С большой вероятностью работать будет. Их меняют не потому что сдохли или перегрелись, а потому что «морально устарели». Однако цена совершенно неадекватная. Это девайсы которые должны были отправится в цветмет, но их решили попытаться продать чтобы заработать чуть больше. Реальная цена им от силы тыщ 5 рублей с доставкой.

Таких цен скорее всего нет уже. Начинаются от 25тысяч. Но возможно я ошибаюсь, можешь глянуть в https://t.me/mtechnicschina

Это девайсы которые должны были отправится в цветмет

Алё, какой цветмет, у нас тут в МГУ вычислительные кластеры на V100 (или даже более старых архитектурах) работают.

потому что «морально устарели»

потому, что им нужно освободить место для более мощных карт

потому, что им нужно освободить место для более мощных карт

Это и означает, что морально устарели (физически тоже, кстати).

Я как вариант думал с кем-нибудь сложиться для закупки intel d270 на 160 GB или чего-то похожего, если оно более-менее по цене будет. С теми, кому не нужно фуллтайм ужаривать карту. Мне допустим нужен голосовой ассистент, которого я в своё ПО хочу интегрировать. С целью заменить клаву и мышь на голосовое UI через наушник с микрофоном.

С другой строны, может и двух V100 по 16 GB на nvlink хватит для этих целей. Считал что-то окооло 75к выйдет. Тогда и складываться не нужно.

Физически не знаю, а морально они вполне годные, не каждая карточка 900 ГБ/с потянет за такие деньги. Ближайшие претенденты в этом бюджете 500 ГБ/с только. Правда не умеют аппартно в BF16, только FP16. Но модели конвертируют и более-менее работают и на FP16.

Они не умеют работать с современными квантованными моделями. В общем с программной поддержкой там всё плохо.

16-гиговые-то зачем брать? ладно когда 32-гиговыми набирают 256 гигов. а ради пары карт лучше 5060ти возьми, куда актуальнее и гемора меньше

32гб нормальные сейчас до 80к за штуку доходят, здрасте

immers.cloud ну или аналоги с почасовой оплатой (лучше сжечь условно 1000 рублей, чем потратить 200k на сборку ненужно), вообще с GPU Unlock наверное лучше десктопные карты (которые хотя бы можно перепродать), а не заморачиваться с SXM2

Вообще есть почти бесплатный вариант с TPU v58e-8 в kaggle но по мне это все заморочки не стоит, если только не задача просто пошаманить для фана.

V100 это мусор, ну и ищите халявы и бесплатного сыра в мышеловке, он же всегда там бывает. Удачи.

32гб нормальные сейчас до 80к за штуку доходят,

Это где такой коммунизм? %)

Долго на них смотрел, но в итоге пришел к выводу, что не стоит оно того. При покупке никаких гарантий, за 12к это только sxm2 модуль к которому нужен переходник на pci-e и охлаждение (алюминивая пластина + водянка). Хоть какой-то смысл есть от 32GB, но она все равно хуже по производительности, чем 2x5060Ti, если только нет требования 32GB на одном GPU.

Посмотри еще: https://www.youtube.com/watch?v=Yel0Msi1lTY

В коммунистическом Китае. :)

Это где такой коммунизм? %)

Чуваки, которые в Китае закупаются, говорят что цены ползут вверх и некоторые уже впаривают по такой цене

Два месяца дают гарантию. Нашел людей в теме. Говорят в Китае сейчас сложно найти 32 ГБ, в основном все кривые под нагрузкой сыпятся ошибками. Поэтому у них только готовые наборы на 4 x 16 ГБ на nvlink плате в комплекте с радиаторами на водянку. По стоимости 118-120 руб. за набор. Если кому нужно сброшу ссылку в личку. Мне не к спеху. Может в 2027 эта истерия поутихнет и возьму что лучше.

А брать 5060 ти 16 ГБ за 90 штук, могут пройти нафиг.

За 100 вроде можно купить две 2080Ti 22Гб с NVLink - общая 44. Вроде оптимум для вкатиться.