Принято демонстрировать возможности видеокарт запуская, обязательно, тесты Киберпанк, фактически уже стандарт. Хотя я знаю чувака который играл в это на встройке Ryzen 5600G, да 15-25 кадров, но играл. Согласен, извращение, но продолжу
Выясняется, что не смотря на то, что RTX5050 ругают все кому не лень, кому шина не нравится, кому частота, кому VRAM, но демонстрация работы игорь показывает, что вполне можно играть в любую игорь на FHD с частотой кадров 60+ на высоких настройках.
Спрашивается, что ещё надо, неужели если пресловутых 120 FPS не набирается, игра на самом деле много теряет?
Так вот я тут не за этим.
Хочется такого же как для игр, но для различных публично-доступных LLM на разных видяхах. Ну да, модель не помещается в VRAM, в теории начинается процесс подргузки/выгрузки участков памяти.
Но на практике-то это как выглядит? Неужели если засунуть «большую» модель в «маленькую» карту, всё станет неюзабельно?
У меня есть ощущение, что кто-то уже это продемонстрировал, нашёл время и всё измерил. А еще не плохо бы сравнить не только RTX друг с другом в подобных задачах, но и устройства AMD с NVIDIA.
Может кто находил подобное, а?
PS. Да, все эти мучительные поиски от крепкого желания сэкономить.
