У меня 12 Гб видеопамяти + 32 Гб обычной. Что из относительно нового туда влезет, будет хорошо кодировать и не думать по дню? В принципе необязательно, чтобы моделька влезала в видяшку целиком, главное чтобы не тупила безбожно, оказавшись в оперативной памяти. Имеется llama.cpp под рукой. Да, хочу большой контекст, чтобы можно было большие задания давать.
Всем спасибо.
