История изменений
Исправление One, (текущая версия) :
Загружаешь LM Studio и пробуешь нужную модель на CPU-only llama.cpp engine.
Обычно плюёшься от скорости моделей выше 3b, и от «результата» на моделях 7b и ниже, но для чего-то может и хватить
Исходная версия One, :
Загружаешь LLM Studio и пробуешь нужную модель на CPU-only llama.cpp engine.
Обычно плюёшься от скорости моделей выше 3b, и от «результата» на моделях 7b и ниже, но для чего-то может и хватить