История изменений
Исправление
One,
(текущая версия)
:
Загружаешь LM Studio и пробуешь нужную модель на CPU-only llama.cpp engine.
Обычно плюёшься от скорости моделей выше 3b, и от «результата» на моделях 7b и ниже, но для чего-то может и хватить
Исходная версия
One,
:
Загружаешь LLM Studio и пробуешь нужную модель на CPU-only llama.cpp engine.
Обычно плюёшься от скорости моделей выше 3b, и от «результата» на моделях 7b и ниже, но для чего-то может и хватить