LINUX.ORG.RU

История изменений

Исправление DarkAmateur, (текущая версия) :

Но, на картах AMD, вероятно, не получится гонять нейросетки (если вдруг).

Получится, просто не оригинальные (as-is), а постобработанные. llama.cpp умеет в ROCm и, на случай неудачи, в Vulkan API. Жуёт GGUF'ы. Самые ходовые модели можно глянуть тут.

Исправление DarkAmateur, :

Но, на картах AMD, вероятно, не получится гонять нейросетки (если вдруг).

Получится, просто не факт, что в оригинальные. llama.cpp умеет в ROCm. Жуёт GGUF'ы. Самые ходовые модели можно глянуть тут. При тотальной неудаче, остается Vulkan API.

Исправление DarkAmateur, :

Но, на картах AMD, вероятно, не получится гонять нейросетки (если вдруг).

Получится, просто не факт, что в оригинальные. llama.cpp умеет в ROCm. Жуёт GGUF'ы. Самые ходовые модели можно глянуть тут.

Исходная версия DarkAmateur, :

Но, на картах AMD, вероятно, не получится гонять нейросетки (если вдруг).

Получится. llama.cpp умеет в ROCm.