Всем привет.
Появилось ощущение, что локальные LLM постепенно перестают быть просто «чатиком в браузере». Есть Ollama/llama.cpp, различные coding agents, MCP, локальные модели и т.д. Но насколько реально собрать из этого действительно полезного автономного помощника, который большую часть работы выполняет без облачных API?
Интересует именно практический вариант:
Linux на обычном домашнем ПК; локальная LLM; агент, который умеет работать с файлами и запускать команды; MCP для подключения дополнительных инструментов; желательно без отправки данных во внешние сервисы.
Например, чтобы можно было сказать:
«Посмотри этот проект, найди причину ошибки, внеси исправление, запусти тесты и покажи, что изменилось».
И всё это происходило локально.
У кого-нибудь уже есть подобная конфигурация, которой реально можно пользоваться каждый день?
Интересно узнать:
какое железо используется; какую модель запускаете; какой агент (OpenCode, Aider, Cline, OpenHands, Pi и т.п.); какие MCP-серверы подключены; где локальный вариант всё ещё проигрывает облачным моделям.
Особенно интересно услышать опыт тех, кто полностью отключал облачные API и какое-то время работал только с локальными моделями.
