Короче, захотелось мне лёгкого ИИ-агента, который не будет жрать токены вёдрами и сможет работать с небольшой (в моём случае granite4.1:3b-q4_0) локальной моделью, работающей прямо на CPU (да-да, причём древнем Intel Core i3-6300 CPU @ 3.80GHz + 16ГБ ОЗУ). Работает на FreeBSD (не официально), Linux, MacOS X и даже Windows. Умеет в Web-интерфейс.
Это не так наворочено, как, например, zeroclaw и picoclaw, нет поддержки мессенджеров, нет миллионов ненужных skills, но самое главное, может НОРМАЛЬНО (единственный из всех мною пробованных, а перепробовал я десятки сортов) с дохлой локальной моделью. И с удалёнными, не сжирая за пару запросов весь бюджет токенов.
Встречайте: https://github.com/sigoden/aichat/
// Если вы знаете что-то похожее, не стесняйтесь, - делитесь.
Перемещено CrX из talks



