LINUX.ORG.RU

Идея: Неизменяемый макет компьютерной инфраструктуры

 , ,


0

1

Делаем новый проект. Оркестратор Dify вызывает API нашего проекта. Наше АПИ позволяет получать (но не менять) состояние инфраструктуры. Мы общаемся с LLM через web-чат, оно даёт нам ответы самостоятельно получая информацию (без копипастинга текстовых команд).

Плюсы решения: локальность обсуждения, невытекание паролей и секретов, устойчивость к rm -rf.

★

Чет я не понял поток сознания. Что подразумевается, например, под «состояние инфраструктуры». И нахрена там вообще LLM?

lonelywoolf
()
Ответ на: комментарий от lonelywoolf

Что подразумевается, например, под «состояние инфраструктуры».

Это что как называется, где оно находится и как настроено.
Идея в том, чтобы не давать выполнять команды bash, а предоставлять только читающие операции через заранее продуманный API в котором пишущих операций нет.

Saakx ★
() автор топика

если верить

«Понимай»;

«Пламя над бездной»;

то Б.я.М. не достаточно изолированна от захвата пинки&брейнования

«Антитела» Строса - так что исключительно через https://en.wikipedia.org/wiki/Relegatio

qulinxao3 ★☆
()
Ответ на: комментарий от Saakx

Это что как называется, где оно находится и как настроено.

Это называется структурная схема сети. И в ней команды bash не выполняются.

Идея в том, чтобы не давать выполнять команды bash, а предоставлять только читающие операции через заранее

Ааааа. LLM головного мозга, да.

lonelywoolf
()

Мы общаемся с LLM через web-чат, оно даёт нам ответы самостоятельно получая информацию (без копипастинга текстовых команд).

Агент на минималках?

Loki13 ★★★★★
()
Ответ на: комментарий от Loki13

Дело не в том, что он на минималках, а в том, что он виртуализирует (в философском смысле - работает не с реальностью, а с описанием). В минимуме только на чтение, в максимуме на эмуляцию.

Saakx ★
() автор топика
Последнее исправление: Saakx (всего исправлений: 1)
Ответ на: комментарий от Aceler

В этом-то и смысл, что на любой, сформулированный человеческим языком. Например «Хватит ли ресурсов, чтобы установить программу moodle?».

Saakx ★
() автор топика

И всё это на фоне того, как люди жалуются про дороговизну токенов для дела, вы тут вываливаете «идею» из серии «смотри как я умею?» ну чё, идея прикольная, если есть деньги - в путь!

VIT ★★★
()
Ответ на: комментарий от VIT

В оркестраторе (Dify) будем использовать GLM-4-Flash (она бесплатна на API) или локальные модели через Ollama (цена = электричество). Они глупее, но для задач уровня «сходи по API, сравни цифры и сделай вывод» их хватает.

Saakx ★
() автор топика

Неизменяемый… оно даёт нам ответы

LLM с «гарвардской архитектурой», обученной на толковом словаре Даля?

quickquest ★★★★★
()
Ответ на: комментарий от Saakx

Отличная идея. И если это сработает, а почему нет. Железо не сильно требовательное?

VIT ★★★
()
Ответ на: комментарий от Saakx

А, ну ок. Расскажешь )

А зачем придумывать свой API, почему нельзя попросить БЯМ взять данные из, например, GLPI?

Aceler ★★★★★
()
Ответ на: комментарий от Aceler

зачем придумывать свой API, почему нельзя попросить БЯМ взять данные из, например, GLPI?

GLPI (Gestionnaire Libre de Parc Informatique) — это популярная опенсорсная система учёта IT-активов (Configuration Management Database = CMDB) и тикетов (Helpdesk).

GLPI — это статика (Инвентаризация). Он знает, что сервер должен работать и сколько у него RAM в базе. Но он не знает, что сервер прямо сейчас свопает и лог забит ошибками. Наш State API — это динамика (Мониторинг/Отладка). Он отдает живое состояние

GLPI отлично подходит для вопросов «Где находится сервер?» или «Какая на нём ОС?» (статика). Но если я спрошу «Почему база данных тормозит прямо сейчас?», GLPI мне не ответит. Для этого нужен доступ к живым метрикам и логам, что и делает предлагаемый Read-Only State API.

ИИ-админу нужно и то, и другое. Но безопасность (невытекание паролей) критичнее именно для динамических данных (логи, статусы), которые мы фильтруем через наш API.

Saakx ★
() автор топика
Ответ на: комментарий от Saakx

GLPI (Gestionnaire Libre de Parc Informatique) — это популярная опенсорсная система учёта IT-активов (Configuration Management Database = CMDB) и тикетов (Helpdesk).

Не используй ИИ для написания комментариев.

Для этого нужен доступ к живым метрикам и логам, что и делает предлагаемый Read-Only State API.

State API для мониторинга тоже существует, та же графана его берёт.

Я к тому, зачем новый API, делал ли ты литобзор уже существующих?

Aceler ★★★★★
()
Ответ на: комментарий от Aceler

Не используй ИИ для написания комментариев.

Это ты виноват. Сокращения надо расшифровывать ПЕРЕД использованием.

https://www.glpi-project.org/en/
https://github.com/glpi-project/glpi
GLPI stands for Gestionnaire Libre de Parc Informatique

ИИ продолжает настаивать: «GLPI не хранит хвосты логов, текущие коннекты к БД или процесс-лист. Это CMDB, а не Zabbix/Prometheus.»

Saakx ★
() автор топика
Ответ на: комментарий от Aceler

делал ли ты литобзор уже существующих?

== HolmesGPT (Apache-2.0) ==
https://github.com/HolmesGPT/holmesgpt
«Open-source AI agent for investigating production incidents and finding root causes. Works with any stack — Kubernetes, VMs, cloud providers, databases, and SaaS platforms. »

== Vigil (MIT) ==
https://pkg.go.dev/github.com/linnemanlabs/vigil@v0.0.3#section-readme
«Vigil receives alerts from Alertmanager, investigates them using an LLM agent that queries your Prometheus metrics and Loki logs, and posts a root cause analysis to Slack.»

Saakx ★
() автор топика
Ответ на: комментарий от Saakx

Ну вот, второй продукт использует метрики Prometheus, чтобы брать нагрузку.

Зачем тогда изобретать новое API?

Aceler ★★★★★
()
Ответ на: комментарий от lonelywoolf

Что подразумевается, например, под «состояние инфраструктуры».

Как состояние постмодерна, только инфраструктуры. Это постирония.

И нахрена там вообще LLM?

Лошадь в ванне с огурцами. Рация на бронепоезде.

slackwarrior ★★★★★
()
Для того чтобы оставить комментарий войдите или зарегистрируйтесь.