LINUX.ORG.RU

как вы вызываете инструменты?

 ,


0

2

стула аж целых четыре на сегодняшний день:

  • встроенные инструменты сделанные агентской обвязкой. привет, пи

  • мцп-сервера на всё, даже для неба, даже для операций с файлами

эти два варианта требуют жирного описания, особенно если инструментов много, контекст сокращается на 5-10-100кб с первого сообщения. потому придумали ещё:

  • два инструмента - поиск инструмента и вызов инструмента. вместо тех десятков

  • один инструмент - вызов субагента для выполнения атомарной работы. в системном сообщении только 3-4 слова о том что можно сделать и указание вызвать инструмент «паши» для этого - с входными и ожидаемыми данными. модно, стильно, молодёжно.

кто нибудь четвёртый вариант гоняет? я ничего готового не нашёл, наколхозил на langchain - впечатления неоднозначные

Интересный вопрос. Если не возражаете поделюсь своим опытом.

Я это делаю не одним способом, а слоями. Почему?

  • Потому что начал со встроенных инструментов: список схем целиком в контексте с первого сообщения. Для ядра это лучший вариант — модель видит инструменты как кнопки на панели, не промахивается мимо нужного, а описания работают как инструкции: «используй X вместо Y», «после Z проверь W». Управлять поведением через описания — самый дешёвый способ управления агентом. Но контекст растёт линейно, и после полутора-двух десятков инструментов начинается то самое болото: десятки килобайт описаний, из которых в любой момент нужны два-три. Поэтому я держу ядро из 8–12 инструментов, всегда в контексте, но со сжатыми схемами: в API — кнопка в одну строку, а полный контракт (что возвращает, когда падает, чем заменить) подгружается отдельно.

  • MCP я не воспринимаю как отдельный способ вызова — это транспорт, он отвечает на вопрос «как подключить», а не «как модель узнает об инструменте». Поэтому «MCP на всё» у меня не прижился: чужие описания написаны без знания остального набора, конфликтуют, дублируются и лезут в контекст в худшем виде, плюс плоское пространство имён и вопросы доверия к стороннему коду с доступом к файлам. MCP я использую там, где нужна экосистема и изоляция — внешние сервисы, редкие интеграции, то, что не хочется тащить в ядро, — и обязательно фильтрую, что из него попадает в контекст, а не показываю «как подключил, так и видно».

  • Поиск инструмента моделью плюс вызов — это RAG над инструментами - запасной вариант. Экономика отличная: контекст почти не растёт, масштабируется на сотни и тысячи. Но цена системная: теряется «озарение», когда модель планировала одно, увидела подходящий инструмент в списке и перестроила план, — поиск возвращает только то, о чём модель догадалась спросить. Плюс лишний ход и больше ошибок в аргументах, потому что схему модель видела ходом раньше, а не держит перед глазами. Поэтому поиск у меня включается только когда список реально перевалил за несколько десятков, и только для редких задач, а не для ядра.

  • Четвёртый вариант. Один инструмент «делегировать». Вызов субагентов. Каждый субагент несёт свои инструменты в своём контексте, а в главный возвращается только итог. Выигрыш здесь не в экономии схем, а в изоляции мусора: субагент читает десять файлов, генерит тысячу строк промежуточных результатов — а главный контекст получает результат. Для объёмных самодостаточных подзадач — исследование, обзор, генерация артефакта — это крупнейшая экономия из всех четырёх, причём динамическая, по ходу выполнения. Но ловушка возможный «испорченный телефон»: субагент видит только то, что ему передали, и качество делегирования упирается в качество брифа. Поэтому цепочки мелких действий с зависимостью от состояния диалога через делегирование я не гоняю — латентность и накладные расходы убивают выгоду. Субагенту — самодостаточное ТЗ и текстовый результат. И отдельно: субагент без инструментов — это не четвёртый вариант, а консультант для ревью и второго мнения, легитимная фигура, но другая задача.

В итоге у меня слоёный пирог: маленькое ядро встроенных, MCP как транспорт с фильтрацией, субагенты для грязной объёмной работы, поиск — только для хвоста. Четвёртый вариант в чистом виде гонять не надо: система «один инструмент плюс субагенты» платит новым контекстом за каждый чих.

drbond ★
()
Последнее исправление: drbond (всего исправлений: 1)
  • Markdown
Пустая строка (два раза Enter) начинает новый абзац. Знак '>' в начале абзаца выделяет абзац курсивом цитирования.
Внимание: прочитайте описание разметки Markdown.
Используйте Ctrl-Enter для размещения комментария