Как превратить предложения LLM в управляемое исполнение: опыт создания AI-агента
Подключить языковую модель к внешним инструментам — только первый шаг в создании AI-агента. На практике важнее понять, как ограничить его действия, проверить выполнение необходимых условий и убедиться, что результат соответствует поставленной задаче.
Особенно заметно это в сценариях, связанных с эксплуатацией сервисов. Если агент предлагает восстановить деградировавшую систему, одного уверенного ответа недостаточно. Нужно выяснить, выдержит ли инфраструктура переключение трафика, выполнены ли предварительные условия и действительно ли сервис вернулся в рабочее состояние.
Модель предлагает, runtime контролирует
Для изучения этих вопросов был разработан управляемый AI-агент на базе локальной модели Qwen3.8:27b. Вместо передачи полного контроля языковой модели автор создал отдельную среду исполнения — Governed Agent Runtime.
В такой архитектуре модель отвечает за выбор следующего шага, но решение о допустимости операции и её фактическое выполнение остаётся за детерминированным runtime. Это позволяет отделить вероятностные предложения LLM от процедур, которые должны выполняться по заранее заданным правилам.
Эксперименты проводились на синтетическом платёжном сервисе. Такой стенд использовался для проверки поведения агента в контролируемых сценариях, где можно наблюдать не только сформированные моделью предложения, но и последовательность выполненных действий.
От отдельных предложений к цепочке действий
На начальном этапе исследование было сосредоточено на отдельных предложениях агента. Затем реализация перешла к многошаговому исполнению: модель стала участвовать в последовательности действий, где каждый следующий шаг зависит от предыдущего.
Агент справился с последовательными операциями, однако отдельные пояснения модели вызвали вопросы. Это показало, что успешное выполнение сценария и качество объяснения происходящего — разные параметры, которые необходимо оценивать раздельно.
В ходе работы пришлось пересмотреть и саму систему оценки результатов. Для управляемого агента недостаточно зафиксировать, выполнил ли он задачу: важно также учитывать допустимость действий, соблюдение ограничений и достоверность сопровождающих объяснений.
Разработка велась на основе спецификаций в рамках подхода SDD. Демонстрационный интерфейс и материалы проекта позволяют ознакомиться с реализацией Governed Agent Runtime и результатами экспериментов на синтетическом сервисе.
