Microsoft AutoGen: фреймворк для настройки LLM-агентов
1 минута чтение
Microsoft представила AutoGen, open-source библиотеку для создания и настройки LLM-агентов – отдельных сеансов больших языковых моделей, которые могут взаимодействовать друг с другом для совместного решения задач.
LLM-агенты – перспективная область развития генеративных моделей. Например, их уже используют для моделирования поведения населения и создания реалистичных персонажей в играх. Microsoft описывает AutoGen как фреймворк для упрощения оркестровки, оптимизации и автоматизации задач, использующих языковые модели. Агенты могут быть настроены и дополнены с помощью внешних инструментов, которые позволяют им извлекать информацию или выполнять код.
Например, одному агенту можно поручить действовать в качестве программиста, пишущего код на основе текстового запроса. Второй агент выполняет роль ревьюера, который указывает на ошибки в коде. Некоторые из этих агентов могут иметь доступ к внешним инструментам, которые являются эквивалентом плагинов ChatGPT, таких как Code Interpreter или Wolfram Alpha. После обмена несколькими сообщениями агенты отдают пользователю финальный код. Такой совместный подход может привести к значительному повышению эффективности работы генеративных моделей. По данным Microsoft, AutoGen может ускорить написание кода в четыре раза.
Построение многоагентной диалоговой системы в AutoGen состоит из двух этапов:
- определение набора агентов со специализированными возможностями и ролями
- определение сценария взаимодействия агентов, то есть реакции одного агента на сообщение другого.
Многоагентные приложения могут быть полностью автономными или модерироваться с помощью прокси-агентов – пользователей, которые могут вмешиваться в диалог между агентами для контроля процесса. Прокси-агенты полезны для приложений, где платформа агентов должна принимать важные решения и требовать подтверждения от пользователя, например, при совершении покупок или отправке электронных писем.
Фреймворк доступен по ссылке.
