Оценка модуля

Агенты ИИ могут отвечать только на определенные запросы пользователей с заданными ответами.

Чат-боты следуют предопределенным путям общения, а агенты динамически планируют и выполняют многоэтапные рабочие процессы для достижения результата.

Агенты ИИ требуют пошагового руководства человека для каждого выполняемого действия.

Обоснование и планирование.

Память и контекст.

Использование инструмента.

Пакет SDK взаимодействует с облачным API с помощью REST по протоколу HTTPS.

Пакет SDK отправляет JSON-RPC сообщения в интерфейс командной строки Copilot, работающий в режиме сервера в качестве локального процесса.

Пакет SDK внедряет модель искусственного интеллекта напрямую и выполняет вывод локально без внешнего процесса.

Разрешить неограниченному количеству одновременных пользователей совместно использовать один сеанс.

Чтобы автоматически сжимать контекст, когда окно контекста достигает своего предела, предотвращая ошибки переполнения токенов.

Чтобы разрешить агенту зарегистрировать неограниченное количество инструментов в сеансе.

Использование XML-файлов конфигурации, которые сопоставляют имена инструментов с конечными точками API.

Использование AIFunctionFactory.Create из пакета Microsoft.Extensions.AI с функцией лямбда, названием инструмента и описанием.

Использование атрибутов декоратора в классах контроллеров, которые автоматически предоставляют методы в качестве инструментария.

Обработчик ввода, выходной формататор, кэш, планировщик и средство ведения журнала.

Модуль логического вывода ИИ, средства, планировщик и контроллер, память и контекст, а также политики и ограничители.

База данных, шлюз API, очередь сообщений, подсистема балансировки нагрузки и служба мониторинга.

Логическое значение, указывающее true для продолжения или false для отмены.

PermissionDecision Значение Allow, Deny, или Ask.

Код состояния HTTP, например, 200 для успешного выполнения или 403 для запрета.

Скорость, стоимость и масштабируемость.

Контекст, инструменты и политики.

Проектирование пользовательского интерфейса, схема базы данных и сетевая архитектура.

AssistantMessageEvent.

ToolExecutionCompleteEvent.

SessionIdleEvent.

Он заменяет модель ИИ, назначенную сеансу, другой моделью.

Он заменяет системное сообщение по умолчанию пользовательским запросом системы.

Он заменяет все существующие определения инструментов новым набором инструментов.

AssistantMessageEvent.

AssistantMessageDeltaEvent.

SessionIdleEvent.

Настройка модели ИИ с использованием собственных данных компании.

Генерация с дополнением выборкой (RAG) с помощью инструмента поиска по базе знаний.

Увеличение размера окна контекста модели для включения всех корпоративных документов.

Средства быстрее, чем модель искусственного интеллекта при выполнении сложных вычислений.

Средства создают надежные результаты, в то время как модель искусственного интеллекта может привести к арифметическим ошибкам.

Инструменты не учитываются на лимит использования токенов в сессии.

Обработайте все оповещения в одном общем сеансе для повышения эффективности.

Поставить в очередь все оповещения и обработать их в ежедневном пакетном задании.

Обработайте каждое событие в независимом сеансе, чтобы предотвратить перемешивание контекста между несвязанными операциями.

Исследования, реализация, тестирование, развертывание и мониторинг.

Принимать входные данные, обдумывать и планировать, действовать, наблюдать, повторять или реагировать.

Парсинг запроса, проверка данных, выполнение запроса к базе данных, форматирование выходных данных и возврат ответа.