构建一个能给出高质量回答的智能体是一回事,让它从故障和中断中恢复过来、继续执行长时间运行的任务而不必从头再来,则是另一回事。
微软宣布,Microsoft Agent Framework 的 Durable Task 扩展正式发布,进入一般可用阶段(GA)。这个扩展把 Durable Task 持久化任务框架的可靠执行模型引入 Agent Framework,让智能体和智能体工作流在故障或中断后可以恢复运行,同时保留已经产生的进度。
仅保存对话本身还不够。当智能体实际执行任务时,应用还需要知道:哪些步骤已经完成,哪些任务还在运行,以及当前是否正在等待某个人的批准。应用重启后,有了这些信息,才能直接继续工作,而不必重新判断该从哪里开始。
Durable Task 扩展会替你跟踪这些状态。工作进程重启之后,智能体可以继续同一段对话;工作流也可以恢复被中断的任务,而不必重复执行那些结果已经保存的步骤。它们还可以等待审批或外部事件,无须让工作进程一直保持运行。这样,你就可以把更多精力放在提升智能体本身的能力上,减少需要自行编写的状态管理和故障恢复代码。
你可以在 Azure Functions 中运行这些支持持久化执行的智能体和工作流,也可以将它们托管在自己的 .NET 或 Python 应用中。
Durable Task 扩展的核心能力
Durable Task 扩展为 Microsoft Agent Framework 增加了两项相互配合的能力:支持持久化执行的智能体和持久化工作流。
支持持久化执行的智能体会在请求之间保留对话与会话状态。每次智能体调用都通过 Durable Task 执行,因此,即使工作进程重启,或者下一个请求由另一个应用实例处理,已保存的会话状态仍然可用。对话的延续不再依赖最初处理请求的那个进程。
持久化工作流负责跟踪包含多个步骤或需要持续运行一段时间的任务。你可以编写 Durable Task 编排,协调智能体调用、应用活动和外部事件。如果你更喜欢 Agent Framework 基于图的工作流,扩展也可以将这些图作为 Durable Task 编排运行,并负责注册其中的智能体和执行器。
当交互式智能体需要启动一个无法在单次请求内完成的任务时,这两项能力就能结合起来使用。智能体可以启动工作流并返回其实例 ID,而不必让用户一直等待。随后,工作流会独立运行,包括等待执行结果或审批。智能体之后还可以利用这个 ID 查询进度,或发送审批决定等事件。
中断后仍可继续的智能体会话
假设一位客户先发起了客服对话,过了一会儿才回来提供订单号。在这期间,你的应用可能重启了,也可能换成另一个工作进程处理请求。智能体应当能够接着之前的对话继续处理。
Agent Framework 可以将会话保存在内存中,也可以使用持久化历史记录提供程序,在请求之间保存消息。支持持久化执行的智能体在此基础上,提供了一套托管机制,用于执行智能体调用和恢复会话状态,让你不必自行把这些环节连接起来。
使用 Durable Task 扩展后,每段对话都有一个稳定的持久化会话 ID,已保存的会话状态存储在工作进程之外。应用只需要保留会话引用。客户再次回来时,另一个兼容的工作进程就可以使用该引用,继续同一段对话。
具体来说,第一个请求启动对话后,可以将会话引用序列化,由应用保存,以便后续使用。后续请求加载这个引用,就能重新连接到同一个持久化会话,无须保留原来的会话对象。
需要注意,序列化会话引用并不等于保存它。应用仍然需要自行持久化该引用,而对话历史记录则由 Durable Task 后端保存。前后请求需要使用相同的后端,并由兼容的工作进程处理。
C# 示例
using System.Text.Json;
using Microsoft.Agents.AI;
using Microsoft.Agents.AI.DurableTask;
// First request: start the conversation and return its session object.
static async Task<JsonElement> StartConversationAsync(
IServiceProvider services)
{
AIAgent agent = services.GetDurableAgentProxy("SupportAgent");
AgentSession session = await agent.CreateSessionAsync();
await agent.RunAsync(
"I need help with my order.",
session: session);
// SerializeSessionAsync returns only the lightweight JSON session reference
// (containing the durable session ID); Durable Task already stores the
// conversation history in the backend.
return await agent.SerializeSessionAsync(session);
}
// Later request, after a restart or on another compatible worker.
// Load savedSession from your application's durable storage before calling.
static async Task<AgentResponse> ContinueConversationAsync(
IServiceProvider services,
JsonElement savedSession)
{
AIAgent agent = services.GetDurableAgentProxy("SupportAgent");
AgentSession session = await agent.DeserializeSessionAsync(savedSession);
return await agent.RunAsync(
"The order number is 12345.",
session: session);
}
Python 示例
from typing import Any
from agent_framework import AgentResponse
from agent_framework_durabletask import (
DurableAIAgentClient,
DurableAgentSession,
)
# First request: start the conversation and return its serialized session reference.
def start_conversation(
durable_client: DurableAIAgentClient,
) -> dict[str, Any]:
agent = durable_client.get_agent("SupportAgent")
session = agent.create_session()
agent.run("I need help with my order.", session=session)
# to_dict() returns only the lightweight session reference dict (containing
# durable_session_id); Durable Task already stores the conversation history
# in the backend.
return session.to_dict()
# Later request, after a restart or on another compatible worker.
def continue_conversation(
durable_client: DurableAIAgentClient,
saved_session: dict[str, Any],
) -> AgentResponse:
agent = durable_client.get_agent("SupportAgent")
session = DurableAgentSession.from_dict(saved_session)
return agent.run("The order number is 12345.", session=session)
可靠地协调多步骤智能体工作流
客户的一个简单问题,可能会引出多个处理步骤:查询记录、准备回复,再将结果发送给合适的人或系统。如果流程执行到一半发生中断,应用需要知道哪些步骤已经完成,以及接下来还需要执行什么。
随着工作流向前推进,Durable Task 会保存智能体调用和活动的结果。发生中断后,编排会重放执行历史,复用已保存的结果,并继续处理尚未完成的工作。
对于已经完成且结果已记录的智能体调用,重放时无须再次调用模型,从而避免在恢复过程中产生不必要的 token 消耗和推理费用。
例如,订单处理工作流可以先让智能体汇总订单信息,再根据汇总结果起草客户回复。如果汇总结果已经保存,那么在中断恢复时,工作流就可以复用这个结果,继续完成后续步骤。
C# 示例
// Registered as the Durable Task orchestration for this workflow.
static async Task<string> RunOrderResponseWorkflowAsync(
TaskOrchestrationContext context,
string orderNumber)
{
DurableAIAgent agent = context.GetAgent("OrderAgent");
AgentSession session = await agent.CreateSessionAsync();
AgentResponse<TextResponse> summary = await agent.RunAsync<TextResponse>(
message: $"Summarize order {orderNumber}.",
session: session);
AgentResponse<TextResponse> reply = await agent.RunAsync<TextResponse>(
message: $"Draft a customer reply: {summary.Result.Text}",
session: session);
return reply.Text;
}
Python 示例
# Registered as the Durable Task orchestration for this workflow.
def run_order_response_workflow(
context: OrchestrationContext,
order_number: str,
):
agent_context = DurableAIAgentOrchestrationContext(context)
agent = agent_context.get_agent("OrderAgent")
session = agent.create_session()
summary = yield agent.run(
messages=f"Summarize order {order_number}.",
session=session,
)
reply = yield agent.run(
messages=f"Draft a customer reply: {summary.text}",
session=session,
)
return reply.text
让基于图的工作流支持持久化执行
如果你更喜欢在 Agent Framework 中使用图来构建工作流,也可以继续采用这种方式。Durable Task 扩展会将工作流图作为持久化编排运行,跟踪执行进度,使其能够从故障和中断中恢复。
你只需要注册工作流图。扩展会负责注册其中的智能体、其他执行器对应的活动,以及用于运行整个工作流的编排。
例如,一个专家协作工作流可以先解析问题,再将问题并行交给生物学和物理学智能体,最后汇总它们的回答。
C# 示例
Workflow expertTeamWorkflow =
new WorkflowBuilder(questionParser)
.WithName("ExpertTeamReview")
.AddFanOutEdge(questionParser, [biologist, physicist])
.AddFanInBarrierEdge([biologist, physicist], responseAggregator)
.Build();
services.ConfigureDurableWorkflows(
options => options.AddWorkflow(expertTeamWorkflow));
Python 示例
expert_team_workflow = (
WorkflowBuilder(
name="ExpertTeamReview",
start_executor=question_parser,
)
.add_fan_out_edges(
source=question_parser,
targets=[biologist, physicist],
)
.add_fan_in_edges(
sources=[biologist, physicist],
target=response_aggregator,
)
.build()
)
# agent_worker wraps the Durable Task worker.
agent_worker.configure_workflow(expert_team_workflow)
当智能体和执行器完成各自的工作时,Durable Task 会保存它们的结果,并在重放期间复用这些结果。你负责在图中定义各项工作如何连接,Durable Task 则负责保存进度并恢复执行。
人工参与
有时,智能体需要有人审阅草稿、批准某项操作,或者补充更多信息,任务才能继续。这个回应可能需要一小时、一天,甚至更长时间。仅仅为了等待而让工作进程一直运行,会增加成本,也会妨碍应用缩容。
使用 Durable Task 扩展后,工作流可以保存进度并等待外部事件,无须让工作进程一直处于活动状态。
例如,内容审核工作流可以先通知审核人员,然后等待审批结果。审批通过后继续发布内容;如果没有通过,则结束流程。
当相关人员回应后,HTTP 端点、智能体工具或其他应用代码会将事件发送给对应的工作流实例。编排随后从已保存的状态继续执行。
C# 示例
// Registered as the Durable Task orchestration for this workflow.
static async Task<string> RunContentReviewWorkflowAsync(
TaskOrchestrationContext context,
GeneratedContent draft)
{
await context.CallActivityAsync(nameof(NotifyReviewer), draft);
HumanApprovalResponse decision = await context.WaitForExternalEvent<HumanApprovalResponse>(
eventName: "HumanApproval",
timeout: TimeSpan.FromHours(24));
if (!decision.Approved)
return "Content was not approved.";
await context.CallActivityAsync(nameof(PublishContent), draft);
return "Content published.";
}
// From the approval endpoint or agent tool, outside the orchestration:
await client.RaiseEventAsync(instanceId, "HumanApproval", approvalResponse);
Python 示例
# Registered as the Durable Task orchestration for this workflow.
def run_content_review_workflow(
context: OrchestrationContext,
draft: dict[str, str],
):
yield context.call_activity("notify_reviewer", input=draft)
decision = yield context.wait_for_external_event("HumanApproval")
if not decision["approved"]:
return {"status": "not-approved"}
yield context.call_activity("publish_content", input=draft)
return {"status": "published"}
# From the approval endpoint or agent tool, outside the orchestration:
client.raise_orchestration_event(
instance_id=instance_id,
event_name="HumanApproval",
data={"approved": True},
)
在同一处查看智能体和工作流的运行情况
当应用使用 Durable Task Scheduler 作为持久化后端时,无论智能体和工作流运行在 Azure Functions 中,还是运行在自行托管的应用中,你都可以通过 Durable Task Scheduler 仪表板查看它们的运行情况。
打开某个智能体会话,可以查看对话历史记录、执行时间线,以及上报的 token 使用量。
对于工作流,你可以通过时间线、事件历史记录和流程视图,查看其状态及执行进度。打开某个具体步骤,还可以检查其输入和输出,了解执行过程,或排查故障。
使用 Durable Task 扩展进行开发
你可以在 Azure Functions 中运行支持持久化执行的智能体和工作流,也可以将它们托管在自己的 .NET 或 Python 应用中。
不同语言和托管环境对应的软件包如下:
| 托管环境 |
.NET |
Python |
| Azure Functions |
Microsoft.Agents.AI.Hosting.AzureFunctions |
agent-framework-azurefunctions |
| 自行托管的应用 |
Microsoft.Agents.AI.DurableTask |
agent-framework-durabletask |
Azure Functions
Azure Functions 提供托管的 HTTP 端点,并可根据需求自动伸缩。开始使用时,需要向 Functions 项目添加对应的软件包,并配置 Durable Task 后端。
在 .NET 中,可以通过 ConfigureDurableAgents 注册独立智能体,以及自定义编排所使用的智能体;通过 ConfigureDurableWorkflows 注册 Agent Framework 工作流图。两种方式既可以单独使用,也可以组合使用。
using IHost app = FunctionsApplication
.CreateBuilder(args)
.ConfigureFunctionsWebApplication()
.ConfigureDurableAgents(options => options.AddAIAgent(agent))
.ConfigureDurableWorkflows(options => options.AddWorkflow(workflow))
.Build();
app.Run();
对于自行编写的 Durable Task 编排,需要使用 [Function] 和 [OrchestrationTrigger] 标记入口,以便 Azure Functions 发现它。如果注册的是 Agent Framework 工作流图,扩展会自动创建配套的编排。
在 Python 中,可以通过 AgentFunctionApp 注册智能体和工作流图。自行编写的编排需要配置编排触发器,而工作流图所需的触发器则由扩展自动添加。
from agent_framework_azurefunctions import AgentFunctionApp
app = AgentFunctionApp(
agents=[agent],
workflow=workflow,
)
自行托管的应用
你也可以在自己的 .NET 或 Python 应用中运行支持持久化执行的智能体和工作流。
应用运行在哪里,以及用户或其他系统如何调用它,都由你决定。Durable Task 负责保存执行状态,并在发生中断后恢复任务。
在 .NET 中,需要配置 Durable Task 工作进程和客户端,注册智能体,并添加所需的工作流图。自行编写的编排也需要注册到工作进程中。与 Durable Task Scheduler 集成时,还需要添加 Microsoft.DurableTask.Worker.AzureManaged 和 Microsoft.DurableTask.Client.AzureManaged 软件包。
C# 示例
using IHost host = Host.CreateDefaultBuilder(args)
.ConfigureServices(services =>
{
services.ConfigureDurableAgents(
options => options.AddAIAgent(agent),
workerBuilder: builder => builder.UseDurableTaskScheduler(connectionString),
clientBuilder: builder => builder.UseDurableTaskScheduler(connectionString));
services.ConfigureDurableWorkflows(
options => options.AddWorkflow(workflow));
})
.Build();
await host.RunAsync();
自行编写的编排还需要通过 AddTasks 注册到工作进程中。例如,下面注册了前面的订单回复编排,并传入订单号:
workerBuilder: builder =>
{
builder.UseDurableTaskScheduler(connectionString);
builder.AddTasks(registry => registry.AddOrchestratorFunc(
"RunOrderResponseWorkflow",
(TaskOrchestrationContext context) => RunOrderResponseWorkflowAsync(
context,
context.GetInput<string>() ?? throw new ArgumentException(
"An order number is required."))));
}
在 Python 中,可以使用 DurableAIAgentWorker 封装配置好的 Durable Task 工作进程,然后在启动前注册智能体、编排和工作流图。
Python 示例
from agent_framework_durabletask import DurableAIAgentWorker
agent_worker = DurableAIAgentWorker(worker)
# Register an agent and an orchestration you wrote directly.
agent_worker.add_agent(order_agent)
worker.add_orchestrator(run_order_response_workflow)
# Register a graph and let the extension configure its components.
agent_worker.configure_workflow(workflow)
worker.start()
只注册应用需要的组件即可,也可以将这些组件组合到同一个工作进程中。应用负责管理工作进程的启动和持续运行,并在关闭时调用 worker.stop()。
部署时,需要配置 Durable Task Scheduler 的端点、任务中心(task hub)和身份验证。
Durable Task Scheduler 是 Durable Functions 和 Durable Task SDK 推荐使用的后端。
本文根据微软官方文章翻译整理,代码片段保留自原文。后续我们还会围绕会话恢复、工作流编排和人工审批的实现细节展开进一步讨论。对这块内容感兴趣的读者,也可以多关注云栈社区上的相关分享。
原文链接:Durable Task extension for Microsoft Agent Framework is now generally available