技术速递|Microsoft Copilot 运行框架:释放真正多模型智能体协作的潜力
如果想在竞争中保持优势,就必须采用多模型策略。而如果想充分发挥不同 AI 模型各自的优势,就需要一个出色的运行框架(Harness)。但要构建一个能够在多个模型和不同产品界面中无缝运行的框架,难度极高。你需要同时解决性能、质量和成本问题,还必须持续对其进行维护,而这往往更加困难。
幸运的是,GitHub 工程团队已经构建出一套业界领先、真正支持多模型的运行框架,并且我们已在微软全公司范围内采用这套框架。Microsoft Copilot 运行框架为 Copilot Code、Copilot Studio、GitHub Copilot App、CLI、VS Code 等产品提供支持。今天,我们正式通过 Microsoft Foundry 开放这套运行框架。这为开发者和企业客户提供了一种完全托管的方式,用于构建能够进行推理、调用工具并完成复杂长时间运行任务的智能体。你无需更换运行框架或其他技术栈,就能为不同任务选择最合适的模型。这让你能够将时间、精力和资源投入到真正重要的业务目标上。
什么是运行框架?为什么构建它如此困难?
如果说模型提供了智能,那么运行框架就是围绕模型构建的一切。它是一个编排层,为智能体提供完成实际工作所需的指令、上下文、执行环境和控制机制。一套优秀的运行框架还应支持 MCP、智能体技能等开放标准,以及智能体插件。
这是一个快速发展的领域。今天处于领先地位的前沿模型,明天就可能落后。为了跟上变化而自行构建运行框架或模型路由器,往往既耗时又困难。现在,你可以直接基于微软和 GitHub 在自有产品中使用的同一套运行框架进行构建,而无需自行维护它。
我们持续投入科学研究和工程开发,不断改进和演进这套运行框架,确保它能够在不同模型和工作负载下实现高质量、高效率和低成本的运行。对于我们自身以及使用这套框架构建和运行智能体的客户而言,这些优势会不断累积。运行框架得到改进,它所支持的每一个产品界面和应用场景都将从中受益。
诞生于 GitHub,并经过企业级规模的实战检验
Copilot 运行框架由 GitHub 工程团队打造,他们也是我们多模型编排等新技术的幕后开发者。而这些技术之所以能够实现,正是因为我们构建了自己的运行框架。这套运行框架从一开始就以高质量为目标,专为快速响应、提高 Token 使用效率和保持运行结果的可预测性而设计。在我们最挑剔的用户群体——开发者中,它获得了最高的满意度。这也是我们决定为所有 Copilot 产品体验统一采用这一最强基础架构的原因。
这套运行框架旨在适配不同模型系列,支持 20 多种前沿模型,同时支持自带密钥,让你能够根据具体任务选择最合适的模型。你不必再花费精力持续跟踪和评估新模型,而是可以依靠我们,根据任务需求,将工作智能地路由到最合适的一个或多个模型。
我们的运行框架具有灵活性和可配置性,能够适配各种类型的应用、智能体和服务。最近,我们使用 Rust 重构了运行框架的运行时,实现了业界领先的性能表现,同时降低了会话开销和首个 Token 的生成等待时间。此外,由于 Copilot 运行框架为微软旗下多个产品界面提供支持,它已经在真实场景中经过充分检验,证明能够满足数百万用户和数百种实际应用场景的性能要求。
统一的运行框架让我们能够更快地交付产品、更快地积累经验,并持续改进 Copilot。你在 Foundry 中构建的智能体也可以运行在微软全公司采用的同一套运行框架之上,因此,我们对运行框架所做的持续改进,也将惠及你的智能体。
亲自体验
你可以下载 SDK,也可以直接在云端运行这套由 Foundry 完全托管的运行框架。我们的平台始终保持开放与互操作性,因此,你也可以继续接入自己选择的任何运行框架和开发框架。
借助 Copilot 运行框架,微软负责运行智能体循环和沙箱环境,并从一开始就内置治理与优化能力。而你只需要提供指令、技能、工具,并选择所需的模型。
这是我们实现愿景的重要一步:在保留选择自由的同时,围绕模型构建更强大的系统。这项成果凝聚了 GitHub 的技术优势,并将其带到了微软平台乃至更广阔的领域。
我们将继续推动运行框架向前发展,让你能够专注于打造只有你才能创造的产品。
更多推荐



所有评论(0)