作者:Tanmayee Kamath

排版:Alan Wang

Visual Studio 中最好的 AI,就是你可以带在身边的 AI。如今,开发者已经不再只使用单一模型。你可能会选择一个模型用于日常编码,另一个模型解决特定领域的问题,还可能使用一个经过组织批准的模型,以确保相关工作始终符合企业的治理要求。因此,我们最常听到的问题已经不是“哪个模型最好”,而是:“我可以使用自己的模型吗?”

我们正在将“自有模型”(Bring Your Own Model,BYOM)以预览版的形式引入 Visual Studio,并默认在 Community、Professional 和 Enterprise 版本中提供并启用。此次预览主要聚焦于当前可用的开发者体验。企业管理能力也将在近期推出,包括用于禁用 BYOM 的管理员控制,以及面向 Professional 和 Enterprise 版本的集中式模型配置与管理功能。

无论是个人开发者尝试新的模型,还是组织统一使用经过批准的模型部署,BYOM 都能让你以自己希望的方式在 Visual Studio 中使用 AI。借助 BYOM,你可以连接到 Microsoft Foundry 部署,也可以使用其他受支持提供商的自有密钥,在 Agent 模式下使用模型,无论你是否登录 GitHub。

这是一个早期预览版本,我们非常希望听到大家对开发者体验的反馈。在开始体验之前,可以先观看下面的简短演示,了解这一功能的实际运行方式。然后按照下方“开始使用”部分的步骤亲自尝试,并告诉我们哪些功能运行良好、哪些内容有所欠缺,以及下一步你希望我们重点投入哪些方向。你可以在开发者社区论坛分享反馈,也可以填写这份简短调查,帮助我们共同塑造 Visual Studio 中 BYOM 的未来。

Visual Studio 自有模型

开始使用

重要提示:BYOM 功能正在与 Visual Studio 全新的 Agent(预览版)同步演进。新的 Agent(预览版)基于由 GitHub Copilot SDK 驱动的新型运行框架。在这一过渡过程中,之前 Ask 和 Agent 模式中的 BYOM 体验将不再受支持。若要使用 BYOM,请安装最新版本的 Visual Studio Insiders,并使用全新的 Agent(预览版)体验。如果你之前添加过 BYOM 模型,则需要在此次更新后重新添加。

BYOM 目前已在 Visual Studio 18.10 Insiders 版本中以预览版形式提供。

如需体验:

  1. 安装 Visual Studio 18.10 Insiders 版本

  2. 在 Chat 中打开模型选择器,然后选择“Add a model”或“Manage models”选项。(GitHub 登录和未登录状态下均可使用此功能。)

  3. 点击“Add model provider”,连接你选择的提供商。

  4. 开始使用 Agent(预览版)模式进行开发。

此次预览支持的提供商包括:Microsoft Foundry、OpenAI、Anthropic,以及 Ollama;其中 OpenAI 和 Ollama 支持自定义 URL。

我们也希望坦诚说明“预览版”意味着什么。目前并非所有模型都支持 Agent 模式的全部功能,我们也没有试图在此次发布中认证每一种模型与提供商的组合。当某项功能依赖于模型本身不具备的能力时,我们会尽可能以优雅的方式处理失败情况。

开发者为何要求 BYOM

过去几个月,我们花了大量时间与企业开发者、IT 管理员以及安全负责人交流——他们决定一款 AI 编程工具是否会获得批准、受到限制或被禁止使用。其中一个趋势非常明确:团队越来越多地处于多模型环境中,而他们希望 Visual Studio 能够适应这种现实。

大家反复提到了一些需求,这些需求也体现在这份建议反馈中:

  • 组织已经投入资源使用经过批准的模型,这些模型通常部署在私有端点之后。他们希望开发者能够在 Visual Studio 中将这些模型与 Copilot 搭配使用,而无需将代码或提示词发送给其他提供商。

  • 在金融服务、医疗、公共部门和国防等受监管行业中,工具必须满足组织对于身份认证、数据流转和管理控制等方面的要求,才能真正投入使用。

  • 成本和性能同样重要。团队希望能够灵活选择符合自身预算和延迟要求的模型。

BYOM 为开发者和组织提供了更多在 Visual Studio 中使用 AI 的选择。你可以使用 GitHub Copilot 模型,也可以访问组织通过 Microsoft Foundry 批准的模型部署,或者连接自己的模型提供商。开发者无需离开熟悉的 Visual Studio 使用体验,同时组织仍然可以保留已经建立的治理、安全与合规控制体系。最终,开发者和组织能够更加灵活地选择最适合自身工作流程、预算以及组织要求的模型。

我们接下来正在做什么

此次预览是 Visual Studio 推进“自有模型”的第一步。接下来,我们将重点让 BYOM 更容易在组织内部采用和治理。即将推出的功能包括:通过 ADMX 策略为 Professional 和 Enterprise 用户禁用 BYOM,该功能将作为 18.10 正式版(GA)发布的一部分推出;集中式模型配置与管理;更加精细的模型控制,例如配置上下文大小、工具调用以及模型思考力度;更广泛的提供商和模型支持;更智能的兼容性检测;以及更深入的 Microsoft Foundry 集成。这些能力目前尚未包含在当前版本中,你的反馈将帮助我们确定下一步工作的优先级。

现在就可以在 Visual Studio 18.10 Insiders 中体验 BYOM,并通过开发者社区论坛或我们的简短调查告诉我们哪些功能运行良好、哪些内容有所欠缺,以及你希望我们下一步重点推进什么。你的反馈将直接帮助我们塑造 Visual Studio 中 AI 的未来。祝编码愉快!

Logo

微软开发者社区,邀请来自微软以及技术社区专家,带来最前沿的技术干货与实践经验。在这里,您将看到深度教程、最佳实践和创新解决方案。

更多推荐