谷歌云解决方案 | 使用 Vertex AI Agent Builder 构建、扩展和管理 AI 代理的更多方法

由谷歌云官方认证授权代理商 CloudAce 云一整理发布,信息来源于谷歌云。如果您需要谷歌云、谷歌地图、Gemini API等谷歌产品或解决方案请与我们取得联系。

许多开发者都在开发人工智能代理原型,但要过渡到可扩展、安全且管理良好的生产代理则要复杂得多。 

Vertex AI Agent Builder是 Google Cloud 提供的全面开放平台,用于构建、扩展和管理可靠的智能体。作为一套产品,它为构建者提供了在全球范围内创建强大智能体系统所需的各种选择。 

自今年早些时候Agent Builder正式发布以来,我们看到其组件,例如 Python Agent Development Kit (ADK),获得了巨大的成功,下载量已超过 700 万次。Agent Development Kit 也为使用Gemini Enterprise 的客户的代理以及在 Google 产品中运行的代理 提供支持。

今天,我们乘势而上,宣布推出涵盖整个代理生命周期的新功能,以帮助您构建、扩展和管理 AI 代理。现在,您可以: 

  • 通过 ADK API 使用可配置的上下文层(静态、Turn、用户、缓存)更快地构建控制代理上下文并减少令牌使用量。
  • 借助Vertex AI Agent Engine (AE)提供的全新托管服务(包括新的可观测性和评估功能)  ,在生产环境中实现规模化扩展。
  • 借助包括原生代理身份安全保障在内的新功能,自信地管理代理。

这些新功能凸显了我们对 Agent Builder 的承诺,并简化了代理开发生命周期,无论您选择哪种技术栈,都能满足您的需求。 

作为参考,以下是使用方法和时机:

https://storage.googleapis.com/gweb-cloudblog-publish/images/1_GgDhTHh.max-1800x1800.png

该图展示了 Agent Builder 的全面构成,它被清晰地组织成构建、扩展和治理三大支柱。

1. 更快地构建您的 AI 代理

从概念到可运行的产品,构建代理程序涉及复杂的流程。因此,我们改进了ADK,以提升您的构建体验:

  • 构建更强大的代理:使用我们灵活的插件框架来实现自定义逻辑(例如策略执行或使用情况跟踪)。或者使用我们预置的插件,包括一个用于工具使用的新插件,该插件可以帮助代理“自我修复”。这意味着代理可以识别工具调用失败的情况,并自动以新的方式重试该操作。
  • 更多语言支持:我们还允许 Go 开发人员使用专用的 A2A Go SDK 以及 Python 和 Java 构建 ADK 代理,使更多开发人员能够访问该框架。
  • 单命令部署:构建代理后,您现在可以使用 ADK CLI 通过单个命令 ` adk deploy`将代理部署,到代理引擎 (AE) 运行时环境。这是一项重大升级,可帮助您快速无缝地将代理从本地开发环境迁移到实时测试和生产环境。

您今天就可以开始使用GitHub 上的adk-samples或 Vertex AI Agent Garden进行构建——这是一个不断增长的精选代理示例、解决方案和工具库,旨在加速您的开发并支持一键部署使用 ADK 构建的代理。

2. 有效扩展您的人工智能代理

代理构建并部署完成后,下一步就是在生产环境中运行它。随着代理数量从单个扩展到多个,如何有效地管理它们就成了一项关键挑战。因此,我们不断扩展代理引擎中提供的托管服务。它为部署和扩展您在代理构建器中创建的代理提供了核心功能。

  • 可观测性:我们将您熟悉且喜爱的本地开发环境迁移adk web 到 Google Cloud,以实现基于云的生产环境监控。在 Agent Engine 中,我们让以下操作变得简单: 
    • 通过仪表板跟踪关键代理性能指标,该仪表板可衡量一段时间内的令牌消耗、延迟、错误率和工具调用次数。 
    • 跟踪选项卡中更快地查找和修复生产问题,以便您可以深入查看弹出窗口,以可视化和了解代理正在执行的操作序列。 
    • 通过playground与已部署的代理(包括过去的会话或问题)进行交互,从而大幅缩短调试周期。
  • 质量与评估:您曾告诉我们,评估非确定性系统是一项重大挑战。我们对此表示赞同。现在,您可以使用包含用户模拟器的全新评估层来模拟代理性能。 
  • 简化访问:您可以使用 ADK CLI 部署到 Agent Engine 运行时,无需注册 Google Cloud 帐户即可使用 AE 会话和内存使用您的 Gmail 地址注册,即可免费试用长达 90 天。如果您拥有 Google Cloud 帐户,AE 运行时现在提供免费套餐,您可以放心部署和试用。 

以下演示展示了 Agent Engine 中新增的可观测性功能,例如更新后的 AE 仪表板、跟踪和 Playground。

https://storage.googleapis.com/gweb-cloudblog-publish/original_images/2_QOneucA.gif

3. 自信地管理您的 AI 代理

现在您可以大规模地衡量代理的性能,生命周期的最后阶段是确保它们安全负责地运行。新增和扩展的功能包括:

  • 代理身份:基于我们现有的云 IAM 功能,我们为代理在 Google Cloud 中赋予了独特的原生身份。作为一流的 IAM 主体,代理身份使您能够真正实现最小权限访问,建立精细化的策略和资源边界,从而满足您的合规性和治理要求。 
  • 安全防护与高级安全措施:现有的保护措施已可用于保护人工智能应用的安全。Model Armor可抵御诸如提示注入之类的输入风险,同时还能筛选工具调用和代理响应。为了实现全面控制,Model Armor 为 Gemini 模型提供内置的内联保护,并提供 REST API 以便与您的代理集成。为了提供全面的可视性,安全指挥中心 (Security Command Center)中新增的人工智能保护集成功能将能够发现并清点代理资产,并检测代理威胁,例如代理的未经授权访问和数据泄露尝试。

此外,您在 Agent Builder 中创建的代理可以注册供您的团队直接在Gemini Enterprise中使用。 

下面是一个 Gemini Enterprise 中的仪表板模拟图,展示了如何在 Agent Builder 中创建自定义代理并注册供员工使用,从而为他们创建一个加速工作流程的统一平台。

https://storage.googleapis.com/gweb-cloudblog-publish/images/3_nS75AlB.max-1300x1300.png

客户如何通过 Agent Builder 实现更多目标

“Color Health 及其附属医疗集团 Color Medical 运营着全美唯一的虚拟癌症诊所,为全美 50 个州的癌症患者提供从预防到康复的端到端临床指导癌症诊疗服务。我们与 Google Cloud 和 Google.org 合作,利用Vertex AI Agent Builder和ADK(由 Gemini LLM 提供支持)构建的 AI 智能助手,帮助更多女性进行乳腺癌筛查,并通过Agent Engine将其部署到生产环境中。Color Assistant 可以判断女性是否需要进行乳房 X 光检查,将她们与临床医生联系起来,并安排就诊。该智能助手的强大之处在于其规模化能力,帮助我们触达更多女性,收集多样化且包含丰富信息的答案,并实时响应。早期发现可以挽救生命:八分之一的女性会罹患乳腺癌,而早期发现可使乳腺癌患者的生存率高达 99%。点击此处了解更多信息:color.com/breast-cancer-screening” —— Color Health AI 平台负责人 Jayodita Sanghvi 博士

“PayPal 使用Vertex AI Agent Builder快速构建和部署生产环境中的代理。具体来说,我们使用代理开发工具包 (ADK) 命令行界面 (CLI) 和可视化工具来检查代理交互、跟踪状态变化并管理多代理工作流程。我们利用分步可视化功能来跟踪和调试代理工作流程。这使得团队能够轻松跟踪请求/响应,并可视化意图、购物车和支付授权的流程。最后, Agent Builder 上的代理支付协议 (AP2)我们提供了可信代理支付的关键基础。AP2 帮助我们的生态系统加速交付安全可靠的基于代理的商务体验。” —— Nitin Sharma,首席工程师,人工智能

“Geotab 使用Vertex AI Agent Builder快速构建代理并将其部署到生产环境中。具体来说,我们使用 Google 的代理开发工具包 (ADK)作为我们 AI 代理卓越中心的框架。它提供了灵活性,可以将各种框架协调到一个可控的生产路径下,同时提供卓越的开发者体验,从而显著加快我们的构建-测试-部署周期。对于 Geotab 而言,ADK 是让我们能够在企业范围内快速、安全地扩展代理 AI 解决方案的基础。” ——数据与分析副总裁 Mike Branch

开始使用

Vertex AI Agent Builder提供了一个统一的平台来管理整个代理生命周期,帮助您快速构建从原型到生产就绪代理的完整流程。要了解这些新功能,请访问更新后的Agent Builder 文档

如果您是一家初创公司,并且有兴趣了解更多关于构建和部署智能体的信息,请下载《初创公司技术指南:AI 智能体》。无论您的目标是自动化任务、提升创造力,还是为您的初创公司打造全新的用户体验,本指南都能为您提供从构思到原型再到规模化所需的知识。

Leave a Reply