Palo Alto Networks 使用 AWS、Anthropic 和 Sourcegraph 的人工智能解决方案提高了 2,000 名开发人员的工作效率

Palo Alto Networks 是一家跨国公司，总部位于加利福尼亚州，致力于为组织提供一流的网络安全解决方案。当生成式人工智能进入市场时，Palo Alto Networks 认识到这项技术有可能改变其业务运营，但问题在于如何以一种有利于内部团队和客户的方式使用它。该公司领导层认识到，第一行代码关乎到产品的质量和客户满意度，因此决定将生成式人工智能解决方案集成到其开发团队的工作流程中，这将是利用这个机会的最佳方式。该公司的目标是创建一个生成式人工智能工具，为其全球 3500 名开发人员提升速度和质量。理想情况下，生成式人工智能工具将使开发人员能够在相同的时间范围内交付更多功能，优化代码以提高性能和安全性，并帮助开发人员更快地进行故障排除。

但是，作为该公司皇冠上的明珠，其源代码的安全性至关重要，安全团队对数据隐私的要求淘汰了大多数产品。此外，由于生成式人工智能解决方案才诞生不久，它们正在迅速变化，或者未必总能兑现承诺，而且很少能提供全面集成的解决方案。Palo Alto Networks 明白，如果其工程师设计了一个定制解决方案，就可以更好地控制安全性、定制和迭代。但是，在内部从头开始构建解决方案是没有意义的。“如果一家公司的全部使命是为客户构建和解决这些问题，那么这家公司就总能以最佳方式解决这个问题。由于不需要从头开始创建所有解决方案，我们可以继续专注于开发出色的安全产品。” Palo Alto Networks 工程总监 Gunjan Patel 表示。

核心工程师团队知道他们想要使用最先进的语言模型和服务创建一个生成式人工智能解决方案，他们的第一步是根据内部评估标准评测市场上的数十种选项。该计划旨在开发一个概念验证，并将其战略性地推广到分布在全球的团队。这将需要与选定的供应商密切合作。最后，团队必须确定如何衡量其工作成功与否，考虑到如何评价更好的代码具有主观性，因此这将是一项颇具挑战性的任务。
 

Palo Alto Networks 根据基准（包括代码架构、代码生成、单元测试生成、代码文档以及调试或错误检测）对人工智能编码助手和大型语言模型（LLM）进行了排名。该公司还权衡了安全性、可扩展性、性能和定制方面的优点和缺点。Palo Alto Networks 随后选择了三家符合其安全和扩展标准并在评估中排名最高的提供商：AWS、Sourcegraph 和 Anthropic。对于解决方案的基础，Palo Alto Networks 选择了 Amazon Bedrock，这是一种提供高性能基础模型的完全托管服务。对于该解决方案的核心，该团队将 Anthropic 的 Claude 3.5 Sonnet 和 Claude 3 Haiku LLM（托管在 Bedrock 上） 与 Sourcegraph 的人工智能编码助手 Cody 集成在一起。Cody 是一个集成到开发人员 IDE（集成开发环境，开发人员可以在其中编写、调试和维护代码）中的工具。该工具与 Palo Alto Networks 的 Bedrock 环境中配置的 Claude 模型连接，为开发人员创建了一个无缝的统一系统。

Palo Alto Networks 选择 AWS 的原因在于该云提供商是一个值得信赖的第三方，可以托管 Anthropic 和 Sourcegraph，为网络安全公司提供安全的单租户基础设施。由于 Sourcegraph 的部署选项允许灵活地托管基础设施和 LLM 端点提供商，因此 Palo Alto Networks 选择将其以单租户自托管配置的形式部署在 AWS 上。人工智能编码助手 Cody 被配置为调用 Palo Alto Networks 提供的 Amazon Bedrock 私有 VPC 端点。这使得 Palo Alto Networks 具有足够的安全性和吞吐量，可以为其绝密数据运行 Anthropic 的 Claude 模型。“这三家公司都做了大量的定制以满足我们的要求，而且全部都能融合在一起。”Patel 表示。

在共同的期待和紧密合作的意愿下，工程团队在三个月内就构建出了解决方案和概念验证。该团队设计的解决方案旨在让托管在 Palo Alto Networks 的 AWS 账户中的 Cody 调用托管 Claude 模型的 Amazon Bedrock，从而在 Cody 和 Claude 模型之间实现无缝集成，以增强代码开发和维护。这种设计使 Palo Alto Networks 能够构建和扩展其生成式人工智能编码助手应用程序。开发人员通过 Web 用户界面或 IDE 扩展在前端与 Cody 交互。当开发人员通过聊天界面向 Cody 发送提示时，Cody 会附加额外的上下文并将请求发送给 Claude。然后，Claude 会处理查询并生成响应，Cody 会将响应显示给用户。

在推出之前，Palo Alto Networks 首先对原型进行了为期一个月的测试，最开始是低风险的开源代码项目。随后，领导层挑选了 150 名核心产品开发人员，他们以不同的角色，在不同的国家用不同的编程语言工作，继续试用该工具。经过两个月的迭代测试和反馈，Palo Alto Networks 向 1,000 多名开发人员开放了该工具。为了最大限度地提高效率，开发人员接受了来自 AWS、Anthropic 和 Sourcegraph 的针对性培训。Anthropic 举办了提示工程讲习会，Sourcegraph 举办了 Cody 学习课程，AWS 举办了人工智能培训。“AWS、Anthropic 和 Sourcegraph 在整个项目中与我们合作，参与了从联合测试到运营支持的所有工作。”Patel 表示。