Fortinet 采用 Amazon Nova Micro 降低其客户支持聊天机器人的成本和延迟时间

Fortinet 全面的网络安全产品组合为各类客户提供了保护服务，这些客户涵盖从当地学区到全球一些最大的企业和政府机构等各类组织。但其高技术性产品以及多种版本的文档使得其数据库的规模和复杂性不断增加，从而影响客户服务。Fortinet 产品管理总监 Keith Choi 说：“随着我们的产品线不断扩展，我们面临着这样一个难题：如何让超过 800000 客户都能方便地获取我们的产品文档。”准确且最新的文档对于帮助客户充分挖掘 Fortinet 解决方案的价值以及保护其组织而言至关重要。但对于客户而言，搜索 Fortinet 的文档门户可能会耗费大量时间。

作为 AWS 合作伙伴和人工智能（AI）的狂热用户，Fortinet 看到了在 AWS 上上使用生成式人工智能的巨大潜力。Fortinet 的技术专家认为，一款由生成式人工智能驱动的支持聊天机器人将是首个理想的应用场景，它能够解决关键的客户问题，并带来巨大价值。从便捷地获取急需的文档，到提高客户满意度，更高效、更有效的产品支持所带来的种种好处都极具吸引力。

然而，这绝不是一款普通的聊天机器人。鉴于 Fortinet 的网络安全产品对客户而言具有重要的意义，因此该解决方案必须达到极高的标准。例如，它需要迅速给出准确且相关的回复，从而减轻开发人员的负担，并提高客户满意度。该公司还希望找到一种解决方案，该方案能够适用于超过 60 种产品以及多个版本，并且能够在未来容纳更多的产品。其他要求包括：在大规模部署中具有成本效益，并能与 Fortinet 的文档门户和内容管理系统无缝兼容。

关键在于，这款支持型聊天机器人不仅要帮助数以十万计的客户，还要帮助内部用户，让他们能够轻松且迅速地找到他们所需的确切信息。

为了打造其支持型聊天机器人，Fortinet 与生成式人工智能创新中心合作，该中心能让客户确定应用场景的优先级，制定路线图，并将解决方案投入生产。Fortinet 与该中心密切合作，利用 Amazon Bedrock（一项提供高性能基础模型选择的完全托管式服务）构建一个完整的生成式人工智能聊天机器人。在评估期间，Fortinet 团队探索了多种模型。

Choi 说：“我们在 AWS re:Invent 2024 大会上听到了有关 Amazon Nova 模型性能的惊人数据。”“在试用 Amazon Nova 时，我们发现其质量非常高，而且价格也非常优惠。” 由于其生成式人工智能支持聊天机器人可被广泛的客户群使用，因此 Fortinet 优先考虑了成本效益问题。因此，它选择了 Amazon Nova Micro，与之前的模型相比，它可以将推理成本降低 85 倍。Choi 说：“我们已经完成了聊天机器人的架构搭建并使其能够正常运行了。”“但是 Amazon Nova Micro 正是我们所追求的理想选择，而 Amazon Bedrock 则让我们能够轻松便捷地迅速切换至 Amazon Nova Micro。”

Fortinet 的支持聊天机器人受益于 Amazon Bedrock 的功能。例如，使用 Amazon Bedrock 知识库，该公司可以为基础模型和座席提供来自其私有数据来源的上下文信息，帮助其做出更相关、更准确、更个性化的响应。此外，Amazon Bedrock 护栏使 Fortinet 能够根据其应用需求和负责任的人工智能政策来实施定制化的安全措施。

Fortinet 正计划将其基于生成式人工智能技术的聊天机器人广泛应用于公众领域。该公司现在能够对查询进行筛选，将简单的请求与那些需要专家更深入了解和关注的请求区分开来。因此，其团队有更多时间专注于实现完整且全方位的沉浸式用户体验这一核心目标。Fortinet 技术和产品管理执行副总裁 Robert May 表示：“我们基于生成式人工智能的创新聊天机器人正在改变我们为客户提供支持以及与客户进行沟通的方式，它能够提供可靠且相关的最佳实践方案。”

Fortinet 的营销团队将这款聊天机器人视为该公司持续致力于运用前沿技术为客户提供服务的有力证明。Fortinet 云联盟营销总监 Mishel Fletcher 说：“只要我们能够简化客户所经历的任何流程——也就是他们与公司之间的任何互动环节——那对所有人来说都是好事。”“这款新的聊天机器人对我们来说是一个重大的进步，它使我们拥有了竞争优势。”

展望未来，Fortinet 已经在探索将 Amazon Nova 模型应用于客户支持及其他业务关键领域的新应用场景。Choi 说：“通过与 AWS 合作，我们能够获得企业级的安全性和可扩展性。”“Amazon Nova Micro 具备在保持低延迟的同时实现扩展的能力，这一点在我们从内部用户群体拓展至数十万客户群体的过程中尤为重要。通过使用 Amazon Bedrock 护栏，我们可以更好地控制用户体验和行为。”