亚马逊AWS官方博客

Amazon Nova Premier 正式可用！

现在，我们正式推出 Amazon Nova Premier，使 AWS re:Invent 大会上发布的 Amazon Nova 基础模型系列得到进一步扩展。Amazon Nova Premier 是我们功能最强大的模型，适用于处理复杂任务，并可作为模型蒸馏的教师模型。

Nova Premier 加入了 Amazon Bedrock 中现有的 Amazon Nova 理解模型。与 Nova Lite 和 Pro 类似，Premier 可以处理输入的文本、图像和视频（不包括音频）。凭借其先进能力，Nova Premier 擅长处理需要深度理解上下文、多步骤规划以及跨多工具和数据来源精确执行的复杂任务。凭借 100 万个 token 的上下文长度，Nova Premier 能处理超长文档或大型代码库。

您可以通过 Nova Premier 和 Amazon Bedrock 模型蒸馏功能，根据具体需求创建功能强大、经济高效且低延迟的 Nova Pro、Lite 和 Micro 版本。例如，我们使用 Nova Premier 蒸馏出了 Nova Pro，用于复杂的工具选择和 API 调用。蒸馏后的 Nova Pro 在 API 调用准确率上比基础模型高出 20%，在保持 Nova Pro 速度与成本优势的同时，性能始终与教师模型持平。

Amazon Nova Premier 基准评估

我们在文本智能、视觉智能和 Agent 工作流等广泛基准上对 Nova Premier 进行了评估。如下表所示，在 17 项基准测试中，Nova Premier 是 Nova 家族中功能最强的模型。

Amazon Nova Premier 基准评估

在同级别智能模型中，Nova Premier 与业界最佳的非推理型模型表现相当，并在约半数基准测试中达到或超越同类模型。具体评估信息见技术报告。

Nova Premier 同时也是 Amazon Bedrock 中同智能级别里速度最快、最具成本效益的模型。更多定价详情与对比，请参阅 Bedrock 定价页面。

Nova Premier 还可作为蒸馏的教师模型使用，这意味着您能将其针对特定用例的高级功能迁移至更小巧、更快速、更高效的模型，如生产部署用的 Nova Pro、Micro 和 Lite 模型。

使用 Amazon Nova Premier

要开始使用 Nova Premier，您首先需要在 Amazon Bedrock 控制台中申请模型访问权限。在导航窗格中选择模型访问权限，找到 Nova Premier，然后切换访问权限。

控制台屏幕截图。

获得访问权限后，您可以通过 Amazon Bedrock Converse API 使用 Nova Premier，在输入中提供来自用户和助手的消息列表。消息可包含文本、图像和视频。以下是使用适用于 Python 的 AWS SDK (Boto3) 的简单调用示例：

import boto3
import json

AWS_REGION = "us-east-1"
MODEL_ID = "us.amazon.nova-premier-v1:0"

bedrock_runtime = boto3.client('bedrock-runtime', region_name=AWS_REGION)
messages = [
    {
        "role": "user",
        "content": [
            {
                "text": "Explain the differences between vector databases and traditional relational databases for AI applications."
            }
        ]
    }
]

response = bedrock_runtime.converse(
    modelId=MODEL_ID,
    messages=messages
)

response_text = response["output"]["message"]["content"][-1]["text"]

print(response_text)

这个示例展示了 Nova Premier 如何为复杂技术问题提供详细解释。但 Premier 的真正优势在于其处理复杂工作流的能力。

多 Agents 协作使用案例

让我们通过一个更复杂的场景，来探索 Nova Premier 如何使用多 Agents 协作架构进行投资研究。

股票研究流程通常包含多个阶段：为特定投资标的识别相关数据来源、从这些来源中检索所需信息，整合数据形成具有可操作性的建议。当涉及股票指数、个股和货币等不同类型的金融工具时，这一过程会变得尤为复杂。

我们可以在 Amazon Bedrock 中使用多 Agents 协作来构建此类应用程序，由 Nova Premier 为协调整个工作流的监督 Agent 提供支持。监督 Agent 会分析初始查询（如“可再生能源投资有哪些新兴趋势？”），将其分解为逻辑步骤，确定要使用的专用子 Agent，然后整合形成最终响应。

对于这个场景，我创建了一个包含以下组件的系统：

  1. 由 Nova Premier 提供支持的监督 Agent
  2. 由 Nova Pro 提供支持的多个专用子 Agent，每个子 Agent 都专注于不同的财务数据来源
  3. 连接财务数据库、市场分析工具和其他相关信息来源的工具

多Agent架构图

当我提交有关可再生能源投资新兴趋势的查询时，由 Nova Premier 提供支持的监督 Agent 会执行以下操作：

  1. 分析查询，确定要涵盖的基本主题和来源
  2. 针对这些主题和来源选择相应的子 Agent
  3. 每个子 Agent 检索相关的经济指标、技术分析和市场情绪数据
  4. 监督 Agent 将这些信息整合形成一份综合报告，供金融专业人员审阅

在此类多 Agent 协作架构中使用 Nova Premier，可以简化金融专业人员的工作，帮助他们更快地制定投资分析。以下视频直观描述了这一场景。

将 Nova Premier 用于监督角色的关键优势，在于它可以准确地协调复杂的工作流，按照最佳顺序查询正确的数据来源，并且确保每个子 Agent 获得工作所需的准确输入信息，从而产生更高质量的见解。

通过模型蒸馏进行多 Agents 协作

尽管 Nova Premier 提供了其模型系列中最高准确度，但您可能需要在生产环境中优化延迟和成本。这正是 Nova Premier 作为蒸馏的教师模型的优势所在。通过 Amazon Bedrock 模型蒸馏功能，我们可以针对这个特定投资研究用例，基于 Nova Premier 的结果定制 Nova Micro 模型。

与传统需要人工反馈和标注样本的微调不同，模型蒸馏通过教师模型生成预期输出来创建高质量训练数据，从而简化数据获取流程。

Amazon Bedrock 模型蒸馏功能图

模型蒸馏流程包括：

  1. 通过捕获 Nova Premier 处理多种金融工具时的输入输出，生成合成训练数据
  2. 使用这些数据作为参考，通过自定义微调工具训练 Nova Micro 的自定义版本
  3. 评估自定义 Micro 模型的延迟和性能差异
  4. 在生产环境中将自定义的微型模型部署为监督 Agent

借助 Amazon Bedrock，您可以进一步简化流程，并使用调用日志进行数据准备。为此，您需要开启模型调用日志记录，并设置 Amazon Simple Storage Service (Amazon S3) 存储桶作为日志存储目标。

客户心声

部分客户已提前体验了 Nova Premier。以下他们的反馈：

Slack 高级工程师 Curtis Allen 表示：”Amazon Nova Premier 在执行交互式分析工作流方面表现卓越，在我们的测试中不仅速度更快，成本也比其他领先模型低近一半。”（Slack 是将对话、应用和客户集中于一处的平台）

“基于 Amazon Nova 构建的新解决方案，有力支持了我们’金融普惠化’的使命。”Robinhood Markets 人工智能与数据负责人 Dev Tagare 表示：“我们特别看好它探索复杂多Agent协作等新领域的能力，这些合作不仅性能出色，还具有成本效益和速度优势。Nova Premier 的智能及其向 Nova Micro、Nova Lite 和 Nova Pro 等模型的迁移能力，将以更优性能、价格和速度实现多Agent协作的大众化应用。”（Robinhood 是一家致力于金融普惠化的公司）

“加速真实世界 AI 部署（不仅是原型）需要能为实际应用程序独特需求定制模型的能力。”Snorkel AI 联合创始人 Henry Ehrenberg 指出：“我们很高兴看到 AWS 通过 Amazon Bedrock 模型蒸馏功能和 Amazon Nova Premier 推动高效模型定制。这些新模型功能有可能助力企业客户加速构建生产级 AI 应用程序，包括包含多模态数据的问答应用程序等。”（Snorkel AI 帮助数据科学家和开发人员快速将数据转化为精准、适应性强的 AI 应用程序）

注意事项

Nova Premier 现已通过跨区域推理，在美国东部（弗吉尼亚州北部）、美国东部（俄亥俄州）和美国西部（俄勒冈州）AWS 区域的 Amazon Bedrock 中推出。使用 Amazon Bedrock，您只需为实际使用的资源付费。有关更多信息，请访问 Amazon Bedrock 定价。

美国客户还可以通过 https://nova.amazon.com 访问 Amazon Nova 模型，该网站提供便捷的基础模型探索体验。

Nova Premier 是我们蒸馏 Nova Pro、Micro 和 Lite 自定义变体的最佳教师模型，这意味着您可以在更小、更快的模型中继承 Premier 的功能，以进行生产部署。

Nova Premier 包括内置安全控制措施，可促进负责任的人工智能，其内容审核功能有助于在各种应用程序中保持适当的输出。

要开始使用 Nova Premier，请立即访问 Amazon Bedrock 控制台。有关更多信息，请参阅 Amazon Nova 用户指南并将反馈发送至 AWS re:Post for Amazon Bedrock。请访问我们 community.aws 网站的“生成式人工智能”部分，了解构建者社区如何在其解决方案中使用 Amazon Bedrock。

– Danilo

*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用，亚马逊云科技中国仅为帮助您了解行业前沿技术和发展海外业务选择推介该服务。