Amazon Bedrock 文档

提示创建 -Amazon Bedrock 代理根据开发者提供的说明、完成任务所需的 API 详细信息以及知识库中的公司数据源详细信息创建提示。

检索增强生成 -Amazon Bedrock 代理旨在安全地连接到贵公司的数据源，将数据转换为数字表示形式，并使用正确的信息增强用户请求以生成响应。

协调和执行多步任务 -客户只需点击几下即可在 Amazon Bedrock 中创建代理，从而缩短在应用程序中构建生成式 AI 功能所需的时间。客户首先选择他们想要的模型，然后用自然语言写一些指令。代理协调和分析任务，并使用 FM 的推理能力将其分解为正确的逻辑顺序。代理调用必要的 API 与公司系统和流程进行交易来满足请求，并在此过程中确定他们是否可以继续或是否需要收集更多信息。

追踪思想链 (CoT) 推理 -您可以使用追踪功能逐步完成代理的推理和协调计划。借助这些洞察，您可以解决不同的编排问题，以引导模型实现所需的行为，从而获得更好的用户体验。此外，您还可以在迭代应用程序时查看步骤并调整说明。通过了解模型的推理，您可以更快地创建差异化的应用程序。

即时工程 -Amazon Bedrock 代理根据用户说明、操作组和知识库创建提示模板。您可以以此模板为基准，进一步细化生成的提示模板，从而提升用户体验。您还可以更新用户输入、编排计划和 FM 响应。最后，通过修改提示模板的能力，您可以更好地控制代理编排。 

从领先的 FM 中选择 -Amazon Bedrock 让使用一系列 FM 进行构建就像调用 API 一样简单。Amazon Bedrock 提供对领先模型的访问，包括 AI21 Labs 的 Jurassic、Anthropic 的 Claude、Cohere 的 Command and Embed、Meta 的 Llama 2 和 Stability AI 的 Stable Diffusion，以及我们自己的 Amazon 基础模型。借助 Amazon Bedrock，您可以选择最适合您的应用场景和应用程序要求的基础模型。

试用 FM 来完成不同的任务 -你可以使用交互式游乐场尝试不同的 FM，包括文本、聊天和图像。平台允许您针对您的应用场景尝试各种模型，以感受模型是否适合给定任务。

评估 FM 以选择最适合您的用例的 FM-Amazon Bedrock 上的模型评估允许您使用自动和人工评估为特定用例选择 FM。自动模型评估使用精选的数据集并提供预定义的指标，包括准确性、鲁棒性和毒性。对于主观指标，只需使用 Amazon Bedrock 单击几下即可设置人工评估工作流程。通过人工评估，您可以引入自己的数据集并定义自定义指标，例如相关性、风格和与品牌声音的一致性。人工评估工作流程可以利用您自己的员工作为审核者，也可以聘请 AWS 管理的团队来执行人工评估，其中 AWS 将聘请熟练的评估人员并代表您管理端到端工作流程。

使用您的数据私下自定义 FM -只需点击几下，Amazon Bedrock 即可让您从通用模型转变为针对您的业务和用例专门定制的模型。 您可以使用一种称为微调的技术来针对特定任务调整基础模型。只需指向 Amazon Simple Storage Service（S3）存储桶中的一些标记示例，Amazon Bedrock 就会复制基本模型，使用您的数据对其进行训练，并创建一个只有您可以访问的微调模型，以便您获得自定义响应。 可以对 Command、Llama 2、Amazon Nova Micro、Amazon Nova 简捷版、Amazon Nova Pro、Amazon Titan Text 简捷版和快捷版、Amazon Titan 图像生成器和 Amazon Titan 多模态嵌入模型进行微调。 您还可以通过持续预训练在 Amazon Bedrock 中调整 Amazon Titan Text 简捷版和快捷版基础模型，这是一种使用未标记数据集为您的领域或行业定制基础模型的技术。 通过微调和持续的预训练，Amazon Bedrock 会为您创建基础 FM 的私密自定义副本。您的数据不会用于训练原始基本模型。您用于自定义模型的数据旨在通过您的 Amazon Virtual Private Cloud（VPC）安全传输。

单一 API -无论您选择哪种模型，均使用单个 API 进行推理。通过单一 API，您可以灵活地使用来自不同模型提供商的不同模型，并且只需对代码做出最少的更改，即可与最新的模型版本保持同步。 

为@@ 您的所有应用程序带来一致的 AI 安全水平 ——Amazon Bedrock Guardrails 会根据特定用例的政策评估用户输入和 FM 响应，无论底层 FM 如何，都会提供额外的保护层。防护机制可以应用于 FM 中，包括 Anthropic Claude、Meta Llama 2、Cohere Command、AI21 Labs Jurassic、Amazon Nova Micro、Amazon Nova Lite、Amazon Nova Pro、Amazon Titan Text、Amazon Titan 图像生成器，以及经过微调的模型和自托管模型。客户可以创建多个防护机制，每个防护机制均配置不同的控件组合，并可以在不同的应用程序和应用场景中使用这些防护机制。防护机制还可以与 Amazon Bedrock 代理和 Amazon Bedrock 知识库集成，以构建符合您负责任的人工智能策略的生成式人工智能应用程序。

屏蔽生成式 AI 应用程序中的不良话题 -组织认识到，需要管理生成式 AI 应用程序内的交互，以提供相关且安全的用户体验。他们希望进一步自定义交互，继续关注与业务相关的话题，并与公司政策保持一致。Amazon Bedrock 防护机制使用简短的自然语言描述，允许您在应用程序的上下文中定义一组要避免的主题。防护机制可检测并屏蔽属于受限主题的用户输入和 FM 响应。

根据您负责任的 AI 政策筛选有害内容 -Guardrails for Amazon Bedrock 提供具有可配置阈值的内容过滤器，用于筛选仇恨、侮辱、性暴力等类别的有害内容。大多数 FM 已经提供了内置保护措施，以防止产生有害响应。除这些保护措施外，防护机制还允许您配置不同类别的阈值，以筛除掉有害的交互。防护机制会自动评估用户查询和 FM 响应，以检测并帮助阻止属于受限类别的内容。

编辑 PII 以保护用户隐私-Guardrails for Amazon Bedrock 允许您在用户输入和 FM 回复中检测个人身份信息 (PII)。根据应用场景，您可以选择性地拒绝包含 PII 的输入或编辑 FM 响应中的 PII。 

对端到端 RAG 工作流程的托管支持 -为了向 FM 提供最新的专有信息，组织使用检索增强生成 (RAG)，该技术可从公司数据源获取数据并丰富提示内容，以提供更相关和更准确的响应。Amazon Bedrock 知识库是一项完全托管的功能，可帮助您实施从摄取到检索和提示增强的整个 RAG 工作流程，而无需构建与数据来源的自定义集成或管理数据流。内置会话上下文管理，因此您的应用程序可以轻松支持多轮对话。

将 FM 和代理连接到数据源 -指向数据在 Amazon S3 中的位置，Amazon Bedrock 知识库会提取文档，将它们分成文本块，将文本转换为嵌入内容，并将嵌入内容存储在矢量数据库中。如果您当前没有向量数据库，Amazon Bedrock 会为您创建一个 Amazon OpenSearch 无服务器向量存储区。您也可以在其中一个受支持的数据库中指定现有的向量存储，包括 Amazon OpenSearch 无服务器、Pinecone 和 Redis Enterprise Cloud，对 Amazon Aurora 和 MongoDB 的支持功能即将推出。

轻松检索相关数据和增强提示 -您可以使用检索 API 从知识库中获取用户查询的相关结果。RetrieveAndGenerate API 使用检索到的结果来增强 FM 提示并返回响应。您还可以向 Amazon Bedrock 代理添加知识库，以便为代理提供上下文信息。

提供来源归因 -从 Amazon Bedrock 知识库中检索到的所有信息均附有引文，以提高透明度并最大限度地减少幻觉。 

保护您的生成式 AI 应用程序 -使用 Amazon Bedrock，您可以完全控制用于为生成式 AI 应用程序自定义 FM 的数据。传输中数据和静态数据都会被加密。此外，您还可以使用 AWS Key Management Service（AWS KMS）创建、管理和控制加密密钥。基于身份的策略可以进一步控制您的数据，帮助您管理用户和角色可以对哪些资源执行哪些操作以及在什么条件下执行。

利用@@ 全面的数据保护和隐私进行构建 -Amazon Bedrock 有助于确保您的数据处于您的控制之下。向 Amazon Bedrock 上的 FM 提供的客户输入和从中生成的输出不会与第三方模型提供商共享，也不会用于训练或改进基础 FM。当您在 Amazon Bedrock 上微调 FM 时，我们会以该模型的私有副本为基础进行调整。您可以使用 AWS PrivateLink 建立从 Amazon Virtual Private Cloud（VPC）到 Amazon Bedrock 的私有连接，而无需将 VPC 暴露给互联网流量。

实施监管和可审计性 -Amazon Bedrock 提供监控和日志记录功能，可以支持您的治理和审计要求。您可以使用 Amazon CloudWatch 跟踪使用情况指标，并构建带有可用于审计的指标的自定义控制面板。在将其他系统集成到您的生成式人工智能应用程序时，您还可以使用 AWS CloudTrail 监控 API 活动并解决问题。您也可以选择将元数据、请求和响应存储在您的 Amazon S3 存储桶以及 Amazon CloudWatch Logs 中。 最后，为了防止潜在的滥用，Amazon Bedrock 实施了自动滥用检测机制。 

有关服务控制、安全特征和功能的更多信息，包括有关存储、检索、修改、限制和删除数据的信息（如适用），请参阅 https://docs.aws.amazon.com/index.html。就 https://aws.amazon.com/agreement/ 上的 AWS 客户协议或您与 AWS 之间签订的管理您使用 AWS 服务的其他协议而言，此信息不构成文档的一部分。