Amazon Bedrock

Amazon Bedrock 中的 Meta Llama

使用 Llama 构建人工智能的未来

引入 Llama 4

Llama 4 模型标志着 Llama 生态系统新时代的开始，推出了最具可扩展性的 Llama 版本。Llama 4 具有原生多模态、混合专家架构、扩展的上下文窗口、显著的性能提升以及优化的计算效率，旨在满足各种应用需求。Llama 4 模型提供易于部署的不同规模版本，使其适用于各种应用场景。

Llama 4 Maverick 17B

Llama 4 Maverick 是一款用于图像和文本理解的原生多模态模型，具备先进的智能、快速的响应能力，且成本较低。

Llama 4 Scout 17B

Llama 4 Scout 是一款原生多模态模型，它集成了先进的文本和视觉智能，以及高效的处理能力。该模型通过其广泛的上下文处理能力实现了全面的多文档分析、强大的代码库推理以及复杂的数据处理。

优势

个性化且性能更高

Llama 3.2 通过设备端处理提供更加个性化的 AI 体验。Llama 3.2 模型采用更加高效的设计，延迟更低、性能更强，适用于各种应用程序。

12.8 万个令牌的上下文窗口

128K 上下文长度使 Llama 能够捕捉数据中更加细微的关系。

使用超过 15 万亿个令牌进行预训练

Llama 模型使用来自在线公共数据来源的超过 15 万亿个令牌进行训练，以更好地理解语言的复杂性。

支持多种语言

Llama 3.2 是多语言版的，支持八种语言，包括英语、德语、法语、意大利语、葡萄牙语、印地语、西班牙语和泰语。

零基础设施管理

Amazon Bedrock 的托管 API 使得使用 Llama 模型比以往任何时候都更容易。各种规模的组织都可以获得 Llama 的能力，而不必担心底层基础设施。由于 Amazon Bedrock 是无服务器的，因此您无需管理任何基础设施，并且可以使用已经熟悉的 AWS 服务将 Llama 的生成式人工智能功能安全地集成和部署到您的应用程序中。这意味着您可以专注于自己最擅长的工作：构建 AI 应用程序。

认识 Llama

在过去的十年中，Meta 一直专注于将工具交到开发人员手中，并促进开发人员、研究人员和组织之间的协作和进步。Llama 模型有多种参数大小可供选择，使开发人员能够选择最适合其需求和推理预算的模型。Amazon Bedrock 中的 Llama 模型开辟了一个充满可能性的世界，因为开发人员无需担心可扩展性或管理基础设施。Amazon Bedrock 是开发人员开始使用 Llama 的一种统包方式。

使用案例

Llama 模型擅长处理图像理解和视觉推理、语言细微差别、情境理解以及视觉数据分析、图像字幕、对话生成和翻译等复杂任务，并且可以无缝处理多步骤任务。Llama 模型非常适合的其他使用案例包括复杂的视觉推理和理解、图像文本检索、视觉基础、文档视觉问答、文本摘要和准确性、文本分类、情感分析和细微差别推理、语言建模、对话系统、代码生成和遵循指令。

模型版本

Llama 4 Maverick 17B

一个通用模型，包含 128 个专家模块和 4000 亿个总参数。它在理解 12 种语言的文本以及英文图像方面表现出色，非常适合用于各种助手和聊天应用程序。

最大令牌数：100 万

语言：英语、法语、德语、印地语、意大利语、葡萄牙语、西班牙语、泰语、阿拉伯语、印度尼西亚语、他加禄语和越南语；[图像] 仅支持英语

支持微调：否

支持的应用场景：高质量的多语言助手和聊天应用程序（具备图像理解功能）、编码辅助、用于结构化数据提取的文档理解、具备图像分析能力的客户支持、跨语言的创意内容生成，以及需要文本分析和多模态数据集成的研究应用

阅读博客

Llama 4 Scout 17B

一款通用多模态模型，拥有 16 个专家模块、170 亿个活跃参数以及总计 1090 亿个参数。其数百万的上下文窗口使其能够进行全面的多文档分析，使其成为同类模型中独一无二的强大且高效的模型。

最大令牌数：350 万（即将提升至 1000 万）

语言：英语、法语、德语、印地语、意大利语、葡萄牙语、西班牙语、泰语、阿拉伯语、印度尼西亚语、他加禄语和越南语；[图像] 仅支持英语

支持微调：否

支持的应用场景：在多语言环境中需要高质量回复和图像理解的聊天应用程序、用于提取结构化数据的编码辅助和文档智能、具备图像分析能力的客户支持、跨多种语言的创意内容生成，以及需要多模态数据集成的研究应用

阅读博客

Llama 3.3 70B

一款纯文本的 70B 指令调整模型，与 Llama 3.1 70B 相比性能更强，在用于纯文本应用程序时，与 Llama 3.2 90B 相比性能也有所提高。Llama 3.3 70B 提供与 Llama 3.1 405B 相似的性能，同时只需要一小部分计算资源。

最大令牌数：128K

语言：英语、德语、法语、意大利语、葡萄牙语、西班牙语和泰语

支持微调：否

支持的应用场景：专为内容创作、企业应用程序和研究而设计的对话式人工智能，提供高级语言理解功能，包括文本摘要、分类、情感分析和代码生成。该模型还支持利用模型输出来改进其他模型的能力，包括合成数据生成和蒸馏

阅读博客

Llama 3.2 90B

同时接受文本和图像输入和输出的多模态模型。非常适合需要复杂视觉智能的应用程序，例如图像分析、文档处理、多模态聊天机器人和自主系统。

最大令牌数：128K

语言：英语、德语、法语、意大利语、葡萄牙语、印地语、西班牙语和泰语

支持微调：是

支持的应用场景：图像理解、视觉推理和多模态交互，支持图像字幕、图像文本检索、视觉基础、视觉问答和文档视觉问答等高级应用程序，并具有从视觉和文本输入中推理和得出结论的独特能力

阅读博客

Nomura 在 Amazon Bedrock 中使用 Meta 的 Llama 模型来普及生成式人工智能

Nomura 执行董事兼企业架构师 Aniruddh Singh 概述了该金融机构使用 Amazon Bedrock 和 Meta 的 Llama 模型在全公司范围内实现生成式人工智能大众化的历程。Amazon Bedrock 为 Llama 等领先基础模型提供关键访问权限，从而实现无缝集成。Llama 为 Nomura 提供关键优势，包括更快的创新、透明度、偏差防护机制以及在文本摘要、代码生成、日志分析和文档处理方面的强大性能。

TaskUs 在 Amazon Bedrock 中使用 Meta 的 Llama 模型彻底改变了客户体验

TaskUs 是为世界上最具创新性的公司提供外包数字服务和下一代客户体验的领先提供商，它帮助其客户展示、保护和发展他们的品牌。其创新的 TaskGPT 平台由 Amazon Bedrock 和 Meta 的 Llama 模型提供支持，从而使团队成员能够提供卓越的服务。TaskUs 在 TaskGPT 上构建工具，利用 Amazon Bedrock 和 Llama 进行经济高效的释义、内容生成、理解和复杂的任务处理。