亚马逊AWS官方博客

Category: Artificial Intelligence

Text-only LLM SFT 训练数据预处理:从收集到数据打包的完整指南

本文将系统介绍 Text-only LLM SFT 训练数据预处理的完整流程,涵盖从数据收集到最终打包的每一个环节,并结合真实客户案例给出实操建议。这里需要说明的是,本文聚焦于纯文本场景,且不涉及代码生成和 SQL 相关的场景。从 2025 年的行业趋势来看,代码和 SQL 相关场景基本上都是基于开源模型权重或闭源模型来构建实现的,需要针对代码和SQL相关场景做post training 的客户相对要少很多。此外,SFT 和 RFT(Reinforcement Fine-Tuning)的训练数据预处理存在差异,本文只讨论 SFT 的部分。虽然 SFT 本身又分为全参数 SFT 和 PEFT(主要是 LoRA 及其变体),但数据集的预处理流程对两者是一致的。

使用 Amazon Bedrock AgentCore 构建企业级 MCP 服务器:四种架构模式的实践指南

随着人工智能越来越深入地集成到企业工作流程中,企业对标准化、安全且可扩展的 AI 工具平台的需求日益增长。由 Anthropic 开发的模型上下文协议 (MCP) 为连接 AI 助手与外部工具和数据源提供了通用标准。当与 Amazon Bedrock 的 AgentCore 功能相结合时,组织可以构建兼具高性能与生产可用性的 AI 生态系统。

如何选择最适合游戏场景的 AI 模型?构建 Amazon Bedrock 多模态模型对比测试平台

本文面向正在评估 Amazon Bedrock 多模态模型的 AI 工程师 / 解决方案架构师,以及探索 AI 驱动游戏 QA 自动化的游戏开发团队。我们提供的对比测试方法论和工具,也是改进 AI 基础设施能力的重要一步——通过系统化模型评估积累量化基准数据,为更多业务场景落地 AI 提供可靠依据。

基于 Amazon SageMaker AI 部署 Chronos-Bolt 实现零样本时序预测

时间序列预测在零售库存管理、能源负荷调度、金融风险评估、运维容量规划等场景中扮演着关键角色。传统方案如 DeepAR 等深度学习模型精度较高,但面临训练周期长、数据需求大、维护成本高等挑战。亚马逊云科技推出了 Chronos 系列时序预测基础模型,包括 Chronos-Bolt 和 Chronos-2。Chronos-Bolt 于 2024 年底推出,是一款基于 T5 Transformer 架构的预训练时序预测基础模型,在近 1000 亿条时序观测数据上完成预训练,支持零样本(zero-shot)预测,无需额外训练即可在新数据集上生成高质量预测结果。Chronos-2 是 2025 年底推出的,进一步支持多变量预测、协变量和更长上下文(8192 步)等。本文基于客户运维场景简化训练推理流程、面向纯单变量、短期预测、追求推理延迟的需求场景,选择 Chronos-Bolt 作为演示,将介绍 Chronos-Bolt 的核心技术原理、适用场景,并通过一个完整 POC 演示如何在 Amazon SageMaker AI JumpStart 上快速完成部署与推理。若业务涉及多变量、协变量融合或长期预测(>64步),建议评估 Chronos-2。

从一键部署到 AI 洞察:基于 Serverless 架构与 LLM 的压测与分析平台 Load Testing Pilot

性能测试是保障系统稳定性的关键环节,然而分布式压测环境搭建复杂、客户端指标与服务端基础设施指标割裂、测试结果分析高度依赖专家经验,仍是许多团队面临的共性挑战。本文介绍 Load Testing Pilot——一个专为亚马逊云科技中国区域设计,通过单一 Amazon CloudFormation 模板实现一键部署的 Serverless 分布式压测与智能分析平台。平台支持多压测引擎与 LLM 自然语言生成脚本,可在压测结束后自动沿负载均衡器至后端实例的链路发现关联资源、采集全链路监控指标,并由 LLM 生成涵盖健康判定、瓶颈定位、根因分析与优化建议的结构化报告。