Omi 利用 Amazon EKS 扩展基于 AI 的 3D 渲染解决方案，推动成本降低 70%

Omi 创立于 2020 年，致力于满足以更短时间和更低成本制作高品质视觉内容的商业需求。这家公司为品牌商提供 AI 驱动的照片与视频 3D 建模服务，通过 3D 技术和生成式人工智能突破传统制作限制，降低内容生产成本，为全渠道营销提供定制化内容支持。该公司业务目前覆盖 17 个国家/地区，服务超 600 家企业客户和 1000 个品牌，每日有 5000 多名活跃用户通过其平台为电商、社交媒体及广告创作内容。Omi 成功帮助客户大幅降低了营销图像的制作时间与成本。

自创立之初，Omi 立志打造一套高效快捷的视觉内容生成解决方案，用于生成适合在社交媒体、电商平台及其他数字渠道分享的照片、3D 动态图像及视频内容。

最初，Omi 采用“本地创作 + 云端渲染”的混合架构，通过远程服务器集群实现影视级画质输出。但随着市场对快速低成本服务的需求增长，集成生成式人工智能能力成为必然选择。这一转变对计算资源和 GPU 提出了极高要求：在保障高可用性的同时实现可扩展性管理与成本控制。“我们始终坚持在基础设施投入与性能优化之间取得平衡，”Omi 联合创始人 Paul Borensztein 强调道。

此前，Omi 技术团队需将 60%-70% 的基础设施管理时间用于 GPU 扩展的时间与成本优化。Omi 在运营中遭遇多重技术挑战：一方面，庞大的 Docker 映像导致容器启动迟缓；另一方面，多自动扩缩组与多实例类型交织，让系统架构复杂度大幅攀升。传统集群自动扩缩器难以应对生成式人工智能工作负载的可用区与实例类型管理，导致资源不足和客户等待时间过长。

为此，Omi 采用了 AWS 开发的 Kubernetes 节点生命周期管理工具 Karpenter，该工具能通过动态调整 Kubernetes 集群来平衡应用程序的可用性、性能与成本。“使用 Karpenter 后，实例启动时间大幅缩短，使得单张照片的平均渲染时间从 5 分钟降至 1.5 分钟，堪称突破性进展，”Omi 高级后端开发工程师兼站点可靠性工程师 Elliot Maincourt 表示。
 

在经历自建 Kubernetes 集群的管理挑战后，Omi 团队选择依托 Amazon Elastic Kubernetes Service（Amazon EKS）开启技术转型：这项全托管服务可轻松实现 Kubernetes 集群的启动、运行与弹性扩展。为进一步完善基础设施并解决运营难题，Omi 引入了 Karpenter，该工具能实时感知应用负载与资源需求变化，自动跨可用区选择最具成本效益的实例类型。Borensztein 表示：“Amazon EKS 与 Karpenter 完美应对了我们的业务波动，工作负载有时会在几分钟内从单个 GPU 实例激增至 250 多个，同时始终保持成本可控。”Omi 的解决方案目前可快速扩展至 1000 个 GPU 实例，若包含 CPU 实例，能在 Amazon EKS 上并行运行超过 1500 台机器。（参见下方图 1 与图 2）

图 1.集群整体负载趋势

图 2. 使用占比/按需实例使用占比

通过采用 Karpenter 节点生命周期管理并结合成本优化型实例，Omi 成功将总体成本降低 70%。Omi 运用 Karpenter 管理 Amazon EKS 节点组，在 24 小时内可弹性调度超过 3500 个容器组（pod）。凭借这种快速扩展能力，Omi 能够及时响应客户需求。Borensztein 表示：“通过将 Karpenter 与 AWS 结合使用，我们在不到两个月的时间里便见证了部署与调优效率的显著提升。”

为进一步提升服务效能，Omi 还采用了 AWS 专为容器化环境开发的 Linux 开源操作系统 Bottlerocket。Omi 创新性地运用 Bottlerocket 不可变操作系统，在启动 Kubernetes 容器组（pod）前从外部数据存储预取容器映像。通过利用 AWS 增强解决方案，Omi 旨在为客户提升性能。目前，Omi 集群在业务高峰时可运行超 1000 个节点。得益于这些改进，Omi 不但构建了更稳健的解决方案，还大幅缩短了团队的维护时间。Maincourt 表示：“现在，我们能专注于业务扩展而非基础设施管理。Amazon EKS 上的集群从未出现故障，即便在高强度负载下也表现稳定。”

这些技术升级使 Omi 客户直接受益。随着按产品定价新模式的推出，客户现在可对单一产品执行上千次甚至更多渲染。“通过多年优化，特别是 AWS 在该重大项目中的支撑，我们几乎能为客户提供无限可能，”Borensztein 总结道。