我们很高兴地宣布，亚马逊云科技 与 Hugging Face 将扩大合作，以加快用于创建生成式 AI 应用程序的大型语言和视觉模型的训练、微调和部署。生成式 AI 应用程序可以执行各种任务，包括文本摘要、回答问题、代码生成、图像创建以及撰写文章和文章。
亚马逊云科技 在生成式 AI 方面有着悠久的创新历史。例如，亚马逊使用人工智能来提供与Alexa的对话体验，客户每周与之互动数十亿次，并且越来越多地使用生成式人工智能作为新体验的一部分，例如使用 Alexa
创建
。 此外，亚马逊搜索中的一个小组 M5 帮助亚马逊团队将大型模型引入其应用程序，还训练了大型模型以改进
Amazon.com 上的 搜索结果
。亚马逊云科技 不断在机器学习的各个领域进行创新，包括基础设施、
亚马逊 SageMaker
上的工具和人工智能服务，
例如
A m azon CodeWhisperer，该服务通过根据 IDE 中的代码和注释生成代码推荐来提高开发人员的工作效率。亚马逊云科技 还为在 亚马逊云科技 上对大型语言和视觉模型进行训练（
亚马逊云科技 Trainium
）和推断（
亚马逊云科技 推断 ）创建了专门构建的机
器学习加速器。
Hugging Face 之所以选择 亚马逊云科技，是因为它可以灵活使用最先进的工具来训练、微调和部署 Hugging Face 模型，包括
亚马逊 SageMaker 、 亚马逊云科技 Trainium 和 亚马逊云科技 Infer
entia。
使用 Hugging Face 的开发人员现在可以轻松优化性能并降低成本，从而更快地将生成式 AI 应用程序投入生产。
高性能且具有成本效益的生成式 AI
构建、训练和部署大型语言和视觉模型是一个昂贵而耗时的过程，需要深厚的机器学习 (ML) 专业知识。由于模型非常复杂并且可能包含数千亿个参数，因此生成式人工智能对于许多开发人员来说在很大程度上是遥不可及的。
为了缩小这一差距，Hugging Face 现在正在与 亚马逊云科技 合作，让开发人员更容易访问 亚马逊云科技 服务并部署专门用于生成式 AI 应用程序的 Hugging Face 模型。好处是：更快的训练速度和扩展低延迟和高吞吐量推理。例如，由
亚马逊云科技 Trainium
提供支持的 Amazon EC2 Trn1 实例可缩短训练时间，同时与同类亚马逊 EC2 实例相比，最多可节省 50% 的培训成本。Amazon EC2 的新 Inf2 实例由最新一代的
亚马逊云科技 Inferentia
提供支持 ，专门用于部署最新一代的大型语言和视觉模型，并通过将吞吐量提高多达 4 倍和延迟降低 10 倍来提高 Inf1 的性能。开发人员可以通过亚马逊 SageMaker 等托管服务使用 亚马逊云科技 Trainium 和 亚马逊云科技 Inferentia，这是一项包含机器学习工具和工作流程的服务。或者他们可以在亚马逊 EC2 上进行自我管理。
今天就开始吧
客户可以通过三种方式开始在 亚马逊云科技 上使用 Hugging Face 模型：通过 SageMaker
JumpStart、
Hugging Face 亚马逊云科技 深度学习容器 (DLC)
或将模型部署 到 亚马逊云科技 Trainium 或 亚马逊云科技 Inferentia 的
教程
。Hugging Face DLC 包含经过优化的转换器、数据集和分词器库，使您能够在数小时而不是数周内大规模微调和部署生成式 AI 应用程序，同时最大限度地减少代码更改。
SageMaker JumpStart 和 Hugging Face DLC
在所有提供亚马逊
SageMaker 的地区都可用，不收取额外费用。
阅读
文档
和
讨论论坛
以了解更多信息或 立即试用
示例笔记本
。