AI 赋能 UGC 内容审核解决方案指南

客户在公共在线平台（如社交媒体网络、游戏社区）上的用户生成内容中面临运营风险。任何有害和敏感信息的曝光都可能导致平台所有者遭受灾难。传统上需要大量人工工作才能完成这项浩大的工作，处理时间长、成本高。现在，AI 赋能的内容审核可以大大加快流程。

方案优势

通过完全自动化的 人工智能服务，实现图像、视频、文本和音频审核工作流程的自动化，过滤不需要的内容并保护敏感信息。

完全托管的 AI 服务，自动从图像和视频文件中提取信息，以更快、更低的成本构建计算机视觉应用程序和模型，并可根据您的业务需求进行定制。

使用完全托管的 API 和可自定义的审核规则，有效地处理数百万张图像和视频，同时检测不当或不需要的内容，以确保用户安全和业务合规。

以下架构图展示了整个方案的部署架构。

开发人员在 Amazon S3 中准备图像和标签数据
Amazon SageMaker notebooks 和训练作业使用训练材料来训练自定义模型
训练作业完成后，输出结果会保存在 Amazon S3 中
模型会被部署到 SageMaker 端点以用于自定义审核处理程序
图像会被发送到 Amazon API 网关进行图像审核请求
Amazon Elastic Container Registry (Amazon ECR) (Amazon ECR) 托管 Amazon Lambda 的镜像存储库
基于 URL 中的参数，Amazon Lambda 中的审核处理程序处理请求，并合并处理程序的结果
根据图像审核标签，审核处理程序将请求分发到 Amazon Rekognition
根据图像审核标签，审核处理程序将请求分发到 Amazon SageMaker 端点
（可选）视频文件被上传到 Amazon S3 以触发 Amazon Lambda 中的视频处理程序
（可选）提取的关键帧图像被放置到 Amazon S3，并调用审核处理程序对图像进行处理
（可选）视频处理程序处理审核结果，并在原始 Amazon S3 存储桶中返回审核结果