发布于: Dec 19, 2022

现在,在使用 Amazon Managed Streaming for Apache Kafka(Amazon MSK)或自托管 Kafka 作为事件源时,Amazon Lambda 支持自定义消费者组 ID。  Kafka 使用消费者组 ID 来标识消费者成员资格并记录消费者检查点。  对于需要灾难恢复或失效转移支持的工作负载的客户,使用自定义消费者组 ID 是理想之选。

Lambda 使大规模消费来自 Kafka 主题的事件变得容易。  当 Lambda 开始从某个主题进行消费时,它会提供一个消费者组 ID,这一直是随机生成的唯一值,可确保 Lambda 被标识为该主题的新组消费者,并且处理将在指定的位置(“最新”或“时间范围”)开始。  现在,使用指定的消费者组 ID,无需将 Lambda 标识为新的消费者组。  当 Kafka 将 Lambda 标识为现有消费者组时,消费将从 Kafka 记录的消费者组中断的地方开始。  在灾难恢复工作流中,使用 Apache MirrorMaker2 的客户可以使用带有自定义消费者组 ID 的 Lambda 从镜像的 Kafka 集群恢复处理。

您可以通过亚马逊云科技管理控制台、Amazon CLI、Amazon SAM 或适用于 Lambda 的 Amazon SDK 开始使用 Amazon MSK 和自托管 Kafka 的自定义消费者组 ID。  此功能已在由光环新网运营的亚马逊云科技中国(北京)区域和由西云数据运营的亚马逊云科技中国(宁夏)区域中免费推出。  要了解通过 Lambda 构建 Apache Kafka 消费者应用程序的详细信息,请阅读 Lambda 开发人员指南