COURSE OVERVIEW
从消息收发到可靠集群,建立可用于生产环境的实时事件流能力
Kafka 以主题、分区和副本组织事件流,通过生产者、消费者和消费者组连接上游业务与下游应用。本课程从单机入门开始,带领学员理解消息如何被写入、保存、复制、读取和重新分配,再逐步完成集群部署、可靠交付与客户端开发。
学习将聚焦工程中最容易影响稳定性的环节:消息顺序、offset、ACK、ISR、HW/LEO、幂等与事务、重复消费、积压和 Rebalance,并结合监控平台、Java API、Spring Boot 与 Flume 对接,形成端到端的实战视角。
- 需要构建实时消息、数据同步或事件驱动系统的开发与架构人员
- 负责 Kafka 集群部署、日常维护、监控与性能优化的运维人员
- 具备基础 Linux 操作与 Java 语法基础,希望掌握 Spring 整合的学员
EVENT STREAM PATH
跟随一条消息,理解 Kafka 的端到端运行路径
从事件发布到消费提交,将吞吐、顺序、容错与业务集成连接为一套完整工程能力。
生产者以同步、异步或事务方式将消息写入指定主题。
按分区策略路由消息,在分区日志中保持有序存储和持续追加。
Broker 通过副本、ISR、HW 与 LEO 机制保障高可用与数据一致性。
消费者组按分区分配策略读取消息,并管理 offset 与 Rebalance。
用 Java、Spring Boot 接入业务,并通过监控和优化保持稳定运行。
PRACTICE FOCUS
将实时事件流的基础、可靠性与应用开发连成一体
每个模块都围绕生产环境的关键问题:如何扩展、如何可靠、如何定位和如何接入业务。
主题、分区与消费者组
理解主题操作、单播与多播、分区机制、文件存储,以及生产消费的基本流程。
集群部署与副本机制
完成 Kafka 集群部署、启动验证与基础脚本编写,理解 Broker、分区和副本关系。
可靠生产与一致性
掌握分区策略、ISR、ACK、幂等性、事务和 Exactly Once 语义的工程实践。
消费分配与 Offset 管理
理解消费者分区分配、Offset 存储、指定分区或时间消费,以及 Rebalance 机制。
监控、调优与故障处理
面向丢失、重复、积压和延时队列等问题,结合 Kafka Eagle 进行监控与排查。
Java 与 Spring Boot 集成
实现生产者、消费者、拦截器和事务机制,并完成 Spring Boot 与 Flume 对接。
FULL CURRICULUM
3天课程安排
从单机和集群基础开始,逐步进入可靠性、监控运维与客户端应用开发。
Kafka 单机版入门
- Kafka 简介、应用场景与基本架构
- Linux 单机部署与配置文件详解
- 主题创建、查看、修改与删除
- 生产者、消费者、单播多播与消费者组
- 分区、文件存储与生产消费流程
搭建 Kafka 集群
- ZooKeeper 协同集群与 Kafka 集群架构
- 集群部署、启动停止脚本与验证
- Broker、分区和副本核心概念
- 集群环境下的生产者与消费者实践
Kafka 集群进阶:可靠交付
- 生产者分区策略、ISR、ACK 与一致性
- Exactly Once 语义、幂等性与事务管理
- 消费者分区分配策略与 Offset 存储
- 高效读写、集群协调与分区实践
Kafka 集群进阶:调优监控
- Controller、Rebalance、HW 与 LEO 机制
- 防止消息丢失和重复消费
- 解决消息积压与实现延时队列
- Kafka Eagle 监控平台搭建与使用
Java 实现生产者和消费者
- 普通生产者、常见配置与同步异步发送
- 分区策略、事务机制与消息拦截器
- 普通消费者与业务场景配置
- 自动与手动提交 Offset、重置和保存
- 指定分区与指定时间消费
Spring Boot 整合 Kafka
- Spring Boot 中 Kafka 基本实现
- Kafka 配置详解与生产消费实现
- 面向业务服务的消息交互实践
- Kafka 与 Flume 对接及数据分类
LEARNING OUTCOMES
完成课程后,你能够构建并维护一套可靠的 Kafka 消息流体系
管理主题与消费者组
创建和维护主题,理解分区、消费者组、单播多播和生产消费的运行方式。
部署验证 Kafka 集群
完成基础集群部署、脚本化启停和健康验证,理解 Broker 与副本的协同关系。
设计可靠交付策略
结合 ISR、ACK、幂等、事务、HW 与 LEO,降低丢失、重复与不一致风险。
处理消费和积压问题
管理分区分配、Offset 和 Rebalance,针对积压、延时和重复消费制定处理方案。
监控并优化集群运行
使用监控平台观察集群状态,定位副本、吞吐、消费滞后和控制器相关问题。
完成 Java 业务集成
使用 Java API 与 Spring Boot 实现生产、消费、事务、拦截和外部系统的数据对接。
APACHE KAFKA PRACTICE
把高吞吐事件流、可靠存储与实时处理连接为可运营的业务基础设施
Apache Kafka 以主题、分区、复制与消费者组实现可扩展的事件流处理。课程围绕这些基础能力展开,同时延伸到可靠交付、消费协调、监控与应用接入,帮助学员用工程视角理解实时数据系统。
了解 Apache Kafka 对事件发布订阅、持久化存储、分区扩展、复制容错和实时处理的核心支持。
查看 Apache Kafka 官方文档START LEARNING
用 3 天完成从 Kafka 基础到生产级事件流实践的训练
适合希望构建、运维或集成实时消息系统的后端开发、数据平台和运维工程人员。