Kafka优化之防止消息丢失和重复消费
如何防止消息丢失
- ⽣产者:1)使⽤同步发送 2)把ack设成1或者all,并且设置同步的分区数>=2
- 消费者:把⾃动提交改成⼿动提交
如何防止重复消费
在防⽌消息丢失的⽅案中,如果⽣产者发送完消息后,因为⽹络抖动,没有收到ack,但实际上broker已经收到了。
此时⽣产者会进⾏重试,于是broker就会收到多条相同的消息,⽽造成消费者的重复消费。
怎么解决:
-
⽣产者关闭重试:会造成丢消息(不建议)
-
消费者解决⾮幂等性消费问题:
所谓的幂等性:多次访问的结果是⼀样的。对于rest的请求(get(幂等)、post(⾮幂等)、put(幂等)、delete(幂等))
解决⽅案: -
在数据库中创建联合主键,防⽌相同的主键创建出多条记录
-
使⽤分布式锁,以业务id为锁。保证只有⼀条记录能够创建成功
版权声明:本文不是「本站」原创文章,版权归原作者所有 | 原文地址: