Kafka消费者调优

kafka消费速度慢可以尝试以下方法进行调优


1. 根据topic分区数来调整消费者实例数

众所周知,kafka为了保证消息消费顺序topic的每个分区只能被消费者组中一个实例消费。

在广灵等地区,都构建了全面的区域性战略布局,加强发展的系统性、市场前瞻性、产品创新能力,以专注、极致的服务理念,为客户提供网站设计制作、成都网站建设 网站设计制作按需网站制作,公司网站建设,企业网站建设,成都品牌网站建设,成都营销网站建设,外贸营销网站建设,广灵网站建设费用合理。

如果你的topic分区数为36,则可以尝试调整消费者实例数为36,当然这个是消费者ConsumerFactory.concurrency = 1的情况。如果你调整了线程数为n,则你的消费者实例数最优为Math.ceil(36/n)。


2. 开启消费者批量消费

可以把ConcurrentKafkaListenerContainerFactory.setBatchListener(true)开启批量消费,并配置批量消费数ConsumerFactory.MAX_POLL_RECORDS_CONFIG = 100,默认为500


3. 消费者批量消费多线程处理

消费者使用线程池进行批量消费数据。建议不要使用execute,否则容易失控,建议使用submit然后得到future.get,get的时候会等待线程执行完,这种方式会把本次批量消费完再往下消费。

此时线程池的核心线程数就需要根据业务是IO密集型还是CPU密集型来决定,如果是IO密集型线程数可以多设置些,如果是CPU密集型线程数可以根据核心数来决定。


新闻名称:Kafka消费者调优
路径分享:http://bzwzjz.com/article/dsdihep.html

其他资讯

Copyright © 2007-2020 广东宝晨空调科技有限公司 All Rights Reserved 粤ICP备2022107769号
友情链接: 高端网站设计推广 成都网站设计 成都企业网站建设公司 成都网站建设流程 外贸营销网站建设 手机网站制作 网站建设 手机网站建设 移动网站建设 成都网站制作 成都网站建设 高端网站设计 成都响应式网站建设 成都网站建设 成都网站设计 成都网站制作 公司网站建设 成都响应式网站建设公司 成都网站设计公司 专业网站设计 定制级高端网站建设 自适应网站建设