【车联网kafka】常用参数及其命令总结(第八篇)

目录

1、kafka参数

1.1 、消费者消息批次发送

1.2 、消息大小的配置(环环相扣的消息大小,调整时需要一起调整)

1.3 、消息重试发送幂等

1.4、消息提交

1.5、分区分配策略(自己看的设置)

1.6、文件存储

2、kafka命令

2.1 常用命令一览

2.2 具体命令通过 --help 可以自己看一下哈


我把想到的kafka用到的配置以及命令做一个简单的梳理,如果有写的不对的地方,和缺失的地方还望大家多多指正。

1、kafka参数

1.1 、消费者消息批次发送

消费者消息批次发送,需要调整的话需要进行压测,选择适合自己的配置(需要考虑消息大小,网络带宽等问题)

buffer.memory      =   32MB   // kafka producer能够使用的内存缓冲的大小

batch.size             =  16KB    // producerBatch 消息批次的大小

ling.ms                  =  0          // 发送等待时间

max.request.size  = 1MB     // 生产者能够发送的单条消息的最大的值

1.2 、消息大小的配置(环环相扣的消息大小,调整时需要一起调整)

注意的规则:

replica.fetch.max.bytes     ≥    message.max.bytes     ≥    max.message.bytes

batch.size  < max.request.size       ≤    message.max.bytes  ≤ fetch.max.bytes

分区数 × max.partition.fetch.bytes ≤ fetch.max.bytes

max.request.size            // 生产者端:生产者能够发送的单条消息的最大的值(默认1MB)

message.max.bytes       // broker端: 单条消息最大尺寸控制阀值(默认1MB)

max.message.bytes       // broker端:    Topic该参数跟 message.max.bytes 参数的作用是一样的,只不过 max.message.bytes 是作用于某个 topic,而 message.max.bytes 是作用于全局

replica.fetch.max.bytes   //broker端:副本同步约束

fetch.max.bytes              // 消费者端:单次请求最大数据量(默认50MB)

max.partition.fetch.bytes//消费者端:单分区最大获取量(1MB)

compression.type           //snappy,gzip,lz4 (消息过大,注意压缩)

1.3 、消息重试发送幂等

注意:

retry.backoff.ms 可以设置:500ms,kafka中topic分区的副本首领选举的整个过程是500ms以内完成的(保持和副本首领选举的时间)

消息大小超过了request.max.size 或者超过了message.max.bytes 类似这样的错误,kafka是不会选择重试的,因为这种错误是无法通过重试而成功的

retry.backoff.ms             //重试间隔时间

retries                            //重试次数

enable.idempotence     //消息发送幂等

max.in.flight.requests.per.connection = 1  // 设置为一可以保证单partition的顺序(其他无法保证)

acks                              // 0,1,all

1.4、消息提交

enable.auto.commit //设置为true 自动提交,建议手动

auto.commint.interver //多长时间提交一次 默认5S

1.5、分区分配策略(自己看的设置)

partition.assignment.strategy    //可以选择 StickyAssignor

1.6、文件存储

log.segment.bytes //默认1GB  log文件切割大小

log.roll.hours         // 日志时间戳和当前log文件记录时间的差值

log.index.size.max.bytes   //日志索引最大值 默认 10MB

log.index.interval.bytes     // 索引文件密度  默认4KB

就想到这么,后续想到在补充

2、kafka命令

2.1 常用命令一览

1、kafka-acls.sh #配置,查看kafka集群鉴权信息

2、kafka-configs.sh #查看,修改kafka配置

3、kafka-console-consumer.sh #消费命令

4、kafka-console-producer.sh #生产命令

5、kafka-consumer-groups.sh #查看消费者组,重置消费位点等

6、kafka-consumer-perf-test.sh #kafka自带消费性能测试命令

7、kafka-mirror-maker.sh #kafka集群间同步命令

8、kafka-preferred-replica-election.sh #重新选举topic分区leader

9、kafka-producer-perf-test.sh #kafka自带生产性能测试命令

10、kafka-reassign-partitions.sh #kafka数据重平衡命令

11、kafka-run-class.sh #kafka执行脚本

12、kafka-server-start.sh #进程启动

13、kafka-server-stop.sh #进程停止

14、kafka-topics.sh #查询topic状态,新建,删除,扩容

2.2 具体命令通过 --help 可以自己看一下哈

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如若转载,请注明出处:http://www.pswp.cn/news/919107.shtml
繁体地址,请注明出处:http://hk.pswp.cn/news/919107.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

基于Spring Boot 4s店车辆管理系统 租车管理系统 停车位管理系统 智慧车辆管理系统

&#x1f525;作者&#xff1a;it毕设实战小研&#x1f525; &#x1f496;简介&#xff1a;java、微信小程序、安卓&#xff1b;定制开发&#xff0c;远程调试 代码讲解&#xff0c;文档指导&#xff0c;ppt制作&#x1f496; 精彩专栏推荐订阅&#xff1a;在下方专栏&#x1…

17.4 合并购物车

分析 用户登录后&#xff0c;将Cookie中的购物车商品合并到redis数据库中。如果此时redis中已经有相同id的商品&#xff0c;则使用Cookie中的数据覆盖redis中的数据。 合并功能需要在用户登录后实现&#xff0c;但登录视图中应避免过多与登录逻辑无关的逻辑&#xff0c;所以考虑…

RK3588消费级8K VR一体机 是否有坑?

​​芯片平台​​​​定位场景​​​​核心优势​​​​消费级功能性短板​​全志H8/RK3288入门级VR低成本、基础性能稳定算力弱&#xff08;4*A55&#xff09;、无NPU、显示分辨率仅1080P高通XR1中端VR/AR均衡性能&#xff08;Adreno 615 GPU&#xff09;仅WiFi5、续航≤4小时…

基于Spring Boot校园二手交易平台系统设计与实现 二手交易系统 交易平台小程序

&#x1f525;作者&#xff1a;it毕设实战小研&#x1f525; &#x1f496;简介&#xff1a;java、微信小程序、安卓&#xff1b;定制开发&#xff0c;远程调试 代码讲解&#xff0c;文档指导&#xff0c;ppt制作&#x1f496; 精彩专栏推荐订阅&#xff1a;在下方专栏&#x1…

Nginx 服务器常用操作

一. Nginx 常用配置 1. Nginx 总配置文件 nginx 安装目录下的 nginx.conf 文件: # 指定 Nginx worker 进程运行的系统用户 user nginx; # 自动根据 CPU 核心数启动相应数量的 worker 进程&#xff0c;充分利用多核。 worker_processes auto; # 自动将 worker 进程绑定到特定 …

PHP官方及第三方下载地址全指南(2025最新版)

PHP官方及第三方下载地址全指南&#xff08;2025最新版&#xff09; 本文整理了PHP官方及主流第三方下载渠道&#xff0c;包含PHP 5.5至8.4各版本的直接下载链接&#xff0c;助您快速获取安全可靠的PHP环境。 一、PHP官方下载渠道 1.1 全球主站下载 网址&#xff1a;https://…

深度剖析Redisson分布式锁项目实战

今天在练手项目中也是遇到了许多新的技术&#xff0c;其中我认为最深刻的还是Redisson分布式锁&#xff0c;这里我就结合一下我项目中用到Redisson分布式锁的代码来讲述一下Redisson分布式锁&#xff0c;希望可以帮助大家更深刻地理解这项技术。在之前的文章中我已经讲过Rediss…

第四天-创建一个Classic CAN(经典CAN2.0)/CANFD的系统描述ARXML文件

【ARXML专题】-构建CAN/CANFD通信系统:ARXML实战指南 汽车神经系统的"高速公路" 想象一辆现代汽车如同人体,电子控制单元(ECU)是器官,而CAN总线就是连接它们的神经系统。在自动驾驶时代,传统CAN2.0的"乡间小路"已无法满足数据传输需求,CANFD的"…

用架构建模工具Sparx EA绘制企业转型路线图

企业数字化转型面临诸多挑战&#xff1a;信息壁垒导致各部门协同困难&#xff0c;资源投入缺乏科学评估&#xff0c;潜在风险难以提前预判。这些问题不仅拖慢转型进程&#xff0c;还可能引发高昂的试错成本。 本文将阐述如何运用架构建模工具Sparx EA的核心功能——可视化路线…

STM32——GPIO

总 &#xff1a;STM32——学习总纲 参考资料&#xff1a; STM32F1系列参考手册-V10&#xff08;中&#xff09; 一、GPIO简介 1.1 GPIO 特点 1.2 GPIO 电气特性* stm32芯片资料STM32F103ZET6(English) 1.3 GPIO 引脚分布 电源引脚&#xff1a;V开头 晶振引脚&#xff1a; …

NUX MG-400 吉他效果器功能原理介绍

NUX MG-400 是一款多功能数字吉他效果器&#xff0c;它的核心原理就是把吉他的模拟信号&#xff0c;通过 A/D 转换变成数字信号 → 在 DSP 芯片上做建模运算 → 再通过 D/A 转换还原成模拟信号输出。 它的硬件 软件协作设计&#xff0c;基本可以拆成几个模块来看&#xff1a; …

Linux——进程管理和计划任务管理

文章目录前言一、程序与进程的关系1.1 程序与进程的定义1.2 父进程与子进程二、查看进程信息2.1 ps 命令&#xff08;重点&#xff09;2.2 动态查看进程信息top命令&#xff08;重点&#xff09;2.3 pgrep命令查询进程信息2.4 pstree命令以树形结构列出进程信息三、进程的启动方…

阿里云TranslateGeneral - 机器翻译SDK-自己封账单文件版本—仙盟创梦IDE

仙盟创梦IDE代码<?php /*** 阿里云机器翻译通用版API调用工具* 文档参考&#xff1a;https://help.aliyun.com/zh/machine-translation/developer-reference/api-alimt-2018-10-12-translategeneral*/ class AliyunTranslate {// 阿里云访问密钥private $accessKeyId;priva…

新字符设备驱动实验

经过前两章实验的实战操作&#xff0c;我们已经掌握了 Linux 字符设备驱动开发的基本步骤&#xff0c;字符 设备驱动开发重点是使用 register_chrdev 函数注册字符设备&#xff0c;当不再使用设备的时候就使用 unregister_chrdev 函数注销字符设备&#xff0c;驱动模块加载成功…

【更新公告】C++算法·线段树

之前的线段树知识都忘了qwq 现在在重新学线段树 下一篇就是写线段树了&#xff0c;例题已经找好了 A了1遍&#xff0c;但是用的玄学代码ee 下面是更新公告 更新公告 更新模式改为2~3天1篇 但是绝对高质量&#xff01;&#xff01; (平均质量分93够吗qwq) 如果例题好找尽量给出2…

pyqtgraph 库 右键菜单栏插件汉化

第一步&#xff0c;打开pyqtgraph文件夹。 第二步&#xff1a;打开graphicsItems&#xff0c;将PlotItem和ViewBox中的.py文件中的英文替换为中文&#xff0c;运行软件即可看到插件右键的菜单栏成为中文。 第三步&#xff1a;GraphicsScene中的&#xff0c;等找到相应的右键菜单…

docker镜像解决的一些问题

1 概述Docker镜像技术通过创新性的设计&#xff0c;彻底解决了应用交付领域的核心痛点&#xff0c;已经成为已成为云原生时代的事实标准。其核心价值在于​​通过标准化封装实现"一次构建&#xff0c;处处运行"​​&#xff0c;从根本上改变了软件交付的生命周期。2 …

10.从开始写LINUX内核——时钟中断

Linux 0.12 内核时钟中断实现&#xff1a;从初始化到中断响应时钟中断是操作系统中最基础且最重要的中断之一&#xff0c;它为系统提供时间基准&#xff0c;支持进程调度、定时器等核心功能。本文将基于 Linux 0.12 内核的 setup 程序框架&#xff0c;详细介绍时钟中断的完整实…

Effective C++ 条款45:运用成员函数模板接受所有兼容类型

Effective C 条款45&#xff1a;运用成员函数模板接受所有兼容类型核心思想&#xff1a;使用成员函数模板&#xff08;member function templates&#xff09;生成可接受兼容类型的函数&#xff0c;特别是泛型拷贝构造函数和赋值操作符&#xff0c;同时避免抑制编译器生成的默认…

华测科技(北京)的3D GPR数据分析

很高兴得到了张总的支持&#xff0c;获得了他们雷达的数据&#xff0c;并写了雷达数据读取和转换文件。1 背景搜索后发现 华测科技&#xff08;北京&#xff09;有限公司 的实力很强&#xff0c;因为他们的检测可达100km/h的时速。以前我只知道行业内 青岛中电众益 的3D GPR产…