消息队列

2023-06-18 05:26| 来源: 网络整理| 查看: 265

使用前提Kafka作为数据去向

离线同步任务支持Kafka数据源，如果kafka作为目标端，即该数据源的导入（Writer），当前支持的版本为：0.9、0.10、0.11、2.2.0、2.3.0；如果kafka作为源端，即该数据源的导出（Reader），当前支持的版本为2.0.0、2.2.0（包括阿里云Kafka2.2.0版本）。以上kafka版本认证方式都为“无认证”。

使用前提

在使用之前需要在项目中心（新）完成Kafka数据源的登记。数据源登记过程中，需要填写如下信息：

数据源名称：Kafka数据源的名称数据源标识：仅允许包含英文小写、数字、下划线，只允许英文小写开头，最大长度为64个字符。平台内唯一，保存数据源后数据标识不可修改归属项目：由于元数据中心是项目组级别，因此此处支持选择项目组下的项目，默认为当前项目名称负责人：默认为当前创建人员协助管理员：同负责人，有该数据源的管理权限，包括编辑、设置“源系统账号映射”。可在安全中心为自己或其他人设置该数据源的使用权限版本：当前支持版本0.9、0.10、0.11、2.3.0 brokerlist：输入brokerlist，格式为ip:port，多个brokerlist通过","相连 zookeeperConnect：输入zookeeperConnect，格式为ip:port，多个zookeeperConnect通过空格相连认证模式：支持无认证和SASL认证两种，当选择SASL认证时需要填写：Security.protocol、Sasl.mechanism、Sasl.jaas.config。Security.protocol可选 SASL_PLAINTEXT；Sasl.mechanism可选SCRAM-SHA-256、SCRAM-SHA-512 自定义属性：支持添加数据源的其它配置唯一性校验规则：基于brokerlist进行校验。

除了数据源需要准备之外，进行离线同步任务创建和数据源的使用都需要在安全中心-功能权限中添加相应的权限（可参考数据传输权限、元数据中心权限)。

Kafka作为数据去向

Kafka作为数据去向需要配置如下内容：

数据源：选择Kafka和已经登记的Kafka数据源 Topic：填写topic 生产者配置：默认参数max.partition.fetch.bytes，值为20000000。支持添加新的参数

【本文地址】

消息队列

消息队列

今日新闻

推荐新闻