ods层数据到dwd层的处理需求说明

您所在的位置:网站首页 redisssion ods层数据到dwd层的处理需求说明

ods层数据到dwd层的处理需求说明

#ods层数据到dwd层的处理需求说明| 来源: 网络整理| 查看: 265

1 清洗过滤

2 数据解析

3 SESSION分割

4 数据规范处理

5 数据集成(本质上是维度退化)

6 生成全局用户标识

3 SESSION分割

json字段解析成parquet格式

Boolean字段,在数据中有使用-1/0/1标识的,也有使用true/false表示的,统一为Y/N/U 字符串类型再短,在数据中有空串,有null值,也有\N,统一为null值 日期格式统一,2020/9/2 2020-9-2 2020-09-02都统一成YYYY-MM-dd 小数类型,统一成decimal 字符串,统一成string 时间戳,统一成bigint …..

为每个用户每一条访问记录;打上一个全局唯一的用户表示

(重点,给匿名访问记录也打上正确的 id标识)

有什么作用:选取合适的用户标识可以提高用户行为分析的准确性

将数据输出为orc格式,压缩格式为snappy

Original: https://blog.csdn.net/m0_59887059/article/details/123788379Author: iLoveCoffeTitle: ods层数据到dwd层的处理需求说明

相关阅读 Title: Redis – 0、几款可视化工具

不啰嗦,我们直接开始!

1、命令行

1.1、iredis

利用iredis,用 |将redis通过pipe用shell的其他工具,比如 jq/fx/rg/sort/uniq/cut/sed/awk等处理。还能自动补全,高亮显示,功能很多。

官网地址

ods层数据到dwd层的处理需求说明

2、可视化工具

2.1、桌面客户端版 2.1.1、 Redis Desktop Manager

这个工具应该是现在使用率最广的可视化工具了。存在时间很久。经过了数次迭代。跨平台支持。以前是免费的,现在为收费工具。试用可以有半个月的时间。官网地址

ods层数据到dwd层的处理需求说明

评测:

之前用觉得功能还行,就是界面UI丑了点。最近下了最新版,感觉经过了那么长时间迭代,界面看着也还凑合。该有的功能都有。界面看着比较简洁,功能很全。

key的显示可以支持按冒号分割的键名空间,除了基本的五大数据类型之外,还支持redis 5.0新出的Stream数据类型。在value的显示方面。支持多达9种的数据显示方式。

ods层数据到dwd层的处理需求说明

命令行模式在以前对自动命令提示符的支持方面也取得了很大进展。

[En]

Command-line mode has also made great progress with the previous support for automatic command prompts.

ods层数据到dwd层的处理需求说明

从功能看上去中规中矩,使用起来便捷。最大的缺点就是不免费。个人使用的话,大概一年要200多RMB的价格。

2.1.2、 medis

现阶段我使用率最高的redis可视化工具。界面符合个人审美。布局简洁。跨平台支持,关键是免费。官网地址

ods层数据到dwd层的处理需求说明

评测:

颜值挺高,功能符合日常使用要求。对key有颜色鲜明的图标标识。在key的搜索上挺方便的,可以模糊搜索出匹配的key,渐进式的scan,无明显卡顿。在搜索的体验上还是比较出色的。

缺点是不支持key的命名空间展示,不支持redis 5.0的stream数据类型,命令行比较单一,不支持自动匹配和提示。支持的value的展现方式也只有3种

ods层数据到dwd层的处理需求说明 2.1.3、Another Redis Desktop Manager

一款比较稳定简洁的redis UI工具 。GitHub 地址 Gitee地址

ods层数据到dwd层的处理需求说明

评测:

很中规中矩的一款免费的redis可视化工具,基本的功能都有,支持stream数据类型。有监控统计,支持暗黑主题,还支持集群的添加。

缺点是没什么亮点,UI很简单,命令行模式也比较单一。不过作者也在不断更新优化

ods层数据到dwd层的处理需求说明 2.1.4、 FastoRedis

FastoRedis之前没听到过。然后去下了体验了下。

使用这款工具首先得去官网注册账号。这款软件是收费软件,虽然跨平台,但是试用只有一天的时间。官网地址

ods层数据到dwd层的处理需求说明

评测:

毕竟是收费软件,虽然界面一股浓浓的windows风格,乍看上去有点像redis desktop manager,但是就功能而言。确实不错,支持了集群模式和哨兵模式,key的命名空间展示,redis 5.0的stream数据类型也支持。

命令行模式支持自动提示完成

[En]

Command line mode supports automatic prompt completion

ods层数据到dwd层的处理需求说明

value的显示支持树状,表格状等等显示方式。令我惊讶的是,值对象支持多达17种渲染方式

ods层数据到dwd层的处理需求说明

总的来说,除了界面UI交互略生硬,还有是一款收费软件之外,还是一款很不错的redis可视化工具。

2.1.5、 RedisPlus

一款开源的免费桌面客户端软件。官网地址

ods层数据到dwd层的处理需求说明

ods层数据到dwd层的处理需求说明

评测:

没什么亮点,也就基本功能。加分项可能也就是有一个监控。其他的都很普通 。甚至于这款软件连命令行模式都没有。用的是javafx开发,按道理说,应该是跨平台的软件 ,但是提供的下载地址,并没有mac的直接安装包。况且就算是跨平台的吧。

2.1.6、 Red

这是一款在苹果app store下载的redis可视化工具。Mac用户可以去app store里面搜

ods层数据到dwd层的处理需求说明

评测:

只支持Mac端,颜值还是不错的。功能中规中矩。基本功能都有,支持key命名空间的展示。

2.1.7、Redis Assistant

详见这位老哥博文==》传送门

2.2、web版 2.2.1、 Redis Insight

这个软件来头挺大的,是redis labs出的一款监控分析级别的redis可视化工具。这款软件是web版的。

那redis labs是啥公司,redis labs创立于2011年,公司致力于为Redis、Memcached等流行的NoSQL开源数据库提供云托管服务。可以算是专门致力于redis云的一家专业公司。他们的提供的软件中,除了可以连接企业私有的redis服务,也可以连接他们的redis云。官网地址

ods层数据到dwd层的处理需求说明

评测:

虽然是web版本,但是这个软件超越了我对redis可视化工具的认识,一看界面就觉得很专业,不像是个人开发出来的开源产品。我发现key的查询和浏览只是这里的一个功能模块而已

ods层数据到dwd层的处理需求说明

命令行方面:

ods层数据到dwd层的处理需求说明

除了命令完成提示符之外,右侧还有相关命令的文档说明。那么,它是超人吗?

[En]

In addition to the command completion prompt, there is also a documentation explanation of the relevant commands on the right. So, is it super-human?

同样支持redis 5.0的Stream数据类型

下面的三个功能,是需要在server端安装他们家的其他redis模块的。分别是可查询的图表,redis的时间序列展示和全文本查询功能。

ods层数据到dwd层的处理需求说明

最牛的是,redisInsight竟然还支持rdb的分析功能,之前分析rdb的存储分布,有点经验的都会用rdb-tools去分析。而redisInsight竟然把这个都集成进去了。我之前用这个分析了公司生产环境的rdb,找出了导致数据量增长过快的原因,简直是一个神器。

ods层数据到dwd层的处理需求说明

这是我上次利用这个软件分析rdb出来的结果。很明确的找到了哪个key占据内存过大。

在分析功能中的Profiler能监听一段时间内所有执行的redis命令 ,Slowlog能显示出执行比较慢的redis命令。

此外,该软件还可以批量运行。

[En]

In addition, this software can also operate in batches.

ods层数据到dwd层的处理需求说明

RedisInsight这个可视化工具对redis的覆盖之全面令人咋舌。虽然他的查询key的功能算不上优秀,但是他的全面性和分析监控方面,确实是其他redis可视化工具难以企及的,况且颜值还那么高,强烈推荐。

2.3、IDE工具的plugin 2.3.1、 Iedis2

Iedis是一款基于IntelliJ IDEA的插件,在IDEA的plugin市场里就可以搜到,但是为收费插件。可试用7天

ods层数据到dwd层的处理需求说明

评测:

作为IDEA的插件,当然是跨平台的,风格完全遵从于IDEA,颜值有保障。从功能上来说,Iedis也是不含糊。基本查询功能基本上挑不出毛病。加上IDEA的使用习惯,让你用起来得心应手,不需要另外打开软件。在代码和插件窗口中切换也是能提高效率的

ods层数据到dwd层的处理需求说明

这个插件最大的特点就是能支持lua脚本的编写和调试,这在其他软件中是不曾看到的。以前在一个业务中大量用了lua进行redis操作,虽然尝到了redis lua原子性和性能上的甜头,但是在编写调试的时候,那叫一个痛苦,因为不能在debug所以每次都需要返回一个值来检查是哪里出了错。看到这个工具,悔恨没早点发现这个插件,付费也愿意

ods层数据到dwd层的处理需求说明

该插件还可以支持查看慢速命令。

[En]

This plugin can also support the viewing of slow commands.

ods层数据到dwd层的处理需求说明

总的来说,Iedis除了需要付费,其他的一切都看上去很美好。价格是。。。$139/年。还是美元,看到这个价格,是不是长叹一口气呢。

3.总结

对于前面介绍的几款redis可视化工具,希望大家在日常开发中,能挑选好的工具,以最快的效率解决最复杂的事情。

别唠叨了,文章的结尾,期待三家公司!

[En]

Do not wordy, the end of the article, looking forward to three companies!

Original: https://blog.csdn.net/qq_34272760/article/details/120694581Author: Q.E.D.Title: Redis – 0、几款可视化工具

原创文章受到原创版权保护。转载请注明出处:https://www.johngo689.com/424061/

转载文章受原作者版权保护。转载请注明原作者出处!



【本文地址】


今日新闻


推荐新闻


CopyRight 2018-2019 办公设备维修网 版权所有 豫ICP备15022753号-3