数字化时代,如何规范化搭建数据仓库?

作者:昆明的的网络科技有限公司 浏览: 发表时间:2023-05-25 13:08:14

数据仓库作为商业智能BI系统中的一部分,已经成长为了企业信息化建设中必不可少的重要支撑,在可见的未来,数据仓库还会随着信息化、数字化技术、理念、应用的落地,继续成长。

数据仓库是一个面向主题的、集成的、随时间变化但信息本身相对稳定的数据集合,用于支持管理决策过程。其本质就是完成从面向业务过程数据的组织管理到面向业务分析数据的组织和管理的转变过程,也是商业智能BI中数据仓库的主要作用。

数据仓库就像企业的总的大仓库,能够存储不同来源、不同格式的数据,并且可以通过ETL和数据模型,对数据进行高质量的筛选,分级分类进行存储。具有很强的稳定性,不会频繁的进行增删改等操作,能够反应历史变化。

用通俗的话来说就是数据仓库就像一个终端的大仓库,其他小仓库的各种货品会通过各种方式统一存储到这里,然后通过仓库位置的划分、货品的摆放进行归纳分类,实现规范、标准的从存放,到分类,再到使用的完整过程。

一、 规范该怎么落地?

1、规范制定

从 0 到 1,从无到有,这个环节应该有 Leader 或架构师,充分考虑公司实际情况,参考行业标准或约定俗成的规范,综合统一制定。
也可以将规范拆分后交由各个部分核心开发人员编写, Leader 或架构师统一整合。总体上,初稿应该尽量保证规范的完整性和各个部分间的兼容性。

2、规范讨论

初稿完成后,难免有考虑不周的情况,这时候***有 Leader 牵头,组织部分核心成员。进一步完善各个细节,纠正初稿的不足。多人共同完善的规范,理论上来讲不会有什么大问题了。

3、规范推行

定稿后,规范已经具备了***推广的条件,可以下发所有团队成员。

分发宣讲后进入执行阶段,所有人必须严格遵守,如有违犯给予警告,严重的给予惩罚,屡劝不改的取消年终调级调薪等。

为了确保规范的贯彻落实,除了通过以上两点引起全员重视外,还需要组织、制度、流程上的多方面保障。

数据模型应该有统一归口,比如数据架构师,架构师定期检查模型是否合理合规。

组织数据开发人员,定期 Review 每个人的代码,但不必针对个人更不要上纲上线,目的是通过对比和讨论让大家明白什么样的才是好代码,***终使“写好代码”成为基本素养。没有条件的话就有 Leader 负责定期检查,有问题的私下指出来帮助组员逐渐规范。

入职新人,熟读规范后,还应该安排专人指导,是合规性检查的重点关注对象。

4、规范的执行监督

规范的执行监督,上边提到的,更多是依靠制度流程以及相关人的自觉性,制度流程又依赖于人。这会带来如下几个问题:
短期坚持还好,但长期的专注很难。
数据建模***是有专门的人或者小团队去做,其他人使用,这往往会影响整体效率,所以通常都是谁用谁建,但撒出去后再想靠人去检查合规性,真的就太难了。
有条件的***引入相应的工具加强监管。
比如,我们有指标体系元数据、有词根库元数据、有建表的元数据、有 ETL 流程的元数据等等。
5、规范完善

发行稿,从大面上应该不会有啥问题,但细节上可能会有考虑不周的情况,在宣讲阶段、执行阶段遇到问题阻碍的时候,应该根据实际情况对规范做出调整,唯有经过实践检验才能愈发完善,相信经过一段时间的持续实践,规范会成为组织文化的一部分,进而降低沟通成本、提高开发效率、保证交付质量,从而实现团队和个人的双赢。

二、 数仓规范有哪些?

数仓规范,一共分为四大类:设计规范、流程规范、质量管理规范、安全规范。
设计规范,又划分为四部分:数据模型设计、命名规范、指标体系设计、词根库。
流程规范,主要是从数仓管理的角度,对数仓场景下的各种流程进行约束。核心流程一共提炼出来五类:需求提交、模型设计、ETL开发、前端开发、上线流程。
质量管控规范,之所以单独列出来,是因为数据质量,跟模型设计一样,对数仓建设的成败关系极大。 数据质量规范,主要是从数据流动的角度分为三类:源端管控、数仓管理、应用管控。

安全规范,随着***、社会、企业对数据的越来越重视,另一方面随着互联网的普及使得个人隐私变的越来越难以保证,数据泄露时有发生。数据安全对于数据仓库的重要程度急速提升,所以安全规范被单列了出来。从大的层面上安全规范分为三类:网络安全、账号安全、数据安全。

移动BI_ERP数据分析_自助敏捷BI分析_数据可视化分析系统-派可数据

免责声明:本公众号所发布的文章为本公众号原创,或者是在网络搜索到的***文章进行的编辑整理,文章版权归原作者所有,仅供读者朋友们学习、参考。对于分享的非原创文章,有些因为无法找到真正来源,如果标错来源或者对于文章中所使用的图片、链接等所包含但不限于软件、资料等,如有侵权,请直接联系后台,说明具体的文章,后台会尽快删除。给您带来的不便,深表歉意。


 

公司地址:昆明市官渡区万科魅力之城6期3栋806号

电话号码:0871-63335190  13888083560

滇ICP备16005677号

 

在线留言

  • 联系方式 *

  • 留言内容

  • 提交

微信扫码       添加好友

图片展示

 

  公司地址:昆明市官渡区万科魅力之城6期3栋806号

电话号码:0871-63335190  13888083560

滇ICP备16005677号

 

联系方式
二维码
在线客服
联系方式
咨询热线:
0871-63335190
手机(微信):
13888083560
二维码
二维码
微信扫一扫
添加微信好友,详细了解产品
使用企业微信
“扫一扫”加入群聊
复制成功
添加微信好友,详细了解产品
我知道了
滇ICP备16005677号