了解主数据(灯泡灭)

主数据是企业中需要在多个部门或系统之间共享的,核心的、高价值且相对静态的数据。主数据必须存在并加以正确维护,才能保证各个系统的参照完整性。

主数据是企业信息系统建设和大数据分析的基础,被认为是企业数字化转型的基石和企业中的黄金数据。

1. 概述(灯泡灭)


主数据是我司自主研发的一款主数据管理工具,提供可视化的界面方便用户进行主数据建模,主数据维护,版本管理等操作。

2. 界面概览(灯泡灭)
















3. 主数据建模light-off (off)


3.1 创建管道

创建模型:点击页面 “+” ,输入模型基本信息,即可创建模型。

模型创建成功后,会在后台生成配置,并创建属性日志表(属性日志表为模型级别公用),并且创建默认版本(VERSION1)。

3.2 管道流程设计

点击管道进入管道设计界面,左侧是可拖拽的任务组件,分别是:开始、任务组、数据湖表任务、数仓表任务、分析模型任务

  1. 开始:流程起点,用来设置整个流程的调度时间、频率,调度类型有两种:TIMER DRIVEN :TIMER DRIVEN 输入框输入的为秒(只能输入数字)或 CRON DRIVEN :自定义设置。
  2. 任务组:可以理解为任务的集合,可将多个任务(数据湖表任务、数仓表任务、分析模型任务)放在一个任务组里
  3. 数据湖表任务:数据湖表对应数据接入中的物理表
  4. 数仓表任务:数仓表对应数据建模中的物理表
  5. 分析模型任务:分析模型对应数仓建模中分析指标创建的表

在左侧选中需要用到的组件拖拽到右侧的设计面板中

连接管道,利用连接点连接管道活动,连接的顺序代表数据同步的顺序。

任务组件:

1.开始:

选择 CRON DRIVEN 点击自定义设计时间调度,弹出弹窗可自定义设计调度。

2.数据湖表任务

选中数据湖表任务,在左下角切换到数据表选项点击“+”图标弹出需要同步数据的物理表供用户选择。

3.数仓表任务:

数仓表任务的操作流程和数据湖表任务的流程相同,唯一不同点在于数仓表任务把物理表分成了维度表和事实表两类;

4.分析模型任务

同2、3 。

3.3 保存&发布

数据同步流程设计好了之后点击右侧的“保存&发布”按钮既可,稍后会根据设计的流程后台自动生产数据同步的调度任务,根据设置的调度频率自行调用。如果是点击的“保存”按钮,那么只会保存设计的流程,不会在系统后台生成调度任务。

4.查看数据调度日志(灯泡灭)