当前位置:首页 > 共享经济 > 正文内容

数据建模的方法及模型

wxianyue2年前 (2023-01-31)共享经济468
国内最强的AI写作工具,帮你写爆款文案

由于在变化快速的商业世界里,业务形态多种多样,为了能够更有针对性的进行数据建模,经过长时间的摸索,业界逐步形成了数据建模的四部曲:业务建模->领域建模->逻辑建模->物理建模。

简单讲,就是明确具体业务,抽象实体和关系,结合具体的建模方法,确定所有关键成分和属性,最后建数据表进行数据的存储和计算。

目前数据建模的方法论有两大阵营,一个是基于关系型数据库理论设计出来的,比如基于3NF的范式建模。虽然目前也有不少非关系型数据库以及不少半结构化和非结构化数据。但将半结构化/非结构化数据转化为结构化数据,然后再利用关系型数据库处理仍然是一种通用的主流数据处理方案。

另一个是基于数据仓库之父Bill Inmon提出的维度建模理论,是从全企业的高度利用实体关系来对企业业务进行描述。

数据建模相关概念

数据几乎总是用于两种目的:操作型记录的保存和分析型决策的制定。简单来说,操作型系统保存数据,分析型系统使用数据。前者一般仅反映数据的最新状态,按单条记录事务性来处理;其优化的核心是更快地处理事务。后者往往是反映数据一段时间的状态变化,按大批量方式处理数据;其核心是高性能、多维度处理数据。

通常我们将操作型系统简称为OLTP(On-Line )— 联机事务处理,将分析型系统简称为OLAP(On-Line )— 联机分析处理。

针对这两种不同的数据用途,如何组织数据,更好地满足数据使用需求。这里就涉及到数据建模问题。即设计一种数据组织方式(模型),来满足不同场景。在OLTP场景中,常用的是使用实体关系模型(ER)来存储,从而在事务处理中解决数据的冗余和一致性问题。

在OLAP场景中,有多种建模方式有:ER模型、星型模型和多维模型。下面分别说明下:

共享经济 共享通讯_共享经济与共享发展的关系_共享经济类建模模型

1、ER模型OLAP中的ER模型,与OLTP中的有所区别。其本质差异是站在企业角度面向主题的抽象,而不是针对某个具体业务流程的实体对象关系的抽象。

2、星型模型星型模型,是维度模型在关系型数据库上的一种实现。该模型表示每个业务过程包含事实表,事实表存储事件的数值化度量,围绕事实表的多个维度表,维度表包含事件发生时实际存在的文本环境。

这种类似于星状的结构通常称为"星型连接"。其重点关注用户如何更快速地完成需求分析,同时具有较好的大规模复杂查询的响应性能。在星型模型基础上,在复杂场景下还可以进一步衍生出雪花模型。

3、多维模型多维模型,是维度模型的另一种实现。当数据被加载到OLAP多维数据库时,对这些数据的存储的索引,采用了为维度数据涉及的格式和技术。性能聚集或预计算汇总表通常由多维数据库引擎建立并管理。由于采用预计算、索引策略和其他优化方法,多维数据库可实现高性能查询。

维度建模

维度建模,是数据仓库大师Ralph 提出的,是数据仓库工程领域最流行的数仓建模经典。

维度建模以分析决策的需求出发构建模型,构建的数据模型为分析需求服务,因此它重点解决用户如何更快速完成分析需求,同时还有较好的大规模复杂查询的响应性能。它是面向分析的,为了提高查询性能可以增加数据冗余,反规范化的设计技术。

1、事实表

事实表产生于业务过程,存储了业务活动或事件提炼出来的性能度量。从最低的粒度级别来看,事实表行对应一个度量事件。

事实表根据粒度的角色划分不同,可分为事务事实表、周期快照事实表、累积快照事实表。

事务事实表,用于承载事务数据,通常粒度比较低,它是面向事务的,其粒度是每一行对应一个事务,它是最细粒度的事实表,例如产品交易事务事实、ATM交易事务事实。

周期快照事实表,按照一定的时间周期间隔(每天共享经济类建模模型,每月)来捕捉业务活动的执行情况,一旦装入事实表就不会再去更新,它是事务事实表的补充。用来记录有规律的、固定时间间隔的业务累计数据,通常粒度比较高,例如账户月平均余额事实表。

累积快照事实表,用来记录具有时间跨度的业务处理过程的整个过程的信息,每个生命周期一行,通常这类事实表比较少见。

注意:这里需要值得注意的是,在事实表的设计时,一定要注意一个事实表只能有一个粒度,不能将不同粒度的事实建立在同一张事实表中。

2、维度表

共享经济 共享通讯_共享经济类建模模型_共享经济与共享发展的关系

维度表,一致性维度,业务过程的发生或分析角度,我们主要关注下退化维度和缓慢变化维。

退化维度()

在维度类型中,有一种重要的维度称作为退化维度共享经济类建模模型,亦维度退化一说。这种维度指的是直接把一些简单的维度放在事实表中。退化维度是维度建模领域中的一个非常重要的概念,它对理解维度建模有着非常重要的作用,退化维度一般在分析中可以用来做分组使用。

缓慢变化维( )

维度的属性并不是始终不变的,它会随着时间的流逝发生缓慢的变化,这种随时间发生变化的维度我们一般称之为缓慢变化维(SCD)。

SCD常用的三种处理方式:①TYPE1直接覆盖原值

共享经济 共享通讯_共享经济与共享发展的关系_共享经济类建模模型

②TYPE2增加维度行

共享经济与共享发展的关系_共享经济 共享通讯_共享经济类建模模型

在为维度成员增加新行时,需为其分配新的主代理键。并且,至少需要在维度行再增加三列:有效日期、截止日期、行标识。这个地方可联想拉链表设计。

共享经济类建模模型_共享经济 共享通讯_共享经济与共享发展的关系

③TYPE3增加属性列

共享经济 共享通讯_共享经济与共享发展的关系_共享经济类建模模型

④ 混合方式

可根据实际业务场景,混合或选择使用以上三种方式,以快速方便而又准确的分析历史变化情况。

3、粒度

用于确定某一事实表中的行表示什么,是业务最小活动单元或不同维度组合,即业务细节程度。

共享经济 共享通讯_共享经济与共享发展的关系_共享经济类建模模型

4、维度建模流程

维度建模步骤:选择业务过程->声明粒度->确定维度->确定事实。旨在重点解决数据粒度、维度设计和事实表设计问题。

共享经济 共享通讯_共享经济与共享发展的关系_共享经济类建模模型

声明粒度,为业务最小活动单元或不同维度组合。以共同粒度从多个组织业务过程合并度量的事实表称为合并事实表,需要注意的是,来自多个业务过程的事实合并到合并事实表时,它们必须具有同样等级的粒度。

由于在维度建模过程中,涉及到很多概念。下面通过一个场景来,来一一说明。例如:常见的电商下单环节,每个用户提交一笔订单(仅限一个物品),就对应于一条订单记录。

维度建模的步骤如下:

(1)收集业务需求与数据实现

在开始维度建模工作之前,需要理解业务需求,以及作为底层源数据的实际情况。通过与业务方沟通交流、查看现有报表等来发现需求,用于理解他们的基于关键性能指标、竞争性商业问题、决策制定过程、支持分析需求的目标。同时,数据实际情况可通过与数据库系统专家交流,了解访问数据可行性等。

(2)选择业务过程

业务过程是组织完成的操作型活动。业务过程时间建立或获取性能度量,并转换为事实表中的事实。多数事实表关注某一业务过程的结果。过程的选择非常重要的,因为过程定义了特定的设计目标以及对粒度、维度、事实的定义。

最终重点推荐当下最新最火的商业模式 不管你是想创业找项目的,还是自己开实体门店的,猪小侠是目前市场独一无二的实体门店引流商业模式 猪小侠属于消费返现平台,即消费者消费多少就有机会返现多少,通过这种方式促进消费者复购和分享,提升门店的客源 更多详细了解点击进去 猪小侠全民共享系统

手机浏览,点击图片保存二维码到相册,然后打开微信扫一扫选择本二维码图片就可以进入,电脑端微信“扫一扫”二维码,进入找聊天搭子平台,里面有找饭搭子、找对象、找陪伴服务等等

扫描二维码推送至手机访问。

版权声明:本文由小猪信息平台发布,如需转载请注明出处。

本文链接:https://pplcom.com/post/47380.html

分享给朋友:

相关文章

"无人酒店"火了!共享睡眠、不用退房 但用户的感受是…

"无人酒店"火了!共享睡眠、不用退房 但用户的感受是…

&nbsp&nbsp&nbsp&nbsp“共享”好似一个筐,啥都能往里装…… &nbsp&nbsp&nbsp&nbsp近日,这个“筐”里...

为什么共享储物柜市场逐渐兴起?

为什么共享储物柜市场逐渐兴起?

在当今社会,无论是购物还是看电影,每个人都希望轻装上阵。而这些生活中常见的存包存行李的需求,共享储物柜就可以解决!许多互联网公司已经进入了这个数百亿的市场。 智能共享储物柜和传统储物柜有什么区别?...

大学生自助厨房_营销/活动策划_计划/解决方案_实用文档

大学生自助厨房_营销/活动策划_计划/解决方案_实用文档

第一章 项目摘要 1.1 项目简介你是不是不想每天都在食堂吃那些天天都一种口味的菜?你 是不是又不想到外面餐馆去吃那些美味却不太安全的饭菜?你 是不是想体验和同学一起下厨的神秘感觉?大学生式厨房就非...

共享充电宝小程序系统开发

共享充电宝小程序系统开发

系统开发免费维护一年,还有更多优惠活动等您来了解,共享充电宝小程序系统开发,共享充电宝小程序源码,共享充电宝小程序系统制作,共享充电宝小程序平台搭建,共享充电宝小程序案例, 随着移动互联网的发展,智能...

成都一高校推出41间“共享公寓”:参照酒店模式规范管理

成都一高校推出41间“共享公寓”:参照酒店模式规范管理

双流区空港高校共享之旅启动仪式以来共享酒店公寓的目标客户,西南民族大学航空港校区经过紧张而细致的筹备 ,7月24日正式迎来首批游客。游客们有的在校内观光游览,感受学术氛围,有的在学生公寓住宿,怀念校园...

全面共享 常见代理软件配置详解

全面共享 常见代理软件配置详解

一条线路、一个帐号只能实现一台计算机上网,要实现整个局域网都能上网,则需要用到代理服务器。通过代理软件来实现整个局域网的共享上网。 目前主要有两种基于不同通信机制的代理服务器,一种是网关型,它是建立在...