IBM:大数据分类和架构简介

DATACN.NET注:本文作者是Divakar Mysore(IBM资深IT架构师)、Shrikant Khupat(IBM应用程序架构师)和Shweta Jain(IBM IT架构师)发表于2014年9月,阅读此文章时请注意IBM相关利益的提及。

大数据可通过许多方式来存储、获取、处理和分析。每个大数据来源都有不同的特征,包括数据的频率、量、速度、类型和真实性。处理并存储大数据时,会涉及到更多维度,比如治理、安全性和策略。选择一种架构并构建合适的大数据解决方案极具挑战,因为需要考虑非常多的因素。

一、依据大数据类型对业务问题进行分类

业务问题可分类为不同的大数据问题类型。以后,我们将使用此类型确定合适的分类模式(原子或复合)和合适的大数据解决方案。但第一步是将业务问题映射到它的大数据类型。下表列出了常见的业务问题并为每个问题分配了一种大数据类型。

业务问题:1、公用事业——预测功耗
大数据问题:机器生成的数据

描述:公用事业公司推出了智慧仪表,按每小时或更短的间隔定期测量水、天然气和电力的消耗。这些智慧仪表生成了需要分析的大量间隔数据。公用事业公司还运行着昂贵而又复杂的大型系统来发电。每个电网包含监视电压、电流、频率和其他重要操作特征的复杂传感器。要提高操作效率,该公司必须监视传感器所传送的数据。大数据解决方案可以使用智慧仪表分析发电(供应)和电力消耗(需求)数据。

2、电信:客户流失分析
Web和社交数据交易数据

电信运营商需要构建详细的客户流失模型(包含社交媒体和交易数据,比如CDR),以跟上竞争形势。流失模型的值取决于客户属性的质量(客户主数据,比如生日、性别、位置和收入)和客户的社交行为。实现预测分析战略的电信提供商可通过分析用户的呼叫模式来管理和预测流失。

3、市场营销:情绪分析
Web 和社交数据

营销部门使用 Twitter 源来执行情绪分析,以便确定用户对公司及其产品或服务的评价,尤其是在一个新产品或版本发布之后。客户情绪必须与客户概要数据相集成,才能得到有意义的结果。依据客户的人口统计特征,客户反馈可能有所不同。

4、客户服务:呼叫监视
人类生成的

IT部门正在依靠大数据解决方案来分析应用程序日志,以便获取可提高系统性能的洞察。来自各种应用程序供应商的日志文件具有不同的格式;必须将它们标准化,然后IT部门才能使用它们。

5、零售:基于面部识别和社交媒体的个性化消息
Web 和社交数据生物识别

零售商可结合使用面部识别技术和来自社交媒体的照片,根据购买行为和位置向客户提供个性化的营销信息。此功能对零售商忠诚度计划具有很大的影响,但它具有严格的隐私限制。零售商需要在实现这些应用程序之前进行适当的隐私披露。

6、零售和营销:移动数据和基于位置的目标
机器生成的数据交易数据

零售商可根据位置数据为客户提供特定的促销活动和优惠券。解决方案通常旨在在用户进入一个店铺时检测用户的位置,或者通过 GPS检测用户的位置。位置数据与来自社交网络的客户偏好数据相结合,使零售商能够根据购买历史记录针对性地开展在线和店内营销活动。通知是通过移动应用程序、SMS 和电子邮件提供的。

7、FSS、医疗保健:欺诈检测
机器生成的数据交易数据人类生成的

欺诈管理可预测给定交易或客户帐户遇到欺诈的可能性。解决方案可实时分析事务,生成建议的立即执行的措施,这对阻止第三方欺诈、第一方欺诈和对帐户特权的蓄意滥用至关重要。解决方案通常旨在检测和阻止多个行业的众多欺诈和风险类型,其中包括:
1)信用卡和借记卡欺诈
2)存款帐户欺诈
3)技术欺诈
4)坏账
5)医疗欺诈
6)医疗补助计划和医疗保险欺诈
7)财产和灾害保险欺诈
8)工伤赔偿欺诈
9)保险欺诈
10)电信欺诈

按类型对大数据问题分类,更容易看到每种数据的特征。这些特征可帮助我们了解如何获取数据,如何将它处理为合适的格式,以及新数据出现的频率。来自不同来源的数据具有不同的特征;例如,社交媒体数据包含不断传入的视频、图像和非结构化文本(比如博客文章)。

我们依据这些常见特征来评估数据,下一节将详细介绍这些特征:

1)内容的格式
2)数据的类型(例如,交易数据、历史数据或主数据)
3)将提供该数据的频率
4)意图:数据需要如何处理(例如对数据的临时查询)
5)处理是否必须实时、近实时还是按批次执行。

二、使用大数据类型对大数据特征进行分类

按特定方向分析大数据的特征会有所帮助,例如以下特征:数据如何收集、分析和处理。对数据进行分类后,就可以将它与合适的大数据模式匹配:

1、分析类型 — 对数据执行实时分析还是批量分析。请仔细考虑分析类型的选择,因为这会影响一些有关产品、工具、硬件、数据源和预期的数据频率的其他决策。一些用例可能需要混合使用两种类型:

1)欺诈检测;分析必须实时或近实时地完成。
2)针对战略性业务决策的趋势分析;分析可采用批量模式。

2、处理方法 — 要应用来处理数据的技术类型(比如预测、分析、临时查询和报告)。业务需求确定了合适的处理方法。可结合使用各种技术。处理方法的选择,有助于识别要在您的大数据解决方案中使用的合适的工具和技术。

3、数据频率和大小 — 预计有多少数据和数据到达的频率多高。知道频率和大小,有助于确定存储机制、存储格式和所需的预处理工具。数据频率和大小依赖于数据源:

1)按需分析,与社交媒体数据一样
2)实时、持续提供(天气数据、交易数据)
3)时序(基于时间的数据)

4、数据类型 — 要处理数据类型 — 交易、历史、主数据等。知道数据类型,有助于将数据隔离在存储中。
内容格式(传入数据的格式)结构化(例如 RDMBS)、非结构化(例如音频、视频和图像)或半结构化。格式确定了需要如何处理传入的数据,这是选择工具、技术以及从业务角度定义解决方案的关键。

5、数据源 — 数据的来源(生成数据的地方),比如 Web 和社交媒体、机器生成、人类生成等。识别所有数据源有助于从业务角度识别数据范围。该图显示了使用最广泛的数据源。

6、数据使用者 — 处理的数据的所有可能使用者的列表:
1)业务流程
2)业务用户
3)企业应用程序
4)各种业务角色中的各个人员
5)部分处理流程
6)其他数据存储库或企业应用程序

7、硬件 — 将在其上实现大数据解决方案的硬件类型,包括商用硬件或最先进的硬件。理解硬件的限制,有助于指导大数据解决方案的选择。

下图描绘用于分类大数据的各种类别。定义大数据模式的关键类别已识别并在蓝色方框中突出显示。大数据模式(将在下一篇文章中定义,点此进入)来自这些类别的组合。

大数据分类

You may also like...