7000字入门大数据分析!小白学习宝典【上】

挖数网精选
挖数网精选
挖数网精选
352
文章
0
评论
2020-06-1913:06:00 评论 141 2696字
摘要

7000字长文带你了解大数据分析,大数据分析没有大家想象中那么困难,今天本文会从大数据分析的5个基本方面和数据分析工具来带大家系统的了解一下大数据分析。

一.大数据分析的5个基本方面

1.可视化分析

大数据分析的使用者有大数据分析专家,同时还有普通用户,但是他们二者对于大数据分析最基本的要求就是可视化分析,因为可视化分析能够直观的呈现大数据特点,同时能够非常容易被读者所接受,就如同看图说话一样简单明了。

2.数据挖掘算法

大数据分析的理论核心就是数据挖掘算法,各种数据挖掘的算法基于不同的数据类型和格式才能更加科学的呈现出数据本身具备的特点,也正是因为这些被全世界统计学家所公认的各种统计方法(可以称之为真理)才能深入数据内部,挖掘出公认的价值。另外一个方面也是因为有这些数据挖掘的算法才能更快速的处理大数据,如果一个算法得花上好几年才能得出结论,那大数据的价值也就无从说起了。

3.预测性分析能力

大数据分析最重要的应用领域之一就是预测性分析,从大数据中挖掘出特点,通过科学的建立模型,之后便可以通过模型带入新的数据,从而预测未来的数据。

4.语义引擎

大数据分析广泛应用于网络数据挖掘,可从用户的搜索关键词、标签关键词、或其他输入语义,分析,判断用户需求,从而实现更好的用户体验和广告匹配。

5.数据质量和数据管理

大数据分析离不开数据质量和数据管理,高质量的数据和有效的数据管理,无论是在学术研究还是在商业应用领域,都能够保证分析结果的真实和有价值。大数据分析的基础就是以上五个方面,当然更加深入大数据分析的话,还有很多很多更加有特点的、更加深入的、更加专业的大数据分析方法。

二.如何选择适合的数据分析工具

要明白分析什么数据,大数据要分析的数据类型主要有四大类:

1.交易数据(TRANSACTION DATA)

大数据平台能够获取时间跨度更大、更海量的结构化交易数据,这样就可以对更广泛的交易数据类型进行分析,不仅仅包括POS或电子商务购物数据,还包括行为交易数据,例如Web服务器记录的互联网点击流数据日志。

2.人为数据(HUMAN-GENERATED DATA)

非结构数据广泛存在于电子邮件、文档、图片、音频、视频,以及通过博客、维基,尤其是社交媒体产生的数据流。这些数据为使用文本分析功能进行分析提供了丰富的数据源泉。

3.移动数据(MOBILE DATA)

能够上网的智能手机和平板越来越普遍。这些移动设备上的App都能够追踪和沟通无数事件,从App内的交易数据(如搜索产品的记录事件)到个人信息资料或状态报告事件(如地点变更即报告一个新的地理编码)。

4.机器和传感器数据(MACHINE AND SENSOR DATA)

这包括功能设备创建或生成的数据,例如智能电表、智能温度控制器、工厂机器和连接互联网的家用电器。这些设备可以配置为与互联网络中的其他节点通信,还可以自动向中央服务器传输数据,这样就可以对数据进行分析。机器和传感器数据是来自新兴的物联网(IoT)所产生的主要例子。来自物联网的数据可以用于构建分析模型,连续监测预测性行为(如当传感器值表示有问题时进行识别),提供规定的指令(如警示技术人员在真正出问题之前检查设备)。

数据分析工具达到哪些要求和目的?

  • 能应用高级的分析算法和模型提供分析
  • 以大数据平台为引擎,比如Hadoop或其他高性能分析系统
  • 能够适用于多种数据源的结构化和非结构化数据
  • 随着用于分析模型的数据的增加,能够实现扩展
  • 分析模型可以,或者已经集成到数据可视化工具
  • 能够和其他技术集成

另外,工具必须包含必备的一些功能,包括集成算法和支持数据挖掘技术,包括(但不限于):

集群和细分:

把一个大的实体分割拥有共同特征的小团体。比如分析收集来的客户,确定更细分的目标市场。

分类:

把数据组织进预定类别。比如根据细分模型决定客户该如何进行分类。

恢复:

用于恢复从属变量和一个及一个以上独立变量之间的关系,帮助决定从属变量如何根据独立变量的变化而变化。比如使用地理数据、净收入、夏日平均温度和占地面积预测财产的未来走向。

联合和项目集挖掘:

在大数据集中寻找变量之间的相关关系。比如它可以帮助呼叫中心代表提供基于呼叫者客户细分、关系和投诉类型的更精准的信息。

相似性和联系:

用于非直接的集群算法。相似性积分算法可用于决定备用集群中实体的相似性。

神经网络:

用于机器学习的非直接分析。

人们通过数据分析工具了解什么?数据科学家们,他们想使用更复杂的数据类型实现更复杂的分析,熟知如何设计,如何应用基础模型来评估内在倾向性或偏差。

  • 业务分析师:他们更像是随性的用户,想要用数据来实现主动数据发现,或者实现现有信息和部分预测分析的可视化。
  • 企业经理:他们想要了解模型和结论。
  • IT开发人员:他们为以上所有类用户提供支持。

如何选择最适合的大数据分析软件?分析师的专业知识和技能。有些工具的目标受众是新手用户,有的是专业数据分析师,有的则是针对这两种受众设计的。

1.分析多样性

根据不同的用户案例和应用,企业用户可能需要支持不同类型的分析功能,使用特定类型的建模(例如回归、聚类、分割、行为建模和决策树)。这些功能已经能够广泛支持高水平、不同形式的分析建模,但是还是有一些厂商投入数十年的精力,调整不同版本的算法,增加更加高级的功能。理解哪些模型与企业面临的问题最相关,根据产品如何最好地满足用户的业务需求进行产品评估,这些都非常重要。

2.数据范围分析

要分析的数据范围涉及很多方面,如结构化和非结构化信息,传统的本地数据库和数据仓库、基于云端的数据源,大数据平台(如Hadoop)上的数据管理等。但是,不同产品对非传统数据湖(在Hadoop内或其他用于提供横向扩展的NoSQL数据管理系统内)上的数据管理提供的支持程度不一。如何选择产品,企业必须考虑获取和处理数据量及数据种类的特定需求。

3.协作

企业规模越大,越有可能需要跨部门、在诸多分析师之间分享分析、模型和应用。企业如果有很多分析师分布在各部门,对结果如何进行解释和分析,可能会需要增加更多的共享模型和协作的方法。

4.许可证书和维护预算

几乎所有厂商的产品都分不同的版本,购买费用和整个运营成本各不相同。许可证书费用与特性、功能、对分析数据的量或者产品可使用的节点数的限制成正比。

易用性。没有统计背景的商业分析师是否也能够轻松地开发分析和应用呢?确定产品是否提供了方便开发和分析的可视化方法。

5.非结构化数据使用率

确认产品能够使用不同类型的非结构化数据(文档、电子邮件、图像、视频、演示文稿、社交媒体渠道信息等),并且能够解析和利用收到的信息。

6.可扩展性和可伸缩性

随着数据量的不断增长和数据管理平台的不断扩展,要评估不同的分析产品如何跟随处理与存储容量的增长而增长。

End.

作者:沉默术士

来源:云栖社区

本文为转载分享,如侵权请联系后台删除

  • 我的微信公众号
  • 微信扫一扫
  • weinxin
  • 我的微信公众号
  • 微信扫一扫
  • weinxin
匿名

发表评论

匿名网友 填写信息

:?: :razz: :sad: :evil: :!: :smile: :oops: :grin: :eek: :shock: :???: :cool: :lol: :mad: :twisted: :roll: :wink: :idea: :arrow: :neutral: :cry: :mrgreen: