“如果你真的想要了解发生在您企业业务中的真相,你需要大量的非常详细的数据资料。”数据仓库研究院(TDWI)研究主任菲利普•卢瑟姆在其最新的一份TDWI大数据分析报告中写道。“如果你真的想看一些你从未见过的东西,这有助于您挖掘从未被商业智能分析过的数据。”
这便是大数据分析存在的理由,其是前所未有的。不仅仅是大数据概念的本身提醒着我们,至少我们还可以追溯到21世纪初,“彼时,存储和CPU技术正被百万兆字节的数据所淹没,IT面临着数据的可扩展性危机。”针对大规模和不同的数据集的应用程序中先进的分析技术是前所未有的(如数据挖掘)。这便是大数据分析的出现所带来的划时代的意义了。卢瑟姆说,这是数据可扩展性危机结束的信号。
这给企业带来了前所未有的意义。针对企业所收集的数据进行数据挖掘、数据分析,并在某些情况下作出相关的报告。这就是为什么诸如数据抽样这样的实践方案被视为企业相当务实的必需品。
“你不能把整个数据集都放入到数据挖掘计划中。你必须选择你所需要的数据,必须确保数据的正确性,因为如果你没有投入正确的数据,你的技术可能不奏效。”数据仓库研究院研究员马克•马德森在预测分析研讨会上告诉与会者。
“你可以将您所收集到的数据中的一个很小的比例投入挖掘…概率事件的采样。”他继续说,“但分解会非常罕见,成为非常罕见的事件,使其很难变成样本。”
理想情况下,你要找出所有这些“罕见”事件,他们属于异常现象,如欺诈行为、客户流失和潜在的供应链中断。他们是隐藏在你未分化的数据中的高价值的东西,很难找到。
IBM,微软,甲骨文和Teradata,以及与其他大多数著名的BI和数据仓库(DW)供应商,纷纷开始销售整合了Hadoop的产品。有些甚至大肆宣扬自己实现了无处不在的MapReduce算法。
这些供应商不只是谈论大数据,他们正在谈论大数据结合先进的分析技术,如数据挖掘,统计分析和预测分析。换句话说,他们正在谈论的是大数据分析。
根据数据仓库研究院的研究显示,大数据分析还没有到来;尚未被主流所接受。在数据仓库研究院最近的调查中,超过三分之一(34%)的受访者表示,他们所在的企业结合大数据,实行了某种形式的先进的分析。在大多数情况下,他们仅仅采用非常简便的方法。例如,数据抽样。
数据集成专家PervasiveSoftware公司的大数据产品的高级主管DaveInbar说,事实上,如果企业没有考虑逐步淘汰抽样调查和其他过去的所谓最佳实践的“神器”,他们真的是后知后觉了。
“如果你继续采用数据抽样的方法,你可以实际处理所有数据,但数据的科学性本质上是削弱的。”他说。“在Hadoop的世界,没有任何理由不采用商品硬件、真正的智能软件。在过去,我们采用抽样数据,可能还有经济成本方面的考量原因,或者技术达不到的原因。但在今天,这些原因都不复存在。数据采样在过去是最好的实践方案,但我认为它的时代已经过去了。”
“大海捞针的问题不适合采用样本,所以你这样过分强调训练集,可能会导致问题。”负责信息管理咨询的马德森指出,“最终,运行整个数据集要比紧紧按照统计算法和担心样本更容易。技术可以在出现分配挑战时处理数据的问题,并可以访问统计方法。”
我们一直都在努力坚持原创.......请不要一声不吭,就悄悄拿走。
我原创,你原创,我们的内容世界才会更加精彩!
【所有原创内容版权均属TechTarget,欢迎大家转发分享。但未经授权,严禁任何媒体(平面媒体、网络媒体、自媒体等)以及微信公众号复制、转载、摘编或以其他方式进行使用。】
微信公众号
TechTarget
官方微博
TechTarget中国
作者
相关推荐
-
布局数据分析与人工智能 英特尔如何将理想拉近现实?
大数据时代,计算能力已经成为企业核心竞争力。硬件升级加上软件优化,只是英特尔在数据分析应用和人工智能领域努力的一个方面。
-
大数据安全、隐私为市场分析关注点
当Unilever’s Magnum冰淇淋品牌在2014年发布了社交app M-Pulse时,它使用“与朋友一起吃冰淇淋是最好的享受”这一理念。
-
总统选举预测失败:大数据分析不过如此
在美国总统选举前大约60个小时,几乎全世界——都认为共和党候选人、企业家和真人秀明星Donald J. Trump,不会,也不可能赢。
-
零售业的数字机遇:如何让每个消费者都成VIP
市场调研公司埃森哲进行的一项调查显示:现在有超过一半的城市消费者会先去实体店试用产品和比较价格,然后通过网络进行购买,同时有近八成的消费者热衷于通过社交媒体交流和分享信息 —— 先用手机看评价、再到实体店试尺码、最后在网上购买的购物流程,已经成为零售业不得不面对的“新常态”。