如何在云上实现大数据项目?

云计算和大数据目前都是热门话题，如何把两者结合起来即在云上实现大数据项目，这是一个新的实践领域。资深数据专家David Gillman根据自己的经验，列举了云上大数据方案需要考虑的基本要素，包括对数据构建实时索引、自由模式搜索与分析、监视数据并提供实时警告等，帮助用户更好地评估和选择解决方案。

在谈到如何实现云上大数据项目时，David强调了三个实时要素，即实时索引、实时数据和实时监控。具体来说，实时索引指的是“对所有机器数据创建通用的实时索引”：

这是大多数人所认为的大数据的核心;它常常相当于开源项目 Hadoop。公司可能已被来自射频 ID (RFID) 移动、网站点击和其他可能结构化的数据的要求所淹没。如果您知道将如何使用这些数据，如何在未来查询和访问它，那么在处理这些数据方面进行投资是值得的。

您无需知道数据的未来潜在用途，Hadoop 提供了解决办法。通过按原样获取传入的数据，大数据将数据定义步骤推迟到了执行分析时。在不会限制数据的未来使用的情况下，Hadoop 将数据分布在许多服务器上并持续跟踪数据位置。

实时数据指的是“对实时数据和历史数据的自由搜索与分析”，存储数据只是实现目标的道路的一部分。另一方面是信息需要相对容易地被找到。为此，最快的方法是提供一种快速(在实现方面，而不是响应时间方面)搜索功能。因此需要找到支持对非结构化数据进行文本搜索的工具。从监视程序上直接获得响应，这会让人们模糊地认为所有信息都被正确存储且可以访问。此过程的管理步骤是为存储在分布式节点中的数据内容建立索引。搜索查询，然后并行访问分布式节点上的索引，以便提供更快的响应。

实时监控指的是“监视数据并提供实时警告”：

寻找一个工具来监视大数据中的数据。一些工具能够创建被持续处理的查询，寻找要满足的条件。我无法列出实时监视进入 Hadoop 中的数据的所有可能用法。假设大部分传入数据都是非结构化数据，而且不适用于关系数据库，那么实时监视可能是最仔细地检查数据元素的一种方式。

除了三个“实时"之外，Daivid还列举了其他七个要点，可以归纳为：

自动从数据中发现有效的信息

执行手动搜索和手动报告也会影响分析效率。 数据挖掘和预测分析工具正在快速向以下方向发展：能够将大数据用作分析数据来源的数据库，或者用作持续监视变更的数据库。所有数据挖掘工具都遵循此目标。某个人确定分析的用途，查看数据，然后开发能提供洞察或预测的统计模型。然后，需要将这些统计模型部署在大数据环境中，以执行持续评估。这部分操作应该是自动化的。

提供强大的特定报告和分析

类似于知识发现和自动化的数据挖掘，分析师需要获得访问能力来检索和汇总大数据云环境中的信息。拥有大数据报告工具的供应商似乎每天都在增多。基于云的大数据提供商应同时支持来自外部请求者的 Pig 和 HQL 语句。这样，大数据存储即可由人们使用自己选择的工具(甚至使用还未创建的工具)来查询。

微信扫一扫实时了解行业动态

微信扫一扫分享本文给好友