“数据湖”中数据管理的4种方式

摘要：“数据湖”具有灵活性，可扩展性，低成本性三个特征。

“数据湖”相当于一个中心位置来存储你所有的数据，它无需考虑数据来源和格式。它通常是用‘Hadoop’来建立。数据可以是结构化的或者非结构化的。你可以使用大量的存储，分析和处理工具快速提取数据的价值来做出重要的组织决策。

因为所有的数据都是受欢迎的，对于传统的企业数据仓库来说，‘数据湖’算得上是一个功能强大的替代品或补充品。另外，随着更多的企业向基于云服务的应用开发和物联网转型，‘数据湖’也是一个主要的选择。

在早期的使用案例中，企业频繁的将数据装载到“数据湖”而不尝试去管理它。随着‘数据湖’越来越成熟而且对企业来说更具战略意义，仅仅将数据装载到“数据湖”已经不再足够了而是需要做更好的打算。

“数据湖”具有灵活性，可扩展性，低成本性三个特征。并且它还具有传统的数据仓库（EDW）的大部分特征，当你要增加数据管理和支配能力，如：数据质量，元数据管理，安全，转换和拆分与组合数据的能力。如果正确的管理“数据湖”，它可以改进你现在的数据管理措施并且能启用新的数据管理措施。建立“数据湖”的时候，你的公司可以选择下列4种方式中的一种：

选择1：延后支配

第一种选择在加载数据到数据湖的时候就忽略数据的支配和管理。然而，当你需要筛选出数据中有用的部分的时候，你将不得不用工具来清理这些数据，例如机器学习技术。然而这种方法是真正存在风险的，即使是最智能的推理引擎也需要从‘数据湖’大量的数据中的某个地方开始，不可避免的就是在‘数据湖’中部分数据将被忽略，变得滞后，孤立，并且其中的数据几乎不具有结构化，即使是最智能的自动化工具或者人工分析，都不知道从什么地方开始。

选择2：适应已经存在的遗留工具

你可以利用最初为数据仓库设计的应用和过程。当你准备导入数据到数据仓库时你可以用软件工具来执行ETL过程。你可以用这些工具来导出数据到数据湖，然而那样做代价很高，而且只能解决部分你所需要的管理和支配功能。另外一个缺点就是ELT是不包含在在Hadoop集群内的，那样会减慢操作速度和增加消耗，因为每次查询都必须将数据从集群中移除。

选择3：编写定制脚本

在第三种选择中，你用定制脚本创建了一个工作流来连接进程，应用，质量检查和数据转换从而来满足管理的需要。这是一个很常见的选择但是最不可靠和最耗资源的。你需要在Hadoop和它的生态系统方面有很强的分析能力从而来利用开源工具，而且他们需要编写脚本来把各部分连接起来。随着你必须不断修改复杂的代码和工作流来更新‘数据湖’，这个过程是很费时间和资源的。

选择4：配置一个完整的“数据湖”管理平台

第四个选择是配置一个用来汲取和管理大量不同的数据的“数据湖”管理平台。 Zaloni’s Bedrock 提供了这项功能。他允许你为数据编排目录，利用元数据并且支持正在进行中的以确保数据质量，数据沿袭和自动化工作流的进程。这种方法是解决“数据湖”管理和支配的最佳办法。

当你向“数据湖”转变的时候，选择一个完全整合的数据湖管理平台将会使你对数据充满信心，并且会合并更多的用户和用户案例使之有益于商业。归根结底，这就是数据存在的意义，用来告知和提高组织的决策过程，用崭新的并且激动人心的方式来帮助您的业务增长。

本文由数据分析网 – 朱彦缙翻译！欢迎加入翻译组。

朱彦缙：外企工作，爱好大数据。