大数据已死——但大数据亦将长存

在不久的将来，我们将迎来大量集合了分布式处理、机器学习以及分析等当下各项热门定制化解决方案的“预打包”式应用程序。

在过去的几年当中，我们一直在积极讨论大数据，而这一切的推动要素正是当初的Hadoop与现下的Spark。下一轮热点将围绕着将机器学习引入大数据展开，但如果不继续使用上述热门词汇、我们仍然很难让人们接受AI与分析技术方案。

大数据已死——但大数据亦将长存

事实上，大数据时代目前正迅速走向其生命周期的终点。大家可能已经发现，各大媒体关于大数据技术的相关报道正不断减少——在我看来，这意味着Gartner著名的炒作周期已经由此走向低价甚至幻灭。

时至今日，大数据概念已经步入“终结”的转折点，但这项技术的实际应用却将由此开始兴起。

对于整个业界而言，这意味着“让我们先推出相关平台，再观察其实际效果”类项目将越来越少。决策制定者们将采取更为合理的方案并以实际业务问题作为切入点——这显然更符合科学实施思维。换言之，即使是平台供应商自身也开始更多地着眼于“解决方案”。

针对特定问题的标准化解决方案

接下来的另一项重要步骤在于分析问题、找出模式并创建能够切实解决这些问题的打包解决方案。

我们已经亲眼见证金融业界的不少企业对各类分布式欺诈检测方案进行打包并加以运用。欺诈检测软件并不算什么新鲜事物，但将其分布至Hadoop以及/或者云规模之下却是种前所未见的新思路。当然，尽管金融行业的行动速度很快，但欺诈活动的组织者同样在与时俱进。多年以来，金融业界一直无法真正追及恶意活动者们的发展节奏。但现在，他们有了发起反击的必要武器，而Hadoop、Spark以及其它现代化工具将成为其军火库中最值得信赖的新储备。

单纯采用下一代技术方案还不足以让定制化解决方案拥有应对一切的能力。面向信用卡的欺诈检测机制与其它发票开具、保险乃至各类常见商业应用其实并无本质区别。下一波浪潮的核心并不是针对特定业界编写出专用性极高的应用程序，而是思考如何利用“分布式大数据模式”解决跨多种现有业务线的各类常见问题。

当然，构建一套定制化解决方案以帮助每一位使用者以不同方式解决类似问题的作法仍将持续相当长的一段时间。不过未来我们需要逐步找寻具备共性的开发模式，并将其推广至各个业务线当中——具体而言，以规模化分布方式运用这项新技术，将其拓展至能够带来经济优势的规模并在排除盲点之后加以部署。最终，我们将成功实现定制化调整，使用正确的表述并加入必要调整，但同时又要保证软件当中的接入算法不需要在面临不同具体问题时进行反复重写——这才是大数据技术的终极实现目标。

我们此前已经经历过类似的状况。几十年前，财会软件就曾经是一类热门话题。虽然大家仍然会偶尔接触到特定业务领域的专用性财会软件，但多数大型企业都在使用打包式解决方案，其中只有特定部分进行定制或者利用插件解决不同行业内的特定需求。经验丰富的CIO及CTO很少为特定某套业务线编写专用的财会工具包，并将其适用范畴限定在单一企业当中。他们更倾向于购买现成产品，即使可选方案的种类并不是非常丰富。

下一次巨大飞跃将表现为“数据驱动”形式，并将“机器学习”技术引入到一系列软件包的购买及独立功能集成当中。从后端角度出发，整个流程也许将由大数据驱动，但“大数据”本身就像是以太网卡：它将成为一个前提性、但却不再热门的常规性技术议题。

原文标题：Big data is dead — long live big data，核子可乐译