深度评论：大数据来临 国内准备好了吗？

美国社会思想家托夫勒在 《第三次浪潮》中提出，“如果说IBM的主机拉开了信息化革命的大幕，那么‘大数据’才是第三次浪潮的华彩乐章。”大数据以其“浅显易懂”的概念、广泛的潜在应用需求和可展望的巨大经济社会效益，正成为继云计算、物联网之后信息技术领域的又一热点，并将在社会经济各领域产生深刻影响。   麦肯锡全球研究院 (MGI)于2011年6月发布了题为《大数据：下一个创新、竞争和生产力的前沿》的研究报告，最早提出“大数据时代已经到来”，并从经济角度引发全球对大数据的关注。报告指出，当前大数据规模以及其存储容量正在迅速增长，已经渗透到各个行业和业务职能领域，成为可以与物质资产和人力资本相提并论的重要的生产要素。大数据是继传统IT之后下一个提高生产率的技术前沿。只要具有适当的政策推动，大数据的使用将成为未来提高竞争力、生产力、创新能力以及创造消费者盈余的关键要素，成为领军企业与其他企业之间最大的显着差别。那些没有引入新的分析技术和新的数据类型的企业，不太可能成为其行业的领军者。   2012年3月，美国奥巴马政府宣布推出 “大数据的研究和发展计划”。该计划涉及美国国家科学基金、美国国家卫生研究院、美国能源部、美国国防部、美国国防部高级研究计划局、美国地质勘探局等6个联邦政府部门，承诺将投资两亿多美元，大力推动和改善与大数据相关的收集、组织和分析工具及技术，以推进从大量的、复杂的数据集合中获取知识和洞见的能力。美国奥巴马政府宣布投资大数据领域，是大数据从商业行为上升到国家战略的分水岭，表明大数据正式提升到战略层面，大数据在经济社会各个层面、各个领域都开始受到重视。   大数据的三重内涵   大数据在业内并没有统一的定义。不同厂商、不同用户，站的角度不同，对大数据的理解也不一样。麦肯锡报告中对大数据的基本定义是：大数据是指其大小超出了典型数据库软件的采集、储存、管理和分析等能力的数据集合。赛迪智库指出，大数据是一个相对的概念，并没有一个严格的标准限定多大规模的数据集合才称得上是大数据。事实上，随着时间推移和数据管理与处理技术的进步，符合大数据标准的数据集合的规模也在并将继续增长。同时，对于不同行业领域和不同应用而言，“大数据”的规模也不统一。   虽然“大数据”直接代表的是数据集合这一静态对象，但赛迪智库经过深入研究认为，目前所提到的“大数据”，并不仅仅是大规模数据集合本身，而应当是数据对象、技术与应用三者的统一：   1.从对象角度看，大数据是大小超出典型数据库软件采集、储存、管理和分析等能力的数据集合。需要注意的是，大数据并非大量数据简单、无意义的堆积，数据量大并不意味着一定具有可观的利用前景。由于最终目标是从大数据中获取更多有价值的“新”信息，所以必然要求这些大量的数据之间存在着或远或近、或直接或间接的关联性，才具有相当的分析挖掘价值。数据间是否具有结构性和关联性，是 “大数据”与“大规模数据”的重要差别。   2.从技术角度看，大数据技术是从各种各样类型的大数据中，快速获得有价值信息的技术及其集成。“大数据”与“大规模数据”、“海量数据”等类似概念间的最大区别，就在于“大数据”这一概念中包含着对数据对象的处理行为。为了能够完成这一行为，从大数据对象中快速挖掘更多有价值的信息，使大数据“活起来”，就需要综合运用灵活的、多学科的方法，包括数据聚类、数据挖掘、分布式处理等，而这就需要拥有对各类技术、各类软硬件的集成应用能力。可见，大数据技术是使大数据中所蕴含的价值得以发掘和展现的重要工具。   3.从应用角度看，大数据是对特定的大数据集合、集成应用大数据技术、获得有价值信息的行为。正由于与具体应用紧密联系，甚至是一对一的联系，才使得“应用”成为大数据不可或缺的内涵之一。   需要明确的是，大数据分析处理的最终目标，是从复杂的数据集合中发现新的关联规则，继而进行深度挖掘，得到有效用的新信息。如果数据量不小，但数据结构简单，重复性高，分析处理需求也仅仅是根据已有规则进行数据分组归类，未与具体业务紧密结合，依靠已有基本数据分析处理技术已足够，则不能算作是完全的“大数据”，只是“大数据”的初级发展阶段。   大数据对信息产业的影响   大数据的热潮兴起于新一代信息技术的融合发展，物联网、移动互联网、数字家庭、社会化网络等应用使得数据规模快速扩大，对大数据的处理和分析的需求日益旺盛，推动了大数据领域的发展。反过来，大数据的分析、优化结果又反馈到这些应用中，进一步改善其使用体验，支撑和推动新一代信息技术产业的发展。   赛迪智库 《软件与信息服务研究》指出，大数据将为信息产业带来新的增长点。IDC预测，全球数据在2015年将达到10万亿TB。面对爆发式增长的海量数据，基于传统架构的信息系统已难以应对，同时传统商业智能系统和数据分析软件面对以视频、图片、文字等非结构化数据为主的大数据时，也缺少有效的分析工具和方法。信息系统普遍面临升级换代的迫切需求为信息产业带来新的、更为广阔的增长点。   同时，大数据将加速信息技术产品的创新融合发展。大数据面临着有效存储、实时分析等挑战，必将对芯片、存储产业产生重要影响，将推动一体化数据存储处理服务器、内存计算等产品的升级创新。对数据快速处理和分析的需求，将推动商业智能、数据挖掘等软件在企业级的信息系统中得到融合应用，成为业务创新的重要手段。   大数据对经济领域的影响   大数据作为一种重要的战略资产，已经不同程度地渗透到每个行业领域和部门，其深度应用不仅有助于企业经营活动，还有利于推动国民经济发展。麦肯锡研究表明，在医疗、零售和制造业领域，大数据可以每年提高劳动生产率0.5—1个百分点。   赛迪智库 《软件与信息服务研究》指出，在宏观层面，大数据使经济决策部门可以更敏锐地把握经济走向，制定并实施科学的经济政策。事实表明，电子商务集团阿里巴巴就从其掌握的大量交易数据中更早发现了国际金融危机的到来，而其基于每天实时交易数据提供的数据分析，也为制定并实施经济政策提供了重要参考。联合国发起的“全球脉动”(GlobalPulse)项目，使用自然语言解密软件分析社交网站和文本消息中的信息，从而帮助预测某个地区的失业率、支出削减或是疾病爆发等现象，目标在于利用数字化的早期预警信号来提前指导援助项目，以阻止某个地区重新陷入贫困等困境。   而在微观方面，大数据可以提高企业经营决策水平和效率，推动创新，给企业、行业领域带来价值。一是增加收入。零售商可通过对海量数据的实时分析掌握市场动态并迅速做出应对，通过精准营销增加营业收入；二是提高效率。在制造业，通过整合来自研发、工程和制造部门的数据以便实行并行工程，可以显着缩短产品上市时间并提高质量；在市场和营销方面，大数据能够帮助消费者在更合理的价格范围内找到更合适的产品来满足自身的需求，提高附加值。三是推动创新。企业可从产品开发、生产和销售的历史大数据中找到创新的源泉，从客户和消费者的大数据中寻找新的合作伙伴，以及从售后反馈的大数据中发现额外的增值服务，从而改善现有产品和服务，创新业务模式。   对大数据发展的总体判断   赛迪智库认为，数据分析是大数据的核心，数据分析技术是大数据技术的核心。但由于数据分析技术与人工智能、商业智能等相关联，而这些领域在过去若干年内的进展相对迟缓，并未进入成熟应用阶段，在未来是否能够实现长足发展也未可知。这就决定了大数据发展也处于起步期，而当前所设想的美好应用蓝图能否快速实现也难以确定。   对于大数据发展，应借鉴“大胆假设、小心求证”的科学研究思路，既高度重视大数据发展的战略意义，尽早布局，抢位发展，又要正视大数据发展面临的巨大困难和挑战，确定科学、现实的发展目标和任务内容，把握大数据发展核心环节和关键领域，坚持“数据、技术、应用”三位一体的发展策略，稳步推进。同时，坚持“有所为有所不为”和“适时而动”的科学态度，对有一定基础的工作加速推进，对大数据相关政策法规、标准规范制定等条件尚不成熟的工作，先跟踪研究，以便今后条件成熟时能及时开展。   同时，鉴于大数据应用具有“一对一”的特性，且各行业领域、各部门和各地区的大数据强度都不同，务必需要结合自身的发展实际，不盲目跟风，在已有基础设施条件和软件配备下，循序渐进地开展相关工作，使“大数据”工作有名有实。