基于大数据的视觉搜索应用与组织模式研究

当前视觉搜索已成为信息科学领域的前沿课题，主要用于分析和研究现实世界实体属性、行为、事件与视觉大数据资源之间的发展规律，针对视觉大数据资源的获取、组织、描述与利用问题，研究视觉资源及其时空关联信息之间的价值发现与资源整合的内在机理，解决其多维关联与协同融合问题，进而实现视觉大数据资源的有效整合、知识发现与实时交互。

基于此，本研究从宏观与中观角度，从信息科学视角下视觉搜索研究的起源着手，对其发展历程、概念与特点进行描述，围绕其理论与应用研究的几个关键问题展开讨论，并简要探讨其最新研究进展及应用。

1、大数据环境下视觉搜索的发展历程及特点

1.1 问题的提出

视觉搜索不是一个新名词，它最早出现于心理学与生理学领域，用于描述人们通过视觉通道在特定区域内检测某特定目标是否出现或出现后确定其位置的行为[1]。如在地图上找某大学所处位置、在食堂内点菜、在书架上找书或在图书馆内找人等。在现实世界中，人们经常需要利用视觉搜索在复杂物理环境中获取有价值的信息，来决定接下来的语言和行为[2]。因此，视觉搜索理论受到心理学家和人因(Human Factors)学家的广泛关注，大量研究集中在对人类视觉认知[3-4]、生理反馈机理[5]的理解与表达上，并总结出了许多应用型和理论型知识。正是由于视觉搜索的可用性和有效性，使得许多工作、行业、领域都离不开这一生理行为。

相关基础理论和关键技术的不断发展与完善，促使传统视觉搜索应用不断向信息化、技术化和网络化方向发展，如何将传统视觉搜索行为转换成“所见即所知”式视觉搜索模式，这一难题逐渐摆在了人们面前。与此同时，网络环境、信息技术、计算性能、存储空间、数据规模与软硬件设施等方面的飞速提升，也为客观物理世界与虚拟网络空间之间建立起密不可分的关联关系，使视觉搜索技术的实现成为可能。人们可以方便快捷地采集客观物理世界中的视觉对象，从互联网中获取与之相关的关联信息[6]。

1.2 视觉搜索发展历程及发展趋势

近几年来，随着大数据环境的逐步完善和大数据技术的迅速发展，关于视觉资源整合与视觉搜索研究的呼声越来越大。Nature和Science分别于2008年、2011年出版了大数据专题研究[7]，提出图像、视频与用户交互信息是未来大数据的重要组成部分。2009年，Stanford University的Griod、Chandrasekhar等学者将视觉搜索理论引入到信息检索领域，提出Visual Search、Mobile Visual Search等概念，举办了第一届移动视觉搜索研讨会，并对其体系结构、应用与服务模式等问题进行了探讨[8]。2010年，Google技术研究部前主管Norvig在Nature上发表的专题论文2020 Visions中指出，“文本、图像和视频等视觉资源及用户交互信息、传感信息的有机融合，会给搜索引擎带来巨大挑战，如何对视觉搜索结果进行资源深度整合将会成为Google未来10年面临的最大挑战。”[9-10]同年，北京大学高文、黄铁军与段凌宇等将其引入国内，举办了第二届移动视觉搜索研讨会，并围绕其关键技术、体系结构、视觉资源组织与描述方法、视觉资源标准化与视觉知识库建设等问题展开了研讨[6，11]。2012年，这一理论与技术迅速被中国计算机学会所接受，认为将视觉搜索与增强现实技术相结合的信息检索模式，将是继搜索引擎之后的新一代互联网服务范式[3，6]。随后，张兴旺[12]、朱庆华[13]等尝试将其引入数字图书馆领域，并围绕相关理论与应用模式展开了研究。

根据视觉搜索研究的发展轨迹来看，国内关于视觉搜索研究总体仍处于探索与尝试阶段，研究轨迹已基本跨过早期理论性尝试过程，正步入中期技术性和应用性探索阶段。尤其是在我国科学技术部于2011年启动国家重点基础研究发展计划(“973”计划)“面向公共安全的跨媒体计算理论与方法”，对跨媒体视觉资源的统一表示和建模方法、关联推理和深度挖掘、综合搜索和内容合成等关键科学问题进行研究之后，国内相关研究步入快速发展阶段。自2015年以来，视觉搜索理论与应用研究的重要性和必要性更加凸显，国务院2015年9月印发的《促进大数据发展行动纲要》提出，要充分利用大数据，提升领域数据资源的获取和利用能力，推动各类数据融合和资源整合[14]。国务院2015年7月印发的《关于积极推进“互联网+”行动的指导意见》提出“构建包括语音、图像、视频、地图等数据的海量训练资源库，加强人工智能基础资源和公共服务等创新平台建设”[15]。国家自然科学重大研究计划“大数据驱动的管理与决策研究”认为“大数据价值的产生机理和转换规律具有高度的应用领域依赖性”[16]。科技部2016年发布的《关于发布国家重点研发计划精准医学研究等重点专项2016年度项目申报指南的通知》的“云计算和大数据重点专项”中更是明确将“面向大范围场景透彻感知的视觉大数据智能分析关键技术”列为重点研究内容之一，要求对视觉语义建模、视觉对象的时空定位与搜索、跨场景数据关联技术等展开研究[17]。

1.3 视觉搜索研究对象及视觉大数据资源特点

视觉搜索的研究已逐渐发展成为信息检索领域的主要研究趋势[6，8，10]，到目前为止，关于视觉搜索的定义尚未形成统一的认识，但从信息检索角度来看，大家对它的普遍理解是指将客观物理世界中的视觉资源作为检索对象，通过互联网去获取关联信息的一种信息检索方式[6，12]。它是以视觉大数据资源及其关联信息为研究对象，以视觉大数据资源的获取、分析、组织、理解和表达方法为主要研究内容，以信息技术与方法为主要研究手段，以发现视觉大数据资源蕴含的知识价值和拓展其利用能力为主要研究目标的一种综合性的应用型前沿领域。它主要针对的是当前大数据环境下海量、多元异构、动态无序和高速进化的视觉资源的分析和利用问题，重点研究的是如何充分利用当前飞速发展的信息技术来解决视觉大数据资源的理解和表达，如何有效地实现视觉搜索，如何利用视觉搜索技术来从海量视觉大数据资源中发现新的知识。

毫无疑问，未来是一个智慧(或称之为“互联网+”)的时代。智慧地球、智慧城市、智慧图书馆等理论与应用的迅速发展，给视觉搜索理论与应用研究提供了“沃土”。“互联网+”时代所衍生的数据规模的剧增，文本、图像、音视频、用户交互信息与各种传感信息会成为“数据海洋”的主流[18]，而这些数据来源中超过80%来自于人类视觉通道，现阶段把握“互联网+”时代信息检索和知识服务未来发展脉络的最重要手段可能是视觉搜索。

视觉大数据资源因其包含文本、图像、音视频与用户观看记录等复杂无序、动态变化的时空信息，使其成为数字图书馆中内容最丰富的信息载体，并将会成为“互联网+”时代最为重要的信息表达和信息传播媒介[19]。而以视觉大数据资源为研究对象的视觉搜索，由于前者所处知识空间的知识实体与知识价值在时间、空间和属性三个方面的自有特性，使得视觉搜索也呈现出复杂无序、动态变化和时空语义关联等特性，同时也需要对视觉大数据资源的形式化表达、系统化组织、结构化描述与时空关联关系分析方法等进行研究。由此可得知视觉大数据资源主要具有以下特征：

1)视觉大数据资源包含文本、图像、视频、用户观看信息及用户交互信息等时空信息，并且它所包含的视觉对象、事物内容、事件过程在时间、空间、语义等方面具有时序或时空关联关系。

2)视觉大数据资源具有时空语义关联、动态变化、数据规模大和结构复杂等特点，这些基于视觉对象、事物内容、事件过程的动态变化可以用时空语义关联进行表达和描述，其获取、组织和描述过程可以用机器语言来进行表达，通过视觉对象、事物内容、事件过程之间的语义关联映射，建立视觉大数据资源的时空语义关联关系。

3)视觉大数据资源具有数据规模大、结构复杂、类型多元、多维尺度关联和纵深纬度高等特性，可根据视觉大数据资源的时空语义关系建立对应的尺度关联机制。针对不同尺度、纵深纬度的视觉大数据资源的时空关联关系，可实现视觉对象、事物内容、事件过程之间的多维尺度转换和重置，进而实现视觉大数据资源的语义关联关系分析。

4)视觉大数据资源能提供基于视觉资源内容来理解视觉对象行为，根据视觉对象的时空语义关联关系建立起发展趋势模型，并根据有效组织、理解和描述来预测某特定事物在某特定阶段将可能发生的行为态势。

5)可针对视觉大数据资源的获取、组织、理解和描述问题，来实现用户与视觉大数据资源之间的实时交互、反馈和视觉对象知识库的构建。根据视觉对象的相似行为特征、时空关联关系和实时交互结果，来帮助人们制作、生产、运营和消费新的视觉资源，满足数字图书馆用户的多元化知识服务需求。

2、大数据环境下视觉搜索的应用与组织模式

视觉大数据资源经过组织、分析、处理和整合，并建立基于特定领域的数字图书馆视觉搜索平台之后，才能为用户提供大数据知识服务。不同学科、领域的视觉搜索模式对视觉大数据资源的获取、组织、处理与整合模式会有所不同。正因如此，当前大部分应用是从知识服务与信息检索角度，建立起领域导向的视觉大数据资源整合平台，通过视觉搜索来对视觉大数据资源进行有效管理与利用，并按照特定学科、专业和领域的知识服务需求来提供服务，从而满足各类大数据知识服务需求。

2.1 基于深度学习的视觉搜索工业应用模式

传统视觉搜索研究主要是先采用人工标注方法对视觉资源的底层特征进行标注后，再采用机器学习方法来解决视觉资源之间的语义鸿沟、异构鸿沟与语义关联之间的问题。基于人工标注的视觉大数据资源整合与利用方法，需要标注者拥有丰富的专业领域知识和工业应用经验，需耗费大量的时间和人力成本，且精确性低。与对视觉资源特征进行人工标注方法不同的是，深度学习一般都是通过对视觉资源特征进行多层神经网络训练后，进行视觉特征学习，进而获取到特征提取更合理、区分性更强的视觉特征理解和描述。大量研究证明通过深度分析方法所提取到的视觉特征在图像分类与识别、视觉场景识别、智能监控、语音识别、知识图谱构建等[20-21]应用领域都获得过成功。视觉资源的显著性特征提取和分割方法，能够采用模拟人类视觉系统和生理认知体系来提取视觉资源中显著性特征区域。目前，性能相对最好的视觉资源特征提取方法在公开的视觉大数据资源数据集中的显著性特征检测准确率在95%左右，视觉资源前景特征分割准确率将近92%，这一比例在近几年全球性各类大规模视觉资源分析与识别比赛中，仍然在不断增加。比如，Google研究组在大规模视觉识别挑战赛(ILSVRC)中，采用改进的深度卷积网络Google Net将图像识别准确率提升到93%;Google小组在微软图像标题生成挑战赛(MS COCO ICC)中，采用基于深度分析的图像特征提取方法获得冠军;悉尼科技大学与卡耐基梅隆大学、微软亚洲研究院和浙江大学在THUMOS比赛中，均将深度分析方法与视觉对象运动特征结合起来对视觉资源进行动作识别，分别获得前三名[10]。

传统学术研究的理论成果往往需要很长一段时间发展，才能逐渐走向成熟，并进入到实际的工业应用中去。但无论是深度学习，还是视觉搜索，它们都拥有着极强的工程理论模型。一方面，它们在被学术界关注和研究的同时，也被工业领域所密切关注和尝试;另一方面，由于工业领域(如Google、百度、微软等)早就拥有着大规模的视觉大数据资源，且一直活跃在诸多信息科学领域的研究前沿，在很多领域，它们相较于学术界更有优势。如Google的知识图谱Knowledge Graph，Google Now与Google街景地图，微软的语音助手Cortana，爱奇艺的爱奇艺大脑，Facebook的Graph Search等均属于工业界视觉搜索较为经典的应用案例。事实上，国外工业界各大公司，如Google，Facebook，Microsoft等对视觉搜索不仅仅只是开展大量的研究，甚至还在内部成立了专门研究机构，国内的百度、华为、腾讯和阿里巴巴也不例外。

2.2 基于知识计算的视觉搜索知识服务模式

数字图书馆领域对视觉搜索理论与应用展开研究的一个重要目的，就是为高校和科研机构的研究人员提供嵌入式协作化的知识服务，而数字图书馆视觉搜索平台是将海量视觉大数据资源与平台提供的视觉大数据资源的组织、分析和处理功能嵌入到知识服务过程中。

视觉大数据资源整合与利用是当前国内外人工智能、信息检索领域的研究热点，拥有非常广泛的应用与研究前景。事实上，图像搜索作为视觉搜索的一个研究分支方向，近几年来，国内已有很多个人(如中国科学院高科、北京大学高文与黄铁军、南京大学朱庆华)、机构(如浙江大学、清华大学、北京大学、中国科学院计算所等)、企业(如爱奇艺、百度、腾讯、360、搜狗等)正在做与之相关的研究，并且很多已经推出了基于内容的图像搜索平台，为用户提供图像搜索服务。而美国的麻省理工学院、加州大学伯克利分校、伊利诺伊大学和英国的牛津大学等相关研究工作开始得更早，也研发出了相应的基于图像内容的图像搜索系统。

在以上所有相关研究中，它们都具有一个典型的研究特征：研究目的是为了解决视觉搜索的应用问题，而对应的视觉搜索模式大部分是基于知识计算。由于视觉搜索需要组织、分析和处理的对象主要包括文本、图像、视频等各类蕴含大量价值的视觉资源，因此，如何从视觉大数据资源中获取有价值的知识，就成为国外学术界和工业界一直以来的研究热点。以发掘视觉大数据资源中蕴含的丰富的、复杂关联的知识为目的的知识库称之为视觉对象知识库。目前，全球基于文本、图像、音视频等视觉资源的各类知识库有不少于60种，而基于这些视觉对象知识库的具体应用案例和系统平台也有几百种。其中，比较有代表性的应用案例有维基百科的DBpedia(2014版中包含8.7万部电影、12.3万张唱片、45万个物件等)、Google的知识图谱Knowledge Graph(包括地标、城市、人名、建筑、电影、艺术作品等5亿个搜索结果实体与350亿条关联知识条目)、Facebook的Graph Search(包含10亿名用户、2400亿张图像、10000亿次页面访问量等)等。

借助视觉搜索的相关理论与技术，开展对海量、异构、多元的视觉大数据资源的研究，不仅可丰富信息检索的外延和内涵，而且可以有效地解决当前数字图书馆所面临的“大数据、小知识、小服务”的瓶颈，具有一定的应用价值和现实意义。

2.3 基于语义分析的视觉内容关联组织模式

从已有研究来看，视觉搜索的研究对象大部分集中在文本与图像上，其中图像搜索是学者们着力解决的重点方向。视觉搜索研究可分为3个阶段：一是20世纪70年代末期开始的基于文本/元数据的图像搜索。这一方式主要通过人工标注元数据对图像进行描述，来实现对图像的信息检索功能，缺点是元数据标注费时费力，描述标准与反馈内容不完整，且容易有太多主观色彩。二是20世纪90年代开始提出基于视觉内容的图像搜索方法。这一方式其本质是采用人工构造图像底层视觉特征的方式来进行图像相似性比较，进而实现图像搜索，缺点是对图像底层特征和高层语义之间存在的语义鸿沟问题没有得到较好解决。三是21世纪初期提出的基于深度学习的图像搜索方法。社交网络与用户生成内容成为网络数据的主要来源，利用用户标签对图像语义进行组织、表达和理解成为研究主流，深度学习方法由此融入到相关领域。

与图像搜索相比，视频表达和分析则是视觉搜索领域相对较新的研究领域。视频由大量图像帧组成，且图像帧之间有较为紧密的时空与语义关联关系，这对视觉搜索技术要求更高。但由于深度学习在文本与图像搜索领域所取得的成功，学者们开始借助于深度学习框架，对视频进行组织、理解和描述，尤其是在视频特征提取这一关键环节采取了以下几种方法：一是视频静态关键帧特征描述。由于视频是由大量图像帧按时序与语义关联组成，故可采用深度学习方法对静态视频帧(即图像关键帧)进行特征学习。在具体应用中，一旦确定合理的静态关键帧提取和编码方式，也能形成较好的视频描述效果。二是动态视频时序特征描述。有学者曾提出密集轨迹方法对视频进行分析，取得了不错效果[10，22]。三是前面两种方法的有机结合。牛津大学的Simonyan等提出采用时间和空间深度神经网络来对视频进行分析，时间轴输入的原始视频，用于对视频中的视觉对象进行识别，空间轴输入的时序关联场，用于对视频中视觉对象的动作及其轨迹进行识别[23]。

目前国内外也有大量针对视觉内容分析与表达方面的竞赛，比如2013年美国佛罗里达大学组织开展的THUMOS比赛，就对海量视觉数据集中异构无序的视觉资源进行分析和理解，该项赛事随后每年都会开展相关研究。国内外许多高校、科研机构都积极参与到该项赛事中，如清华大学、浙江大学、香港中文大学、卡耐基梅隆大学、悉尼科技大学等。美国国家标准与技术研究所2011年组织开展的TRECVID比赛，针对大规模视觉数据集中复杂视觉资源中事件监测问题展开研究。近几年来，该项赛事也一直在围绕着这个主题开展相关研究，国内许多高校，如复旦大学、浙江大学、北京理工大学与同济大学等，在这项赛事中也获得了一定成绩。

目前虽然在视觉大数据资源的组织、分析、理解和利用方法上有很多研究成果，但这些成果最终目的是应用于视觉搜索。近年来一系列研究对于视觉搜索及其在各行业、领域的应用与推广工作起到了积极作用，这对于数字图书馆领域而言，是一个积极信号。

3 大数据环境下视觉搜索研究的5个核心问题

尽管视觉搜索已经获得了工业界和学术界(包括数字图书馆领域在内)的高度关注，但目前在国内并未得到广泛应用及推广，主要原因是由于相关技术与应用产品尚未完全成熟，存在着视觉搜索性能不够理想或不够稳定、用户体验质量不佳、应用局限性较强等问题，围绕这些问题，就需要从视觉搜索研究基础理论与技术角度来解决。从数字图书馆视觉搜索模式构建流程[1]来看，视觉搜索研究主要包括5个核心问题，分别描述如下。

1)视觉大数据资源的获取与组织方法。互联网环境下视觉大数据资源的存在形式是动态无序和异构离散的，视觉资源的生产和发布是动态变化的。视觉资源所蕴含的信息内容都包含多个异构、复杂的信息主题，彼此之间存在语义时空关联关系。而传统基于人工标注的视觉资源标注方法往往不够精确，因此，如何快速获取到所需视觉资源，是视觉搜索应用的关键问题。而对与待搜索视觉对象无关的视觉资源的清洗过滤，以及视觉大数据资源的有效组织是视觉搜索应用的核心问题。

2)视觉大数据资源的理解与表达方法。为了在海量视觉大数据资源中找到与待搜索对象一致的视觉资源，就需要从符合待搜索视觉资源的特征分析与理解出发，对其视觉内容进行多元化、结构化、多层次的深度理解和表达。

3)视觉大数据资源整合与交互方法。视觉搜索作为一种信息检索模式，其服务对象是用户。对视觉大数据资源的获取与组织、理解与表达的目的是为了给用户提供智慧化、人性化的知识服务。因此，如何围绕视觉大数据资源整合全生命周期进行多维度分析，从而满足用户对视觉大数据资源的多元化知识服务需求，也是视觉搜索研究能否成为现实的核心问题。

4)视觉对象知识库建设及标准化问题。视觉搜索依赖于视觉对象知识库的建设。基于高质量的视觉对象知识库，用户可快速将待搜索视觉对象与虚拟信息空间中的视觉大数据资源进行有效关联，从而享受到数字图书馆提供的视觉搜索知识服务。同时，标准化问题也是视觉搜索应用能否顺利应用和推广的关键所在。

5)视觉搜索体系的安全与可靠性理论。无论在任何时候，网络安全及系统可靠性问题是永远无法回避的难题，视觉搜索亦不例外。在视觉搜索体系中，数据安全性与知识产权、用户隐私权、系统可用性与可靠性等问题亦是视觉搜索能否得到有效推广与应用的核心问题。

4 总结与展望

在“互联网+”时代，信息服务正越来越广泛地深入到用户智慧化、个性化和嵌入式的知识服务需求中去，数字图书馆领域开始呼唤新型的杀手级信息检索模式。视觉搜索是当前信息检索领域发展的一个重要前沿和创新突破口，在充分汲取国内外信息科学领域先进研究成果的基础上，开展数字图书馆视觉搜索基础理论与应用研究，不仅有望从理论上丰富数字图书馆知识服务研究思想与未来发展框架，也有利于揭示数字图书馆中视觉大数据资源价值的产生机理与转换规律。

毫无疑问，人类正在向“‘互联网+’时代”迈进，作为一种技术与理念创新，视觉搜索必然符合一般信息技术生存、发展与成熟基本规律，需要经历技术诞生的萌芽期、飞速进步的发展期、迅速膨胀的高峰期、去泡沫化的低谷期、稳步发展的光明期和实际应用的高峰期6个阶段。目前来看，国内外已有视觉搜索研究正处于发展期，存在着理论与技术交叉之后学科间的不平衡这一问题。当前视觉搜索的理论、方法与技术研究主要集中在商业型视觉搜索应用上，对于产生视觉大数据资源的学术领域则关注较少。实际上，以科学研究、学科服务等学术领域为代表的视觉大数据资源，具有异于商业型应用的丰富内涵与独特特征，只有全面掌握商业应用与学术领域的相关研究，才有助于建立更加科学、系统、合理的视觉搜索理论体系和应用框架。