前言：中文期刊网精心挑选了网络舆情分析研究现状范文供你参考和学习，希望我们的参考范文能激发你的文章创作灵感，欢迎阅读。
网络舆情分析研究现状范文1
关键词：依存句法分析， 特征选择， 有监督学习， 模型一体化
中图分类号：TP3911 文献标识码：A文章编号：2095-2163（2013）02-0011-05
0引言
依存句法分析模型可用于精确地自动构建给定句子中词汇之间的依存关系[1]。该类模型可大致分为基于有监督学习和基于文法规则两类模型。基于有监督学习的依存句法分析模型是指使用统计机器学习方法，通过从大量标注语料中学习参数而相应构建的依存句法分析模型。而基于文法规则的依存句法分析模型则指依据专家提炼或数据挖掘的文法规则而凭此构建的依存句法分析模型。两种模型各有优缺点，前者一般可以获得较高的预测精度，但却需要设计大量的标注依存结构的句子作为学习样本训练模型；后者通常不需要设计大量训练样本，但由于专家的知识受限，规则领域适应性较差，导致该种模型预测精度并不高。藉此分析，基于有监督学习的依存句法分析模型具有较高的预测精度，因此，本文将围绕该类模型的研究现状而展开综述。具体内容如下。
基于有监督学习的依存句法分析模型的构建过程一般可分为两步[2]：
（1）学习。给定一个标注依存结构的句子集合，人工构建依存特征模板，再从集合中抽取依存特征。其后，设定模型参数，并在有限步骤内推导得出一个依存句法分析模型；
（2）评价。给定测试集合及评价方法，若该模型的预测结果满足期望值，模型构建完成，否则进入步骤（1）。
有监督学习的依存句法分析模型又可分为基于移近规约和基于图两类。其中，基于图的依存句法分析模型在效率和精确度都有良好表现，因而广受关注。基于图的依存句法分析模型的原理是借助最大生成树算法，实现句子的依存句法分析。例如句子“汉族/nR 医学/n 又/d 有/v 中医/n 之/uJDE 称/n”的依存句法分析结果如图1所示。
在构建基于有监督学习的依存句法分析模型时，主要集中于两个方面：资源建设和特征工程。针对其相关研究，本文给出了较为系统、详尽的综述。在资源建设研究方面，人们通过依存关系映射和主动学习两种方法缓解语料匮乏的困境。通过将源领域中标注依存关系的映射到目标领域实现目标领域的依存关系自动化标注，达到自动化构建目标领域语料的目的，进而在目标领域借助自动标注的语料构建依存句法分析模型；而借助主动学习思想，一方面可选择颇具价值的人工标注对象进行人工标注，扩充标注集合，另一方面也可降低人工标注的工作量。在特征工程研究方面，人们分析了不同特征对构建依存句法分析模型的贡献，涉及的特征包括词汇特征、句子特征，以及语言形态特征等，同时介绍了如何因解决特征稀疏而导致的模型性能下降的问题。此外，具体而深入地分析、评价了依存句法分析模型一体化的优势和不足。
本文的组织结构如下：第二部分针对语料匮乏、特征选择和获取、以及模型一体化问题，详细比较和分析了现有模型的研究现状；第三部分从事件抽取、产品评论分析，以及舆情分析角度说明了现有模型最近的应用情况；最后总结现有模型研究并对未来可能研究方向给予展望。
1基于有监督学习的依存句法分析模型
1.1标注语料匮乏
近年来，在标注语料匮乏研究方面，人们借助依存关系映射和主动学习方法改进标注语料不足的状况。在依存关系映射研究方面，已有学者采用规则过滤[3]、适应性标注方法[4]、动态规划方法[5]解决源领域和目标领域之间的差异，但效果并不明显。Jiang等[6]采用一种依存结构映射策略，将源领域中丰富的依存关系映射到资源短缺的目标领域中，实现目标领域依存关系语言的自动构建。例如，将标注依存关系的英语语料中的依存关系映射到中文语料中，实现中文语料的自动标注。实现依存映射时，若采用词对齐方法实现依存关系映射，映射过程中会产生词对齐的错误和不同语言之间因句法差异产生的错误。与已有方法不同，作者采用的映射方法不是将整棵句子依存树映射到目标领域，而是映射词汇依存关系。给定词对齐双语语料，源领域的句子标注了依存句法结构，其中的依存关系是布尔型，表示是否存在依存关系。而后将源领域中词对的依存关系映射为目标领域的词对。在目标领域产生依存关系的实例过程中，最先获得词对齐的映射，采用映射矩阵而不是单个的词对齐，这样可以减少词对齐的错误。而且词对齐的映射不是一一映射，因而能够获得多种映射组合。假设词对（a， b），其中，词a有n种映射射结果，词b有m种映射结果，则词对（a， b）就存在n×m种映射可能。然后，根据源端句法树库以及映射矩阵计算目标领域存在依存关系的概率。最后，设定阈值T确定在目标领域是否产生依存关系。大于阈值T，则存在依存关系，即为正例；若小于（1 - T），则不存在依存关系，即为反例。如此就获得了大量目标领域的依存关系样例。通过在目标领域产生的样例上训练最大熵分类器实现目标端的依存关系预测。该种映射方法降低了依存关系映射时产生错误关系的概率，并且一定程度上借助英文标注语料应对中文依存分析语料匮乏的状况。但该模型仍然无法避免两种语言在句法差异上导致的错误的关系映射。此外，也难以精确设定阈值来判定映射结果是否为依存关系。
其中，si表示n-best的句法分析结果中第i个预测结果分值，n表示利用DP预测得到的句法分析树的数量。当n-best的句法分析结果的分值互相之间越发接近时，熵值也将越高。这时，句法分析器预测结果“徘徊”在n-best之中，即根据句法分析器预测结果是很难选择得到最好的句法分析树的，因此，句子s需要人工标注依存句法结构。依据上述思想，可从未标注集合中挑选k个不确定性最高的样本进行人工依存句法结构标注。
此后，将标记结果加入到标注集合中，重新训练句法分析器，获得新的句法分析器。上述过程反复迭代，直到未标注集合为空。通过这种方式扩充标注集合来解决语料匮乏问题。
另外，句子中只有部分依存关系不确定，通过标注这些不确定的依存关系就可以完成句子的依存结构标注。借助依存关系熵来度量依存关系的不确定性，具体计算如式（3）所示。
由图2可知，首先根据标注集合训练得到依存句法分析器DP，借助DP构建未标注集合中句子依存句法分析树，再根据句子不确定函数选择k个不确定句子，同时根据依存关系不确定函数选择k’个依存关系并人工标注，由此将标注结果加入标注集合，重新训练构建依存句法分析器，上述过程反复进行，直到未标注集合为空。
1.2特征提取与选择
在特征提取与选择研究方面，人们分别从不同特征对构建依存句法分析模型的贡献角度，以及特征稀疏对构建模型产生的影响角度展开研究。其中的特征主要分为：句子级特征、词类别特征、语言形态特征、以及高阶特征等，下面对其相关工作分别作以综合分析。
在句子级特征研究方面，Gadde[8]等使用短句信息提高句法分析性能。将短句的边界信息作为依存关系的限制特征来丰富特征集合，并提高依存关系预测精度。将ICON2009的数据集作为测试集，使用MSTParser[1]作为依存句法分析器，在无标记和有标记的评测中预测精度分别为87%和77%。在词类别特征提取研究方面，Agirre等[9]尝试从WordNet中获得词汇的基本语义类作为依存特征，同时采用词义消歧算法减少词义歧义带来的噪声，以此提升依存句法关系预测精度。Haffari等[10]在MSTParser依存句法分析器框架下提出将词汇表示为句法和语义两种表示方式，并采用线性加权方式将这两种表示形式的特征信息相融合，由此将依存句法分析精度则从90.82%提升到92.13%。在利用语言形态特征研究方面， Marton等[11]探索了形态学特征对句法分析的贡献，并发现时态、单复数、词缀均可提升阿拉伯语的依存句法分析精度。而在利用高阶特征研究方面，Massimiliano Ciaramita等[12]使用依存语言模型和beam搜索构建高阶特征。采用大量基准依存句法分析器自动分析语句构建依存句法语言模型，并借助依存语言模型构建高阶特征，再使用beam搜索在解码阶段将特征有效整合至依存句法分析模型中。模型中考虑了原始模型（MSTParser）中最大生成树的分值，同时考虑依存语言模型的分值，具体计算如式（5）所示。
由式（5）可知，该模型在解码阶段不仅考虑了MSTParser预测结果，同时考虑了依存语言模型对依存句法分析的贡献。实验结果显示中文句法分析达到了最高精度，而且在英语上也获得了与已知最好系统的可比精度。在特征稀疏研究方面， Zhou[13]结合从网络获取的词汇搭配偏好来提高依存句法分析精度。通过从网络语料Google hits和Google V1构建词汇之间的搭配偏好。实验结果表明，借助搭配偏好提升了依存句法分析性能。更重要的，在处理新领域数据时，使用网络获取的词汇搭配偏好可使模型具有更好的健壮性。另外，在网络数据上抽取词汇搭配偏好还可以避免数据稀疏问题，而且已在特征稀疏的生物医疗领域验证了吃方法的有效性。
1.3一体化模型
词性标注是依存句法分析中必不可少的一个基础步骤。当前的研究将依存句法分析和词性标注分开建模，这就可能导致底层的词性标注错误向高层依存句法分析传播，进而降低依存句法分析精度。实验表明，由于词性标注的错误，将造成句法分析精度大约下降6%。为了解决这个问题，李正华等[14]提出词性标注和依存句法分析的联合模型。模型采用剪枝策略来减小候选词性标签空间，大大提高了句法分析速度。其基本思想是同时最大化词性标注和依存句法分析性能。在这个模型中，词性标注和依存句法分析的特征权重做以同步调整，借助词性和句法特征交互来确定优化的联合结果。在中文宾州树库上进行测试实验，其结果表明依存句法分析精度提高1.5%。而在此基础上，Hatori等[15]提出第一个分词、词性标注以及句法分析的一体化模型。通过结合分词、词性标注和依存分析模型的特征构建一体化模型，并提出基于字符的解码方法。此外，Li， Zhongguo等[16]提出一体化中文依存句法分析模型，将未分词的句子作为输入，其输出即为句法结构。通过移除中间分词步骤，一体化句法分析器不再需要单词和短语的分割标记，因特征提取错误而导致的性能下降也将为之得到控制。但是一体化模型虽然提升了依存句法分析的精度，但却同时增加了解码复杂度。
1.4其他
此外，人们在改善依存分析效率，以及借助机器翻译技术提升依存句法分析精度方面也同样开展了广泛研究。在改善依存分析效率研究中，研究人员发现构建依存树的过程中会产生大量错误的依存关系，过滤这些依存关系可以提高依存分析效率。Bergsma等[17]采用级联式过滤模型过滤错误的依存关系。可采用三种方法实现过滤：基于规则过滤、借助线性过滤器和二次型过滤器过滤错误的依存关系。在基于规则过滤研究方面，训练支持向量机依存关系分类器，特征只包括头或依存关系中的词性，由此利用学习得到的特征权重过滤词性或词性对。例如，如果一个词性标记在非头词的分类器中的权重为正，则以这个节点作为头的所有弧都将被过滤。这样借助学习得到的权重构建一组高精度的过滤规则，即真正实现了依存关系的过滤。在线性过滤器研究方面，首先构建8个分类器作为过滤器，分别针对如下8种节点分类问题：
（1）节点是否为头（例如节点是叶子节点）；
（2）节点的头是否在左侧；
（3）节点的头是否在右侧；
（4）节点的头是否在左侧5个节点距离之内；
（5）节点的头是否在右侧5个节点距离之内；
（6）节点头是否在左侧第一个节点；
（7）节点的头是否在右侧第一个节点；
（8）节点是否是根节点。
使用相同的特征模板，得到8种不同的特征权重，分别对应8种不同的分类，并且每一种过滤器的输入均是上一种过滤器输出的结果。通过这种方式实现过滤，构建二次型支持向量机分类器决定过滤哪些头—依赖对。实验结果表明，基于规则过滤可以过滤占据25%的潜在依存关系。线性过滤器能够过滤高达54.2%的潜在依存关系。而二次型过滤器则能够过滤具体为22%的潜在依存关系。
在借助机器翻译技术提升依存句法分析精度研究方面，Chen等[18]提出使用统计机器翻译系统提高双语句法分析精度的方法。假设在源端存在模糊的依存关系判定，在目标端可能就是清晰的依存关系判定，因而可根据目标端来修正源端的依存关系预测结果。首先，使用统计机器翻译系统将源端的单语树库译为目标端的语言。然后，在目标端采用目标端依存句法分析器进行句法分析，构建依存句法分析树。由此获得双语树库，即在源端是人工标记的树库，在目标端就是自动生成的树库。尽管在目标端的句子和生成树并不完备，但是采用这些自动生成的双语树库，从中抽取出目标端的依存限制来修正源端依存分析性能，实现双语句法分析性能的改进和提升。实验结果显示该方法的表现则要显著优于基准方法。更进一步，当使用一个更大规模的单语树库，句法分析的性能也得到了较大提高。
2相关应用
基于有监督学习的依存句法分析模型能够构建句子的依存树，而依存树则表明了词汇间的依存关系，并且在不同问题中表现了其有效性与实用性，例如关系获取[19]、复述获取[20]和机器翻译[21]等。此外，近年来该类模型在解决事件抽取、产品评论挖掘、以及舆情分析问题方面也发挥了主体重要作用。
在事件抽取研究方面，人们发现事件之间存在联系，例如一个犯罪事件会引起调查事件，并且还将最终引发逮捕事件。由此可知，事件之间多存在一定的依赖关系。但现有的事件抽取方法并未考虑事件间的依存关系，而是孤立抽取每一个事件。David McClosky等[22]借助依存句法分析器构建事件的依赖关系。首先，将事件及其对应的谓词转化为依存树，树中节点包括实体、事件锚和一个虚拟根节点，各边则表示三者间的依存关系，其中的事件锚识别常采用回归模型运行实现，使用的特征包括字符级别。生成依存树时，可采用两步排序方法：
（1）根据句法分析器得到n-best结果；
（2）采用最大熵模型实现第二次排序，由此将建立事件间的依存关系。
在产品评论分析研究方面，Zhang等[23]借助浅层依存句法分析来构建产品属性及其评价之间关系。其中包含三个步骤：
（1）根据浅层短语结构分析和依存句法分析构建浅层的依存树。可采用浅层句法分析器Sundance实现组块分析，并且采用Stanford句法分析器实现依存树的构建。其中，组块作为依存树中的节点，边表示组块之间的依存关系；
（2）识别产品属性和候选评价。首先，使用观点词典以过滤候选评价，观点词典包含着8 221个观点表达。其次，假设与候选评价越近似的组块，自身是产品属性的可能就越大，凭此识别产品属性；
（3）构建产品属性和评价之间的关系。可将关系构建视为一个分类任务，而将所有的产品属性和候选评价视为潜在关系。可采用支持向量机分类器实现关系构建，特征包括上下文和词性。现已在手机和数码相机领域验证了此方法的可行性和有效性。
在舆情分析研究方面，Wu等[24]提出基于图的句级情感分析模型。引入了线性规划结构学习方法产生输入句子的图形表示。图中节点包括评价目标、观点表达和观点修饰。边表示节点之间的关系，具体包括观点表达和修饰之间的关系，以及观点表达之间的关系，并且包含单个观点之间的语义关系。通过图，可以将之前被忽略的各种信息融合进来。该模型的优势在于，借助观点之间的关系，可更加精确地判定句子的整体情感极性。Nakagawa等[25]提出借助依存分析结果实现中文和日文主观句情感分类。主观句通常包括将情感极性反转的词汇。包含积极（或消极）的情感词的句子不一定表达与情感词相同的极性。因此在情感分析中需要考虑词汇之间的修饰对词汇情感极性的影响，但是采用词袋的方法很难解决这个问题。若采用规则方法实现句子极性判断，则不能从语料中学习情感信息，而且规则的适用性十分有限，同时需要大量的人力、物力构建规则。尝试借助依存句法分析解决这个问题。句子的情感标注不应该只标注句子的整体情感极性，而应该存在句子的局部情感极性标注，并且利用这些局部标注信息来实现情感分类。在该方法中，将句子转化为依存树结构，再将句子的依存树中每一个依存子树的情感极性表示为隐式变量，整句的情感极性则可由隐式变量之间的交互而共同决定。
3结束语
本文重点总结了在构建基于有监督学习的依存句法分析模型时面对的语料匮乏和特征选择两个问题的相关研究。此外，分析和总结了依存句法分析模型一体化的优缺点。最后，介绍了如何应用现有模型解决事件抽取、产品评论挖掘、以及舆情分析问题。尽管现有模型在依存句法分析方面取得了一定成功，但也存在相应不足。首先，现有模型需要大规模的标注语料用于训练与评价，这种需求并且随着互联网的发展日益增长，由此产生严重的标注语料匮乏问题，仅靠上述方法无法从根本上获得解决。其次，尽管基于有监督学习的依存句法分析模型性能最佳，但该模型只能在有限的数据集合上完成一次模型参数学习，在其后的使用过程中无法自动调节模型参数来适应领域和用户个人兴趣的变化。经由本文研究，可得只有借助用户反馈，构建连续学习的依存句法分析模型才能解决上述问题。根据用户反馈无间断地调整模型参数，以此适应领域和用户兴趣的变化，同时用户在使用该模型时也一并完成完了语料标注工作，从而克服了标注语料缺乏的困境。
参考文献：
[1]KBLER S， MCDONALD R， NIVRE J. Dependency Parsing [M]. Synthesis Lectures of Human Language Technologies， 2009： 1-20.
[2]NIVRE J. Dependency grammar and dependency parsing [R]. Technical Report， 2005： 1-32.
[3]HWA R， RESNIK P， WEINBERG A， et al. Bootstrapping parsers via syntactic projection across parallel texts[J]. In Natural Language Engineering， 2005，11： 311-325.
[4]SMITH D， EISNER J. Parser adaptation and projection with quasi-synchronous grammar features [C]// Proceedings of EMNLP， 2009： 822-831.
[5]JIANG Wenbin， LIU Qun. Automatic adaptation of annotation standards for dependency parsing using projected treebank as source corpus [C]//Proceedings of IWPT， 2009： 25-28.
[6]JIANG Wenbin， LIU Qun. Dependency parsing and projection based on word-pair classification [C]// Proceedings of the 48th Annual Meeting of the Association for Computational Linguistics （ACL '10）， Stroudsburg， PA， USA， 2010： 12-20.
[7]MIRROSHANDEL S A， NASR A. Active learning for dependency parsing using partially annotated sentences [C]//Proceedings of IWPT， 2011： 140-149.
[8]GADDE P， JINDAL K， HUSAIN S， et al. Improving data driven dependency parsing using clausal information [C]//Human Language Technologies： The 2010 Annual Conference of the North American Chapter of the Association for Computational Linguistics （HLT '10）， Stroudsburg， PA， USA， 2010： 657-660.
[9]AGIRRE E， BENGOETXEA K， GOJENOLA K， et al. Improving dependency parsing with semantic classes [C]//Proceedings of the 49th Annual Meeting of the Association for Computational Linguistics： Human Language Technologies： short papers - Volume 2 （HLT '11）， Stroudsburg， PA， USA， 2011： 699-703.
[10]HAFFARI G， RAZAVI M， SARKAR A. An ensemble model that combines syntactic and semantic clustering for discriminative dependency parsing [C]//Proceedings of the 49th Annual Meeting of the Association for Computational Linguistics： Human Language Technologies： short papers - Volume 2 （HLT '11）， Stroudsburg， PA， USA， 2011： 710-714.
[11]MARTON Y， HABASH N， RAMBOW O. Improving Arabic dependency parsing with form-based and functional morphological features [C]//Proceedings of the 49th Annual Meeting of the Association for Computational Linguistics： Human Language Technologies - Volume 1 （HLT '11）， Stroudsburg， PA， USA， 2011： 1586-1596.
[12]CIARAMITA M， ATTARDI G. Dependency parsing with second-order feature maps and annotated semantic information [C]//Proceedings of the 10th International Conference on Parsing Technologies （IWPT '07）， Stroudsburg， PA， USA， 2007： 133-143.
[13]ZHOU Guangyou， ZHAO Jun， LIU Kang， et al. Exploiting web-derived selectional preference to improve statistical dependency parsing [C]//Proceedings of the 49th Annual Meeting of the Association for Computational Linguistics： Human Language Technologies - Volume 1 （HLT '11）， Stroudsburg， PA， USA， 2011： 1556-1565.
[14]LI Zhenghua， ZHANG Min， CHE Wanxiang， et al. Joint models for Chinese POS tagging and dependency parsing [C]//Proceedings of the Conference on Empirical Methods in Natural Language Processing （EMNLP '11）， Stroudsburg， PA， USA， 2011： 1180-1191.
[15]HATORI J， MATSUZAKI T， MIYAO Y， et al. Incremental joint POS tagging and dependency parsing in Chinese [C]//Proceedings of the 5th International Joint Conference on Natural Language Processing， 2011： 1216-1224.
[16]LI Zhongguo， ZHOU Guodong. Unified dependency parsing of Chinese morphological and syntactic structures [C]//Proceedings of the 2012 Joint Conference on Empirical Methods in Natural Language Processing and Computational Natural Language Learning （EMNLP-CoNLL '12）， Stroudsburg， PA， USA， 2012： 1445-1454.
[17]BERGSMA S， CHERRY C. Fast and accurate arc filtering for dependency parsing [C]//Proceedings of the 23rd International Conference on Computational Linguistics （COLING '10）， Stroudsburg， PA， USA， 2010： 53-61.
[18]CHEN Wenliang， KAZAMA J， ZHANG Min， et al. SMT helps bitext dependency parsing[C]// Proceedings of the Conference on Empirical Methods in Natural Language Processing （EMNLP '11）， Stroudsburg， PA， USA， 2011： 73-83.
[19]CULOTTA A， SORENSEN J. Dependency tree kernels for relation extraction [C]//Proceedings of the 42nd Annual Meeting on Association for Computational Linguistics （ACL '04）， Stroudsburg， PA， USA， Article 423， 2004.
[20]SHINYAMA Y， SEKINE S， SUDO K. Automatic paraphrase acquisition from news articles [C]// Proceedings of the second international conference on Human Language Technology Research （HLT '02）， San Francisco， CA， USA， 2002： 313-318.
[21]DING Yuan， PALMER M. Machine translation using probabilistic synchronous dependency insertion grammars[C]//Proceedings of the 43rd Annual Meeting on Association for Computational Linguistics （ACL '05）， Stroudsburg， PA， USA， 2005： 541-548.
[22]MCCLOSKY D， SURDEANU M， CHRISTOPHER D. Manning. event extraction as dependency parsing [C]//Proceedings of the 49th Annual Meeting of the Association for Computational Linguistics： Human Language Technologies - Volume 1 （HLT '11）， Stroudsburg， PA， USA， 2011： 1626-1635.
[23]ZHANG Qi， WU Yuanbin， LI Tao， et al. Mining product reviews based on shallow dependency parsing [C]//Proceedings of the 32nd international ACM SIGIR conference on Research and development in information retrieval （SIGIR '09）， New York， NY， USA， 2009： 726-727.
