搜索引擎原理之中文分词的简要介绍

分词是中文搜索引擎特有的步骤。搜索引擎存储和处理页面及用户搜索都是以词为基础的。英文等语言单词与单词之间有空格分隔，搜索引擎索引程序可以直接把句子划分为单词的集合。而中文词与词之间没有任何分隔符，一个句子中的所有字和词都是连在一起的。搜索引擎必须首先分辨哪几个字组成一个词，哪些字本身就是一个词。比如“减肥方法”将被分词为“减肥”和“方法”两个词。,中文分词方法基本上有两种，一种是基于词典匹配，另一种是基于统计。,按照扫描方向，基于词典的匹配法可以分为正向匹配和逆向匹配。按照匹配长度优先级的不同，又可以分为最大匹配和最小匹配。将扫描方向和长度优先混合，又可以产生正向最大匹配、逆向最大匹配等不同方法。,词典匹配方法计算简单，其准确度在很大程度上取决于词典的完整性和更新情况。,基于统计的分词方法指的是分析大量文字样本，计算出字与字相邻出现的统计概率，几个字相邻出现越多，就越可能形成一个单词。基于统计的方法的优势是对新出现的词反应更快速，也有利于消除歧义。,基于词典匹配和基于统计的分词方法各有优劣，实际使用中的分词系统都是混合使用两种方法的，快速高效，又能识别生词、新词，消除歧义。,中文分词的准确性往往影响搜索引擎排名的相关性。比如在百度搜索“搜索引擎优化”，如图2-22所示，从快照中可以看到，百度把“搜索引擎优化”这六个字当成一个词。,,图2-22 百度快照显示的对“搜索引擎优化”的分词结果,而在Google搜索同样的词，如图2-23所示，快照显示Google将其分切为“搜索”、“引擎”和“优化”三个词。显然百度切分得更为合理，搜索引擎优化是一个完整的概念。Google分词时倾向于更为细碎。,,图2-23 Google快照显示的对“搜索引擎优化”的分词结果