• 模糊匹配

    模糊匹配

    一般的全文检索方式使用 TF/IDF 处理文本或者文本数据中的某个字段内容。将字面切分成很多字、词(word)建立索引,match查询用query中的term来匹配索引中的字、词。match查询提供了文档数据中是否包含我们需要的query中的单、词,但仅仅这样是不够的,它无法提供文本中的字词之间的关系。

    举个例子:

    • 小苏吃了鳄鱼
    • 鳄鱼吃了小苏
    • 小苏去哪儿都带着的鳄鱼皮钱包

    match查询小苏 鳄鱼,这三句话都会被命中,但是tf/idf并不会告诉我们这两个词出现在同一句话里面还是在同一个段落中(仅仅提供这两个词在这段文本中的出现频率)

    理解文本中词语之间的关系是一个很复杂的问题,而且这个问题通过更换query的表达方式是无法解决的。但是我们可以知道两个词语在文本中的距离远近,甚至是否相邻,这个信息似乎上能一定程度的表达这两个词比较相关。

    一般的文本可能比我们举的例子长很多,正如我们提到的:小苏鳄鱼这两个词可能分布在文本的不同段落中。我们还是期望能找到这两个词分布均匀的文档,但是我们把这两个词距离比较近的文档赋予更好的相关性权重。

    这就是段落匹配(phrase matching)或者模糊匹配(proximity matching)所做的事情。

    提示

    这一章,我们会用之之前在< match-test-data, match query >中使用的文档做例子。