Lucene分析 - Lucene教程

正如我们已经看到在前一章的Lucene索引过程,Lucene使用IndexWriterwhich分析用分析仪文件,然后根据需要创建/打开/编辑索引。在本章中,我们将讨论不同类型的分析对象,哪些是在分析过程中使用的相关对象。了解分析过程中,分析仪如何工作,会给Lucene索引文件很大的启示。

以下是我们将在适当的时候讨论对象的列表。

Sr. No. 类和说明
1 Token 令牌表示(起始偏移量,结束偏移,令牌类型和位置增量位置,)在像它的元数据相关的详细信息的文档中的文本或字。
2 TokenStream TokenStream是分析过程中的一个输出,它包括串联的令牌。它是一个抽象类。
3 Analyzer 这是对每个类型分析器的抽象基类。
4 WhitespaceAnalyzer 该分析仪analyzer分割的基础的空白文档中的文本。
5 SimpleAnalyzer 此分析器分割在基于非字母字符的文档的文本,然后小写它们。
6 StopAnalyzer 该分析仪的工作原理类似于SimpleAnalyzer并删除常用词像 'a','an','the'等等。
7 StandardAnalyzer 这是最复杂的分析,并能处理姓名,电子邮件地址等,它小写每个标记,并删除常用词和标点符号(如有)。
powered by Gitbook 该教程制作时间: 2016-01-25 17:30:49