zlslch

 

solr索引创建流程:

 

  分词组件Tokenizer

    分词组件(Tokenizer)会做以下几件事情(这个过程称为:Tokenize),处理得到的结果是词汇单元(Token)。

      1、将文档分成一个一个单独的单词。

      2、去除标点符号。

      3、去除停词(stop word)。

 

 

 

 

 

 

 

  语言处理组件

    语言处理组件(linguistic processor)主要是对得到的词元(Token)做一些语言相关的处理。对于英语,语言处理组件(Linguistic Processor)一般做以下几点:  

      1、变为小写(Lowercase)

      2、将单词缩减为词根形式

      3、将单词转换为词根形式

 

 

 

 

 

  索引组件(Indexer)

    1、利用得到的词(Term)创建一个字典

    2、对字段进行排序

    3、合并相同的词和词出现的文档

 

 

 

分类:

技术点:

相关文章:

  • 2021-10-05
  • 2021-05-07
  • 2021-10-11
  • 2021-04-17
  • 2021-11-29
  • 2021-11-05
  • 2021-10-12
  • 2018-04-03
猜你喜欢
  • 2021-11-05
  • 2021-07-15
  • 2022-01-20
  • 2021-11-05
  • 2021-10-27
  • 2021-06-10
  • 2021-11-05
相关资源
相似解决方案