智能日志管理平台

  • 分词方式(analyzer)

    最近更新时间:2018-09-12 18:55:34

    您可以根据自己的搜索习惯和需求,对日志中的字段设置分词方式,目前日志分析服务提供以下几种分词方式:

    不分词 (keyword)

    不分词的含义其实是“keyword 分词”,意思就是,你必须完整的输入某一个 field 的内容,才能被搜索到,我们举个例子来说明:

    假设目前有1个 field 为 A,它的内容是 "abcdefg"
    假设我们选择了不分词方式,那么如果想搜索到这一条内容,需要在条件框输入:
    A:"abcdefg"
    这样才能搜索到,如果我们按照以下几种方式,则无法搜索到:
    A:"a"
    A:"abc"
    A:"edf"
    

    注意:当我们在配置报表和仪表盘的时候,只能使用不分词的字段做分组字段和计算指标。如果字段选择了其他分词方式,将只能进行搜索查询,不能进行分析计算。

    不分词不索引 (no)

    不分词不索引的含义是指:在任何情况下,输入任何条件,都不会搜索到该 field 的内容,但在搜索其他 field 时,如果是整条搜索,那么这个 field 的内容也会显示出来。

    假设现在有 2 个 field,分别为:
    A:"abcdefg",B:"12345678"
    其中,B 设置了不分词不索引,
    无论我们在条件框输入有关B的任何条件,都不会搜索到
    

    标准分词 (standard)

    以 unicode 字符作为结束的标识,过滤掉大部分标点符号,将所有字母变为小写,搜索时只要符合搜索条件的词语出现,就会被搜索到。

    假设现在有1个 field 为 A,它的内容是 "linux-chrome,what's your&name?"
    那么使用标准分词,将会被分为:"linux,chrome,what's,your,name"
    我们的搜索条件包含这些词时,会被搜索到
    

    注意:标准分词只适用于英文的文本字段。

    空白分词 (whitespace)

    以单词头部和尾部的空格作为分割条件,输入两个空格内的完整内容,即可搜索到相应内容。

    例:
    A="张三 李四 王五"
    
    需要输入以下条件,均可搜到内容:
    A:"张三"
    A:"李四"
    A:"王五"
    
    如果输入以下条件,则无法搜索到内容:
    A:"张"
    A:"张三 李四"
    

    path分词 (path)

    以 linux 系统路径来进行分词,当搜索时,可以输入完整的路径或者路径前缀来进行匹配,如果输入的条件不是一个正确的前缀,那么将无法正确呈现日志内容。

    例:
    filed A="/usr/local/action.log"
    
    那么需要输入以下条件,均可搜到内容:
    A:"/usr"
    A:"/usr/local"
    A:"/usr/local/action.log"
    
    如果输入以下条件,则无法搜索到内容:
    A:"/u"
    A:"usr"
    A:"/action.log"
    

    中文分词 (index_ansj)

    日志分析平台支持使用中文分词器对文本按照中文的语言习惯进行分词。

    例:
    A="我爱杭州"
    中文分词会将该文本切分成"我","爱","杭州"四个词语,输入以下条件,均可搜到内容:
    A:"我"
    A:"爱"
    A:"杭州"
    
    以上内容是否对您有帮助?
  • Icon free helper
    Close