找回密码
 立即注册

QQ登录

只需一步,快速开始

查看: 1880|回复: 1

[杂谈] 简单诉说分词技术

[复制链接]
发表于 2012-3-11 17:42:07 | 显示全部楼层 |阅读模式 来自 中国–河北–保定
  分词技术就是搜索引擎针对用户提交查询的关键字符串进行查询处理后根据用户的关键词串用各种匹配方法进行分析的一种技术。搜索引擎要正确理解用户的搜索意图,那么成熟分词技术就非常重要了。
  查询处理
  当用户向搜索引擎提交查询后,搜索隐藏接收到用户的信息要做一系列的处理,首先要到数据库里面索引相关的信息。
  反向匹配法:如果用户提交的字符串没有超过3个的中文字,就直接到数据库索引词汇。超过4个中文字的,优先用分隔符比如空格,标点符号,将查询串分割成若干子查询字符串,
  接着检查这些查询字符串有没有重复,如果有,则认为是同一个词汇。
  接下来检查用户提交的字符串有没有字母和数字。如果有,就把字母和数字认为一个词。这就是搜索引擎的查询处理。
  百度作为中国最成熟的搜索引擎,那么它的分词技术又是怎样的呢?
  1.字符串匹配的分词方法
  第一种是常用的分词法,百度就是用此种分词。字符串匹配的分词方法,他又分为3中分词方法。
  1.正向最大匹配法:就是把一个词从左至右来分词。
  举个例子。
  “不知道你在说什么”
  这句话采用正向最大匹配法是如何分的呢?“不知道,你,在,说什么”与正向最大匹配法相对应的是反向最大匹配发。这是第二种分词方法。
  2.反向最大匹配法 来分上面我举的例子是如何分的呢 “不知道你在说什么”。反向最大匹配法来分上面这段是如何分的。“不,知道,你在,说,什么”,这个就分的比较多了,反向最大匹配法就是从右至左。
  3.就是最短路径分词法。
  这个什么理解呢 ,就是说 我一段话里面要求切出的词数是最少的。还是上面哪句话
  “不知道你在说什么”最短路径分词法就是指,我把上面哪句话分成的词要是最少的。不知道,你在,说什么,这就是最短路径分词法,分出来就只有3个词了。好了,当然还有上面三种可以相互结合组成一些分词方法。比如正向最大匹配法和反向最大匹配法组合起来就可以叫做双向最大匹配法。
  2.词义分词法。
  进行句法、语义分析,利用句法信息和语义信息来处理歧义现象来分词,这种分词方法,现在还不成熟。
  3.统计分此法。
  根据词组的统计,就会发现两个相邻的字出现的频率最多,那么这个词就很重要。就可以作为用户提供字符串中的分隔符。这样来分词。比如,“我的,你的,许多的,这里,这一,那里”。等等,这些词出现的比较多,就从这些词里面分开来。
  关键词排名
  分出来的长尾词能够获取一定的排名,也能够推动站点的目标关键词获取很好的排名。
  例如:三亚酒店预定,如何来分呢?
  正向最大匹配,反向最大匹配,双向最大匹配,最短链接匹配。
  1.正向最大匹配
  “三亚,酒店预定”
  2.反向最大匹配
  “三亚酒店,预定”
  3.双向最大匹配
  “三亚,酒店,预定”
  4.最短路径最大匹配。
  “三亚酒店预定”好了,我们分了词为
  “三亚,“酒店预定,预定,三亚酒店,三亚,酒店 ,三亚酒店预定。”
  这些分出来的词,把他们都作为你站点的主题页,导入链接权重上来了,竞争力就大了,因为这些页面把他内链起来。用锚链接,指向主页的目标关键词。呵呵,这就是分词的好处。他能够提升目标关键词的排名的竞争力也同时给站点带来一定流量。一旦导入链接权重上来了,竞争力就大了,因为这些页面把他内链起来。
  用锚链接,指向主页的目标关键词。呵呵,这就是分词的好处。他能够提升目标关键词的排名的竞争力也同时给站点带来一定流量。分词还有一种好处。那就是提升内页的排名。好的,这个我就不详细讲了。因为我在SEOWHY已经写了一篇文章。大家可以去看一下。就是关于百度,捕获描述的文章。如果你的内页不做描述,那么百度就会给你定义一个描述或者从你的页面捕获一个描述。在捕获描述的时候,如果你的知道他会捕获哪一段,那么你说,你的排名会不会上升。
  分词技术:什么是分词, 如何分词搜索引擎会承认,这次第一位朋友提的问题,想必大家也听说过,很好奇,什么是分词技术,什么又是百度分词呢?分词大家容易理解。就是一段词用字符分开,比如标点符号,空格等。
  那什么叫分词技术呢?分词技术就是SE针对用户提交查询的关键串进行的查询处理后根据用户的关键词串用各种匹配方法进行的一种技术。大家好好理解。那么我们要理解分词技术先要理解一个概念。那就是查询处理,当用户向搜索引擎提交查询后,搜索隐藏接收到用户的信息要做一系列的处理。首先是到数据库里面索引相关的信息,
  这就是查询处理,那么查询处理又是如何工作的呢?很简单,把用户提交的字符串没有超过3个的中文字,就会直接到数据库索引词汇。超过4个中文字的,首先用分隔符比如空格,标点符号,将查询串分割成若干子查询串。举个例子。“什么是百度分词技术” 我们就会把这个词分割成“ 什么是,百度,分词技术。”这种分词方法叫做反向匹配法。2.然后再看用户提供的这个词有没有重复词汇。
  如果有的话,会丢弃掉,默认为一个词汇。接下来检查用户提交的字符串,有没有字母和数字。如果有的话,就把字母和数字认为一个词。好了,这就是SE的查询处理。
  讲了查询处理后,大家对分词技术,尤其是中文分词技术有了一个基本的了解。
  其实我讲的都是搜索引擎的原理。好了,我接下来讲分词的原理。我们用百度来举例
  百度是如何来分词的呢?分词技术现今非常成熟了。他分为3种技术。
  1.字符串匹配的分词方法
  2.词义分词法。
  3.统计分此法。
  先说第一种。
  也是常用的分词法,百度就是用此种分词。字符串匹配的分词方法,他又分为3中分词方法。
  1.正向最大匹配法
  什么意思呢?就是把一个词从左至右来分词。
  举个例子。
  “不知道你在说什么”
  这句话采用正向最大匹配法是如何分的呢?“不知道,你,在,说什么”与正向最大匹配法相对应的是反向最大匹配发。这是第二种分词方法。
  2.反向最大匹配法 来分上面我举的例子是如何分的呢 “不知道你在说什么”。反向最大匹配法来分上面这段是如何分的。“不,知道,你在,说,什么”,这个就分的比较多了,反向最大匹配法就是从右至左。
  3.就是最短路径分词法。
  这个什么理解呢 ,就是说 我一段话里面要求切出的词数是最少的。还是上面哪句话
  “不知道你在说什么”最短路径分词法就是指,我把上面哪句话分成的词要是最少的。不知道,你在,说什么,这就是最短路径分词法,分出来就只有3个词了。好了,当然还有上面三种可以相互结合组成一些分词方法。比如正向最大匹配法和反向最大匹配法组合起来就可以叫做双向最大匹配法。好了,第一种说完了,
  2.词义分词法。
  这种其实就是一种机器语音判断的分词
  方法。很简单,进行句法、语义分析,利用句法信息和语义信息来处理歧义现象来分词,这种分词方法,现在还不成熟。处在测试阶段。
  第三种,统计的分词方法。
  这个很简单,就是根据词组的统计,就会发现两个相邻的字出现的频率最多,那么这个词就很重要。就可以作为用户提供字符串中的分隔符。这样来分词。比如,“我的,你的,许多的,这里,这一,那里”。等等,这些词出现的比较多,就从这些词里面分开来。好了,分词技术讲完了。
  那么我们刚刚学了分词技术,又如何来运用他们为我们的站点获得流量呢
  1.我们可以利用分词技术来增加我们站点长尾词。这样就可以获取流量排名。
  不但这些分出来的长尾词能够获取一定的排名,也能够推动站点的目标关键词获取很好的排名。这个原理就是内链原理,这里不再讲了。讲了这么多,我们举个例子。
  例如:三亚酒店预定,如何来分呢?
  正向最大匹配,反向最大匹配,双向最大匹配,最短链接匹配。
  1.正向最大匹配
  “三亚,酒店预定”
  2.反向最大匹配
  “三亚酒店,预定”
  3.双向最大匹配
  “三亚,酒店,预定”
  4.最短路径最大匹配。
  “三亚酒店预定”好了,我们分了词为
  “三亚,“酒店预定,预定,三亚酒店,三亚,酒店 ,三亚酒店预定。”
  ————————————————–
  佛山办公家具
  佛山,办公家具      佛山办公,家具     佛山,办公,家具   佛山办公家具
  ————————————————————
  这些词每个都可以做一个主题页为目标关键词
  这些分出来的词,把他们都作为你站点的主题页,导入链接权重上来了,竞争力就大了,因为这些页面把他内链起来。用锚链接,指向主页的目标关键词。呵呵,这就是分词的好处。他能够提升目标关键词的排名的竞争力也同时给站点带来一定流量。一旦导入链接权重上来了,竞争力就大了,因为这些页面把他内链起来。
  用锚链接,指向主页的目标关键词。呵呵,这就是分词的好处。他能够提升目标关键词的排名的竞争力也同时给站点带来一定流量。分词还有一种好处。那就是提升内页的排名。好的,这个我就不详细讲了。因为我在SEOWHY已经写了一篇文章。大家可以去看一下。就是关于百度,捕获描述的文章。如果你的内页不做描述,那么百度就会给你定义一个描述或者从你的页面捕获一个描述。在捕获描述的时候,如果你的知道他会捕获哪一段,那么你说,你的排名会不会上升。你就刻意写哪一段。

本文是由河北小编:www.lnr120.com  进行整理发布

评分

参与人数 1金币 +1 收起 理由
流星玛丽 + 1 很给力!

查看全部评分

发帖求助前要善用【论坛搜索】功能,那里可能会有你要找的答案;

如何回报帮助你解决问题的坛友,好办法就是点击帖子下方的评分按钮给对方加【金币】不会扣除自己的积分,做一个热心并受欢迎的人!

发表于 2012-3-11 19:58:24 | 显示全部楼层 来自 中国–广西–桂林
分析得很到位啊

发帖求助前要善用【论坛搜索】功能,那里可能会有你要找的答案;

如何回报帮助你解决问题的坛友,好办法就是点击帖子下方的评分按钮给对方加【金币】不会扣除自己的积分,做一个热心并受欢迎的人!

回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则 需要先绑定手机号

关闭

站长推荐上一条 /1 下一条

QQ|侵权投诉|广告报价|手机版|小黑屋|西部数码代理|飘仙建站论坛 ( 豫ICP备2022021143号-1 )

GMT+8, 2024-12-23 07:31 , Processed in 0.054468 second(s), 13 queries , Redis On.

Powered by Discuz! X3.5

© 2001-2024 Discuz! Team.

快速回复 返回顶部 返回列表