共計(jì) 1127 個(gè)字符，預(yù)計(jì)需要花費(fèi) 3 分鐘才能閱讀完成。

做 站長(zhǎng) 的朋友壹一般喜歡研究關(guān)鍵詞，而關(guān)鍵詞搜索又會(huì)涉及到分詞算法。百度分詞技術(shù)就是百度針對(duì)用戶提交查詢的關(guān)鍵詞串進(jìn)行的查詢處理后根據(jù)用戶的關(guān)鍵詞串用各種匹配方法進(jìn)行的一種技術(shù)。所謂分詞就是把字與字連在一起的漢語(yǔ)句子分成若干個(gè)相互獨(dú)立、完整、正確的單詞。詞是最小的、能獨(dú)立活動(dòng)的、有意義的語(yǔ)言成分。

計(jì)算機(jī)的所有語(yǔ)言知識(shí)都來(lái)自機(jī)器詞典(給出詞的各項(xiàng)信息) 、句法規(guī)則(以詞類(lèi)的各種組合方式來(lái)描述詞的聚合現(xiàn)象) 以及有關(guān)詞和句子的語(yǔ)義、語(yǔ)境、語(yǔ)用知識(shí)庫(kù)。中文信息處理系統(tǒng)只要涉及句法、語(yǔ)義(如檢索、翻譯、文摘、校對(duì)等應(yīng)用) , 就需要以詞為基本單位。當(dāng)漢字由句轉(zhuǎn)化為詞之后, 才能使得句法分析、語(yǔ)句理解、自動(dòng)文摘、自動(dòng)分類(lèi)和機(jī)器翻譯等文本處理具有可行性。可以說(shuō), 分詞是機(jī)器 語(yǔ)言學(xué)的基礎(chǔ)。

百度分詞的 4 個(gè)原理：

1、基于理解：傻瓜式匹配，小于等于 3 個(gè)中文字符百度是不進(jìn)行切詞的，比如搜索“大學(xué)堂”。

2、基于統(tǒng)計(jì)：百度把一個(gè)詞標(biāo)紅的原因：標(biāo)紅的詞一般是一個(gè)關(guān)鍵詞，你搜索“學(xué)”字的時(shí)候，百度它自認(rèn)的把“學(xué)習(xí)”也當(dāng)成了一個(gè)關(guān)鍵詞，所以出現(xiàn)“學(xué)習(xí)”這個(gè)詞標(biāo)紅，這就是百度分詞法：基于統(tǒng)計(jì)分詞。

3、基于字符串匹配(百度的分詞法：正向最大切詞法)

最大與最小 (最大匹配：一直匹配到?jīng)]詞可配; 最小匹配：匹配出詞了就停止匹配，再?gòu)牧硪粋€(gè)詞開(kāi)始匹配) 比如：百度搜索“湖南大學(xué)堂屋頂”，百度的一個(gè)分詞算法我們把它當(dāng)成一個(gè)黑盒子，我們通過(guò)一些輸入關(guān)鍵詞，根據(jù)百度的輸出結(jié)果來(lái)判定百度的分詞算法。正向與反向 (正向：從前往后配; 反向：從后往前配)(湖南大學(xué)堂屋頂) 正向分法：湖南大學(xué) 堂屋 頂 (劉強(qiáng)大地方法)正向分法：劉 強(qiáng)大 地方 法。反向分法：方法 大地 劉 強(qiáng)。而在這個(gè)詞語(yǔ)當(dāng)中“大地”不是一個(gè)詞。

4、基于專有詞庫(kù)。比如杰出人物 (如：毛澤東) 明星 (如：劉德華) 檢索量大的詞(如：買(mǎi)票難) 。

分詞工具(沒(méi)有百度的，收集了幾個(gè)開(kāi)源的分詞工具)：

1、ICTCLAS – 全球最受歡迎的漢語(yǔ)分詞系統(tǒng)

2、HTTPCWS – 基于 HTTP 協(xié)議的開(kāi)源中文分詞系統(tǒng)

3、SCWS – 簡(jiǎn)易中文分詞系統(tǒng)

4、PhpanAlysis – PHP 無(wú)組件分詞系統(tǒng)

5 、MMSEG4J

6、盤(pán)古分詞

7、IKAnalyzer 開(kāi)源的輕量級(jí)中文分詞工具包