Friso是是基于C語(yǔ)言開(kāi)放的一款免費(fèi)開(kāi)源的強(qiáng)大性能的中文分詞器,主要靠mmseg算法來(lái)實(shí)現(xiàn),支持中英/英中混合詞的識(shí)別,支持阿拉伯?dāng)?shù)字/小數(shù)基本單字單位的識(shí)別,還可以自定義保留標(biāo)點(diǎn)符號(hào),安全的應(yīng)用于多進(jìn)程/多線程環(huán)境。
功能介紹
核心功能
中文分詞:mmseg算法 + Friso 獨(dú)創(chuàng)的優(yōu)化算法,四種切分模式。
關(guān)鍵字提?。夯趖extRank算法。
關(guān)鍵短語(yǔ)提?。夯趖extRank算法。
關(guān)鍵句子提?。夯趖extRank算法。
中文分詞
四種切分模式:
簡(jiǎn)易模式:FMM 算法,適合速度要求場(chǎng)合。
復(fù)雜模式: MMSEG 四種過(guò)濾算法,具有較高的岐義去除,分詞準(zhǔn)確率達(dá)到了98.41%。
檢測(cè)模式:只返回詞庫(kù)中已有的詞條,很適合某些應(yīng)用場(chǎng)合。(1.6.1版本開(kāi)始)。
最多模式:細(xì)粒度切分,專(zhuān)為檢索而生,除了中文處理外(不具備中文的人名,數(shù)字識(shí)別等智能功能)其他與復(fù)雜模式一致(英文,組合詞等)。
1、分詞功能特性:
同時(shí)支持對(duì) UTF-8/GBK 編碼的切分,支持 php5 和 php7 擴(kuò)展和 sphinx token 插件。
支持自定義詞庫(kù)。在 dict 文件夾下,可以隨便添加/刪除/更改詞庫(kù)和詞庫(kù)詞條,并且對(duì)詞庫(kù)進(jìn)行了分類(lèi)。
簡(jiǎn)體/繁體/簡(jiǎn)體混合支持, 可以方便的針對(duì)簡(jiǎn)體,繁體或者簡(jiǎn)繁體切分。同時(shí)還可以以此實(shí)現(xiàn)簡(jiǎn)繁體的相互檢索。
支持中英/英中混合詞的識(shí)別(維護(hù)詞庫(kù)可以識(shí)別任何一種組合)。例如:卡拉ok, 漂亮mm, c語(yǔ)言,IC卡,哆啦a夢(mèng)。
很好的英文支持,英文標(biāo)點(diǎn)組合詞識(shí)別, 例如c++, c#, 電子郵件,網(wǎng)址,小數(shù),百分?jǐn)?shù)。
2、自定義保留標(biāo)點(diǎn):你可以自定義保留在切分結(jié)果中的標(biāo)點(diǎn),這樣可以識(shí)別出一些復(fù)雜的組合,例如:c++, k&r,code.google.com。
復(fù)雜英文切分的二次切分:默認(rèn) Friso 會(huì)保留數(shù)字和字母的原組合,開(kāi)啟此功能,可以進(jìn)行二次切分提高檢索的命中率。例如:qq2013會(huì)被切分成:qq/ 2013/ qq2013。
支持阿拉伯?dāng)?shù)字/小數(shù)基本單字單位的識(shí)別,例如2012年,1.75米,5噸,120斤,38.6℃。
自動(dòng)英文圓角/半角,大寫(xiě)/小寫(xiě)轉(zhuǎn)換。
3、同義詞匹配:自動(dòng)中文/英文同義詞追加。 (需要在 friso.ini 中開(kāi)啟 friso.add_syn 選項(xiàng))。
自動(dòng)中英文停止詞過(guò)濾。(需要在 friso.ini 中開(kāi)啟 friso.clr_stw 選項(xiàng))。
多配置支持, 安全的應(yīng)用于多進(jìn)程/多線程環(huán)境。