通过 
搜索
搜索lizhichao / word
这是一个分词库
v2.1
2020-07-30 07:33 UTC
Requires
- php: >=5.6.0
README
QQ交流群: 731475644
安装
composer require lizhichao/word
分词说明
- 包含3种切分方法
getWord长度优先切分。最快getShortWord细粒度切分。比最快慢一点点getAutoWord自动切分。效果最好
- 可以自定义词典，可以将词语添加到词库中，词库支持文本格式
json和二进制格式igb。二进制格式词典体积小，加载快 dict.igb包含175,662个词，欢迎大家将词语补充到dict.txt中，格式为(词语 \t idf \t 词性)- idf 获取方法：百度搜索该词语
Math.log(100000001/结果数量)，如果您有更好的方法，欢迎补充。 - 词性 [标点符号,名词,动词,形容词,区别词,代词,数词,量词,副词,介词,连词,助词,语气词,拟声词,叹词] 取index；标点符号取0
- idf 获取方法：百度搜索该词语
- 三种分词结果对比
$fc = new VicWord(); $arr = $fc->getWord('北京大学生喝进口红酒，在北京大学生活区喝进口红酒'); //北京大学|生喝|进口|红酒|，|在|北京大学|生活区|喝|进口|红酒 //$arr 是一个数组 每个单元的结构[词语,词语位置,词性,这个词语是否包含在词典中] 这里只值列出了词语 $arr = $fc->getShortWord('北京大学生喝进口红酒，在北京大学生活区喝进口红酒'); //北京|大学|生喝|进口|红酒|，|在|北京|大学|生活|区喝|进口|红酒 $arr = $fc->getAutoWord('北京大学生喝进口红酒，在北京大学生活区喝进口红酒'); //北京|大学生|喝|进口|红酒|，|在|北京大学|生活区|喝|进口|红酒 //对比 //qq的分词 http://nlp.qq.com/semantic.cgi#page2 //百度的分词 http://ai.baidu.com/tech/nlp/lexical
分词速度
机器阿里云 Intel(R) Xeon(R) Platinum 8163 CPU @ 2.50GHz
getWord 每秒处理140万个字符
getShortWord 每秒处理138万个字符
getAutoWord 每秒处理40万个字符
测试文本：百度百科复制的一段5000字的文本
制作词库
- 词库支持UTF-8的任意字符
- 词典大小不影响分词速度
只有一个方法 VicDict->add(词语,词性 = null)
require __DIR__.'/Lib/VicDict.php'; //目前可支持 igb 和 json 两种词典库格式；igb需要安装igbinary扩展，igb文件小，加载快 $path = ''; //词典地址 $dict = new VicDict($path); //添加词语词库 add(词语,词性) 不分语言，可以是utf-8编码的任何字符 $dict->add('中国','n'); //保存词库 $dict->save();