2018-10-10 22:55:34 -04:00
|
|
|
|
# ik-analyzer-solr7
|
|
|
|
|
ik-analyzer for solr7.x
|
2018-11-14 22:06:23 -05:00
|
|
|
|
|
|
|
|
|
<!-- Badges section here. -->
|
2018-11-18 21:09:00 -05:00
|
|
|
|
[![GitHub version](https://img.shields.io/maven-central/v/com.github.magese/ik-analyzer.svg?style=flat-square)](https://search.maven.org/search?q=g:com.github.magese%20AND%20a:ik-analyzer&core=gav)
|
2018-11-14 22:44:47 -05:00
|
|
|
|
[![Open Source Love](https://badges.frapsoft.com/os/v1/open-source.svg?v=103)](https://github.com/magese/ik-analyzer-solr7/releases)
|
2018-11-15 01:23:33 -05:00
|
|
|
|
[![Crates.io](https://img.shields.io/crates/l/rustc-serialize.svg)](./LICENSE)
|
2018-11-14 22:06:23 -05:00
|
|
|
|
[![Build Status](https://travis-ci.org/magese/ik-analyzer-solr7.svg?branch=master)](https://travis-ci.org/magese/ik-analyzer-solr7)
|
|
|
|
|
|
|
|
|
|
[![GitHub forks](https://img.shields.io/github/forks/magese/ik-analyzer-solr7.svg?style=social&label=Fork)](https://github.com/magese/ik-analyzer-solr7/fork)
|
2019-01-10 03:54:31 -05:00
|
|
|
|
[![GitHub stars](https://img.shields.io/github/stars/magese/ik-analyzer-solr7.svg?style=social&label=Star)](https://github.com/magese/ik-analyzer-solr7/stargazers)
|
2018-11-14 22:06:23 -05:00
|
|
|
|
<!-- /Badges section end. -->
|
|
|
|
|
|
2018-11-15 00:59:49 -05:00
|
|
|
|
## 简介
|
2018-12-04 02:35:27 -05:00
|
|
|
|
#### 适配最新版本solr7;
|
|
|
|
|
#### 扩展IK原有词库:
|
|
|
|
|
| 分词工具 | 词库中词的数量 | 最后更新时间 |
|
|
|
|
|
| :------: | :------: | :------: |
|
|
|
|
|
| ik | 27.5万 | 2012年 |
|
|
|
|
|
| mmseg | 15.7万 | 2017年 |
|
|
|
|
|
| word | 64.2万 | 2014年 |
|
|
|
|
|
| jieba | 58.4万 | 2012年 |
|
|
|
|
|
| jcesg | 16.6万 | 2018年 |
|
|
|
|
|
| sougou词库 | 115.2万 | 2018年 |
|
|
|
|
|
#### 将以上词库进行整理后约188.5万条词汇;
|
2018-12-26 02:15:06 -05:00
|
|
|
|
#### 添加动态加载词典表功能,在不需要重启solr服务的情况下加载新增的词典。
|
2018-11-15 01:11:04 -05:00
|
|
|
|
* IKAnalyzer的原作者为林良益<linliangyi2007@gmail.com>,项目网站为<http://code.google.com/p/ik-analyzer>
|
2018-12-04 02:35:27 -05:00
|
|
|
|
* 该项目动态加载功能根据博主[@星火燎原智勇](http://www.cnblogs.com/liang1101/articles/6395016.html)的博客进行修改,其GITHUB地址为[@liang68](https://github.com/liang68)
|
2018-10-10 22:55:34 -04:00
|
|
|
|
|
|
|
|
|
|
2018-11-15 00:59:49 -05:00
|
|
|
|
## 使用说明
|
2019-02-15 04:20:53 -05:00
|
|
|
|
* jar包下载地址:[![GitHub version](https://img.shields.io/badge/version-7.7.0-519dd9.svg)](https://search.maven.org/remotecontent?filepath=com/github/magese/ik-analyzer/7.7.0/ik-analyzer-7.7.0.jar)
|
2018-12-26 04:31:18 -05:00
|
|
|
|
* 历史版本:[![GitHub version](https://img.shields.io/maven-central/v/com.github.magese/ik-analyzer.svg?style=flat-square)](https://search.maven.org/search?q=g:com.github.magese%20AND%20a:ik-analyzer&core=gav)
|
2018-10-10 22:55:34 -04:00
|
|
|
|
|
2018-11-15 00:59:49 -05:00
|
|
|
|
```console
|
|
|
|
|
<!-- Maven仓库地址 -->
|
|
|
|
|
<dependency>
|
|
|
|
|
<groupId>com.github.magese</groupId>
|
|
|
|
|
<artifactId>ik-analyzer</artifactId>
|
2018-12-26 04:31:18 -05:00
|
|
|
|
<version>7.6.0</version>
|
2018-11-15 00:59:49 -05:00
|
|
|
|
</dependency>
|
|
|
|
|
```
|
|
|
|
|
|
2018-12-26 02:26:40 -05:00
|
|
|
|
### Solr-Cloud
|
2018-12-26 02:15:06 -05:00
|
|
|
|
* [Solr-Cloud说明](./README-CLOUD.md)
|
|
|
|
|
|
2018-12-26 02:26:40 -05:00
|
|
|
|
### 单机版Solr
|
2018-11-15 00:59:49 -05:00
|
|
|
|
1. 将jar包放入Solr服务的`Jetty`或`Tomcat`的`webapp/WEB-INF/lib/`目录下;
|
|
|
|
|
|
|
|
|
|
2. 将`resources`目录下的5个配置文件放入solr服务的`Jetty`或`Tomcat`的`webapp/WEB-INF/classes/`目录下;
|
|
|
|
|
```console
|
|
|
|
|
① IKAnalyzer.cfg.xml
|
|
|
|
|
② ext.dic
|
|
|
|
|
③ stopword.dic
|
|
|
|
|
④ ik.conf
|
|
|
|
|
⑤ dynamicdic.txt
|
|
|
|
|
```
|
|
|
|
|
|
|
|
|
|
3. 配置Solr的`managed-schema`,添加`ik分词器`,示例如下;
|
|
|
|
|
```console
|
|
|
|
|
<!-- ik分词器 -->
|
|
|
|
|
<fieldType name="text_ik" class="solr.TextField">
|
|
|
|
|
<analyzer type="index">
|
|
|
|
|
<tokenizer class="org.wltea.analyzer.lucene.IKTokenizerFactory" useSmart="false" conf="ik.conf"/>
|
|
|
|
|
<filter class="solr.LowerCaseFilterFactory"/>
|
|
|
|
|
</analyzer>
|
|
|
|
|
<analyzer type="query">
|
|
|
|
|
<tokenizer class="org.wltea.analyzer.lucene.IKTokenizerFactory" useSmart="true" conf="ik.conf"/>
|
|
|
|
|
<filter class="solr.LowerCaseFilterFactory"/>
|
|
|
|
|
</analyzer>
|
|
|
|
|
</fieldType>
|
|
|
|
|
```
|
|
|
|
|
|
|
|
|
|
4. 启动Solr服务测试分词;
|
|
|
|
|
|
2018-11-15 01:23:33 -05:00
|
|
|
|
![analyzer](./img/analyzer.png)
|
|
|
|
|
|
2018-11-15 00:59:49 -05:00
|
|
|
|
5. `ik.conf`文件说明:
|
|
|
|
|
```console
|
|
|
|
|
files=dynamicdic.txt
|
|
|
|
|
lastupdate=0
|
|
|
|
|
```
|
|
|
|
|
|
2018-12-26 02:15:06 -05:00
|
|
|
|
1. `files`为动态词典列表,可以设置多个词典表,用逗号进行分隔,默认动态词典表为`dynamicdic.txt`;
|
|
|
|
|
2. `lastupdate`默认值为`0`,每次对动态词典表修改后请+1,不然不会将词典表中新的词语添加到内存中。<s>`lastupdate`采用的是`int`类型,不支持时间戳,如果使用时间戳的朋友可以把源码中的`int`改成`long`即可;</s> `2018-08-23` 已将源码中`lastUpdate`改为`long`类型,现可以用时间戳了。
|
2018-11-15 00:59:49 -05:00
|
|
|
|
|
2018-12-26 02:15:06 -05:00
|
|
|
|
6. `dynamicdic.txt` 为动态词典
|
2018-11-15 01:23:33 -05:00
|
|
|
|
|
2018-12-26 02:15:06 -05:00
|
|
|
|
在此文件配置的词语不需重启服务即可加载进内存中。
|
|
|
|
|
以`#`开头的词语视为注释,将不会加载到内存中。
|
2018-11-15 00:59:49 -05:00
|
|
|
|
|
|
|
|
|
|
|
|
|
|
## 更新说明
|
2019-02-15 04:20:53 -05:00
|
|
|
|
- `2019-02-15:` 升级lucene版本为`7.7.0`
|
2018-12-26 02:15:06 -05:00
|
|
|
|
- `2018-12-26:`
|
|
|
|
|
- 升级lucene版本为`7.6.0`
|
|
|
|
|
- 兼容solr-cloud,动态词典配置文件及动态词典可交由`zookeeper`进行管理
|
|
|
|
|
- 动态词典增加注释功能,以`#`开头的行将视为注释
|
2018-12-04 02:40:14 -05:00
|
|
|
|
- `2018-12-04:` 整理更新词库列表`magese.dic`
|
2018-11-15 00:59:49 -05:00
|
|
|
|
- `2018-10-10:` 升级lucene版本为`7.5.0`
|
|
|
|
|
- `2018-09-03:` 优化注释与输出信息,取消部分中文输出避免不同字符集乱码,现会打印被调用inform方法的hashcode
|
|
|
|
|
- `2018-08-23: `
|
2018-12-26 02:15:06 -05:00
|
|
|
|
- 完善了动态更新词库代码注释;
|
|
|
|
|
- 将ik.conf配置文件中的lastUpdate属性改为long类型,现已支持时间戳形式
|
2018-11-15 00:59:49 -05:00
|
|
|
|
- `2018-08-13:` 更新maven仓库地址
|
|
|
|
|
- `2018-08-01:` 移除默认的扩展词与停用词
|
|
|
|
|
- `2018-07-23:` 升级lucene版本为`7.4.0`
|
|
|
|
|
|
|
|
|
|
|
2019-01-17 20:42:08 -05:00
|
|
|
|
## 感谢 Thanks
|
|
|
|
|
|
|
|
|
|
[![IDEA](./img/jetbrains.svg)](https://www.jetbrains.com/?from=ik-analyzer-solr7)
|
|
|
|
|
|
|
|
|
|
[![forthebadge](https://forthebadge.com/images/badges/made-with-java.svg)](https://www.java.com)
|
|
|
|
|
|
|
|
|
|
|
2018-11-15 00:59:49 -05:00
|
|
|
|
## BUG & 疑问 & 其它
|
|
|
|
|
如果您在使用过程中遇到了BUG,或者有不清楚的地方,请挂ISSUE或者联系作者:<magese@live.cn>
|
|
|
|
|
|
2018-11-15 01:52:03 -05:00
|
|
|
|
如果您觉得该项目对您有帮助,请别忘记给这个项目一个`star`
|