solr6.2从环境部署到与mysql整合到中文分词器到solrJ的使用
solr就不多介绍了。是用于搜索功能的开源工具,很强大
一、solr环境部署
solr本身能够用jetty启动,但是还是用tomcat启动比较适合我自己。学习solr有两个星期了,到现在(2016.11.27)solr最新版已经是6.3.0了,不过没关系,基本的东西都是一样的。
1、solr官网: http://lucene.apache.org/solr/
下载后解压,是这样的目录结构:
2、solr当然可以直接按网上其他很多教程那样整合到tomcat中,但是本人更喜欢建一个新工程,这样更灵活。下面我们在eclipse中新建一个tomcat-solr的java web工程,不过这里要注意,要把这个工程的访问路径变成solr,不能是tomcat-solr,因为solr的管理页面中,solr的开发者把这个目录写死了,我们要把访问路径改成solr,也就是:http://localhost:8080/solr/index.html ,怎么改呢:
在eclipse中:
下面我们进行如下操作:
1)将solr-6.2.1\server\solr-webapp\webapp下的内容copy到我们web工程的webapp下
2)将solr-6.2.1\server\lib\ext下的jar包,copy到我们的tomcat-solr功能中
3)将solr-6.2.1\server\resources\log4j.properties文件copy到tomcat-solr功能的src中,
4)在tomcat-solr工程的webapp文件夹下,新建文件夹solrhome,将solr-6.2.1\server\solr下的文件夹以及文件copy到solrhome中,
5)修改web.xml文件,修改env-entry-value的值为solrhome的绝对位置,如:
6)启动tomcat,访问http://localhost:8080/solr/index.html
到此,solr部署完毕。
我们的tomcat-solr功能应该长得如此帅:
对了,solr支持zookeeper搭建集群配置,在这里我们先注释掉,在solrhome文件夹下的solr.xml文件中,
<solr> <!-- 注解掉zookeeper搭建集群配置,采用master-slave的形式 <solrcloud> <str name="host">${host:}</str> <int name="hostPort">${jetty.port:8983}</int> <str name="hostContext">${hostContext:solr}</str> <bool name="genericCoreNodeNames">${genericCoreNodeNames:true}</bool> <int name="zkClientTimeout">${zkClientTimeout:30000}</int> <int name="distribUpdateSoTimeout">${distribUpdateSoTimeout:600000}</int> <int name="distribUpdateConnTimeout">${distribUpdateConnTimeout:60000}</int> <str name="zkCredentialsProvider">${zkCredentialsProvider:org.apache.solr.common.cloud.DefaultZkCredentialsProvider}</str> <str name="zkACLProvider">${zkACLProvider:org.apache.solr.common.cloud.DefaultZkACLProvider}</str> </solrcloud> <shardHandlerFactory name="shardHandlerFactory" class="HttpShardHandlerFactory"> <int name="socketTimeout">${socketTimeout:600000}</int> <int name="connTimeout">${connTimeout:60000}</int> </shardHandlerFactory> --> </solr>
二、core配置
solr的core非常重要,还有什么多core什么的,由于我也是刚刚学习,还没有搞明白,这里只是能够用最简单的,我们将在solrhome文件夹下,新建文件夹:my_solr,然后将solr-6.2.1\example\example-DIH\solr\solr下的文件以及文件夹copy到my_solr下,
访问刚才的地址:
三、整合mysql
1、首先我们在mysql中建个表作为练习,
CREATE TABLE `solrTest` ( `solrID` int(11) NOT NULL AUTO_INCREMENT COMMENT 'ID', `context` varchar(255) DEFAULT NULL COMMENT 'context', `updateTime` datetime DEFAULT NULL COMMENT 'updateTime', `sort` int(11) DEFAULT '1' COMMENT '排序', PRIMARY KEY (`solrID`) ) DEFAULT CHARSET=utf8;
2、将mysql的驱动jar包,copy到我们tomcat-solr功能中(lib文件夹下,这个们问题的吧),
3、修改my_solr文件夹下的conf文件夹下的solr-data-config.xml文件:
<dataConfig> <dataSource type="JdbcDataSource" driver="com.mysql.jdbc.Driver" url="jdbc:mysql://localhost:3306/test" user="root" password="123456"/> <document name="solr_mysql_test"> <entity name="solrTest" pk="solrID" query="select * from solrTest" deltaImportQuery="select * from solrTest where solrID = '${dih.delta.solrID}'" deltaQuery="select solrID from solrTest where updateTime > '${dataimporter.last_index_time}'"/> <field column="solrID" name="solrID"/> <field column="context" name="context"/> <field column="updateTime" name="updateTime"/> <field column="sort" name="sort"/> </document> </dataConfig>
这里面的内容具体什么意思,网上有很多专门介绍的文章博客,这里就不多说了
4、修改conf文件夹下的managed-schema文件,在schema标签下添加field
<field name="solrID" type="string" required="true" indexed="true" stored="true" multiValued="false"/> <field name="context" type="string" indexed="true" stored="true" multiValued="false"/> <field name="updateTime" type="date" indexed="true" stored="true" multiValued="false"/> <field name="sort" type="int" indexed="true" stored="true" multiValued="false"/>
这里面name对应solr-data-config.xml中的name,要一直,否则solr就找不到字段了,
type是类型,indexed代表是否可用于检索,stored代表是否存储,multiValued代表是否有多个值,除此之外还有很多字段,读者可以移步度娘。
(另外说一下,我这里用的其实是schema.xml,而不是managed-schema文件,不过感觉都是一个样)
下面,看下我们的成就(别忘了mysql填点数据哦,否则啥也看不出来):
先刷新下solr数据:
然后查数据:
四、下面,我们看看中文分词器
solr本分提供了很多分词器(不过对中文的分词实在不能用,愤怒!!!),对了,那么什么是分词呢?比如“数据结构”这个词,没分词前,solr就按“数据结构”这个词查(有点像mysql的=),中文分词后,就按“数据”,“结构”这两个词查(有点像like),这样更符合我们的搜索习惯
有很多支持solr中文分词的jar包,比如我们用的IKAnalyzer中文分词器
我们首先导入IKAnalyzer的jar包,注意IKAnalyzer的jar包要与solr版本对应,否则会execption的,
然后在managed-schema文件的最后:
<!-- IKAnalyzer中文分词器.如果版本与solr对应不上,会报抽象方法错误 --> <fieldType name="text_ik" class="solr.TextField"> <!--索引时候的分词器--> <analyzer type="index" isMaxWordLength="false" class="org.wltea.analyzer.lucene.IKAnalyzer"/> <!--查询时候的分词器--> <analyzer type="query" isMaxWordLength="true" class="org.wltea.analyzer.lucene.IKAnalyzer"/> </fieldType>
在然后,比如我们数据库表中的context字段要进行分词,那么修改field:
<field name="context" type="text_ik" indexed="true" stored="true" multiValued="false"/>
也就是修改type为分词器的name
这时我们在去solr查询一下,我们先填几条数据:
去看看成果:
五、solrJ是连接我们java工程和solr的工具jar包,很实用
简单的使用示例:
public class SolrQueryTest { //solr 服务器地址 public static final String solrServerUrl = "http://localhost:8080/solr"; //solrhome下的core public static final String solrCroeHome = "my_solr"; @SuppressWarnings({ "resource", "deprecation" }) public static void main(String[] args) { try { //SolrClient client = new HttpSolrClient(solrServerUrl + "/" + solrCroeHome); //QueryResponse resp = client.query(new SolrQuery("*:*")); SolrClient client = new HttpSolrClient(solrServerUrl); QueryResponse resp = client.query(solrCroeHome, new SolrQuery("*:*")); List<TestBean> lists = resp.getBeans(TestBean.class); System.out.println(lists); } catch (SolrServerException e) { e.printStackTrace(); } catch (IOException e) { e.printStackTrace(); } } }
bean(注意要有solrJ的注解):
public class TestBean { @Field("solrID") private String solrID; @Field("context") private String context; @Field("updateTime") private Date updateTime; public String getSolrID() { return solrID; } public void setSolrID(String solrID) { this.solrID = solrID; } public String getContext() { return context; } public void setContext(String context) { this.context = context; } public Date getUpdateTime() { return updateTime; } public void setUpdateTime(Date updateTime) { this.updateTime = updateTime; } }
solr在查询时,也有很多方法,能够设置查询的条件,比如分页、分片检索、结果的过滤条件、排序等,下面只是一个示例,我一个功能的代码片段:
/** * 设置查询信息 */ solrQuery.setQuery(this.getQueryFields(keyWord)); //设置基本查询 /** * 设置查询条件 */ solrQuery.setFilterQueries(this.getFielder(condition)); /** * 分页 */ solrQuery.setStart(pInteger); solrQuery.setRows(systemConfigureUtil.getSolrRow()); /** * 分片检索(分类检索)—— */ solrQuery.setFacet(systemConfigureUtil.isFacet()); solrQuery.add("facet.field", systemConfigureUtil.getFacetStr()); //可以按多个字段分类,用逗号分隔 /** * 设置过滤结果——能查询出那些字段 */ solrQuery.add("fl", systemConfigureUtil.getFilterFields()); /** * 排序,注意是有顺序的 */ solrQuery.setSort(this.getSort(0)); //setSort()会覆盖之前的查询条件 solrQuery.addSort("sort", SolrQuery.ORDER.desc); //addSort()不会覆盖之前的查询条件
到此,我学到的solr的东西也就这些了,还会继续学习的。
我搭建好的tomcat-solr功能在我的github中:https://github.com/hejiawang/tomcat-solr
solrJ的练习工程:https://github.com/hejiawang/search-web
上一篇: git 换行符LF与CRLF转换问题
下一篇: git 换行符LF与CRLF转换问题