使用Solr为应用提供搜索服务(5)数据导入/同步&运维

Solr提供DIH(Data Import Handler)为我们提供数据的全量、增量导入,它支持的数据源种类很多比如数据库、TXT、JSON、XML等等,本文主要讲解如何从MySQL 数据库导入数据。

数据导入/同步

我们还以Blog这个模型为例,假设数据库同样有该表,有id、title、author、ctime(创建时间)、mtime(修改时间)、isDelete(逻辑删除)等字段。

要使用DIH我们需要下面几个步骤(其中IP 及 数据库配置要以实际的为主,应该不用多说。)

//首先进入solr-5.5.3目录下
//将下面两个JAR包引入
$ cp dist/solr-dataimporthandler-5.5.3.jar server/solr-webapp/webapp/WEB-INF/lib/
$ cp dist/solr-dataimporthandler-extras-5.5.3.jar server/solr-webapp/webapp/WEB-INF/lib/
//既然要使用MySQL当然还要加入com.mysql.jdbc.Driver的Jar包了,Solr 并没有提供,请自行引入server/solr-webapp/webapp/WEB-INF/lib/内。

//修改配置文件solrconfig.xml
//由于使用Solr Client我们的配置文件已被Zookeeper托管,我们需要下载下来,配置完毕后再上传回去,这个步骤必须熟练,因为可能会经常修改配置文件。
// 下面命令-n指定要下载的配置文件名称,-d 指定将配置文件下载到哪里,可以自行决定
$ ./bin/solr zk -downconfig -z 172.16.1.202:2181 -n test-conf -d ~/download/ 
//接着我们需要修改conf/solrconfig.xml,在最下部添加下面这段配置
<requestHandler name="/dataimport" class="org.apache.solr.handler.dataimport.DataImportHandler">
        <lst name="defaults">
            <str name="config">data-config.xml</str>
        </lst>
</requestHandler>
//接着我们需要在conf/目录下创建data-config.xml文件,内容如下面这段配置
<?xml version="1.0" encoding="UTF-8" ?>
<dataConfig>
    <!--这里配置自己的数据库信息-->
    <dataSource name="mysql" type="JdbcDataSource" driver="com.mysql.jdbc.Driver" url="jdbc:mysql://172.16.1.202:3306/test-db?useUnicode=true&characterEncoding=UTF-8" user="root" password="root" batchSize="-1" />
    <document>
        <!--query  全量查询语句-->
        <!--deltaImportQuery  增量导入语句-->
        <!--deletedPkQuery  被删除的文档主键查询-->
        <!--deltaQuery  被更新的文档主键查询-->
        <entity name="blog" pk="id" transformer="DateFormatTransformer" dataSource="mysql"
                query="SELECT id,title,author FROM blog"
                deltaImportQuery="SELECT id,title,author FROM blog WHERE id = ${dih.delta.id}"
                deletedPkQuery="SELECT id FROM blog where isDelete = 1"
                deltaQuery="SELECT id FROM blog where mtime > '${dataimporter.last_index_time}'">
            <field column="id" name="id" />
            <field column="title" name="title" />
            <field column="author" name="author" />
            <field column="mtime" name="mtime" dateTimeFormat="yyyy-MM-dd HH:mm:ss"/>
        </entity>
    </document>
</dataConfig>

由于增量导入的需要我们需要添加一个新field mtime,这时我们需要编辑managed-schema文件添加下面一行

<field name="mtime" type="date" indexed="true" stored="true"/>

我觉得有必要在对data-config内配置作一下讲解,所谓全量导入很简单就是一个查询语句然后DIH将查询结果转换为Document添加入索引。而增量就是根据逻辑删除标识字段,以及更新时间字段来查询出有变化的Row的主键,然后通过deltaImportQuery语句由DIH更新索引。

上传/更新配置文件

$ ./bin/solr zk -upconfig -z 172.16.1.202:2181 -n test-conf -d ~/download/conf

经过这些配置,我们需要将4个节点依次重启,使这些配置生效。

$ ./bin/solr restart -z 172.16.1.202:2181 -s ~/solr-cloud/node1/solr-home/ -p 8983
$ ./bin/solr restart -z 172.16.1.202:2181 -s ~/solr-cloud/node2/solr-home/ -p 8984
$ ./bin/solr restart -z 172.16.1.202:2181 -s ~/solr-cloud/node3/solr-home/ -p 8985
$ ./bin/solr restart -z 172.16.1.202:2181 -s ~/solr-cloud/node4/solr-home/ -p 8986

好了,配置完成后,我们就可以进行导入了 ,下面是配置完成DIH后的图形界面。

DIH HTML UI

这里有必要再说一遍,Solr 提供基于HTTP REST 的API 所以它的界面使用的是Angular JS 通过调用API来实现的,所以说你可以使用图形界面完成所以操作,如果你愿意,你甚至可以通过浏览器的地址栏拼接参数来完成所有操作,但是,这里还是建议使用shell来进行运维及管理。

//举两个栗子
//全量 $ curl http://172.16.1.202:8983/solr/test-collection/dataimport?command=full-import
//增量$ curl http://172.16.1.202:8983/solr/test-collection/dataimport?delta-import

查看完整详细的DIH API 请点击我

简单的运维

  1. 数据的同步问题,通常使用定时任务来完成。例如,每30分钟执行一次全量shell脚本,每3分钟执行一次增量shell脚本,这只是例子,具体要根据业务、服务器性能各方面来决定。
  2. 增加节点、增加副本等等,这些建议查看官方文档。

关于Solr Cloud的运维由于个人也没有太多经验,所以也不能随便给出具体的建议。不过有一点是确定的,一定要精通Solr 提供的一系列Shell脚本,这是些脚本命令是管理Solr的瑞士军刀。

后言

最后推荐一些我学习Solr过程中对我有帮助的Blog,以供参考,下面这两位博主对Solr和Lucene有不错的见解,也翻译了部分Solr文档,我觉得还不错,可以参考。
https://my.oschina.net/zengjie/blog
http://blog.csdn.net/lzx1104/article/category/2223439

关于使用一些产品、框架,个人认为最好还是去阅读官方文档,要相信一手的东西永远比二手的好。

至此,关于如何使用Solr的分享就告一段落了。时间仓促,该系列文章难免会出现很多不完善的地方,请大家包含。如果在阅读的过程中发现一些纰漏希望可以告诉我,我会完善她。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 160,706评论 4 366
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 68,002评论 1 301
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 110,462评论 0 250
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 44,375评论 0 216
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,763评论 3 294
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,849评论 1 224
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 32,033评论 2 317
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,768评论 0 204
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,490评论 1 246
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,734评论 2 253
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 32,204评论 1 264
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,566评论 3 260
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 33,227评论 3 241
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,137评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,934评论 0 201
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,926评论 2 283
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,774评论 2 274

推荐阅读更多精彩内容