SolrCloud中的文件与Collection管理

向右看齐 2022-08-19 12:14 106阅读 0赞

转载请出自出处： [http://eksliang.iteye.com/blog/2124078][http_eksliang.iteye.com_blog_2124078]

http://eksliang.iteye.com/

###### 一.内嵌启动SolrCloud时端口默认分配 ######

当 Solr 运行内嵌 zookeeper 服务时，默认使用 solr 端口+1000 作为客户端口，另外，solr 端口+1 作为 zookeeper 服务端口，solr 端口+2 作为主服务选举端口。所以第一个例子中，Solr 运行在 8983端口，内嵌 zookeeper 使用 9983 作为客户端端口，9984 和 9985 作为服务端口。

Java代码   ![收藏代码][icon_star.png]

1.  clientPort=9983   
2.  server.1=192.168.238.133:9984 :9985   
3.  这几个端口就是对应配置里面的这几个端口

内嵌启动的SolrCloud的例子点击：[http://wiki.apache.org/solr/SolrCloud][http_wiki.apache.org_solr_SolrCloud]

###### 二. 通过集群api 管理集群（Core Admin） ######

1).创建接口（第一种自动分配）

Java代码   ![收藏代码][icon_star.png]

1.  http://192.168.66.128:8081/solr/admin/collections?action=CREATE&name=collection1&numShards=3&replicationFactor=2&maxShardsPerNode=2&collection.configName=myconf  
2.    
3.  http://192.168.66.128:8081/solr/admin/collections?action=CREATE&name=collection1&numShards=3&replicationFactor=2&maxShardsPerNode=2&collection.configName=myconf&createNodeSet=192.168.66.128:8083\_solr,192.168.66.128:8081\_solr,192.168.66.128:8082\_solr

这样会出来一个collection,它有3个shard，每个shard有1个数据节点，1个备份节点，即该collection共有6个core

参数：

name:将被创建的集合的名字  
numShards:集合创建时需要创建逻辑碎片的个数  
replicationFactor:分片的副本数。replicationFactor(复制因子)为 3 意思是每个逻辑碎片将有 3 份副本。

maxShardsPerNode:默认值为1，每个Solr服务器节点上最大分片数(4.2新增的)

注意三个数值：numShards、replicationFactor、liveSolrNode（当前存活的solr节点），一个正常的solrCloud集群不容许同一个liveSolrNode上部署同一个shard的多个replic，因此当maxShardsPerNode=1时，numShards\*replicationFactor>liveSolrNode时，报错。因此正确时因满足以下条件：numShards\*replicationFactor<liveSolrNode\*maxShardsPerNode

createNodeSet:如果不提供该参数，那么会在所有活跃节点上面创建core，如果提供该参数就会在指定的solr节点上创建core

例如我现在在5台tomcat上面创建3个片，1个副本，不提供该参数结果是这样的

![点击查看原始大小图片][0042809c-5687-3bac-bb3d-71bb121e0d28.png]

提供该参数例如：createNodeSet=192.168.66.128:8083\_solr,192.168.66.128:8081\_solr,192.168.66.128:8082\_solr

结果是这样的

![点击查看原始大小图片][9f2c82c9-adf0-31dd-b3d3-7a607fb9f070.png]  
  collection.configName:用于新集合的配置文件的名称。如果不提供该参数将使用集合名称作为配置文件的名称。

创建接口2（手动分配）实例：通过下面多个链接进行创建（3个分片，每个节点上面一个备份）推荐使用，因为这种方式你想创建多少次就多少次

Java代码   ![收藏代码][icon_star.png]

1.  http://192.168.66.128:8081/solr/admin/cores?action=CREATE&name=shard1\_replica1&instanceDir=shard1\_replica1&dataDir=data&collection=collection1&shard=shard1&collection.configName=myconf  
2.  http://192.168.66.128:8082/solr/admin/cores?action=CREATE&name=shard1\_replica2&instanceDir=shard1\_replica2&dataDir=data&collection=collection1&shard=shard1&collection.configName=myconf  
3.    
4.    
5.  http://192.168.66.128:8082/solr/admin/cores?action=CREATE&name=shard2\_replica1&instanceDir=shard2\_replica1&dataDir=data&collection=collection1&shard=shard2&collection.configName=myconf  
6.  http://192.168.66.128:8083/solr/admin/cores?action=CREATE&name=shard2\_replica2&instanceDir=shard2\_replica2&dataDir=data&collection=collection1&shard=shard2&collection.configName=myconf  
7.    
8.  http://192.168.66.128:8083/solr/admin/cores?action=CREATE&name=shard3\_replica1&instanceDir=shard3\_replica1&dataDir=data&collection=collection1&shard=shard3&collection.configName=myconf  
9.  http://192.168.66.128:8081/solr/admin/cores?action=CREATE&name=shard3\_replica2&instanceDir=shard3\_replica2&dataDir=data&collection=collection1&shard=shard3&collection.configName=myconf

**参数含义：**

**name**：新建core的名称

创建的core的命名规则：

coreName\_shardName\_replicaN

例如：创建pscp的集合，2个分片，每个分片上面有两个备份

则命名如下：

pscp\_shard1\_replica1

pscp\_shard1\_replica2

pscp\_shard2\_replica1

pscp\_shard2\_replica2

**shard**：指定一个分配id,这个core将挂在那个分片上（随便写，如果还没有这个id，第一次会帮你创建）  
**collection.configName**：从zookeeper中指定一份配置文件

**instanceDir**和**dataDir**：从下图看出他的含义

命名规则：instanceDir与name的名称相同，dataDir：统一建议命名为data

![点击查看原始大小图片][cfa193c1-dbb4-3ab4-8b65-6eede4bb424c.png]

总结一：在一个集群中添加一个副本的两种方式

Java代码   ![收藏代码][icon_star.png]

1.  http://192.168.66.128:8081/solr/admin/collections?action=ADDREPLICA&collection=collection1&shard=shard2&node=192.168.66.128:8085\_solr  
2.  上面这句话的意思就是在collection1这个集合的shard2分片上添加一个副本，副本的地址在192.168.66.128:8085\_solr台机子上面  
3.  http://192.168.66.128:8083/solr/admin/cores?action=CREATE&name=shard3\_replica1&instanceDir=shard3\_replica1&dataDir=data&collection=collection1&shard=shard3&collection.configName=myconf

2）.删除接口

Java代码   ![收藏代码][icon_star.png]

1.  http://localhost:8983/solr/admin/collections?action=DELETE&name=mycollection

**参数：**

`name:将被创建的集合别名的名字 collections:逗号分隔的一个或多个集合别名的列表`

3）.重新加载接口，这个时候，相应的core会重新加载配置文件

Java代码   ![收藏代码][icon_star.png]

1.  http://localhost:8983/solr/admin/collections?action=RELOAD&name=mycollection

参数：

`name:将被重载的集合的名字`

4）.分割碎片接口

Java代码   ![收藏代码][icon_star.png]

1.  http://localhost:8983/solr/admin/collections?action=SPLITSHARD&collection=<collection\_name>&shard=shardId

collection:集合的名字

`shard:将被分割的碎片 ID`

这个命令不能用于使用自定义哈希的集群，因为这样的集群没有一个明确的哈希范围。 它只用于具有plain 或 compositeid 路由的集群。该命令将分割给定的碎片索引对应的那个碎片成两个新碎片。通过将碎片范围划分成两个相等的分区和根据新碎片范围分割出它在父碎片(被分的碎片)中的文档。新碎片将被命名为 appending\_0 和\_1。例如：shard=shard1 被分割，新的碎片将被命名为 shard1\_0 和 shard1\_1。一旦新碎片被创建，它们就被激活同时父碎片(被分的碎片)被暂停因此将没有新的请求到父碎片(被分的碎片)。该特征达到了无缝分割和无故障时间的要求。原来的碎片数据不会被删除。使用新 API 命令重载碎片用户自己决定。该特性发布始于 Solr4.3，由于 4.3 发布版本发现了一些 bugs,所以要使用该特性推荐等待 4.3.1

###### 三.通过命令行工具将文件上传到Zookeeper进行管理    ######

之所以能分布式是因为引入ZooKeeper来统一保存配置文件，故而需要将SolrCloud的配置文件上传到ZooKeeper中，这里演示命令行进行上传

要使用命令行管理管理工具，必须要先有包，这些包就是solr.war里面/WEB-INF/lib下面的所有jar包

第一步：新建文件夹

在可以和Zookeeper集群通讯的任意一台机子上面，新建两个文件夹，例如如下是我的目录

/usr/solrCloud/conf/files  /usr/solrCloud/conf/lib

files：用来保存配置文件   lib：用来存放jar包

第二步：上传需要使用的jar和配置文件

上传jar到lib目录，将solr发布包下面的jar（solr-4.8.0\\example\\solr-webapp\\webapp\\WEB-INF\\lib\\ 和 solr-4.8.0\\example\\lib\\ext\\ 下面包都要）全部上传到上面的lib目录

将solr的配置文件上传到上面的files目录下面

第三步：将文件上传Zookeeper进行统一管理

Java代码   ![收藏代码][icon_star.png]

1.  java -classpath .:/usr/solrCloud/conf/lib/\* org.apache.solr.cloud.ZkCLI -cmd upconfig -zkhost 192.168.27.18:2181,192.168.27.18:2182,192.168.27.18:2183 -confdir /usr/solrCloud/conf/files  -confname myconf

\-cmd upconfig:上传配置文件

\-confdir:配置文件的目录

\-confname:指定对应的名称

查看文件是否已经上传到Zookeeper服务器：

Java代码   ![收藏代码][icon_star.png]

1.  sh zkCli.sh -server localhost:2181  
2.  ls /configs/myconf

第四步：将上传到ZooKeeper中配置文件与collection相关联

Java代码   ![收藏代码][icon_star.png]

1.  java -classpath .:/usr/solrCloud/conf/lib/\* org.apache.solr.cloud.ZkCLI -cmd linkconfig -collection collection1 -confname myconf -zkhost 192.168.27.18:2181,192.168.27.18:2182,192.168.27.18:2183

\-cmd linkconfig:为指定collection"绑定"配置文件

\-collection:上面指定的collection的名称

\-confname:zookeeper上面的配置文件名称

上面这句代码的意思就是：创建的core（collection1）将使用myconf这个配置文件

例如：执行下面这个请求将创建一个core为collection1，那么他使用的配置文件为zookeeper中的myconf这个配置

Java代码   ![收藏代码][icon_star.png]

1.  http://localhost:8983/solr/admin/collections?action=CREATE&name=collection1&numShards=3&replicationFactor=1

话又说回来，如果zookeeper管理的集群上面仅有一份配置，那么创建的core都会用这份默认的配置。如果有多份，如果没有执行第四步，随便创建一个core将抛出异常，构建失败!

例如执行：

Java代码   ![收藏代码][icon_star.png]

1.  http://192.168.66.128:8081/solr/admin/collections?action=CREATE&name=sdf&numShards=3&replicationFactor=1

将抛出：因为上面有两份配置，但是并没有执行第四步，将配置与即将创建core(name=sdf)关联起来

Java代码   ![收藏代码][icon_star.png]

1.  <response>  
2.  <lst name="responseHeader">  
3.  <**int** name="status">0</**int**>  
4.  <**int** name="QTime">16563</**int**>  
5.  </lst>  
6.  <lst name="failure">  
7.  <str>  
8.  org.apache.solr.client.solrj.impl.HttpSolrServer$RemoteSolrException:Error CREATEing SolrCore 'sdf\_shard2\_replica1': Unable to create core: sdf\_shard2\_replica1 Caused by: Could not find configName **for** collection sdf found:\[conf1, myconf\]  
9.  </str>  
10. <str>  
11. org.apache.solr.client.solrj.impl.HttpSolrServer$RemoteSolrException:Error CREATEing SolrCore 'sdf\_shard1\_replica1': Unable to create core: sdf\_shard1\_replica1 Caused by: Could not find configName **for** collection sdf found:\[conf1, myconf\]  
12. </str>  
13. <str>  
14. org.apache.solr.client.solrj.impl.HttpSolrServer$RemoteSolrException:Error CREATEing SolrCore 'sdf\_shard3\_replica1': Unable to create core: sdf\_shard3\_replica1 Caused by: Could not find configName **for** collection sdf found:\[conf1, myconf\]  
15. </str>  
16. </lst>  
17. </response>

**当然了第四步也可以用下面替换，而且下面这个更灵活，推荐使用（有了这步，第四步完全可以省略**）

Java代码   ![收藏代码][icon_star.png]

1.  http://192.168.66.128:8081/solr/admin/collections?action=CREATE&name=conf2&numShards=3&replicationFactor=1&collection.configName=myconf  
2.  collection.configName=myconf:为创建的core指定一个在zookeeper中配置

**文档写到这里，下面来看下怎么对上传到zookeeper中的文件进行修改和删除操作：**

修改的常用做法就是：重新上传，重新上传会覆盖上面的文件，从而达到修改的目的

删除zookeeper中的文件或者目录的方式如下：

Java代码   ![收藏代码][icon_star.png]

1.  \[zk: 192.168.66.128:2181(CONNECTED) 7\] delete /configs/conf1/schema.xml  
2.  \[zk: 192.168.66.128:2181(CONNECTED) 10\] ls /configs/conf1  
3.  \[solrconfig.xml\]  
4.  \[zk: 192.168.66.128:2181(CONNECTED) 11\]

** 将配置上传到zookeeper，如果要让正在运行的solr同步加载这些文件，只需要需要让solr重新加载一下配置文件，在浏览器中输入**

Java代码   ![收藏代码][icon_star.png]

1.  http://192.168.27.18:8081/solr/admin/collections?action=RELOAD&name=collection1

参考文献：

怎么通过api来管理整个集群的collection官网

https://cwiki.apache.org/confluence/display/solr/Collections+API

通过api来管理solr core 官网

http://wiki.apache.org/solr/CoreAdmin

SolrCloud在tomcat上面的部署 官网

http://wiki.apache.org/solr/SolrCloudTomcat

solr在tomcat上面部署 官网

http://wiki.apache.org/solr/SolrTomcat

值得参考的博客：

http://blog.csdn.net/xyls12345/article/details/27504965

http://myjeeva.com/solrcloud-cluster-single-collection-deployment.html\#deploying-solrcloud

http://blog.csdn.net/woshiwanxin102213/article/details/18793271

http://blog.csdn.net/natureice/article/details/9109351

solrcloud名称解释

http://www.solr.cc/blog/?p=99

solr.xml解释

http://www.abyssss.com/?p=415

[http_eksliang.iteye.com_blog_2124078]: http://eksliang.iteye.com/blog/2124078
[icon_star.png]: /images/20220731/daa1564197cd427590723ce44ee9d346.png
[http_wiki.apache.org_solr_SolrCloud]: http://wiki.apache.org/solr/SolrCloud/
[0042809c-5687-3bac-bb3d-71bb121e0d28.png]: /images/20220731/d646f971adce4976bbc3d5f037cd9a7b.png
[9f2c82c9-adf0-31dd-b3d3-7a607fb9f070.png]: /images/20220731/c7f90d3e64f54c7e927de5e59adee649.png
[cfa193c1-dbb4-3ab4-8b65-6eede4bb424c.png]: /images/20220731/44470eb86fe04964a3f3472c6a0c9bf7.png