corosync+pacemaker的crmsh crm 实例 详解

下文来为各位整理一篇关于corosync+pacemaker的crmsh crm 实例的,希望这个例子可以帮助到各位,corosync和pacemaker实现高可用的难点就在crm命令,子命令多,参数多等,下面说一些常用的例子.

一,crm有两种工作方式

1,批处理模式,就是在shell命令行中直接输入命令

2,交互式模式(crm(live)#)进入到crmsh中交互执行.

二,命令详解

1,一级子命令,代码如下:

1. [root@node1 corosync]# crm   
2. crm(live)# help   
3. This is crm shell, a Pacemaker command line interface.   
4. Available commands:   
5.     cib              manage shadow CIBs //cib沙盒   
6.     resource         resources management //所有的资源都在这个子命令后定义   
7.     configure        CRM cluster configuration //编辑集群配置信息   
8.     node             nodes management //集群节点管理子命令   
9.     options          user preferences //用户优先级   
10.     history          CRM cluster history //命令历史记录   
11.     site             Geo-cluster support   
12.     ra               resource agents information center //资源代理子命令（所有与资源代理相关的程都在此命令之下）   
13.     status           show cluster status //显示当前集群的状态信息   
14.     help,?           show help (help topics for list of topics)//查看当前区域可能的命令   
15.     end,cd,up        go back one level //返回第一级crm(live)   
16.     quit,bye,exit    exit the program //退出crm（live）交互模式   

2,resource资源状态控制子命令,代码如下:

1. crm(live)resource# help   
2. vailable commands:   
3.         status           show status of resources //显示资源状态信息   
4.         start            start a resource //启动一个资源   
5.         stop             stop a resource //停止一个资源   
6.         restart          restart a resource //重启一个资源   
7.         promote          promote a master-slave resource //提升一个主从资源   
8.         demote           demote a master-slave resource //降级一个主从资源   
9.         manage           put a resource into managed mode  //将一个资源加入到管理模式下   
10.         unmanage         put a resource into unmanaged mode  //从管理模式下去除一个资源   
11.         migrate          migrate a resource to another node //将资源迁移到另一个节点上   
12.         unmigrate        unmigrate a resource to another node   
13.         param            manage a parameter of a resource //管理资源的参数   
14.         secret           manage sensitive parameters //管理敏感参数   
15.         meta             manage a meta attribute //管理源属性   
16.         utilization      manage a utilization attribute   
17.         failcount        manage failcounts //管理失效计数器   
18.         cleanup          cleanup resource status //清理资源状态   
19.         refresh          refresh CIB from the LRM status //从LRM（LRM本地资源管理）更新CIB（集群信息库），在   
20.         reprobe          probe for resources not started by the CRM //探测在CRM中没有启动的资源   
21.         trace            start RA tracing //启用资源代理（RA）追踪   
22.         untrace          stop RA tracing //禁用资源代理（RA）追踪   
23.         help             show help (help topics for list of topics) //显示帮助   
24.         end              go back one level //返回一级（crm(live)#）   
25.         quit             exit the program //退出交互式程序 

3,configure资源定义子命令,代码如下:

1. crm(live)configure# help   
2. Available commands:   
3.         node             define a cluster node //定义一个集群节点   
4.         primitive        define a resource //定义资源   
5.         monitor          add monitor operation to a primitive //对一个资源添加监控选项（如超时时间，启动失败后的操作）   
6.         group            define a group //定义一个组类型（将多个资源整合在一起）   
7.         clone            define a clone //定义一个克隆类型（可以设置总的克隆数，每一个节点上可以运行几个克隆）   
8.         ms               define a master-slave resource //定义一个主从类型（集群内的节点只能有一个运行主资源，其它从的做备用）   
9.         rsc_template     define a resource template //定义一个资源模板   
10.         location         a location preference //定义位置约束优先级（默认运行于那一个节点（如果位置约束的值相同，默认倾向性那一个高，就在那一个节点上运行））   
11.         colocation       colocate resources //排列约束资源（多个资源在一起的可能性）   
12.         order            order resources //资源的启动的先后顺序   
13.         rsc_ticket       resources ticket dependency   
14.         property         set a cluster property //设置集群属性   
15.         rsc_defaults     set resource defaults //设置资源默认属性（粘性）   
16.         fencing_topology node fencing order //隔离节点顺序   
17.         role             define role access rights //定义角色的访问权限   
18.         user             define user access rights //定义用用户访问权限   
19.         op_defaults      set resource operations defaults //设置资源默认选项   
20.         schema           set or display current CIB RNG schema   
21.         show             display CIB objects //显示集群信息库对   
22.         edit             edit CIB objects //编辑集群信息库对象（vim模式下编辑）   
23.         filter           filter CIB objects //过滤CIB对象   
24.         delete           delete CIB objects //删除CIB对象   
25.         default-timeouts set timeouts for operations to minimums from the meta-data   
26.         rename           rename a CIB object //重命名CIB对象   
27.         modgroup         modify group //改变资源组   
28.         refresh          refresh from CIB //重新读取CIB信息   
29.         erase            erase the CIB //清除CIB信息   
30.         ptest            show cluster actions if changes were committed   
31.         rsctest          test resources as currently configured   
32.         cib              CIB shadow management   
33.         cibstatus        CIB status management and editing    //cib状态管理和编辑   
34.         template         edit and import a configuration from a template   //编辑或导入配置模板   
35.         commit           commit the changes to the CIB //将更改后的信息提交写入CIB   
36.         verify           verify the CIB with crm_verify //CIB语法验证   
37.         upgrade          upgrade the CIB to version 1.0 //升级CIB到1.0   
38.         save             save the CIB to a file //将当前CIB导出到一个文件中（导出的文件存于切换crm 之前的目录）   
39.         load             import the CIB from a file //从文件内容载入CIB   
40.         graph            generate a directed graph   
41.         xml              raw xml   
42.         help             show help (help topics for list of topics) //显示帮助信息   
43.         end              go back one level //回到第一级(crm(live)#)   
44.         quit             exit the program  //退出crm交互模式   

4,node节点管理子命令,代码如下:

1. crm(live)# node   
2. crm(live)node# help   
3. Node management and status commands.   
4. Available commands:   
5.     status           show nodes status as XML //以xml格式显示节点状态信息   
6.     show             show node //命令行格式显示节点状态信息   
7.     standby          put node into standby //模拟指定节点离线（standby在后面必须的FQDN）   
8.     online           set node online // 节点重新上线   
9.     maintenance      put node into maintenance mode  //将一个节点状态改为maintenance   
10.     ready            put node into ready mode   //将一个节点状态改为ready   
11.     fence            fence node //隔离节点   
12.     clearstate       Clear node state //清理节点状态信息   
13.     delete           delete node //删除 一个节点   
14.     attribute        manage attributes   
15.     utilization      manage utilization attributes   
16.     status-attr      manage status attributes   
17.     help             show help (help topics for list of topics)   
18.     end              go back one level  //回到上一次   
19.     quit             exit the program    //退出   

5,ra资源代理子命令,代码如下:

1. crm(live)# ra   
2. crm(live)ra# help   
3. Available commands:   
4.         classes          list classes and providers //为资源代理分类   
5.         list             list RA for a class (and provider)//显示一个类别中的提供的资源   
6.         meta             show meta data for a RA //显示一个资源代理序的可用参数（如meta ocf:heartbeat:IPaddr2）   
7.         providers        show providers for a RA and a class   
8.         help             show help (help topics for list of topics)   
9.         end              go back one level   
10.         quit             exit the program   

三,实例

1,系统资源查看,代码如下:

1. crm(live)ra# classes   //系统所使用的资源代理   
2. lsb   
3. ocf / heartbeat pacemaker   
4. service   
5. stonith 

2,默认系统资源列表,代码如下:

1. crm(live)ra# list ocf   //列表默认系统资源   
2. CTDB               ClusterMon         Delay              Dummy              Filesystem         HealthCPU   
3. IPaddr             IPaddr2            IPsrcaddr          HealthCPU          HealthSMART        HealthSMART   
4. LVM                MailTo             Route              SendArp            Squid   
5. Stateful           SysInfo            SystemHealth       VirtualDomain      Xinetd   
6. apache             conntrackd         controld           db2                dhcpd   
7. ethmonitor         exportfs           iSCSILogicalUnit   mysql              named   
8. nfsnotify          nfsserver          pgsql              ping               pingd   
9. postfix            remote             rsyncd             symlink            tomcat   

3,查看外加的系统资源,代码如下:

1. crm(live)ra# list lsb  //列表外加的系统资源   
2. NetworkManager     abrt-ccpp          abrt-oops          abrtd              acpid   
3. atd                auditd             autofs             blk-availability   certmonger   
4. corosync           corosync-notifyd   cpuspeed           crond              cups   
5. dnsmasq            firstboot          haldaemon          halt               hsqldb   
6. ip6tables          iptables           irqbalance         jexec              kdump   
7. killall            lvm2-lvmetad       lvm2-monitor       mdmonitor          messagebus   
8. mysqld             netconsole         netfs              network            nfs   
9. nfslock            nginx              nmb                ntpd               ntpdate   
10. oddjobd            openfire           pacemaker          php-fpm            portreserve   
11. postfix            psacct             quota_nld          rdisc              redis   
12. restorecond        rngd               rpcbind            rpcgssd            rpcidmapd   
13. rpcsvcgssd         rsyslog            sandbox            saslauthd          single   
14. slapd              smartd             smb                snmpd              snmptrapd   
15. spice-vdagentd     sshd               sssd               sysstat            udev-post   
16. vsftpd             wdaemon            winbind            wpa_supplicant     ypbind 

4,查看系统资源的参数,代码如下:

1. crm(live)ra# meta ocf:heartbeat:IPaddr   //查看系统资源IPaddr的参数   
2. Manages virtual IPv4 and IPv6 addresses (Linux specific version) (ocf:heartbeat:IPaddr)   
3.    
4. This Linux-specific resource manages IP alias IP addresses.   
5. It can add an IP alias, or remove one.   
6. In addition, it can implement Cluster Alias IP functionality   
7. if invoked as a clone resource.   
8.    
9. If used as a clone, you should explicitly set clone-node-max >= 2,   
10. and/or clone-max < number of nodes. In case of node failure,   
11. clone instances need to be re-allocated on surviving nodes.   
12. This would not be possible if there is already an instance on those nodes,   
13. and clone-node-max=1 (which is the default).   
14.    
15. Parameters (*: required, []: default):   
16.    
17. ip* (string): IPv4 or IPv6 address   
18.     The IPv4 (dotted quad notation) or IPv6 address (colon hexadecimal notation)   
19.     example IPv4 "192.168.1.1".   
20.     example IPv6 "2001:db8:DC28:0:0:FC57:D4C8:1FFF".   
21. 。。。。。。。。。。。。。。。。。。。省略。。。。。。。。。。。。。。。。。。。。。。。。   

5,属性修改,代码如下:

1. crm(live)configure# property stonith-enabled=false //禁用stonith-enable   
2.    
3. crm(live)configure# property no-quorum-policy=ignore //忽略投票规则   

6,定义一资源所使用的命令,代码如下:

1. /**  
2.  * primitive:定义一资源所使用的命令  
3.  * webip:为资源起一个名字  
4.  * ocf:heartbeat;IPaddr：所使用资源代理的类别，由谁提供的那一个代理程序  
5.  * op monitor 对webip做监控  
6.  * interval:间隔时间  
7.  * timeout：超时时间  
8.  * on-fail：失败自起  
9.  */   
10. crm(live)configure# primitive webip ocf:heartbeat:IPaddr params ip=192.168.10.130 op monitor interval=30s timeout=20s on-fail=restart   
11.    
12. crm(live)configure# primitive nginx_res lsb:nginx //那些在/etc/init.d/*的脚本就是属于lsb的   
13. params后面的参数，可以通过meta命令来查找，不同的系统资源参数是不一样的。 

7,定义排列约束,代码如下:

1. /**  
2.  * 定义排列约束  
3.  * colocation：排列约束命令  
4.  * nginx_web : 约束名  
5.  * inf:#(可能性，inf表示永久在一起，也可以是数值)  
6.  * webip nginx_res：#资源名称  
7.  */   
8. crm(live)configure# colocation nginx_web inf: nginx_res webip   

8,定义资源启动顺序,代码如下:

1. /**  
2.  * 定义资源启动顺序  
3.  * order : 顺序约束的命令  
4.  * nginx_after_ip : 约束ID  
5.  * mandatory: #指定级别（此处有三种级别：mandatory：强制， Optional：可选，Serialize：序列化）  
6.  * webip nginx_res：#资源名称,这里书写的先后顺序相当重要  
7.  */   
8. crm(live)configure# order nginx_after_ip mandatory: webip nginx_res   

9,定义节点权重,代码如下:

1. /**  
2.  * 定义节点权重  
3.  * location：节点权重命令  
4.  * webip_and_webnfs_and_webserver：约束名称  
5.  * webip 500: node1：webip这个资源的node1节点的权重是500  
6.  */   
7. crm(live)configure# location webip_and_webnfs_and_webserver webip 500: node1 

10,定义默认资源属性,代码如下:

1. /**  
2.  * 定义默认资源属性  
3.  * rsc_defaults：默认资源  
4.  * 这样定义代表集群中每一个资源的默认权重，只有当资源服务不在当前节点时，权重才会生效，比如，这里我定义了三个资源webip、webnfs、webserver，对每一个资源的权重为100，那么加在一起就变成了300,之前己经定义node1的位置约束的值为500，当node1宕机后，重新上线，这样就切换到node1上了。 Vevb.com 
5.  */   
6. crm(live)configure# rsc_defaults resource-stickiness=100   

11,删除资源或者节点,代码如下:

1. crm(live)configure# delete nginx_res  //删除一个资源，约束，排序，组等   
2. crm(live)node# delete node1  //删除一个节   

12,资源其他,代码如下:

1. crm(live)configure# verify //审核   
2. crm(live)configure# commit //提交   
3. crm(live)configure# show //显示  

13,节点挂起和在线,代码如下:

1. crm(live)node# standby node1   //节点挂起   
2. crm(live)node# online node1    //节点上线