一、集群添加Node节点

Ansible脚本有新增节点的Playbook脚本，准备好新增节点的基础环境，在集群的ansible管理节点上执行该Playbook就行。

　Context

OKD版本	OS版本	Docker版本	Ansible版本
3.11	CentOS 7.5.1804	1.13.1	2.6.5

1. 新增节点Prerequisite

新增node节点IP地址及主机名：192.168.1.23 node6.okd.curiouser.com

开启seLinux

 sed -i "s/SELINUX=disabled/SELINUX=enforcing/" /etc/sysconfig/selinux && \
 setenforce 1

安装docker，jdk及基础软件

  yum install -y docker vim lrzsz wget unzip net-tools telnet bind-utils && \
  systemctl enable docker && \
  systemctl start docker && \
  systemctl status docker && \
  yum localinstall -y jdk-8u191-linux-x64.rpm && \
  docker info && \
  java -version

配置DNS，发现集群其他节点的IP地址与域名的映射关系.(注意DNSMasq服务端的iptables是否放行DNS的53 UDP端口)

由于集群内有DNSMasq服务端，配置/etc/resolv.conf

echo "nameserver 192.168.1.22" >> /etc/resolv.conf && \
ping allinone311.okd.curiouser.com

Note:

#DNSMasq服务端放行DNS的53 UDP端口
iptables -I OS_FIREWALL_ALLOW -p udp -m udp --dport 53 -j ACCEPT && \
iptables-save

配置Openshift的YUM源

  mkdir /etc/yum.repos.d/bak && \
  mv /etc/yum.repos.d/C* /etc/yum.repos.d/bak && \
  scp allinone311.okd.curiouser.com:/etc/yum.repos.d/all.repo /etc/yum.repos.d/ && \
  yum clean all && \
  yum makecache

2. ansible管理节点

打通ansible管理节点到新增node节点的SSH免密通道

ssh-copy-id -i root@node6.okd.curiouser.com && \
ssh root@node1.okd.curiouser.com

ansible管理节点的ansible主机清单文件inventory中添加新增节点相关信息

[OSEv3:children]
...
new_nodes

[new_nodes]
node1.okd.curiouser.com openshift_node_group_name="node-config-all-in-one"

ansible管理节点执行新增节点的Ansible Playbook

ansible-playbook /root/openshift-ansible/playbooks/openshift-node/scaleup.yml

注意1：

当执行脚本时tower主机会把它的dnsmasq配置/etc/dnsmasq.d/origin-upstream-dns.conf同步到新增节点/etc/dnsmasq.d/路径下。由于tower主机的/etc/dnsmasq.d/origin-upstream-dns.conf设置的上游DNS服务器为外网的。不希望新增节点的上游DNS服务器走外网，而是走tower主机，形成集群只有Tower主机一个节点的dns对外，其他主机作为Tower主机dns服务的客户端。所以当tower主机/etc/dnsmasq.d/origin-upstream-dns.conf同步到新增节点/etc/dnsmasq.d/路径下的时候，及时修改上游dns服务器为tower主机。然后重启dnsmasq。有两个明显的坑:

① 无法重启dnsmasq，报以下错误：

DBus error: Connection ":1.50" is not allowed to own the service "uk.org.thekelleys.dnsmasq" due to security policies in the configuration file

解决方案：重启dbus，再重启dnsmasq

systemctl restart dbus && \
systemctl restart dnsmasq

②tower主机的iptables服务开启，dns的53端口没有放开，导致新增节点的dns无法连接上游dns服务器（即Tower主机的dns服务） 解决方案：tower主机放行dns服务的UDP 53端口。（可在新增节点尝试nslookup解析域名试一下）

iptables -I OS_FIREWALL_ALLOW -p udp -m udp --dport 53 -j ACCEPT && \
iptables-save

注意2：

如果出现收集allinone节点facts超时的报错，出现一下错误提示

 The full traceback is:
Traceback (most recent call last):
  File "/tmp/ansible_d9POp0/ansible_modlib.zip/ansible/module_utils/basic.py", line 2853, in run_command
    cmd = subprocess.Popen(args, **kwargs)
  File "/usr/lib64/python2.7/subprocess.py", line 711, in __init__
    errread, errwrite)
  File "/usr/lib64/python2.7/subprocess.py", line 1308, in _execute_child
    data = _eintr_retry_call(os.read, errpipe_read, 1048576)
  File "/usr/lib64/python2.7/subprocess.py", line 478, in _eintr_retry_call
    return func(*args)
  File "/tmp/ansible_d9POp0/ansible_modlib.zip/ansible/module_utils/facts/timeout.py", line 37, in _handle_timeout
    raise TimeoutError(msg)
TimeoutError: Timer expired after 10 seconds

TimeoutError: Timer expired after 10 seconds 请在/etc/ansible/ansible.cfg 设置”gather_subset = !all”或者”gather_timeout=300″。原因可能是已经运行allinone节点上的facts（特别是docker images layer的挂载信息）过多，造成收集facts超时，默认收集facts超时时间是10。

相关连接：https://github.com/ansible/ansible/issues/43884

二、删除节点

疏散要删除节点上的POD

 oc adm drain <node1> <node2> [--pod-selector=<pod_selector>] --force=true --grace-period=-1 --timeout=5s --delete-local-data=true

删除Node

 oc delete node <node>