目 录CONTENT

文章目录

构建LVS负载均衡群集

简中仙
2022-02-04 / 0 评论 / 0 点赞 / 58 阅读 / 0 字 / 正在检测是否收录...
温馨提示:
本文最后更新于2024-03-06,若内容或图片失效,请留言反馈。 本文如有错误或者侵权的地方,欢迎您批评指正!

一、简介

1、工作原理

1、基于NAT的LVS模式负载均衡

NAT(Network Address Translation)即网络地址转换,原理是是通过修改数据报头,让内网IP地址可以访问外网,以及外部用用户可以访问位于内网的IP主机。LVS负载调度器可以使用两块网卡配置不同的IP地址,eth0设置为私有IP与内部网络通过交换设备相互连接,eth1设备为外网IP与外部网络联通。

第一步,用户访问到负载均衡的外网地址,该LVS外网IP称为Virtual IP Address(VIP),用户通过访问VIP,从而间接连接到后端的真实服务器(Real Server),并且这一切用户都是无感知的,用户以为自己访问的就是真实服务器,但用户不知道被访问的VIP仅仅是一个调度器,这个调度器后端还有服务器。

第二步,用户将请求发送至eth1,此时LVS将根据预设的算法选择后端的一台真实服务器,将数据请求包转发给真实服务器,并且在转发之前LVS会修改数据包中的目标地址以及目标端口,目标地址与目标端口将被修改为选出的真实服务器IP地址以及相应的端口。

第三步,真实的服务器将响应数据包返回给LVS调度器,调度器在得到响应的数据包后会将源地址和源端口修改为VIP及调度器相应的端口,修改完成后,由调度器将响应数据包发送回终端用户,另外,由于LVS调度器有一个连接Hash表,该表中会记录连接请求及转发信息,当同一个连接的下一个数据包发送给调度器时,从该Hash表中可以直接找到之前的连接记录,并根据记录信息选出相同的真实服务器及端口信息。

2、基于TUN的LVS负载均衡

在LVS(NAT)模式的集群环境中,由于所有的数据请求及响应的数据包都需要经过LVS调度器转发,如果后端服务器的数量大于10台,则调度器就会成为整个集群环境的瓶颈。我们知道,数据请求包往往远小于响应数据包的大小。因为响应数据包中包含有客户需要的具体数据,所以LVS(TUN)的思路就是将请求与响应数据分离,让调度器仅处理数据请求,而让真实服务器响应数据包直接返回给客户端。其中,IP隧道(IP tunning)是一种数据包封装技术,它可以将原始数据包封装并添加新的包头(内容包括新的源地址及端口、目标地址及端口),从而实现将一个目标为调度器的VIP地址的数据包封装,通过隧道转发给后端的真实服务器(Real Server),通过将客户端发往调度器的原始数据包封装,并在其基础上添加新的数据包头(修改目标地址为调度器选择出来的真实服务器的IP地址及对应端口),LVS(TUN)模式要求真实服务器可以直接与外部网络连接,真实服务器在收到请求数据包后直接给客户端主机响应数据。

3、基于DR的LVS负载均衡

在LVS(TUN)模式下,由于需要在LVS调度器与真实服务器之间创建隧道连接,这同样会增加服务器的负担。与LVS(TUN)类似,DR模式也叫直接路由模式,该模式中LVS依然仅承担数据的入站请求以及根据算法选出合理的真实服务器,最终由后端真实服务器负责将响应数据包发送返回给客户端。与隧道模式不同的是,直接路由模式(DR模式)要求调度器与后端服务器必须在同一个局域网内,VIP地址需要在调度器与后端所有的服务器间共享,因为最终的真实服务器给客户端回应数据包时需要设置源IP为VIP地址,目标IP为客户端IP,这样客户端访问的是调度器的VIP地址,回应的源地址也依然是该VIP地址(真实服务器上的VIP),客户端是感觉不到后端服务器存在的。由于多台计算机都设置了同样一个VIP地址,所以在直接路由模式中要求调度器的VIP地址是对外可见的,客户端需要将请求数据包发送到调度器主机,而所有的真实服务器的VIP地址必须配置在Non-ARP的网络设备上,也就是该网络设备并不会向外广播自己的MAC及对应的IP地址,真实服务器的VIP对外界是不可见的,但真实服务器却可以接受目标地址VIP的网络请求,并在回应数据包时将源地址设置为该VIP地址。调度器根据算法在选出真实服务器后,在不修改数据报文的情况下,将数据帧的MAC地址修改为选出的真实服务器的MAC地址,通过交换机将该数据帧发给真实服务器。整个过程中,真实服务器的VIP不需要对外界可见。

4、三种模式对比

从对后端服务器的要求上来看,LVS-NAT仅仅要求后端服务器网关指向负载均衡器的内网地址,无任何其他要求;LVS-DR模式要求后端服务器禁用对虚拟IP的ARP响应,后端服务器网关不指向负载均衡器;LVS-Tun要求后端服务支持ipip解封包,部分操作系统不支持。

从吞吐量上来看,LVS-DR最高,LVS-NAT最低。

从配置简便性上来看,LVS-NAT最低,LVS-DR和LVS-Tun均较为复杂。

2、IPVS调度算法

针对不同的网络服务需求和服务器配置,IPVS调度器实现了如下八种负载调度算法:

  • 轮询(Round Robin)
  • 加权轮询(Weighted Round Robin)
  • 最少连接(Least Connections)
  • 加权最少连接(Weighted Least Connections)
  • 基于局部性的最少连接(Locality-Based Least Connections)
  • 带复制的基于局部性最少连接(Locality-Based Least Connections with Replication)
  • 目标地址散列(Destination Hashing)
  • 源地址散列(Source Hashing)

二、基础命令

1、安装

yum install ipvsadm

2、前端服务管理

# 添加前端服务
ipvsadm -A -t 192.16.1.16:80 -s rr

# 修改前端服务的调度算法
ipvsadm -E -t 192.16.1.16:80 -s wlc

# 删除所有前端服务
ipvsadm -C

3、后端服务器管理

# 添加后端服务器
ipvsadm -a -t 192.16.1.16:80 -r 192.16.1.11 -g -w 1
ipvsadm -a -t 192.16.1.16:80 -r 192.16.1.15 -g -w 1

# 删除集群服务中的一个真实服务器
ipvsadm -d -t 192.16.1.16:80 -r 192.16.0.11

# 修改集群服务中的一个真实服务器的权重值
ipvsadm -e -t 192.16.1.16:80 -r 192.16.0.11:80 -m -w 2

4、查看

ipvsadm -Lcn

# 显示速率信息
ipvsadm -L --rate
# 对虚拟服务器和真是服务器排序输出
ipvsadm -L --sort
# 显示统计信息
ipvsadm -L --stats
# 显示tcp tcpfin udp 的timeout值
ipvsadm -L --timeout

5、规则管理

# 保存规则到文件
ipvsadm -Sn > /etc/sysconfig/ipvsadm
# 加载规则文件
ipvsadm -R < /etc/sysconfig/ipvsadm

6、SystemD服务管理规则

# vim /usr/lib/systemd/system/ipvsadm.service
[Unit]
Description=Initialise the Linux Virtual Server
After=syslog.target network.target
 
[Service]
Type=oneshot
ExecStart=/bin/bash -c "exec /sbin/ipvsadm-restore < /etc/sysconfig/ipvsadm"   # 重启服务器后,默认从/etc/sysconfig/ipvsadm该文件中读取规则,将ipvsadm服务设置开机自启动后开机将自动加载规则
ExecStop=/bin/bash -c "exec /sbin/ipvsadm-save -n > /etc/sysconfig/ipvsadm"    # 停止ipvsadm服务时(执行systemctl stop ipvsadm时),自动将规则写入/etc/sysconfig/ipvsadm中
ExecStop=/sbin/ipvsadm -C
RemainAfterExit=yes
[Install]
WantedBy=multi-user.target.
# systemctl daemon-reload && systemctl start ipvsadm

7、ipvs管理

# 清空转发请求计数器
ipvsadm -Z

三、实现地址转换模式(LVS-NAT)的群集

1、环境配置

假设有一台外网电脑(IP:200.0.0.10),两台web服务器(IP1:192.168.1.2;IP2:192.168.2.2和IP1:192.168.1.3;IP2:192.168.2.3)和一台NFS存储服务器(IP:192.168.2.1),外网通过LVS负载调度器(IP1:200.0.0.1;IP2:192.168.1.1)进行访问web,配置网络使外网电脑可以访问LVS负载调度器,LVS负载调度器可以访问两台web服务器,web服务器可以访问NFS存储服务器。

在这里插入图片描述

2、配置LVS负载调度器

安装 ipvsadm管理工具

# vim /etc/sysctl.conf
net.ipv4.ip_forward = 1
# sysctl -p
# yum -y install ipvsadm
# modprobe ip_vs             # 加载ip_vs模块
# ipvsadm -C             # 配置负载分配策略
# ipvsadm -A -t 200.0.0.1:80 -s rr
# ipvsadm -a -t 200.0.0.1:80 -r 192.168.1.2:80 -m -w 1
# ipvsadm -a -t 200.0.0.1:80 -r 192.168.1.3:80 -m -w 1
# ipvsadm-save 
-A -t LVS:http -s rr
-a -t LVS:http -r 192.168.1.2:http -m -w 1
-a -t LVS:http -r 192.168.1.3:http -m -w 1
# systemctl enable ipvsadm
Created symlink from /etc/systemd/system/multi-user.target.wants/ipvsadm.service to /usr/lib/systemd/system/ipvsadm.service.

试访问web

在这里插入图片描述

在这里插入图片描述

3、部署nfs共享存储服务

# systemctl enable nfs
Created symlink from /etc/systemd/system/multi-user.target.wants/nfs-server.service to /usr/lib/systemd/system/nfs-server.service.
# systemctl enable rpcbind
# mkdir -p /opt/wwwroot
# vim /etc/exports
/opt/wwwroot    192.168.2.0/24(rw,sync,no_root_squash)
# systemctl start rpcbind
# systemctl start nfs

其中rw表示允许读写(ro表示只读),sync表示同步写入,no_root_squash表示当客户机以root身份访问时赋予本地root权限

4、web服务器挂载nfs共享目录

# systemctl enable rpcbind
# systemctl start rpcbind
# mount 192.168.2.1:/opt/wwwroot /var/www/html/
# vim /etc/fstab 
192.168.2.1:/opt/wwwroot /var/www/html    nfs   defaults,_netdev  0  0 

5、测试访问群集的虚拟服务器IP地址

在这里插入图片描述

四、实现LVS-DR负载均衡群集

1、环境配置

假设有一台外网电脑(IP:200.0.0.10),两台web服务器(IP1:200.0.0.2;IP2:192.168.2.2和IP1:200.0.0.3;IP2:192.168.2.3)和一台NFS存储服务器(IP:192.168.2.1),外网通过LVS负载调度器(集群IP:200.0.0.254)进行访问web,配置网络使外网电脑可以访问LVS负载调度器,LVS负载调度器可以访问两台web服务器,web服务器可以访问NFS存储服务器。

在这里插入图片描述

2、配置负载调度器

1、关闭ICMP重定向

# vim /etc/sysctl.conf
net.ipv4.conf.all.send_redirects = 0
net.ipv4.conf.default.send_redirects = 0
net.ipv4.conf.ens33.send_redirects = 0
# sysctl -p

2、配置新的网络接口

# cd /etc/sysconfig/network-scripts/
# cp ifcfg-ens33 ifcfg-ens33:0
# vim ifcfg-ens33:0
TYPE=Ethernet
BOOTPROTO=static
IPADDR=200.0.0.254
GATEWAY=200.0.0.1
NETMASK=255.255.255.0
DEFROUTE=yes
PEERDNS=yes
PEERROUTES=yes
IPV4_FAILURE_FATAL=no
IPV6INIT=yes
IPV6_AUTOCONF=yes
IPV6_DEFROUTE=yes
IPV6_PEERDNS=yes
IPV6_PEERROUTES=yes
IPV6_FAILURE_FATAL=no
IPV6_ADDR_GEN_MODE=stable-privacy
NAME=ens33:0
DEVICE=ens33:0
ONBOOT=yes
# ifup ens33:0
# ifconfig ens33:0
ens33:0: flags=4163<UP,BROADCAST,RUNNING,MULTICAST>  mtu 1500
        inet 200.0.0.254  netmask 255.255.255.0  broadcast 200.0.0.255
        ether 00:0c:29:79:01:01  txqueuelen 1000  (Ethernet)

3、配置LVS负载均衡

# ipvsadm -C 											# 清除现有的IPVS配置
# ipvsadm -A -t 200.0.0.254:80 -s rr					# 添加一个新的IPVS表项,监听地址为200.0.0.254的80端口,使用rr调度算法
# ipvsadm -a -t 200.0.0.254:80 -r 200.0.0.2 -g -w 1		# 添加两个后端服务器,使用NAT模式,权重设为1
# ipvsadm -a -t 200.0.0.254:80 -r 200.0.0.3 -g -w 1
# ipvsadm-save 											# 将当前的IPVS配置保存到一个临时文件中
-A -t LVS:http -s rr
-a -t LVS:http -r 200.0.0.2:http -g -w 1
-a -t LVS:http -r 200.0.0.3:http -g -w 1
# systemctl enable ipvsadm
Created symlink from /etc/systemd/system/multi-user.target.wants/ipvsadm.service to /usr/lib/systemd/system/ipvsadm.service.
# ipvsadm -ln
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port Scheduler Flags
  -> RemoteAddress:Port           Forward Weight ActiveConn InActConn
TCP  200.0.0.254:80 rr
  -> 200.0.0.2:80                 Route   1      0          0         
  -> 200.0.0.3:80                 Route   1      0          0         

3、配置节点服务器

ifcfg-lo:0配置群集ip地址200.0.0.254,子网掩码为255.255.255.255

1、关闭ARP应答

# vim /etc/sysctl.conf
net.ipv4.conf.all.arp_ignore = 1
net.ipv4.conf.all.arp_announce = 2
net.ipv4.conf.default.arp_ignore = 1
net.ipv4.conf.default.arp_announce = 2
net.ipv4.conf.lo.arp_ignore = 1
net.ipv4.conf.lo.arp_announce = 2
# sysctl -p

2、配置集群虚拟IP

# cd /etc/sysconfig/network-scripts/
# cp ifcfg-lo ifcfg-lo:0
# vim ifcfg-lo:0
DEVICE=lo:0
IPADDR=200.0.0.254
NETMASK=255.255.255.255
NETWORK=127.0.0.0
# If you're having problems with gated making 127.0.0.0/8 a martian,
# you can change this to something else (255.255.255.255, for example)
BROADCAST=127.255.255.255
ONBOOT=yes
NAME=loopback
# ifup lo:0
# ifconfig lo:0
lo:0: flags=73<UP,LOOPBACK,RUNNING>  mtu 65536
        inet 200.0.0.254  netmask 255.255.255.255
        loop  txqueuelen 1  (Local Loopback)

3、添加一条vip本地访问路由

# vim /etc/rc.local
/sbin/route add -host 200.0.0.254 dev lo:0
# route add -host 200.0.0.254 dev lo:0

4、在nfs主机上配置共享存储服务器,提供给两台web服务器的后台网页存储(同上)

5、在主机上测试访问网站

在这里插入图片描述

在这里插入图片描述

0

评论区