Ocelot及Nginx之负载均衡

Ocelot 负载均衡：   背景知识，ocelot是基于 webapi 的网关框架，要使用ocelot来做路由转发和负载均衡，需要创建一个webapi，然后以这个webapi来做gateway.   以下是具体配置和测试结果：    1. RoundRobin 均衡方式，轮询调用子节点服务, 即 5011，5012这两个网站将会被轮流访问； 当然也可以设置为 LeastConnection 最少的连接，即哪个的请求少，则将请求发到哪个；  



  上图 两次请求分别进入到了不同的服务节点中。   2. QoSOptions 熔断测试，超时3秒即熔断处理，熔断时间为5秒钟     熔断的意思是停止将请求转发到下游服务。当下游服务已经出现故障的时候再请求也是无功而返，并且还会增加下游服务器和API网关的负担。   一个API经常超时，那这个API节点将会进入５秒长的罢工状态，不接收任何请求，５秒后醒过来继续工作，这样大大地减少了网络资源消耗。　  

   
3. RateLimit 限流测试，在1分钟内内超出10次请求，即限流   与熔断有些相似，当API在一分钟内被请求了多次，超出了限定的次数，也会进入罢工状态，请求结果会直接返回一个999。 等N秒之后，继续工作。


  我们将对那些高频调用的API，做负载均衡处理，这个调用超时的熔断非常有用。         Nginx 负载均衡：   之所以用到nginx来做负载均衡，是因为我们可以通过简单的配置就能达到双机，多机负载均衡的目的；另外，如上述的 网关 API ，如果一个服务群的 网关 挂掉了，那整个服务都无法工作。因此我们可能需要将 网关API 布署在多台机器上，并做负载均衡。   以下是我在linux机上对 一个网关做负载的尝试：   nginx的配置如下：    #GateWay API_1
server {
    listen 8104;
    location / {
        proxy_pass http://localhost:5101;
        proxy_http_version 1.1;
        proxy_set_header Upgrade $http_upgrade;
        proxy_set_header Connection keep-alive;
        proxy_set_header Host $http_host;
        proxy_cache_bypass $http_upgrade;
    }
}

#GateWay API_2
server {
    listen 8102;
    location / {
        proxy_pass http://localhost:5102;
        proxy_http_version 1.1;
        proxy_set_header Upgrade $http_upgrade;
        proxy_set_header Connection keep-alive;
        proxy_set_header Host $http_host;
        proxy_cache_bypass $http_upgrade;
    }
}

#GateWay API_3
server {
    listen 8103;
    location / {
        proxy_pass http://localhost:5103;
        proxy_http_version 1.1;
        proxy_set_header Upgrade $http_upgrade;
        proxy_set_header Connection keep-alive;
        proxy_set_header Host $http_host;
        proxy_cache_bypass $http_upgrade;
    }
}

#Ocelot api gateway Load Balance 

   upstream ocelot {
server localhost:8104;
      server localhost:8102;
      server localhost:8103;

    }

    server {
        listen       8101;
        location / {
            proxy_pass    http://ocelot ;
            proxy_http_version 1.1;
            proxy_set_header Upgrade $http_upgrade;
            proxy_set_header Connection keep-alive;
            proxy_set_header Host $http_host;
            proxy_cache_bypass $http_upgrade;

        }
    }

以上我将网关API布署了 3 套，分别是    localhost:8102 localhost:8103 localhost:8104   来代表布署在3台机器上   上游服务器端口为 8101。我们还可以根据3台机器的好坏程度来做权重，比如第一台CPU配置最高，配置如下     upstream ocelot {
      server localhost:8104 weight=2;       server localhost:8102 weight=1;       server localhost:8103 weight=1;
    } 这样 8104 那台，如果有4次请求，它会接收2次   可以看到多次访问，每次指向的内网端口是不一样的   综上所述   1. 单台机子用会 ocelot api gateway 对高频调用的 API 做负载（ocelot当然也可以做多机负载均衡）；   2. 在两台服务器上布署好之后，用ngnix配置，将两台运输挂号服务器做负载均衡；

扫码关注我们

微信号：SRE实战

拒绝背锅 运筹帷幄