Spring Cloud 的ribbon的饑餓加載機制
我們在使用Spring Cloud的Ribbon或Feign來實現(xiàn)服務調(diào)用的時候,如果我們的機器或網(wǎng)絡環(huán)境等原因不是很好的話,有時候會發(fā)現(xiàn)這樣一個問題:我們服務消費方調(diào)用服務提供方接口的時候,第一次請求經(jīng)常會超時,而之后的調(diào)用就沒有問題了。下面我們就來說說造成這個問題的原因,以及如何解決的方法。
問題原因
造成第一次服務調(diào)用出現(xiàn)失敗的原因主要是Ribbon進行客戶端負載均衡的Client并不是在服務啟動的時候就初始化好的,而是在調(diào)用的時候才會去創(chuàng)建相應的Client,所以第一次調(diào)用的耗時不僅僅包含發(fā)送HTTP請求的時間,還包含了創(chuàng)建RibbonClient的時間,這樣一來如果創(chuàng)建時間速度較慢,同時設置的超時時間又比較短的話,很容易就會出現(xiàn)上面所描述的顯現(xiàn)。
從日志中我們也能知道這一點細節(jié),在第一次發(fā)起調(diào)用的時候我們可以從日志中看到如下信息:
2017-09-25 08:29:54,201 INFO [main] com.netflix.loadbalancer.DynamicServerListLoadBalancer - DynamicServerListLoadBalancer for client hello-service initialized: DynamicServerListLoadBalancer:{NFLoadBalancer:name=hello-service,current list of Servers=[192.168.99.176:9901],Load balancer stats=Zone stats: {unknown=[Zone:unknown; Instance count:1; Active connections count: 0; Circuit breaker tripped count: 0; Active connections per server: 0.0;]
},Server stats: [[Server:192.168.99.176:9901; Zone:UNKNOWN; Total Requests:0; Successive connection failure:0; Total blackout seconds:0; Last connection made:Thu Jan 01 08:00:00 CST 1970; First connection made: Thu Jan 01 08:00:00 CST 1970; Active Connections:0; total failure count in last (1000) msecs:0; average resp time:0.0; 90 percentile resp time:0.0; 95 percentile resp time:0.0; min resp time:0.0; max resp time:0.0; stddev resp time:0.0]
]}ServerList:ConsulServerList{serviceId='hello-service', tag=null}
而Feign的實現(xiàn)基于Ribbon,所以它也有一樣的問題,下面就來看看如何解決這個問題。
解決方法
解決的方法很簡單,既然第一次調(diào)用時候產(chǎn)生RibbonClient耗時,那么就讓它提前創(chuàng)建,而不是在第一次調(diào)用的時候創(chuàng)建。
在Spring Cloud的Dlaston版本中提供了幾個新的參數(shù),它們可以很方便的幫我們實現(xiàn)這樣的功能。
ribbon:
eager-load:
enabled:true
clients:kong-auth,kong-uc-service
參數(shù)說明:
- ribbon.eager-load.enabled:開啟Ribbon的饑餓加載模式
- ribbon.eager-load.clients:指定需要饑餓加載的客戶端名稱、服務名
要解決Ribbon的饑餓加載問題,您可以通過以下方式進行配置:
1. 在Ribbon客戶端的配置文件中,添加以下配置項:
或者在application.properties文件中添加以下配置項:
2. 在Spring Cloud的配置文件中,添加以下配置項:
或者在application.properties文件中添加以下配置項:
通過設置eager-load.enabled為true,Ribbon將在應用啟動時立即加載所有服務實例的信息,而不是按需加載。這樣可以避免在第一次請求時出現(xiàn)延遲,從而解決饑餓加載的問題。
請注意,以上配置適用于使用Spring Cloud Netflix Ribbon作為負載均衡器的情況。如果您使用的是Spring Cloud LoadBalancer作為負載均衡器,可以參考LoadBalancer的文檔來解決饑餓加載問題。
另外,饑餓加載可能會增加應用啟動時間和內(nèi)存消耗,因此在配置饑餓加載時需要權衡考慮。
參考:https://blog.csdn.net/qq_28089993/article/details/80600032

浙公網(wǎng)安備 33010602011771號