此圖例及以下圖例均來自于互聯(lián)網(wǎng)資源

　　作為運(yùn)營商級(jí)通信系統(tǒng)或者企業(yè)級(jí)的通信系統(tǒng)，OpenSIPS和Kamailio在市場(chǎng)上有很多的部署案例。它們可以作為媒體服務(wù)器的前端服務(wù)器實(shí)現(xiàn)很多的信令和會(huì)話路由功能。均衡負(fù)載是它們其中一個(gè)重要的功能。今天，筆者針對(duì)基于以上兩種開源SIP軟交換通過SIP信令方面的均衡負(fù)載以及其新的三種算法優(yōu)化做一些分享。

　　大家可能知道，因?yàn)檫@些開源項(xiàng)目本身不是B2BUA，即使OpenSIPS的B2BUA模塊也僅能實(shí)現(xiàn)基礎(chǔ)的RTP媒體處理，這些開源的SIP服務(wù)器可以作為一個(gè)簡(jiǎn)單的SBC。因?yàn)樗鼈內(nèi)狈γ襟w服務(wù)器的支持能力，需要借助第三方來構(gòu)建RTP媒體處理能力來實(shí)現(xiàn)SBC的“部分功能”。但是，如果用戶真正完全實(shí)現(xiàn)商業(yè)化部署仍然需要一個(gè)完整的SBC解決方案來，SBC還需要強(qiáng)大的媒體處理能力滿足現(xiàn)在實(shí)時(shí)語音通信的要求。因此，SBC除了實(shí)現(xiàn)SIP呼叫信令本身的均衡負(fù)載，還要支持很多用戶需要的通過語音質(zhì)量分析QoS/MOS/PDD實(shí)現(xiàn)的智能語音路由功能。最終，一個(gè)完整的均衡負(fù)載機(jī)制，不僅僅支持對(duì)呼叫本身的均衡負(fù)載處理，而且結(jié)合RTP媒體語音智能路由才能實(shí)現(xiàn)一個(gè)全功能完整的基于SIP均衡負(fù)載解決方案。

　　筆者在以下章節(jié)中將重點(diǎn)介紹基于開源SIP服務(wù)器Kamailio/OpenSIPS的均衡負(fù)載的默認(rèn)輪詢算法和其局限性，并且分享研究人員發(fā)表的關(guān)于均衡負(fù)載三種新算法（Call-Join-Shortest-Queue，Transaction-Join-Shortest-Queue 和Transaction-Least-Work-Left ）的優(yōu)缺點(diǎn)以及其測(cè)試結(jié)果分享，最后分享關(guān)于SBC均衡負(fù)載解決方案中使用SIP呼叫信令均衡負(fù)載結(jié)合語音分析智能路由的思路。

　　這里，筆者首先介紹一些關(guān)于均衡負(fù)載的早期算法和一些基于業(yè)務(wù)層面的負(fù)載的說明，使讀者能夠了解其他后續(xù)章節(jié)的討論。從一般意義來說，均衡負(fù)載主要是針對(duì)呼叫數(shù)量做均衡處理，確保呼叫發(fā)起方和呼叫接收方之間的呼叫能夠通過不同負(fù)載服務(wù)器之間的資源平衡，保證平臺(tái)負(fù)荷在一個(gè)合理的承受范圍之內(nèi)，維持呼叫和平臺(tái)的穩(wěn)定性。SIP均衡負(fù)載包括開源SIP軟交換基本上使用以下四種均衡負(fù)載的處理方式：

　　OpenSIPS學(xué)習(xí)筆記-負(fù)載均衡模塊概要，示例配置，會(huì)議服務(wù)器部署面對(duì)的挑戰(zhàn)，LB選擇資源的4個(gè)邏輯流程詳解

　　在基于SIP服務(wù)器端使用均衡負(fù)載模塊處理SIP請(qǐng)求時(shí)，一般用戶都使用默認(rèn)的服務(wù)器本身的模塊來處理，也有一些非常專業(yè)的用戶需要對(duì)服務(wù)器進(jìn)行更多優(yōu)化以達(dá)到更高的性能來滿足業(yè)務(wù)需求。所以，他們可能對(duì)某些算法進(jìn)行優(yōu)化。在SIP均衡負(fù)載的處理中，均衡負(fù)載策略算法是一個(gè)非常核心的處理流程，它的算法是否能夠應(yīng)對(duì)非常靈活的處理環(huán)境是決定SIP服務(wù)器性能的一個(gè)重要指標(biāo)。

　　開源SIP服務(wù)器Kamalio或者OpenSIPS的官方說明中，它們一般使用吞吐量來說明其執(zhí)行性能，例如CPS等。除了CPS以外，響應(yīng)時(shí)間也是非常重要的性能指標(biāo)，響應(yīng)時(shí)間也可以作為衡量性能的技術(shù)指標(biāo)。運(yùn)營商級(jí)客戶對(duì)各種響應(yīng)時(shí)間有專門的KPI指標(biāo)考核參數(shù)。關(guān)于各種響應(yīng)時(shí)間的討論讀者可以參考：

　　完整RFC6076-端對(duì)端SIP網(wǎng)絡(luò)九大性能評(píng)價(jià)指標(biāo)（KPI）概論和時(shí)延產(chǎn)生其他因素的相關(guān)性討論

　　在關(guān)于吞吐量處理方面，除了數(shù)據(jù)庫存儲(chǔ)，系統(tǒng)物理資源和模塊設(shè)置優(yōu)化以外，均衡負(fù)載的算法也決定著吞吐量的指標(biāo)。在接下來，筆者會(huì)根據(jù)一些研究人員針對(duì)開源SIP服務(wù)器的均衡負(fù)載算法的優(yōu)化和改進(jìn)對(duì)吞吐量和響應(yīng)時(shí)間的測(cè)試結(jié)果做更多分享。

　　如果我們要討論SIP呼叫的均衡負(fù)載，我們首先需要了解SIP呼叫的相關(guān)基本概念。讀者可能都知道，SIP呼叫是基于會(huì)話處理流程的。一個(gè)整個(gè)完整的呼叫是通過INVITE發(fā)起，呼叫需要經(jīng)過多種流程進(jìn)行處理，包括認(rèn)證簽權(quán)，查詢，更新定時(shí)器等，然后通過BYE來拆線，最后結(jié)束呼叫。在一個(gè)完整的正常呼叫中，INVITE事務(wù)和BYE事務(wù)是兩個(gè)最重要的事務(wù)。另外，因?yàn)榘l(fā)起一個(gè)INVITE呼叫流程，其處理過程會(huì)占用上面所說的很多資源。因此，INVITE事務(wù)和BYE的事務(wù)類型所消耗的資源是完全不同的。在整個(gè)呼叫的資源占用比中，INVITE事務(wù)處理所需要的資源占比超過了70%,  BYE事務(wù)占比則很少。研究人員的基本原則是優(yōu)化一個(gè)正常的SIP呼叫中的事務(wù)流程，主要針對(duì)INVITE事務(wù)和BYE事務(wù)處理的流程進(jìn)行均衡負(fù)載優(yōu)化。在具體的算法優(yōu)化討論中，一個(gè)SIP呼叫需要針對(duì)call，dialog，會(huì)話和事務(wù)等方面的優(yōu)化處理。因此，SIP均衡負(fù)載算法優(yōu)化的基本設(shè)計(jì)原則就是通過優(yōu)化INVITE事務(wù)的處理流程，增加系統(tǒng)的吞吐量，并且盡可能地降低響應(yīng)時(shí)間，以達(dá)到系統(tǒng)的最佳處理能力。必須說明，在討論這些新的算法之前，讀者必須對(duì)我們討論的問題做基本了解，包括call，dialog，會(huì)話和事務(wù)概念等。如果讀者需要了解更多關(guān)于call，dialog和Transaction的詳解的話，可以參考以下文章：

　

　　針對(duì)SIP服務(wù)器的均衡負(fù)載策略或者算法來說，目前使用比較多的包括Round Robin-RR, Call-Join-Shortest-Queue（CJSQ），Transaction-Join-Shortest-Queue （TJSQ）和Transaction-Least-Work-Left （TLWL）。在以上算法中，第一種是kamailio和OpenSIPS默認(rèn)支持的算法，以上后三種算法是Hongbo Jiang 針對(duì)Kamailio默認(rèn)算法基礎(chǔ)上中提出三種新的算法。這里補(bǔ)充說明，因?yàn)樵缙诘腒amailio還是OpenSIPS，它們的均衡負(fù)載的處理機(jī)制基本上相同，因此，筆者在本文章的后續(xù)章節(jié)中不再區(qū)分Kamailio還是OpenSIPS環(huán)境下的LB均衡負(fù)載模塊。

　　在針對(duì)開源SIP服務(wù)器的LB模塊的優(yōu)化方面，最近幾年OpenSIPS做了相對(duì)比較多的優(yōu)化和更新，增加了很多動(dòng)態(tài)實(shí)時(shí)的處理流程，整體處理性能可能有比較大的提升。關(guān)于OpenSIPS最新的處理流程的介紹，建議讀者參考以上鏈接或者參考官方文檔。這里，我們主要針對(duì)Hongbo Jiang和IBM研究院研究人員針對(duì)均衡負(fù)載中算法策略的優(yōu)化進(jìn)行討論。以下圖例是研究人員的算法框架。

　　

　　SIP服務(wù)器均衡負(fù)載算法架構(gòu)

　　Round Robin-RR，按照輪詢方式對(duì)新呼叫進(jìn)行分配。Kamailio或OpenSIPS默認(rèn)支持的輪詢方式。筆者建議讀者參考官方文檔獲得更多關(guān)于RR算法和使用方式的說明。

　　Call-Join-Shortest-Queue（CJSQ），記錄跟蹤所有呼叫（call或者session），分配所有呼叫到每個(gè)后臺(tái)服務(wù)器，并且路由新呼叫到最少活動(dòng)呼叫的節(jié)點(diǎn)服務(wù)器。此算法僅關(guān)注到了call或session級(jí)別的數(shù)據(jù)優(yōu)化，它本身無法對(duì)一個(gè)呼叫的transaction 事務(wù)進(jìn)行更多細(xì)節(jié)處理。

　　Transaction-Join-Shortest-Queue （TJSQ），路由新呼叫到SIP服務(wù)器，并且此服務(wù)器目前具有最少活動(dòng)事務(wù)（Transaction），而不是最少呼叫（call/session）。此算法就是對(duì)CJSQ算法的提升優(yōu)化，通過對(duì)一個(gè)SIP呼叫的INVITE事務(wù)和BYE事務(wù)進(jìn)行分解，結(jié)合各種呼叫變量進(jìn)一步優(yōu)化其均衡負(fù)載算法。它仍然有其缺點(diǎn)。因?yàn)镮NVITE事務(wù)進(jìn)入狀態(tài)機(jī)的處理流程和非INVITE事務(wù)進(jìn)入狀態(tài)機(jī)的流程的復(fù)雜程度不同，所以它們所消耗的資源也完全不同，缺乏對(duì)資源比例消耗的進(jìn)一步控制和處理。關(guān)于事務(wù)處理的流程和非INVITE狀態(tài)機(jī)等處理策略，讀者參考RFC3261-17。

　　Transaction-Least-Work-Left （TLWL），此算法路由新的SIP呼叫到一個(gè)服務(wù)器，此SIP服務(wù)器目前承擔(dān)最小工作負(fù)載，此負(fù)載是基于相關(guān)事務(wù)交互成本計(jì)算的結(jié)果，通過此結(jié)果進(jìn)行呼叫路由。此說法利用了INVITE事務(wù)比BYE事務(wù)處理成本相對(duì)比較高的基本原理，進(jìn)行資源分配就是而來。在此研究報(bào)告中，INVITE事務(wù)和BYE事務(wù)之間的成本比例是1.75:1時(shí)， 這樣會(huì)取得服務(wù)器性能的最佳峰值。以下是研究人員的技術(shù)架構(gòu)實(shí)例圖和相關(guān)系統(tǒng)軟硬件配置。

　　

　　測(cè)試環(huán)境配置

　　

　　研究人員在2012年發(fā)布的論文中，使用開源壓力測(cè)試工具SIPp和通過對(duì)開源SIP服務(wù)器OpenSER（Kamailio和OpenSIPS的早期版本）添加了三種算法功能，使用硬件設(shè)備，通過配置集群服務(wù)器方式針對(duì)四種均衡負(fù)載算法進(jìn)行了針對(duì)SIP均衡負(fù)載吞吐量（CPS）和響應(yīng)時(shí)間的測(cè)試。在其測(cè)試結(jié)果中，無論從SIP服務(wù)器的吞吐量，響應(yīng)時(shí)間和相關(guān)網(wǎng)絡(luò)，CPU資源消耗來說，TLWL的算法無疑是幾種算法中的一種最佳的算法。

　　各種算法測(cè)試中的峰值吞吐量結(jié)果

　　

　　各種算法中針對(duì)INVITE事務(wù)處理的平均響應(yīng)時(shí)間結(jié)果

　　

　　各種算法中針對(duì)BYE事務(wù)處理的平均響應(yīng)時(shí)間結(jié)果

　　Abdullah Akbar也進(jìn)行了同樣的研究測(cè)試，他/她使用Kamailio對(duì)以上算法進(jìn)行了測(cè)試對(duì)比試驗(yàn)。其基礎(chǔ)平臺(tái)使用Kamailio，并且對(duì)dispatcher 調(diào)度模塊進(jìn)行了修改，使用以上算法結(jié)合SIPp壓力測(cè)試工具進(jìn)行了測(cè)試。測(cè)試架構(gòu)和其使用的硬件環(huán)境包括：

　　

　　各種算法環(huán)境中的SIP服務(wù)器的吞吐量對(duì)比，TLWL結(jié)果最高。

　　

　　各種算法環(huán)境下的BYE消息響應(yīng)時(shí)間對(duì)比中，TLWL響應(yīng)時(shí)間最低。

　

　　通過以上兩個(gè)研究團(tuán)隊(duì)針對(duì)開源SIP軟交換的測(cè)試結(jié)果來看，TLWL的均衡負(fù)載結(jié)果對(duì)比其他負(fù)載算法來說，整體測(cè)試性能是最好的。這里我們需要說明，雖然當(dāng)時(shí)兩個(gè)研究團(tuán)隊(duì)在測(cè)試部署時(shí)使用的環(huán)境包括硬件環(huán)境和今天相比已經(jīng)有很大變化，網(wǎng)絡(luò)環(huán)境和云計(jì)算的網(wǎng)絡(luò)功能虛擬化也不斷應(yīng)用在SIP網(wǎng)絡(luò)的場(chǎng)景中，很多集群部署的優(yōu)化和網(wǎng)絡(luò)優(yōu)化可以幫助提升SIP均衡負(fù)載的處理能力，但是對(duì)SIP呼叫中的會(huì)話，事務(wù)等基本要素的優(yōu)化確實(shí)為我們提供了非常有價(jià)值的參考，為大家提供了更多的關(guān)于SIP軟交換性能處理的新的思路。關(guān)于三種算法的具體介紹和研究手段等論文細(xì)節(jié)，讀者可以查看參考資料的說明。

　　不過，隨著更多網(wǎng)絡(luò)技術(shù)的不斷發(fā)展，業(yè)務(wù)系統(tǒng)的需求和場(chǎng)景不斷發(fā)生變化，在SIP均衡負(fù)載的各種方案中，越來越多的用戶希望通過SBC來實(shí)現(xiàn)均衡負(fù)載來滿足不同業(yè)務(wù)，靈活語音編碼和邏輯處理的需求。在下一個(gè)章節(jié)，我們簡(jiǎn)單介紹如何通過SBC實(shí)現(xiàn)均衡負(fù)載，實(shí)現(xiàn)真正的商業(yè)場(chǎng)景的部署。

　　在以上的討論中，研究人員更多關(guān)注的是基于SIP 軟交換信令級(jí)均衡負(fù)載的算法優(yōu)化，也僅限于傳統(tǒng)CTI環(huán)境和硬件網(wǎng)絡(luò)環(huán)境。在現(xiàn)在實(shí)際應(yīng)用場(chǎng)景中，無論是運(yùn)營商級(jí)用戶還是企業(yè)終端用戶，大家都在考慮通過云計(jì)算和網(wǎng)絡(luò)虛擬化的方式實(shí)現(xiàn)更多更靈活的分布式網(wǎng)絡(luò)架構(gòu)，并且需要滿足用戶更多終端和不同編碼設(shè)備的支持。在基于SIP軟交換的均衡負(fù)載的部署環(huán)境中，除了我們需要關(guān)心SIP軟交換的吞吐量和響應(yīng)時(shí)間以外，我們還要注冊(cè)請(qǐng)求的均衡負(fù)載，安全加密處理，還要關(guān)注其他媒體方面的用戶體驗(yàn)，例如語音質(zhì)量，時(shí)延等問題。如果我們僅僅考慮基于SIP軟交換信令點(diǎn)均衡負(fù)載的話，均衡負(fù)載的功能支持就會(huì)遇到很大限制，不能滿足很多實(shí)時(shí)的業(yè)務(wù)場(chǎng)景。

　　比較幸運(yùn)的是，云計(jì)算時(shí)代，很多技術(shù)已經(jīng)彌補(bǔ)了以前的一些系統(tǒng)資源的制約，可以通過SD-WAN，網(wǎng)絡(luò)功能虛擬化部署，云實(shí)例部署和彈性網(wǎng)絡(luò)資源等方式來實(shí)現(xiàn)。具體關(guān)于針對(duì)SIP網(wǎng)絡(luò)的技術(shù)架構(gòu)的變革，讀者可以閱讀歷史文章：

　　SBC的核心功能之一就是實(shí)現(xiàn)SIP媒體服務(wù)器的均衡負(fù)載處理。一些SBC廠家的SBC均衡負(fù)載功能已經(jīng)非常成熟。Ribbon/Sonus的SBC 均衡負(fù)載服務(wù)能力提供了非常專業(yè)的運(yùn)營商級(jí)功能，可以通過SIP呼叫和DNS（參考RFC3263）服務(wù)方式實(shí)現(xiàn)均衡負(fù)載，并且它可以通過云平臺(tái)的各種功能模塊，實(shí)現(xiàn)SBC 均衡負(fù)載集群組。

 

　　在SBC均衡負(fù)載集群的處理方式中，除了針對(duì)CPS進(jìn)行動(dòng)態(tài)路由以外，它本身也可以實(shí)現(xiàn)靈活動(dòng)態(tài)加載各個(gè)節(jié)點(diǎn)服務(wù)器，對(duì)所有節(jié)點(diǎn)SBC實(shí)例實(shí)現(xiàn)分布式部署響應(yīng)，并且可以針對(duì)重新加入的INVITE或者注冊(cè)請(qǐng)求路由到未使用的SBC節(jié)點(diǎn)。

　　除了針對(duì)SIP呼叫信令級(jí)的均衡負(fù)載的管理以外，SBC仍然需要針對(duì)媒體級(jí)的核心數(shù)據(jù)實(shí)時(shí)進(jìn)行檢測(cè)和管理，保證用戶呼叫的語音質(zhì)量達(dá)到最佳質(zhì)量。通過SBC實(shí)現(xiàn)QoS/MOS的智能路由也是SBC部署時(shí)的一個(gè)特別需要考慮的問題。筆者以前針對(duì)QoS的策略管理有非常詳細(xì)說明，讀者可以閱讀此文章：

　　在運(yùn)營商級(jí)和高級(jí)的企業(yè)級(jí)SIP呼叫均衡負(fù)載的解決方案中，除了對(duì)CPS和響應(yīng)時(shí)間進(jìn)行管理以外，SBC的均衡負(fù)載功能還需要結(jié)合實(shí)時(shí)語音質(zhì)量分析的參數(shù)來實(shí)現(xiàn)更完善的路由處理。SBC需要非常智能化地分析RTP語音流的修改數(shù)據(jù)，通過QoS這里保障，語音質(zhì)量評(píng)價(jià)值和呼叫延遲，抖動(dòng)等相關(guān)數(shù)據(jù)及時(shí)通知SBC路由模塊，保障其均衡負(fù)載能力能夠路由到一個(gè)資源消耗狀態(tài)正常的媒體服務(wù)器上。如果缺乏以上分析數(shù)據(jù)的支持，均衡負(fù)載處理機(jī)制仍然會(huì)路由到一個(gè)語音質(zhì)量差的呼叫節(jié)點(diǎn)上，最終用戶呼叫體驗(yàn)肯定也非常差，降低了呼叫的成功率和呼叫體驗(yàn)。Ribbon SBC通過語音智能語音分析模塊，結(jié)合實(shí)時(shí)數(shù)據(jù)統(tǒng)計(jì)面板對(duì)智能路由做了非常專業(yè)的實(shí)時(shí)管理，可以極大提高均衡負(fù)載以及智能路由的更強(qiáng)大的功能。PSX是核心的路由策略模塊，可以支持本地路由，全球路由管理，trunk管理，安全保護(hù)數(shù)據(jù)，DID管理，分析軟件依賴于大數(shù)據(jù)，AI和行為學(xué)習(xí)和機(jī)器學(xué)習(xí)來快速分析數(shù)據(jù)支持均衡負(fù)載能力。

　　在本文章中，筆者首先介紹了關(guān)于均衡負(fù)載的基本要求和基于業(yè)務(wù)層面均衡負(fù)載的處理機(jī)制。開源SIP軟交換Kamailio和OpenSIPS，包括早期的OpenSER在這方面也有著非常好的表現(xiàn)，它們可以作為SIP軟交換的均衡負(fù)載服務(wù)器來使用。在傳統(tǒng)的均衡負(fù)載的RR模塊中，均衡負(fù)載僅針對(duì)呼叫或者會(huì)話來進(jìn)行處理，沒有再深入到呼叫事務(wù)的優(yōu)化，特別是針對(duì)兩個(gè)重要的INVITE事務(wù)和BYE事務(wù)的優(yōu)化。一些研究人員針對(duì)兩種事務(wù)進(jìn)行了優(yōu)化處理，并且提供了三種優(yōu)化算法，通過不同優(yōu)化算法，研究人員經(jīng)過對(duì)吞吐量和響應(yīng)時(shí)間的測(cè)試發(fā)現(xiàn)TLWL算法是執(zhí)行性能最好的算法。這些新優(yōu)化的算法為大家在未來的基于SIP服務(wù)器進(jìn)行優(yōu)化提供了非常有深度的技術(shù)模型。

　　但是，隨著技術(shù)不斷發(fā)展，用戶需求不斷增加，這些均衡負(fù)載的部署方式如果部署在目前商業(yè)環(huán)境的話，仍然缺乏很多其他業(yè)務(wù)方面的支持，仍然需要一些專業(yè)的SBC做均衡負(fù)載，以及均衡負(fù)載集群組來實(shí)現(xiàn)，并且需要結(jié)合用戶迫切需要的實(shí)時(shí)語音檢測(cè)機(jī)制進(jìn)行更智能化路由。筆者在后續(xù)章節(jié)介紹了Ribbon SBC在建議SIP信令層面的均衡負(fù)載機(jī)制路由以外，和讀者分享了基于RTP語音流的智能路由功能，通過QoS，MOS和PDD等比較重要的參數(shù)數(shù)值，通過語音分析模塊實(shí)時(shí)對(duì)呼叫進(jìn)行路由設(shè)置。

　　隨著系統(tǒng)不斷擴(kuò)容，SIP服務(wù)器的均衡負(fù)載機(jī)制和算法也不斷需要更新來滿足最新的業(yè)務(wù)需求。其他的算法或者均衡負(fù)載機(jī)制也可能可以實(shí)現(xiàn)某種用戶場(chǎng)景，比如，利用云平臺(tái)技術(shù)，HAProxy或DNS SRV等相關(guān)技術(shù)來實(shí)現(xiàn)不同的需求均衡負(fù)載或者HA解決方案，因?yàn)槠�幅關(guān)系，筆者沒有涉及這方面的討論。筆者希望從單純的SIP技術(shù)方面，結(jié)合所討論的這些結(jié)果對(duì)讀者將來部署SIP均衡負(fù)載解決方案有所幫助，獲得更穩(wěn)定專業(yè)的均衡負(fù)載解決方案。

　　Hongbo Jiang，Design, Implementation, and Performance of A Load Balancer for SIP Server Clusters

　　Abdullah Akbar，A Comparative Study on Load Balancing Algorithms for SIP Servers

　　Georgios，Towards effective SIP load Balancing