• <menu id="gyiem"><menu id="gyiem"></menu></menu>
  • <menu id="gyiem"><code id="gyiem"></code></menu>

    深入淺出Zookeeper(一) Zookeeper架構及FastLeaderElection機制

    原創文章,轉載請務必將下面這段話置于文章開頭處。
    本文轉發自技術世界原文鏈接 http://www.luozeyang.com/zookeeper/fastleaderelection/

    Zookeeper是什么

    Zookeeper是一個分布式協調服務,可用于服務發現,分布式鎖,分布式領導選舉,配置管理等。

    這一切的基礎,都是Zookeeper提供了一個類似于Linux文件系統的樹形結構(可認為是輕量級的內存文件系統,但只適合存少量信息,完全不適合存儲大量文件或者大文件),同時提供了對于每個節點的監控與通知機制。

    既然是一個文件系統,就不得不提Zookeeper是如何保證數據的一致性的。本文將介紹Zookeeper如何保證數據一致性,如何進行領導選舉,以及數據監控/通知機制的語義保證。

    Zookeeper架構

    角色

    Zookeeper集群是一個基于主從復制的高可用集群,每個服務器承擔如下三種角色中的一種

    • Leader 一個Zookeeper集群同一時間只會有一個實際工作的Leader,它會發起并維護與各Follwer及Observer間的心跳。所有的寫操作必須要通過Leader完成再由Leader將寫操作廣播給其它服務器。
    • Follower 一個Zookeeper集群可能同時存在多個Follower,它會響應Leader的心跳。Follower可直接處理并返回客戶端的讀請求,同時會將寫請求轉發給Leader處理,并且負責在Leader處理寫請求時對請求進行投票。
    • Observer 角色與Follower類似,但是無投票權。

    Zookeeper Architecture

    原子廣播(ZAB)

    為了保證寫操作的一致性與可用性,Zookeeper專門設計了一種名為原子廣播(ZAB)的支持崩潰恢復的一致性協議。基于該協議,Zookeeper實現了一種主從模式的系統架構來保持集群中各個副本之間的數據一致性。

    根據ZAB協議,所有的寫操作都必須通過Leader完成,Leader寫入本地日志后再復制到所有的Follower節點。

    一旦Leader節點無法工作,ZAB協議能夠自動從Follower節點中重新選出一個合適的替代者,即新的Leader,該過程即為領導選舉。該領導選舉過程,是ZAB協議中最為重要和復雜的過程。

    寫操作

    寫Leader

    通過Leader進行寫操作流程如下圖所示


    Zookeeper Leader Write

    由上圖可見,通過Leader進行寫操作,主要分為五步:

    1. 客戶端向Leader發起寫請求
    2. Leader將寫請求以Proposal的形式發給所有Follower并等待ACK
    3. Follower收到Leader的Proposal后返回ACK
    4. Leader得到過半數的ACK(Leader對自己默認有一個ACK)后向所有的Follower和Observer發送Commmit
    5. Leader將處理結果返回給客戶端

    這里要注意

    • Leader并不需要得到Observer的ACK,即Observer無投票權
    • Leader不需要得到所有Follower的ACK,只要收到過半的ACK即可,同時Leader本身對自己有一個ACK。上圖中有4個Follower,只需其中兩個返回ACK即可,因為(2+1) / (4+1) > 1/2
    • Observer雖然無投票權,但仍須同步Leader的數據從而在處理讀請求時可以返回盡可能新的數據

    寫Follower/Observer

    通過Follower/Observer進行寫操作流程如下圖所示:


    Zookeeper Follower/Observer Write

    從上圖可見

    • Follower/Observer均可接受寫請求,但不能直接處理,而需要將寫請求轉發給Leader處理
    • 除了多了一步請求轉發,其它流程與直接寫Leader無任何區別

    讀操作

    Leader/Follower/Observer都可直接處理讀請求,從本地內存中讀取數據并返回給客戶端即可。


    Zookeeper Read

    由于處理讀請求不需要服務器之間的交互,Follower/Observer越多,整體可處理的讀請求量越大,也即讀性能越好。

    FastLeaderElection原理

    術語介紹

    myid
    每個Zookeeper服務器,都需要在數據文件夾下創建一個名為myid的文件,該文件包含整個Zookeeper集群唯一的ID(整數)。例如某Zookeeper集群包含三臺服務器,hostname分別為zoo1、zoo2和zoo3,其myid分別為1、2和3,則在配置文件中其ID與hostname必須一一對應,如下所示。在該配置文件中,server.后面的數據即為myid

    1
    2
    3
    server.1=zoo1:2888:3888
    server.2=zoo2:2888:3888
    server.3=zoo3:2888:3888

    zxid
    類似于RDBMS中的事務ID,用于標識一次更新操作的Proposal ID。為了保證順序性,該zkid必須單調遞增。因此Zookeeper使用一個64位的數來表示,高32位是Leader的epoch,從1開始,每次選出新的Leader,epoch加一。低32位為該epoch內的序號,每次epoch變化,都將低32位的序號重置。這樣保證了zkid的全局遞增性。

    支持的領導選舉算法

    可通過electionAlg配置項設置Zookeeper用于領導選舉的算法。

    到3.4.10版本為止,可選項有

    • 0 基于UDP的LeaderElection
    • 1 基于UDP的FastLeaderElection
    • 2 基于UDP和認證的FastLeaderElection
    • 3 基于TCP的FastLeaderElection

    在3.4.10版本中,默認值為3,也即基于TCP的FastLeaderElection。另外三種算法已經被棄用,并且有計劃在之后的版本中將它們徹底刪除而不再支持。

    FastLeaderElection

    FastLeaderElection選舉算法是標準的Fast Paxos算法實現,可解決LeaderElection選舉算法收斂速度慢的問題。

    服務器狀態

    • LOOKING 不確定Leader狀態。該狀態下的服務器認為當前集群中沒有Leader,會發起Leader選舉
    • FOLLOWING 跟隨者狀態。表明當前服務器角色是Follower,并且它知道Leader是誰
    • LEADING 領導者狀態。表明當前服務器角色是Leader,它會維護與Follower間的心跳
    • OBSERVING 觀察者狀態。表明當前服務器角色是Observer,與Folower唯一的不同在于不參與選舉,也不參與集群寫操作時的投票

    選票數據結構

    每個服務器在進行領導選舉時,會發送如下關鍵信息

    • logicClock 每個服務器會維護一個自增的整數,名為logicClock,它表示這是該服務器發起的第多少輪投票
    • state 當前服務器的狀態
    • self_id 當前服務器的myid
    • self_zxid 當前服務器上所保存的數據的最大zxid
    • vote_id 被推舉的服務器的myid
    • vote_zxid 被推舉的服務器上所保存的數據的最大zxid

    投票流程

    自增選舉輪次
    Zookeeper規定所有有效的投票都必須在同一輪次中。每個服務器在開始新一輪投票時,會先對自己維護的logicClock進行自增操作。

    初始化選票
    每個服務器在廣播自己的選票前,會將自己的投票箱清空。該投票箱記錄了所收到的選票。例:服務器2投票給服務器3,服務器3投票給服務器1,則服務器1的投票箱為(2, 3), (3, 1), (1, 1)。票箱中只會記錄每一投票者的最后一票,如投票者更新自己的選票,則其它服務器收到該新選票后會在自己票箱中更新該服務器的選票。

    發送初始化選票
    每個服務器最開始都是通過廣播把票投給自己。

    接收外部投票
    服務器會嘗試從其它服務器獲取投票,并記入自己的投票箱內。如果無法獲取任何外部投票,則會確認自己是否與集群中其它服務器保持著有效連接。如果是,則再次發送自己的投票;如果否,則馬上與之建立連接。

    判斷選舉輪次
    收到外部投票后,首先會根據投票信息中所包含的logicClock來進行不同處理

    • 外部投票的logicClock大于自己的logicClock。說明該服務器的選舉輪次落后于其它服務器的選舉輪次,立即清空自己的投票箱并將自己的logicClock更新為收到的logicClock,然后再對比自己之前的投票與收到的投票以確定是否需要變更自己的投票,最終再次將自己的投票廣播出去。
    • 外部投票的logicClock小于自己的logicClock。當前服務器直接忽略該投票,繼續處理下一個投票。
    • 外部投票的logickClock與自己的相等。當時進行選票PK。

    選票PK
    選票PK是基于(self_id, self_zxid)與(vote_id, vote_zxid)的對比

    • 外部投票的logicClock大于自己的logicClock,則將自己的logicClock及自己的選票的logicClock變更為收到的logicClock
    • 若logicClock一致,則對比二者的vote_zxid,若外部投票的vote_zxid比較大,則將自己的票中的vote_zxid與vote_myid更新為收到的票中的vote_zxid與vote_myid并廣播出去,另外將收到的票及自己更新后的票放入自己的票箱。如果票箱內已存在(self_myid, self_zxid)相同的選票,則直接覆蓋
    • 若二者vote_zxid一致,則比較二者的vote_myid,若外部投票的vote_myid比較大,則將自己的票中的vote_myid更新為收到的票中的vote_myid并廣播出去,另外將收到的票及自己更新后的票放入自己的票箱

    統計選票
    如果已經確定有過半服務器認可了自己的投票(可能是更新后的投票),則終止投票。否則繼續接收其它服務器的投票。

    更新服務器狀態
    投票終止后,服務器開始更新自身狀態。若過半的票投給了自己,則將自己的服務器狀態更新為LEADING,否則將自己的狀態更新為FOLLOWING

    幾種領導選舉場景

    集群啟動領導選舉

    初始投票給自己
    集群剛啟動時,所有服務器的logicClock都為1,zxid都為0。

    各服務器初始化后,都投票給自己,并將自己的一票存入自己的票箱,如下圖所示。


    Cluster start election step 1

    在上圖中,(1, 1, 0)第一位數代表投出該選票的服務器的logicClock,第二位數代表被推薦的服務器的myid,第三位代表被推薦的服務器的最大的zxid。由于該步驟中所有選票都投給自己,所以第二位的myid即是自己的myid,第三位的zxid即是自己的zxid。

    此時各自的票箱中只有自己投給自己的一票。

    更新選票
    服務器收到外部投票后,進行選票PK,相應更新自己的選票并廣播出去,并將合適的選票存入自己的票箱,如下圖所示。


    Cluster start election step 2

    服務器1收到服務器2的選票(1, 2, 0)和服務器3的選票(1, 3, 0)后,由于所有的logicClock都相等,所有的zxid都相等,因此根據myid判斷應該將自己的選票按照服務器3的選票更新為(1, 3, 0),并將自己的票箱全部清空,再將服務器3的選票與自己的選票存入自己的票箱,接著將自己更新后的選票廣播出去。此時服務器1票箱內的選票為(1, 3),(3, 3)。

    同理,服務器2收到服務器3的選票后也將自己的選票更新為(1, 3, 0)并存入票箱然后廣播。此時服務器2票箱內的選票為(2, 3),(3, ,3)。

    服務器3根據上述規則,無須更新選票,自身的票箱內選票仍為(3, 3)。

    服務器1與服務器2更新后的選票廣播出去后,由于三個服務器最新選票都相同,最后三者的票箱內都包含三張投給服務器3的選票。

    根據選票確定角色
    根據上述選票,三個服務器一致認為此時服務器3應該是Leader。因此服務器1和2都進入FOLLOWING狀態,而服務器3進入LEADING狀態。之后Leader發起并維護與Follower間的心跳。


    Cluster start election step 3

    Follower重啟

    Follower重啟投票給自己
    Follower重啟,或者發生網絡分區后找不到Leader,會進入LOOKING狀態并發起新的一輪投票。


    Follower restart election step 1

    發現已有Leader后成為Follower
    服務器3收到服務器1的投票后,將自己的狀態LEADING以及選票返回給服務器1。服務器2收到服務器1的投票后,將自己的狀態FOLLOWING及選票返回給服務器1。此時服務器1知道服務器3是Leader,并且通過服務器2與服務器3的選票可以確定服務器3確實得到了超過半數的選票。因此服務器1進入FOLLOWING狀態。


    Follower restart election step 2

    Leader重啟

    Follower發起新投票
    Leader(服務器3)宕機后,Follower(服務器1和2)發現Leader不工作了,因此進入LOOKING狀態并發起新的一輪投票,并且都將票投給自己。


    Leader restart election step 1

    廣播更新選票
    服務器1和2根據外部投票確定是否要更新自身的選票。這里有兩種情況

    • 服務器1和2的zxid相同。例如在服務器3宕機前服務器1與2完全與之同步。此時選票的更新主要取決于myid的大小
    • 服務器1和2的zxid不同。在舊Leader宕機之前,其所主導的寫操作,只需過半服務器確認即可,而不需所有服務器確認。換句話說,服務器1和2可能一個與舊Leader同步(即zxid與之相同)另一個不同步(即zxid比之小)。此時選票的更新主要取決于誰的zxid較大

    在上圖中,服務器1的zxid為11,而服務器2的zxid為10,因此服務器2將自身選票更新為(3, 1, 11),如下圖所示。


    Leader restart election step 2

    選出新Leader
    經過上一步選票更新后,服務器1與服務器2均將選票投給服務器1,因此服務器2成為Follower,而服務器1成為新的Leader并維護與服務器2的心跳。


    Leader restart election step 3

    舊Leader恢復后發起選舉
    舊的Leader恢復后,進入LOOKING狀態并發起新一輪領導選舉,并將選票投給自己。此時服務器1會將自己的LEADING狀態及選票(3, 1, 11)返回給服務器3,而服務器2將自己的FOLLOWING狀態及選票(3, 1, 11)返回給服務器3。如下圖所示。


    Leader restart election step 4

    舊Leader成為Follower
    服務器3了解到Leader為服務器1,且根據選票了解到服務器1確實得到過半服務器的選票,因此自己進入FOLLOWING狀態。


    Leader restart election step 5

    一致性保證

    ZAB協議保證了在Leader選舉的過程中,已經被Commit的數據不會丟失,未被Commit的數據對客戶端不可見。

    Commit過的數據不丟失

    Failover前狀態
    為更好演示Leader Failover過程,本例中共使用5個Zookeeper服務器。A作為Leader,共收到P1、P2、P3三條消息,并且Commit了1和2,且總體順序為P1、P2、C1、P3、C2。根據順序性原則,其它Follower收到的消息的順序肯定與之相同。其中B與A完全同步,C收到P1、P2、C1,D收到P1、P2,E收到P1,如下圖所示。


    Leader Failover step 1

    這里要注意

    • 由于A沒有C3,意味著收到P3的服務器的總個數不會超過一半,也即包含A在內最多只有兩臺服務器收到P3。在這里A和B收到P3,其它服務器均未收到P3
    • 由于A已寫入C1、C2,說明它已經Commit了P1、P2,因此整個集群有超過一半的服務器,即最少三個服務器收到P1、P2。在這里所有服務器都收到了P1,除E外其它服務器也都收到了P2

    選出新Leader
    舊Leader也即A宕機后,其它服務器根據上述FastLeaderElection算法選出B作為新的Leader。C、D和E成為Follower且以B為Leader后,會主動將自己最大的zxid發送給B,B會將Follower的zxid與自身zxid間的所有被Commit過的消息同步給Follower,如下圖所示。


    Leader Failover step 2

    在上圖中

    • P1和P2都被A Commit,因此B會通過同步保證P1、P2、C1與C2都存在于C、D和E中
    • P3由于未被A Commit,同時幸存的所有服務器中P3未存在于大多數據服務器中,因此它不會被同步到其它Follower

    通知Follower可對外服務
    同步完數據后,B會向D、C和E發送NEWLEADER命令并等待大多數服務器的ACK(下圖中D和E已返回ACK,加上B自身,已經占集群的大多數),然后向所有服務器廣播UPTODATE命令。收到該命令后的服務器即可對外提供服務。


    Leader Failover step 3

    未Commit過的消息對客戶端不可見

    在上例中,P3未被A Commit過,同時因為沒有過半的服務器收到P3,因此B也未Commit P3(如果有過半服務器收到P3,即使A未Commit P3,B會主動Commit P3,即C3),所以它不會將P3廣播出去。

    具體做法是,B在成為Leader后,先判斷自身未Commit的消息(本例中即P3)是否存在于大多數服務器中從而決定是否要將其Commit。然后B可得出自身所包含的被Commit過的消息中的最小zxid(記為min_zxid)與最大zxid(記為max_zxid)。C、D和E向B發送自身Commit過的最大消息zxid(記為max_zxid)以及未被Commit過的所有消息(記為zxid_set)。B根據這些信息作出如下操作

    • 如果Follower的max_zxid與Leader的max_zxid相等,說明該Follower與Leader完全同步,無須同步任何數據
    • 如果Follower的max_zxid在Leader的(min_zxid,max_zxid)范圍內,Leader會通過TRUNC命令通知Follower將其zxid_set中大于Follower的max_zxid(如果有)的所有消息全部刪除

    上述操作保證了未被Commit過的消息不會被Commit從而對外不可見。

    上述例子中Follower上并不存在未被Commit的消息。但可考慮這種情況,如果將上述例子中的服務器數量從五增加到七,服務器F包含P1、P2、C1、P3,服務器G包含P1、P2。此時服務器F、A和B都包含P3,但是因為票數未過半,因此B作為Leader不會Commit P3,而會通過TRUNC命令通知F刪除P3。如下圖所示。


    Leader Failover step 4

    總結

    • 由于使用主從復制模式,所有的寫操作都要由Leader主導完成,而讀操作可通過任意節點完成,因此Zookeeper讀性能遠好于寫性能,更適合讀多寫少的場景
    • 雖然使用主從復制模式,同一時間只有一個Leader,但是Failover機制保證了集群不存在單點失敗(SPOF)的問題
    • ZAB協議保證了Failover過程中的數據一致性
    • 服務器收到數據后先寫本地文件再進行處理,保證了數據的持久性
    郭俊 Jason wechat
    歡迎關注作者微信公眾號【大數據架構】
    您的贊賞將支持作者繼續原創分享
    速赢彩app www.3653517.com | www.45hg.com | 58588n.com | www.00772i.com | 86611l.com | www.85858hh.com | www.pj0567.com | www.345597.com | www.vnsr22888.com | 08820066.com | www.7920u.com | 28288.com | www.c1456.com | www.4938e.com | 22yy8332.com | www.86339c.com | feicai0479.com | www.550435.com | www.39678.com | xpj8.com | www.50788r.com | www.28758p.com | 8449hb.com | www.c5c88.com | 4340r.com | www.66332r.com | www.hg226.cm | pj12678.com | www.18617.com | 4997n.com | www.339189.com | www.7335zz.com | 3304hh.com | www.33997k.com | www.25288f.com | 6002a.com | www.gx58qp.com | js75f.com | 2jsooo.com | www.390292.com | 111122jj.com | icesnow.com.cn | www.yh234g.com | 6245q.com | www.106167.com | www.1064f.com | 25288f.com | www.372411.com | www.xpj2006.com | 38886508.com | 3616.com | www.270sun.com | 88850nn.com | 06006y.com | www.hr1866.com | www.pj9567.com | 68963333.com | www.29277h.com | www.x99688.com | gui474.com | www.960923.com | www.5049v.com | 2096z.com | www.178213.com | www.925713.com | lt101.net | 5443h.com | www.4331k.com | www.0040i.com | jing7776.com | www.861099.com | www.tt123.la | 37570k.com | 3024r.com | www.81233d.com | www.80js.com | 3726m.com | www.069961.com | www.99552aa.com | www.717020.com | 51133h.com | www.ck09.com | www.xj7005.com | www.zs4444.com | 8722.com | www.393890.com | www.pjgw99.com | www.ks883.net | 9068f.com | www.955334.com | www.15223.com | gbhs44.com | 60772.com | www.c760.net | www.4058ww.com | www.ag803.com | 6396k.com | www.630958.com | www.279050.com | www.hgbb.com | 4880x.com | www.234279.com | www.55717h.com | www.26yh.com | 8030d.com | bbb5682.com | www.04gcw.com | www.255723.com | www.6033j.com | b1915b.com | www.luck887.com | www.32326.com | www.hg9556.com | 08809.vip | ppp3405.com | www.5658.cc | www.4136f.com | www.y00000.com | 9506f.com | 61329922.com | www.3416h.com | www.673888a.com | www.365635.com | 78808m.com | 3009h.com | www.3416l.com | www.4521.com | www.039898.com | 44qq8331.com | 078xl.com | hg77760.com | www.9356y.com | www.04567e.com | www.58777p.com | 85698u.com | 4060uu.com | www.178591.com | www.53900j.com | www.848777j.com | www.0860c.com | 1813aa.com | 45637i.com | 55545f.com | www.3416l.com | www.556537.com | www.hg586.com | 33225156.com | 3522s.cc | 1665j.com | 9649b.com | www.99jtj.com | www.3w555.com | www.346788.com | www.7720z.com | pj31.com | 060nnn.com | 2820q.com | www.602471.com | www.36788s.com | www.792074.com | www.18997.com | www.206365.com | y1771.com | mm99911.net | 22xx8332.com | www.040419.com | www.996563.com | www.ampj3434.com | www.3983151.com | www.01389.com | www.32126p.net | 4036ff.com | 88905050.com | 57157r.com | 983888k.com | www.813770.com | www.50054y.com | www.1388pp.com | www.hg1044.com | www.158444.com | www.sky2888.com | 88052.com | 159666p.com | 4018g.com | 58802h.com | 6647k.com | www.60123v.com | www.785803.com | www.08588p.com | www.9971001.com | www.33111177.com | www.4078e.com | www.567722.com | www.828685.com | www.sun8558.com | 552229.com | JS1388s.com | y4389.com | 94111.com | 8294d.com | 98955y.com | www.bizhong55.com | www.684077.com | www.55kcw.com | www.80075w.com | www.ylylc00.com | www.55676y.com | www.351532.com | www.28000z.com | www.7793a.com | www.vic040.com | www.58fc16.com | www.40033.1540033.com | www.87680m.com | www.1019993.com | www.6033y.com | 2007811.com | 2844q.com | 334611.com | fc9559.com | 8449qq.com | 28288ww.com | 5856rr.com | 3967f.com | 26789.com | hg2886.com | 4488yyy.com | 8988s.com | 0015vv.com | vic82.com | 53t.com | 33ww8332.com | 023932.com | 800034338.com | www.a8a8789.com | www.k88875.com | www.791xj.com | www.yinhecc77.com | www.76060k.com | www.hg9922.org | www.pj9799.com | www.ra1116.com | www.156kai.com | www.hg7814.com | www.hf9015.com | www.19019v.com | www.4996ah.com | www.q32031.com | www.0343u.com | www.77016.cc | www.5854l.cc | www.799427.com | www.375990.com | pj800.cc | tyc9892.com | 15a21.net | 1813vip.com | 9679m.com | 2021o.com | 2211760.com | www.76543p.com | www.5504pj.com | www.400131.com | www.sscb77.cc | www.33678mm.com | www.88yh21.com | www.86267l.com | www.2875h.com | www.803243.com | www.106076.com | 61322244.com | 3242c.com | 33382b.com | www.ylg343.com | www.330099k.com | www.9jsjs.com | www.e32939.com | www.44118i.com | www.d79839.com | www.00ttz.com | www.450568.com | 500000414.com | tzvip2020.com | 4036xx.com | hjcp77.com | 59889l.com | www.56520d.com | www.786666.com | www.b35rr.com | www.ykylc05.com | www.080wy.com | www.175906.com | 4546114.com | 66287u.com | 3131aa.cc | www.yh22778.com | www.4972t.com | www.0343n.com | www.ya230.com | bet8688.com | 5004mm.com | 7222730.com | www.ag9655.com | www.js645.com | www.04567q.com | www.4331d.com | www.810726.com | 70118c.com | xc860.top | 9995r.cc | www.zz00y.com | www.jsc899.com | www.2875w.com | 2127ii.com | 228449.com | 131a.net | www.js406.com | www.704901.com | www.36788n.com | www.77803o.com | mg437788.com | 5004hhh.com | www.dx205.com | www.78680v.com | www.c7268.com | ca1055.com | 3522s.cc | www.333133k.com | www.hg8yy.com | www.66710.cc | 97799a.com | 908080y.com | www.00829v.com | www.55060q.com | www.9478m.com | 4048eee.com | 850775.com | www.xpj99896.com | www.308105.com | www.617069.com | 1654t.com | cc2649.com | www.111ee9.com | www.80075z.com | 9222.com | b887.xyz | www.a11133.com | www.180662.com | www.43818i.com | hjcp188.com | www.2229193.com | www.14168.com | www.562602.com | 2072.com | www.yh8220.com | www.00778v.com | www.500599a.com | 58955.com | 888hg.com | www.yl258.com | www.2632t.com | 3016uuu.com | 185647.com | www.448246.com | www.202115.com | 61326644.com | www.hg4468.com | www.bwinyz38.com | www.581905.com | 075nn.com | www.xin006.com | www.9988gvb.com | www.178670.com | 4461e.com | www.xg289.net | www.3080.com | feicai0335.com | 22556b.com | www.j92776.com | www.927986.com | 77ee940.com | www.js3451.bet | www.37377x.com | 3004.com | mmmm4488.com | www.29098.com | www.43131q.com | bet28w.com | www.1705.com | www.607252.com | 93922m.com | www.402115.com | www.66082.cc | xpj5590.com | www.v15594.com | www.518pj.com | 077ll.com | www.bwin7788.com | www.pj56d.com | zhifu158.netqm118.cn | www.yh02345.com | www.7240u.com | 90856y.com | www.86611e.com | www.8905e.com | 655661155.com | www.3371777.com | www.087l.com | 15a6.net | www.7830a.com | www.80767b.com | 81511t.com | www.dy1166.com | www.07929.cc | yuhe.ooo | www.4399msc.com | www.632590.com | ahga008.com | www.5309678.com | www.50064o.com | 131ii.net | www.9187j.com | 01234www.com | www.546suncity.com | www.8667f.com | 38244s.com | www.hf6699.com | www.500770.com | pp5443.com | www.8577d.cc | 5478w.com | www.hg3098.com | www.890413.com | 365102f.com | www.6687x.com | 58222ee.com | www.3024.com | www.955708.com | e5429.com | www.hgdc400.com | 80878g.com | www.9679y.com | www.ascp9.com | dwj15.com | www.33678ll.com | pu22pu22.com | www.60sun.com | www.560529.com | 6868yy.cc | www.68993237.com | 09997.com | www.58665a.com | shen2211.com | www.25288s.com | www.914903.com | 3379n.com | www.13434d.com | 9539vip.com | www.4078r.com | d47479.com | www.pj2299.com | www.355284.com | www.68666h.com | www.8667o.com | 0015oo.com | www.yh8899.bet | 80188a.com | www.0092737.com | 2455a.com | www.w2826.com | 878365jj.com | www.hg58.pw | www.452805.com | www.700829.com | www.99jtd.com | 922160.com | www.50080k.com | 9971004.com | www.585732.com | 3405uu.com | www.v6996.com | 58222d.com | www.4058x.com | 79333.com | www.7415ll.com | yd12308.com | www.509029.com | 61789c.com | www.938y.cc | mm5144.com | www.255030.com | 23800c.com | www.85857a.com | 32126.net | www.120048.com | 3473m.com | www.w32939.com | 1665jj.com | www.788jyh.com | 76543e.com | www.xpjok.com | 4444211.com | www.980879.com | 888x2.com | www.48330.com | 8956789.com | www.89894h.com | 22556s.com | www.2688cai.com | www.8520m.com | www.732779.com | www.56520t.com | www.099323.com | www.9939365.com | 34g35.com | www.4694i.com | 0193377.com | www.6350.vip | tz3222.com | www.1222ac.com | www.0882389.com | www.605134.com | www.58777a.com | 5001c.com | www.5966rrr.com | 1434a.com | www.6880ff.com | 80368zz.com | www.33112f.com | 9474.com | www.xinyc1.com | www.am185.com | 0332v.com | www.aaa2848.com | bbo626.com | www.982jc.com | www.39695g.com | 69-xpj.com | www.109960.com | 00664002.com | www.08588i.com | 670.cc | www.196081.com | www.727000e.com | 5651k.com | www.48330c.com | 0033t.cc | www.320661.com | www.0724drf.com | yt313.com | www.js7583.com | 572755g.com | www.142525.com | www.56655n.com | 9339999.com | www.76520m.com | www.63877e.com | bet444000.com | www.38138z.com | x33u.vip | www.609813.com | www.789030.com | 5589c.com | www.84499p.com | www.8494o.com | 3121f.com | www.9895d.com | 3222v.cc | www.202423.com | www.16008.com | 6701n.com | www.938625.com | www.4965b.com | 87667.com | www.21202j.com | www.32666u.com | 31325h.com | www.bet365cn.net | www.87680f.com | 112y.net | www.sx139975.com | www.456589.com | 80567m.com | www.hd8676.com | www.yinhecc99.com | 38455.com | www.hg15588.com | www.653501.com | x5816.com | www.8582ww.com | www.39695q.com | 00339193.com | www.52303d.com | www.hai3333.com | 112o.net | www.75gcw.com | www.pj3333.com | 3807.com | www.579699.com | www.hga22200.com | 6220y.com | hd61788.com | www.4102o.com | www.pj5848.com | 145237.com | www.36788r.com | www.828798.com | 4465p.com | www.581166.com | www.9737kk.com | 11885156.com | 99151w.com | www.81233hh.com | www.hg2381.com | 9068w.com | www.550284.com | www.3066bb.com | www.yyhbet9.com | zoudayun88.com | www.08588y.com | www.597567.com | q888.com | 2546m.com | www.vip332.com | www.946466.com | 4036.com | 911520.com | www.89777w.com | www.555423.net | 53358h.com | www.083065.com | www.flb908.com | www.330099v.com | qqq40033.com | www.160912.com | www.94j.ceo | www.w9603.com | 167605.com | www.005710.com | www.4520077.com | www.h2272.com | 2jsyyy.com | 2096g.com | www.97655r.com | www.bz7888.com | 668cp.com | 66119vip.com | www.901068.com | www.15595.com | www.56520t.com | 4036x.com | www.33997o.com | www.js7583.com | www.4suncity.com | 30007v.com | 88535a.com | www.763659.com | www.614986.com | www.9949q.com | 4182006.com | 131bbb.net | www.sxyl1.com | www.623906.com | www.05125c.com | 6766ee.com | sbd1224.com | www.cp8013.cc | www.596345.com | www.4848p.com | 83138u.com | v96.com | www.558423.com | www.766777.cc | www.999530.com | 20177770.com | 7599.at | 87570ht.com | www.3552l.com | www.06820b.com | www.vip355.vip | 1115673.com | qy8.com | www.330291.com | www.4323y.com | www.4972w.com | www.40686d.com | j08199.com | 97618m.com | www.80767a.com | www.83560.com | www.06820r.com | www.amdc0005.com | 51200jj.com | vns00dd.com | 4052ii.com | www.701250.com | www.4923m.com | www.xpj2040.com | www.006074.com | 77p88.cc | www.www-26499.com | 444000x.com | 5456r.com | www.774808.com | www.0343f.com | www.79500b.com | www.9374l.com | 66185a.net | 9694y.com | www.338063.com | www.98779.com | www.38775ii.com | www.hg068008.com | www.09569t.com | 3222p.cc | iii3405.com | 2490p.com | 6220d.com | www.529355.com | www.15355z.com | www.0088hgee.com | www.98698m.com | www.tyc35.com | www.85770w.com | 5804o.com | 3568o.com | hr1811.com | sjlh66.com | www.578411.com | www.9818o.cc | www.5856857.com | www.hjdc2008.com | www.haomen2002.com | www.b3650.com | www.56733x.com | dzj0110.com | 93922e.com | 85698s.com | b62d.com | aa412dh.com | www.378017.com | www.gczj6.com | www.78949h.com | www.5551883.com | www.89677m.com | www.77731m.com | www.hg0423.com | www.ty7000.com | www.m1.10500ww.org | 896320.com | 80368qq.com | fc37.com | 9737dd.me | 90307i.com | 1018xpj.com | qq3189.com | www.106726.com | www.571477.com | www.cai004.vip | www.5086s.com | www.71233hh.com | www.415977.com | www.5700666.com | www.bet63m.com | www.d5680.com | www.hwx688.com | www.552772.com | www.tyc90.com | www.10050939.com | www.hgbet55.com | www.hg94444.com | www.38200l.com | www.vns4858.com | 5651m.com | r47479.com | 6245o.com | 0747w.com | a2554.com | 7t3777.com | j61653.com | 55588.com | hg77702.com | 00773h.com | 22qq8331.com | yf788.net | 2142255.com | df8b.com | 8988j.com | df8l.com | 76886o.com | 4182009.com | qjdy006.com | 61322222.com | 22299dd.com | dzhcp6.com | 009900y.com | 922545.com | bet3659096.com | 535.cc | www.2882389.com | www.hg50999.com | www.7435j.com | www.38200m.com | www.ag4898.com | www.4107c.com | www.330099o.com | www.pj9448.com | www.66333666.com | www.13383.com | www.77731v.com | www.2296877.com | www.4996gx.com | www.v2222.com | www.99094d.com | www.6482.com | www.08588c.com | www.fcsj.com | www.573678.com | www.m.cp533pc.vip | 3991100.com | 9420a.com | 4116w.com | 7240a.com | 5309x.com | zhcp73.com | www.28758v.com | www.84898v.com | www.88862.com | www.9c123.com | www.00778x.com | www.087c.com | www.3301855.com | www.6364t.com | www.588088a.com | www.516105.com | 80368aa.com | 5634j.com | 38850066.com | 54146677.com | swin6.com | www.vbo66.net | www.88837g.com | www.tm300.com | www.98698f.com | www.xpj8869.com | www.9646w.com | www.0ttz.com | www.338082.com | 99044.com | 15856v.com | 23599m.com | jiuzhoukefu.com | www.1366i.com | www.js743.com | www.673888s.com | www.8998799.com | www.371o.cc | www.377823.com | 1429b.com | 38850066.com | 2905.com | www.a3a888.cc | www.071094.com | www.a11166.com | www.y98478.com | www.1176.cc | www.176223.com | 88535v.com | jidu03.com | 2506a.com | www.567sbet.com | www.998855l.com | www.5446g.com | www.7777hv.com | www.053552.com | 12742d.com | 71234444.com | www.wns910.com | www.tbet899.com | www.12136h.com | www.371l.cc | 3522r.vip | 201866.com | 3379cc.com | www.b0008.com | www.1112737.com | www.18690a.com | www.571833.com | 66300vip35.com | 20053399.com | www.67797l.com | www.dzcp2222.com | www.455530.com | www.679957.com | 52xpj.org | 62222i.com | www.1xinhao.com | www.779626.com | www.2418g.com | www.541911.com | 8118522.com | 7720r.net | www.16297733.com | www.35252d.com | www.3933t.cc | y2894.com | mmm4165.com | www.pjbet3388.com | www.987072.com | www.81520g.com | www.80075i.com | 074o7.com | www.0444hg.com | www.77731m.com | www.89894n.com | www.62118a.com | hg22007.com | www.682844.com | www.i456x.com | www.65707n.com | nn32355.com | ddd3405.com | www.1366i.com | www.bet63d.com | www.11ttz.com | 3245v.com | 80060303.com | www.67845.com | www.x5088.com | www.203035.com | 3066lll.com | www.20088hg.com | www.cc55826.com | www.5086h.com | 61653.com | 4997q.com | www.773456.com | www.3a434.com | www.012288.com | 4136k.com | www.77537o.com | www.30350h.com | www.621361.com | 8569811x.com | www.7669c.net | www.9895h.com | www.589044.com | 13633.com | www.87680i.com | www.97994c.com | www.342677.com | 5219u.com | www.cs11666.com | www.abc3588.com | www.101282.com | 53358v.com | www.27177c.com | www.2221102.com | 5144m.com | xx5443.com | www.9418cp.com | www.cp8004.cc | 8381j.com | www.h7788w.com | www.7920k.com | www.60108u.com | jj7742.com | www.349000.com | www.09559.cc | 12772266.com | www.ag9921.com | www.44118d.com | www.89894o.com | 22299qq.com | www.01885c.com | www.444hy.cc | 2267h.com | www.777444n.com | www.bmw8044.com | 1483u.com | 746263.com | www.46630.info | www.191061.com | 3685z.com | www.998855s.com | www.950633.com | 8988222.com | www.282456.com | www.50064h.com | 1596bb.com | www.7025h.com | www.624202.com | 1114661.com | www.3236544.com | www.6939a.com | t67890.com | www.vns338.com | www.37377c.com | 9897.com | www.047886.com | www.93gj06.com | 1259w.com | www.929467.com | www.jxcp16888.com | 111000ii.com | www.09569d.com | www.60007f.com | 22115003.com | www.892099.com | www.5854x.cc | bwinqqq.com | www.xam88888.wang | www.828516.com | 4633377.com | www.1168c.com | www.250757.com | r2306.com | www.173151.com | wx3388.com | www.bm445566.com | www.6678573.com | 3222b.cc | www.572433.com | www.ya115.com | 35222q.com | www.8967d.com | www.36788u.com | b5369.com | www.5856881.com | 386345.com | www.81776.com | www.812680.com | n888699.com | www.30350f.com | 2349013.com | www.js60f.com | www.0014q.com | 5856ppp.com | www.4727188.com | 25288r.com | www.848xpj.com | www.5265.com | 4444211.com | www.3846q.com | www.250756.com | 2008tt.com | www.ya2019i.com | spj05.net | www.5360tt.com | 87578003.xyz | www.292xpj.com | www.29400.com | 4488v.com | www.7366003.com | 4411mmmm.com | www.800077gr.com | www.611026.com | 588fff.cc | www.rfdc07.com | 75991c.com | www.5099ii.com | 996622pp.com | www.amyh9888.com | www.769588.com | uu38648.com | www.99788h.com | 40033ff.com | www.l7764.com | 509.co | www.22557t.com | 99567j.com | www.58777v.com | www.700590.com | hg168l.com | www.71399h.com | wnsr8829.com | www.000128522.com | jxf963.com | www.4828448.com | 459.com |