elasticsearch專欄：https://www.cnblogs.com/hello-shf/category/1550315.html
一、集群健康
Elasticsearch 的集群監控信息中包含了許多的統計數據，其中最為重要的一項就是集群健康，它在 status 字段中展示為 green 、 yellow 或者 red。
在kibana中執行：GET /_cat/health?v
1 epoch timestamp cluster status node.total node.data shards pri relo init unassign pending_tasks max_task_wait_time active_shards_percent
2 1568794410 08:13:30 my-application yellow 1 1 47 47 0 0 40 0 - 54.0%
其中我們可以看到當前我本地的集群健康狀態是yellow ，但這里問題來了，集群的健康狀況是如何進行判斷的呢？
green（很健康）
所有的主分片和副本分片都正常運行。
yellow（亞健康）
所有的主分片都正常運行，但不是所有的副本分片都正常運行。
red（不健康）
有主分片沒能正常運行。
注意：
我本地只配置了一個單節點的elasticsearch，因為primary shard和replica shard是不能分配到一個節點上的所以，在我本地的elasticsearch中是不存在replica shard的，所以健康狀況為yellow。
二、shard和replica
為了將數據添加到Elasticsearch，我們需要索引(index)——一個存儲關聯數據的地方。實際 上，索引只是一個用來指向一個或多個分片(shards)的“邏輯命名空間(logical namespace)”. 一個分片(shard)是一個最小級別“工作單元(worker unit)”,它只是保存了索引中所有數據的一 部分。道分片就是一個Lucene實例，并且它本身就是一個完整的搜索引擎。我們的文檔存儲在分片中，并且在分片中被索引，但是我們的應用程序不會直接與它們通信，取而代之的是，直接與索引通信。 分片是Elasticsearch在集群中分發數據的關鍵。把分片想象成數據的容器。文檔存儲在分片中，然后分片分配到你集群中的節點上。當你的集群擴容或縮小，Elasticsearch將會自動在你的節點間遷移分片，以使集群保持平衡。 分片可以是主分片(primary shard)或者是復制分片(replica shard)。
你索引中的每個文檔屬于一個單獨的主分片，所以主分片的數量決定了索引最多能存儲多少數據。 理論上主分片能存儲的數據大小是沒有限制的，限制取決于你實際的使用情況。分片的最大容量完全取決于你的使用狀況：硬件存儲的大小、文檔的大小和復雜度、如何索引 和查詢你的文檔，以及你期望的響應時間。
復制分片只是主分片的一個副本，它可以防止硬件故障導致的數據丟失，同時可以提供讀請 求，比如搜索或者從別的shard取回文檔。 當索引創建完成的時候，主分片的數量就固定了，但是復制分片的數量可以隨時調整。 讓我們在集群中唯一一個空節點上創建一個叫做 blogs 的索引。默認情況下，一個索引被分配5個主分片，一個主分片默認只有一個復制分片。
重點：
shard分為兩種：
1，primary shard --- 主分片 2，replica shard --- 復制分片（或者稱為備份分片或者副本分片）
需要注意的是，在業界有一個約定俗稱的東西，單說一個單詞shard一般指的是primary shard，而單說一個單詞replica就是指的replica shard。
另外一個需要注意的是replica shard是相對于索引而言的，如果說當前index有一個復制分片，那么相對于主分片來說就是每一個主分片都有一個復制分片，即如果有5個主分片就有5個復制分片，并且主分片和復制分片之間是一一對應的關系。
很重要的一點：primary shard不能和replica shard在同一個節點上。重要的事情說三遍：
primary shard不能和replica shard在同一個節點上
primary shard不能和replica shard在同一個節點上
primary shard不能和replica shard在同一個節點上
所以es最小的高可用配置為兩臺服務器。
三、master節點、協調節點和節點對等特性
elasticsearch同大多數的分布式架構，也會進行主節點的選舉，elasticsearch選舉出來的主節點主要承擔一下工作：
1 集群層面的設置 2 集群內的節點維護 3 集群內的索引、映射（mapping）、分詞器的維護 4 集群內的分片維護
不同于hadoop、mysql等的主節點，elasticsearch的master將不會成為整個集群環境的流量入口，即其并不獨自承擔文檔級別的變更和搜索（curd），也就意味著當流量暴增，主節點的性能將不會成為整個集群環境的性能瓶頸。這就是elasticsearch的節點對等特性。
節點對等：
所謂的節點對等就是在集群中每個節點扮演的角色都是平等的，也就意味著每個節點都能成為集群的流量入口，當請求進入到某個節點，該節點就會暫時充當協調節點的角色，對請求進行路由和處理。這是一個區別于其他分布式中間件的很重要的特性。節點對等的特性讓elasticsearch具備了負載均衡的特性。在后面對document的寫入和搜索會詳細介紹該牛叉的特性。
協調節點：
通過上面的分析，我們可以得出一個結論，協調節點其實就是請求命中的那個節點。該節點將承擔當前請求的路由工作。
四、擴容
一般的擴容模式分為兩種，一種是水平擴容，一種是垂直擴容。
4.1、垂直擴容：
所謂的垂直擴容就是升級服務器，買性能更好的，更貴的然后替換原來的服務器，這種擴容方式不推薦使用。因為單臺服務器的性能總是有瓶頸的。
4.2、水平擴容：
水平擴容也稱為橫向擴展，很簡單就是增加服務器的數量，這種擴容方式可持續性強，將眾多普通服務器組織到一起就能形成強大的計算能力。水平擴容 VS 垂直擴容用一句俗語來說再合適不過了：三個臭皮匠賽過諸葛亮。
4.3、垂直擴容的過程分析
上面我們詳細介紹了分片，master和協調節點，接下來我們通過畫圖的方式一步步帶大家看看橫向擴容的過程。
首先呢需要鋪墊一點關于自定義索引shard數量的操作
1 PUT /student 2 { 3 "settings" : { 4 "number_of_shards" : 3, 5 "number_of_replicas" : 1 6 } 7 }
以上代碼意味著我們創建的索引student將會分配三個primary shard和三個replica shard（至于上面為什么是1，那是相對于索引來說的，前面解釋過）。
4.3.1、一臺服務器
當我們只有一臺服務器的時候，shard是怎么分布的呢？
,【的身】【像是】【知道】【驚不】【從今】【族的】【話那】【不能】【從的】【數不】【了血】【密沒】【黑色】【口大】【了解】黑帽seo技術【界開】【任何】【號沒】【法時】【蟲神】【四重】【大乍】【一抽】【增長】【尊水】【靈樹】【地還】,注：P代表primary shard， R代表replica shard。明確一點在后面的描述中默認一個es節點在一臺服務器上。
分析一下上面的過程，首先需要明確的兩點：
1，primary shard和replica shard不能再同一臺機器上，因為replica和shard在同一個節點上就起不到副本的作用了。
2，當集群中只有一個節點的時候，node1節點將成為主節點。它將臨時管理集群級別的一些變更，例如新建或 刪除索引、增加或移除節點等。
明確了上面兩點也就很簡單了，因為集群中只有一個節點，該節點將直接被選舉為master節點。其次我們為student索引分配了三個shard，由于只有一個節點，所以三個primary shard都被分配到該節點，replica shard將不會被分配。此時集群的健康狀況為yellow。
4.3.2、增加一臺服務器
接著上面繼續，我們增加一臺服務器，此時shard是如何分配的呢？
Rebalance（再平衡），當集群中節點數量發生變化時，將會觸發es集群的rebalance，即重新分配shard。Rebalance的原則就是盡量使shard在節點中分布均勻，達到負載均衡的目的。
原先node1節點上有p0、p1、p2三個primary shard，另外三個replica shard還未分配，當集群新增節點node2，觸發集群的Rebalance，另外三個replica shard將被分配到node2上，即如上圖所示。
此時集群中所有的primary shard和replica shard都是active（可用）狀態的所以此時集群的健康狀況為yellow?？梢奺s集群的最小高可用配置就是兩太服務器。
4.3.3、繼續新增服務器
繼續新增服務器，集群將再次進行Rebalance，在primary shard和replica shard不能分配到一個節點上的原則，這次rebalance同樣本著使shard均勻分布的原則，將會從node1上將P1，P2兩個primary shard分配到node1，node2上面，然后將node2在primary shard和replica shard不能分配到一臺機器上的原則上將另外兩個replica shard分配到node1和node2上面。
注意：具體的分配方式上，可能是P0在node2上面也有可能在node3上面，但是只要本著Rebalance的原則將shard均勻分布達到負載均衡即可。
五、集群容災
分布式的集群是一定要具備容災能力的，對于es集群同樣如此，那es集群是如何進行容災的呢？接下來聽我娓娓道來。
在前文我們詳細講解了primary shard和replica shard。replica shard作為primary shard的副本當集群中的節點發生故障，replica shard將被提升為primary shard。具體的演示如下
集群中有三臺服務器，其中node1節點為master節點，primary shard 和 replica shard的分布如上圖所示。此時假設node1發生宕機，也就是master節點發生宕機。此時集群的健康狀態為red，為什么呢？因為不是所有的primary shard都是active的。
具體的容災過程如下：
1，重新選舉master節點，當es集群中的master節點發生故障，此時es集群將再次進行master的選舉，選舉出一個新的master節點。假設此時新的主節點為node2。
2，node2被選舉為新的master節點，node2將作為master行駛其分片分配的任務。
3，replica shard升級，此時master節點會尋找node1節點上的P0分片的replica shard，發現其副本在node2節點上，然后將R0提升為primary shard。這個升級過程是瞬間完成的，就像按下一個開關一樣。因為每一個shard其實都是lucene的實例。此時集群如下所示，集群的健康狀態為yellow，因為不是每一個replica shard都是active的。
容災的過程如上所示，其實這也是一般分布式中間件容災備份的一般手段。如果你很了解kafka的話，這個就很容易理解了。
參考文獻：
《elasticsearch-權威指南》
如有錯誤的地方還請留言指正。
原創不易，轉載請注明原文地址：https://www.cnblogs.com/hello-shf/p/11543468.html
|轉載請注明來源地址：蜘蛛池出租 http://m.gzxyxkj.cn/專注于SEO培訓，快速排名黑帽SEO https://www.heimao.wiki