Filebeat通過將每次發(fā)送的數(shù)據狀態(tài)都存儲在Registry文件中來確保數(shù)據不丟失。如果發(fā)送的Output端沒有返回確認信息,F(xiàn)ilebeat將 會繼續(xù)嘗試發(fā)送上- -次的數(shù)據,直到Output端返回給Filebeat確認接收信息為止。
當向Output端發(fā)送數(shù)據,或者還沒有接收到Output端返回的確認信息時,如Filebeat因異常退出而關閉,那么在Filebeat重啟后,將會把上一次發(fā)送的數(shù)據再發(fā)送一遍,以確保數(shù)據至少被接收一次。 所以在Output端 可能會出現(xiàn)重復的數(shù)據。我們可以通過shutdown_ timeout來設 置Filebeat關閉前等待的時間。
當使用Kafka作為Output時,如果不要求數(shù)據的完整性,則可以容忍少量的丟失數(shù)據。我們也可以通過設置required _acks參數(shù)來提高Filebeat發(fā)送數(shù)據的效率,required_ _acks默認值為1, 表示等待Kafka接收副本返回確認信息;設置為o,表示Kafka不返回確認接收信息,F(xiàn)ilebeat將會持續(xù)發(fā)送; 設置為-1, 表示需要等待Kafka所有副本確認接收信息后,才繼續(xù)發(fā)送。
當前題目:Filebeat如何確保數(shù)據不丟失
當前URL:http://jinyejixie.com/news6/105006.html
成都網站建設公司_創(chuàng)新互聯(lián),為您提供靜態(tài)網站、電子商務、網站設計公司、手機網站建設、網站導航、企業(yè)網站制作
廣告
聲明:本網站發(fā)布的內容(圖片、視頻和文字)以用戶投稿、用戶轉載內容為主,如果涉及侵權請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內容未經允許不得轉載,或轉載時需注明來源:
創(chuàng)新互聯(lián)