ES的聚合是其一大特色。然而出于性能的考慮, ES的聚合是以分片Shard為單位,而非Index為單位, 所以
有些聚合的準(zhǔn)確性是需要注意的。 比如: TermAggregations.
es的基數(shù)聚合使用到了hyperloglog算法。 出于好奇,了解了一下。
在海量數(shù)據(jù)場(chǎng)景下, 我們通常會(huì)遇到這樣的兩個(gè)問(wèn)題:
數(shù)據(jù)排重。比如在推送消息場(chǎng)景,消息重復(fù)對(duì)用戶是打擾, 用戶發(fā)券場(chǎng)景, 重復(fù)發(fā)券就是損失了。
如何高效解決這兩類問(wèn)題呢?
對(duì)于數(shù)據(jù)排重, 我們可以使用布隆過(guò)濾器。java 樣列代碼如下:
BloomFilter<String> bloomFilter = BloomFilter.create(new Funnel<String>() {
private static final long serialVersionUID = 1L;
@Override
public void funnel(String arg0, PrimitiveSink arg1) {
arg1.putString(arg0, Charsets.UTF_8);
}
}, 1024*1024*32);
bloomFilter.put("asdf");
bloomFilter.mightContain("asdf");
對(duì)于計(jì)數(shù), 我們可以使用HyperLogLog算法,ES中已經(jīng)有相關(guān)的實(shí)現(xiàn)。
其實(shí)封裝一下,布隆過(guò)濾器也是能直接實(shí)現(xiàn)HyperLogLog算法的功能的。
這里遺留幾個(gè)問(wèn)題,思考清楚后補(bǔ)充:
另外有需要云服務(wù)器可以了解下創(chuàng)新互聯(lián)scvps.cn,海內(nèi)外云服務(wù)器15元起步,三天無(wú)理由+7*72小時(shí)售后在線,公司持有idc許可證,提供“云服務(wù)器、裸金屬服務(wù)器、高防服務(wù)器、香港服務(wù)器、美國(guó)服務(wù)器、虛擬主機(jī)、免備案服務(wù)器”等云主機(jī)租用服務(wù)以及企業(yè)上云的綜合解決方案,具有“安全穩(wěn)定、簡(jiǎn)單易用、服務(wù)可用性高、性價(jià)比高”等特點(diǎn)與優(yōu)勢(shì),專為企業(yè)上云打造定制,能夠滿足用戶豐富、多元化的應(yīng)用場(chǎng)景需求。
本文標(biāo)題:ES聚合學(xué)習(xí)筆記之--HyperLogLog與BloomFilter-創(chuàng)新互聯(lián)
文章源于:http://jinyejixie.com/article34/djejse.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供關(guān)鍵詞優(yōu)化、全網(wǎng)營(yíng)銷推廣、Google、商城網(wǎng)站、用戶體驗(yàn)、自適應(yīng)網(wǎng)站
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請(qǐng)盡快告知,我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如需處理請(qǐng)聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時(shí)需注明來(lái)源: 創(chuàng)新互聯(lián)
猜你還喜歡下面的內(nèi)容