Kibana4簡單使用
為安福等地區(qū)用戶提供了全套網(wǎng)頁設(shè)計制作服務(wù),及安福網(wǎng)站建設(shè)行業(yè)解決方案。主營業(yè)務(wù)為成都網(wǎng)站設(shè)計、網(wǎng)站制作、安福網(wǎng)站設(shè)計,以傳統(tǒng)方式定制建設(shè)網(wǎng)站,并提供域名空間備案等一條龍服務(wù),秉承以專業(yè)、用心的態(tài)度為用戶提供真誠的服務(wù)。我們深信只要達到每一位用戶的要求,就會得到認可,從而選擇與我們長期合作。這樣,我們也可以走得更遠!
center
# ELK日志系統(tǒng)使用說明 #
/center
**k3與k4的對比**
![](https//git.zhubajie.la/caojiaojiao/System/raw/master/image/kibana4/%E5%AF%B9%E6%AF%94.png)![](https//git.zhubajie.la/caojiaojiao/System/raw/master/image/kibana4/%E5%AF%B9%E6%AF%9434.png)1.界面美觀:Kibana4 至今未提供類似 Kibana3 中的 Query 設(shè)置功能,包括 Query 別名和顏色選擇器這兩個常用功能2.日志顯示:kibana4有高亮顯示
3.頁面設(shè)計:Kibana3 就是一個圍繞著 dashboard 構(gòu)建的單頁應(yīng)用。在頁面邏輯上,Kibana3比較簡潔,Kibana4稍復(fù)雜。
center
##一、 系統(tǒng)介紹
/center
ELK(logstash+elasticsearch+kibana)是一套開源的實時日志分析系統(tǒng)。目前這套系統(tǒng)已經(jīng)在小范圍內(nèi)使用了。針對各位開發(fā)人員,無需關(guān)心系統(tǒng)底層的實現(xiàn),只需關(guān)注kibana的使用即可。kibana4中,將功能拆分成了搜索(Discover),可視化(Visualize)和儀表盤(Dashboard)三個標簽,我們使用最多的地方即是搜索,目前就給大家主要介紹搜索頁面的使用。
center
##二、 kibana4的使用
/center
登錄入口:運維平臺--應(yīng)用中心:ELK
地址:https//op.zhubajie.la/
center
## 快速查詢項目日志
/center
**選擇面板--選擇項目**
![](https//git.zhubajie.la/caojiaojiao/System/raw/master/image/kibana4/%E9%A1%B9%E7%9B%AE.png)首先選擇面板,搜索框輸入:tags:"項目名" 或host:"項目名" 即可查看對應(yīng)項目的日志center
## discover 功能 ##
/center
Discover 標簽頁用于交互式探索你的數(shù)據(jù)。你可以訪問到匹配得上你選擇的索引模式的每個索引的每條記錄。你可以提交搜索請求,過濾搜索結(jié)果,然后查看文檔數(shù)據(jù)。你還可以看到匹配搜索請求的文檔總數(shù),獲取字段值的統(tǒng)計情況。如果索引模式配置了時間字段,文檔的時序分布情況會在頁面頂部以柱狀圖的形式展示出來。
![](https//git.zhubajie.la/caojiaojiao/System/raw/master/image/kibana4/%E4%B8%BB%E9%9D%A2%E6%9D%BF.png)**查看日志數(shù)據(jù)**
![](https//git.zhubajie.la/caojiaojiao/System/raw/master/image/kibana4/%E6%97%A5%E5%BF%97%E8%AF%A6%E7%BB%86%E5%86%85%E5%AE%B9.png)點擊日志內(nèi)容中的小三角,查看日志詳細內(nèi)容。
要在單獨的頁面上查看文檔內(nèi)容,點擊鏈接。你可以添加書簽或者分享這個鏈接,以直接訪問這條特定文檔。
**1) 搜索數(shù)據(jù)**
在 Discover 頁提交一個搜索,你就可以搜索匹配當前索引模式的索引數(shù)據(jù)了。
當你提交搜索的時候,直方圖,文檔表格,字段列表,都會自動反映成搜索的結(jié)果。hits(匹配的文檔)總數(shù)會在直方圖的右上角顯示。
*在搜索框內(nèi)輸入請求字符串*:
- **通配符**:用 ? 表示單字母,* 表示任意個字母。比如 fir?t mess*。
- **簡單的文本搜索**:直接輸入文本字符串。比如,如果你在搜索網(wǎng)站服務(wù)器日志,你可以輸入error 來搜索各字段中的 error單詞。
- **搜索特定字段的值**:則在值前加上字段名。比如 status:200- **范圍搜索**:對數(shù)值和時間,[START_VALUE TO END_VALUE]。比如,要查找 4xx 的狀態(tài)碼,status:[400 TO 499]。
- **多個檢索條件的組合**:可以使用 NOT, AND 和 OR 來組合檢索,**注意必須是大寫**。比如,要查找 4xx 的狀態(tài)碼,還是 php 或 html 結(jié)尾的數(shù)據(jù), status:[400 TO 499] AND (extension:php OR extension:html)。其中,[] 表示端點數(shù)值包含在范圍內(nèi),{} 表示端點數(shù)值不包含在范圍內(nèi)。
- 近似搜索:用 ~ 表示搜索單詞可能有一兩個字母寫的不對。比如 frist~;**2) 設(shè)置時間過濾器**
默認的時間過濾器設(shè)置為最近 15 分鐘。你可以用頁面頂部的時間選擇器(Time Picker)來修改時間過濾器。
![](https//git.zhubajie.la/caojiaojiao/System/raw/master/image/kibana4/timer.png)**3) 日志索引設(shè)置**
- Nginx日志索引:[logstash-nginx-*]
- 服務(wù)化Nginx日志索引:[api-nginx-]YYYY.MM.DD- Java日志索引:[logstash-jetty-]YYYY.MM.DD- php日志索引:[logstash-php-*]
- mysql日志索引:[logstash-]YYYY.MM.DD
- 其他日志:[logstash-]YYYY.MM.DD (注:該索引為系統(tǒng)默認索引,需搜索其他日志,請按步驟改變索引即可)![](https//git.zhubajie.la/caojiaojiao/System/raw/master/image/kibana4/%E7%B4%A2%E5%BC%95.png)**4) 保存搜索**
你可以在 Discover 頁加載已保存的搜索面板,也可以用作 visualizations 的基礎(chǔ)。保存一個搜索,意味著同時保存下了搜索請求字符串和當前選擇的索引模式。
table
td
保存當前搜索:
1.點擊 Discover 工具欄的 Save Search 按鈕2.輸入一個名稱,點擊 Save。
加載一個已存搜索:
1.點擊 Discover 工具欄的 Load Search 按鈕 。
2.選擇你要加載的搜索。
如果已保存的搜索關(guān)聯(lián)到跟你當前選擇的索引模式不一樣的其他索引上,加載這個搜索也會切換當前的已選索引模式。
/td
/table
**5) 改變你搜索的索引**
當你提交一個搜索請求,匹配當前的已選索引模式的索引都會被搜索。當前模式模式會顯示在搜索欄下方。要改變搜索的索引,需要選擇另外的模式模式。
要選擇另外的索引模式:
(1).點擊 Discover 工具欄的 Settings 按鈕 。
(2).從索引模式列表中選取你打算采用的模式。
**6) 自動刷新頁面**
亦可以配置一個刷新間隔來自動刷新 Discover 頁面的最新索引數(shù)據(jù)。這回定期重新提交一次搜索請求。
設(shè)置刷新間隔后,會顯示在菜單欄時間過濾器的左邊。
要設(shè)置刷新間隔:
1.點擊菜單欄右上角的 Time Filter 。
2.點擊 Refresh Interval 標簽。
3.從列表中選擇一個刷新間隔。
要想自動刷新數(shù)據(jù),點擊 Auto-refresh 按鈕然后選擇一個自動刷新間隔:
SOLyog的下載、安裝以及使用很簡單。我去了相關(guān)網(wǎng)站下載,它只有384K字節(jié)大小。它把兩個文件(一個可執(zhí)行文件.exe和一個動態(tài)鏈接庫文件.dll)安裝到C:\Program Files\SQLyog路徑下。然后運行可執(zhí)行文件。
安裝后沒有必要再訪問該網(wǎng)站了,我訪問該網(wǎng)站是得到了一個消息,說它的域名沒有設(shè)置(configured)、登記、或正在建設(shè)中。我不清楚這個問題是暫時的還是一直是這樣。該軟件是免費的,并且沒有標志廣告(banner ads),所以它可能是一個特定的尚未最終定型的商業(yè)模型。最終可能還是要負費的。
數(shù)據(jù)庫、表格(table)和列樹(column tree)
該程序一啟動就開始詢問我的登錄到MySOL服務(wù)器的口令。我只需要輸入我的服務(wù)器名字、用戶id和登錄密碼。所有其它的設(shè)置都是正確的默認值。然后(當我開始其它事務(wù)、重啟幾次、睡了一會之后),我重新運行該程序,這時只需要再次輸入我的登錄密碼。該程序沒有保存密碼的選項,你可以認為這是該程序的一個bug,也可以說是程序的保密特性。
一旦你登錄之后,界面就是很值得注意。MySOL服務(wù)器上所有的數(shù)據(jù)庫都顯示在一個樹型控件上。你只能訪問你在登錄時授權(quán)的那個數(shù)據(jù)庫。如果你點開代表授權(quán)給你的那個數(shù)據(jù)庫的樹型結(jié)構(gòu),你就可以看到一系列代表表格的節(jié)點。點開表格節(jié)點后,你就可以看到一系列顯示字段名的節(jié)點和另一個代表索引的節(jié)點集合。
索引界面絕對是個好東東,這樣你就可以CRUD查詢索引和關(guān)鍵字了。這相對前端數(shù)據(jù)庫如Microsoft Access來說是個提高。如果考慮到MySOL剛剛開始提供對主(primary)和非相關(guān)(foreign)關(guān)鍵字關(guān)系的支持,本程序這部分的設(shè)計是很成熟的。在右下方的面板上,有四個標簽頁,即:結(jié)果(Result)、消息(Message)、對象(Object)和歷史(History)。
在SQLyog FAQ上,有一種觀點認為該軟件沒有正式歸檔的必要。當然,F(xiàn)AQ(常見問題解答)本身就是一種歸檔。SQLyog的界面非常直觀。我建議你打印一份MySOL文檔(包括SQL特殊語法擴展)。我就是這么做的,它只用了一個半英寸的活頁封面。
最后一步?FAQ還讓人想到一個讓人耳朵起了老繭卻又是正確的Occam's Razor準則——一切超出必要的復(fù)雜性都是沒有必要的。我之所以到處“推銷”這個工具,就是因為它可以為我們提供一個可以管理MySOL服務(wù)器上許多數(shù)據(jù)庫的、簡單的、圖形化的界面。它的速度極快,并且它的拷貝很小(可以放在一張軟盤上)。
SQLyog宣稱自己是一個查詢分析器,實際上它的功能遠遠不止這些。
1、點擊左上角的英文或者中文連接
2、在彈出框中輸入目標數(shù)據(jù)庫信息
3、點擊彈出框左下角測試,成功后點擊確定
一、數(shù)據(jù)收集
數(shù)據(jù)收集是數(shù)據(jù)分析的最基本操作,你要分析一個東西,首先就得把這個東西收集起來才行。由于現(xiàn)在數(shù)據(jù)采集的需求,一般有Flume、Logstash、Kibana等工具,它們都能通過簡單的配置完成復(fù)雜的數(shù)據(jù)收集和數(shù)據(jù)聚合。
二、數(shù)據(jù)預(yù)處理
收集好以后,我們需要對數(shù)據(jù)去做一些預(yù)處理。千萬不能一上來就用它做一些算法和模型,這樣的出來的結(jié)果是不具備參考性的。數(shù)據(jù)預(yù)處理的原因就是因為很多數(shù)據(jù)有問題,比如說他遇到一個異常值(大家都是正的,突然蹦出個負值),或者說缺失值,我們都需要對這些數(shù)據(jù)進行預(yù)處理。
三、數(shù)據(jù)存儲
數(shù)據(jù)預(yù)處理之后,下一個問題就是:數(shù)據(jù)該如何進行存儲?通常大家最為熟知是MySQL、Oracle等傳統(tǒng)的關(guān)系型數(shù)據(jù)庫,它們的優(yōu)點是能夠快速存儲結(jié)構(gòu)化的數(shù)據(jù),并支持隨機訪問。但大數(shù)據(jù)的數(shù)據(jù)結(jié)構(gòu)通常是半結(jié)構(gòu)化(如日志數(shù)據(jù))、甚至是非結(jié)構(gòu)化的(如視頻、音頻數(shù)據(jù)),為了解決海量半結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)的存儲,衍生了HadoopHDFS、KFS、GFS等分布式文件系統(tǒng),它們都能夠支持結(jié)構(gòu)化、半結(jié)構(gòu)和非結(jié)構(gòu)化數(shù)據(jù)的存儲,并可以通過增加機器進行橫向擴展。
四、數(shù)據(jù)分析
做數(shù)據(jù)分析有一個非常基礎(chǔ)但又極其重要的思路,那就是對比,基本上 90% 以上的分析都離不開對比。主要有:縱比、橫比、與經(jīng)驗值對比、與業(yè)務(wù)目標對比等。
五、數(shù)據(jù)運用
其實也就是把數(shù)據(jù)結(jié)果通過不同的表和圖形,可視化展現(xiàn)出來。使人的感官更加的強烈。常見的數(shù)據(jù)可視化工具可以是excel,也可以用power BI系統(tǒng)。
六、總結(jié)分析
根據(jù)數(shù)據(jù)分析的結(jié)果和報告,提出切實可行的方案,幫助企業(yè)決策等。
關(guān)于數(shù)據(jù)分析的具體流程是什么,青藤小編就和您分享到這里了。如果您對大數(shù)據(jù)工程有濃厚的興趣,希望這篇文章可以為您提供幫助。如果您還想了解更多關(guān)于數(shù)據(jù)分析師、大數(shù)據(jù)工程師的技巧及素材等內(nèi)容,可以點擊本站的其他文章進行學(xué)習(xí)。
分享題目:mysql數(shù)據(jù)分析怎么做 mysql 分析
網(wǎng)站地址:http://jinyejixie.com/article16/dodpjgg.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供云服務(wù)器、商城網(wǎng)站、App設(shè)計、建站公司、企業(yè)建站、軟件開發(fā)
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時需注明來源: 創(chuàng)新互聯(lián)