成人午夜视频全免费观看高清-秋霞福利视频一区二区三区-国产精品久久久久电影小说-亚洲不卡区三一区三区一区

ClickHouse集群搭建的方法

這篇文章主要介紹“ClickHouse集群搭建的方法”,在日常操作中,相信很多人在ClickHouse集群搭建的方法問題上存在疑惑,小編查閱了各式資料,整理出簡單好用的操作方法,希望對大家解答”ClickHouse集群搭建的方法”的疑惑有所幫助!接下來,請跟著小編一起來學習吧!

創(chuàng)新互聯(lián)公司從2013年創(chuàng)立,是專業(yè)互聯(lián)網技術服務公司,擁有項目做網站、網站建設網站策劃,項目實施與項目整合能力。我們以讓每一個夢想脫穎而出為使命,1280元會同做網站,已為上家服務,為會同各地企業(yè)和個人服務,聯(lián)系電話:028-86922220

ClickHouse是一個列導向數(shù)據庫,是原生的向量化執(zhí)行引擎。它在大數(shù)據領域沒有走Hadoop生態(tài),而是采用Local attached  storage作為存儲,這樣整個IO可能就沒有Hadoop那一套的局限。它的系統(tǒng)在生產環(huán)境中可以應用到比較大的規(guī)模,因為它的線性擴展能力和可靠性保障能夠原生支持shard+replication這種解決方案。它還提供了一些SQL直接接口,有比較豐富的原生client。

ClickHouse數(shù)據庫的特點:

  • 速度快ClickHouse性能超過了市面上大部分的列式存儲數(shù)據庫,相比傳統(tǒng)的數(shù)據ClickHouse要快100-1000倍,ClickHouse還是有非常大的優(yōu)勢。1億數(shù)據集:ClickHouse比Vertica約快5倍,比Hive快279倍,比MySQL快801倍。10億數(shù)據集:ClickHouse比Vertica約快5倍,MySQL和Hive已經無法完成任務了。

  • 功能多1.支持類SQL查詢;2.支持繁多庫函數(shù)(例如IP轉化,URL分析等,預估計算/HyperLoglog等);3.支持數(shù)組(Array)和嵌套數(shù)據結構(Nested  Data Structure);4.支持數(shù)據庫異地復制部署。

要注意,由于ClickHouse的快速查詢還是基于系統(tǒng)資源的,因此在使用的時候要注意每個節(jié)點上的存儲量,以及節(jié)點機器的系統(tǒng)資源要充足。因為查詢時是使用內存進行聚合,所以同時并發(fā)查詢的數(shù)量不能太多,否則就會造成資源崩潰。

環(huán)境配置

ClickHouse集群搭建的方法

初始化環(huán)境(所有節(jié)點)

# 修改機器的hostname vi /etc/hostname  # 配置hosts vi /etc/hosts  192.168.143.20 node1 192.168.143.21 node2 192.168.143.22 node3

修改完后,執(zhí)行hostname node1...3,不用重啟機器使其生效

下載并安裝ClickHouse(所有節(jié)點)

ClickHouse集群搭建的方法

主要下載四個文件:

  • Clickhouse-client

  • Clickhouse-common-static

  • Clickhouse-server

  • clickhouse-server-common

rpm -ivh *.rpm

安裝 zookeeper(任意一個節(jié)點)

# 我這里選擇node1 docker run -d --net host --name zookeeper zookeeper

 配置集群(所有節(jié)點)

修改/etc/clickhouse-server/config.xml

<!-- 將下面行注釋去掉 --> <listen_host>::</listen_host>  <!-- 修改默認數(shù)據存儲目錄,比如在/home下創(chuàng)建目錄clickhouse --> <path>/var/lib/clickhouse/</path> <!-- 修改為如下 --> <path>/home/clickhouse/</path>

修改/etc/clickhouse-server/users.xml

<!-- 配置查詢使用的內存,根據機器資源進行配置 --> <max_memory_usage>5000000000000</max_memory_usage>  <!-- 在</users>前面增加用戶配置 --> <root>   <!-- 通過Linux命令計算出密碼的sha256加密值 -->   <password_sha256_hex>xxxx...xxxx</password_sha256_hex>   <networks>     <ip>::/0</ip>   </networks>   <profile>default</profile>   <quota>default</quota> </root>

增加配置文件/etc/metrika.xml

<yandex>   <!-- ck集群節(jié)點 -->   <clickhouse_remote_servers>     <test_cluster>       <shard>         <internal_replication>true</internal_replication>         <replica>           <host>node1</host>           <port>9000</port>           <user>root</user>           <password>123456</password>         </replica>       </shard>       <shard>         <internal_replication>true</internal_replication>         <replica>           <host>node2</host>           <port>9000</port>           <user>root</user>           <password>123456</password>         </replica>       </shard>       <shard>         <internal_replication>true</internal_replication>         <replica>           <host>node3</host>           <port>9000</port>           <user>root</user>           <password>123456</password>         </replica>       </shard>     </test_cluster>          <!-- zookeeper相關配置-->     <zookeeper-servers>       <node index="1">         <host>node1</host>         <port>2181</port>       </node>     </zookeeper-servers>          <networks>       <ip>::/0</ip>     </networks>          <macros>       <replica>node1</replica>     </macros>          <!-- 壓縮相關配置 -->     <clickhouse_compression>       <case>         <min_part_size>10000000000</min_part_size>         <min_part_size_ratio>0.01</min_part_size_ratio>         <method>lz4</method>       </case>     </clickhouse_compression>   </clickhouse_remote_servers> </yandex>

重啟clickhouse服務

service clickhouse-server restart  # 如果不成功,則使用以下命令 nohup /usr/bin/clickhouse-server --config=/etc/clickhouse-server/config.xml $

 創(chuàng)建數(shù)據表(所有節(jié)點)

使用可視化工具連接每個節(jié)點,在上面創(chuàng)建MergeTree

create database test;  create table test.data (   country String,   province String,   value String ) engine=MergeTree() partition by (country, province) order by value;

 創(chuàng)建分布式表(node1節(jié)點)

create table test.mo as test.data ENGINE = Distributed(test_cluster, test, data, rand());

使用Python連接clickhouse

安裝clickhouse-driver

pip install clickhouse-driver

執(zhí)行命令

from clickhouse_driver import Client  # 在哪個節(jié)點創(chuàng)建了分布式表,就連接哪個節(jié)點 client = Client('192.168.143.20', user='root', password='123456', database='test') print(client.execute('select count(*) from mo'))

到此,關于“ClickHouse集群搭建的方法”的學習就結束了,希望能夠解決大家的疑惑。理論與實踐的搭配能更好的幫助大家學習,快去試試吧!若想繼續(xù)學習更多相關知識,請繼續(xù)關注創(chuàng)新互聯(lián)網站,小編會繼續(xù)努力為大家?guī)砀鄬嵱玫奈恼拢?/p>

分享標題:ClickHouse集群搭建的方法
文章分享:http://jinyejixie.com/article4/pshpoe.html

成都網站建設公司_創(chuàng)新互聯(lián),為您提供標簽優(yōu)化、微信小程序、網站維護、品牌網站制作、手機網站建設、App開發(fā)

廣告

聲明:本網站發(fā)布的內容(圖片、視頻和文字)以用戶投稿、用戶轉載內容為主,如果涉及侵權請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內容未經允許不得轉載,或轉載時需注明來源: 創(chuàng)新互聯(lián)

成都定制網站建設
二连浩特市| 商都县| 塔河县| 合江县| 南开区| 凭祥市| 乐山市| 衡南县| 塘沽区| 红安县| 葵青区| 青铜峡市| 德令哈市| 海盐县| 茶陵县| 泽库县| 井陉县| 九台市| 南阳市| 桓台县| 临湘市| 汉川市| 巴南区| 清新县| 陇南市| 彩票| 建德市| 高青县| 丽水市| 洪泽县| 图片| 尼木县| 荥阳市| 平和县| 杭锦后旗| 大庆市| 舟曲县| 桃江县| 寿阳县| 洪湖市| 顺义区|