客戶端查詢比較一下效率
測試資料量 100w條
執行sql:
select count(1) from fake_db.fake_table;
執行sql:
select count(distinct company) from fake_db.fake_table where cardno like '%19950517%';
測試資料量: 1000w條
執行sql:
select count(1) from fake_db.fake_table;
執行sql:
select count(distinct company) from fake_db.fake_table where cardno like '%32319950517%';
**連線查詢資料測試
測試結果
測試資料量: 1000w條
執行sql:select * from fake_db.fake_table where cardno like '%32319950517%';
執行sql:select count(distinct company) from fake_db.fake_table where cardno like '%32319950517%';
造乙個大表,裡面儲存資料大於記憶體,看看處理能力
測試資料量: 9000w條(占用14g空間,記憶體空餘13g)
客戶端查詢:
執行sql:
select count(1) from fake_db.fake_table;
253.912 seconds
180 seconds
執行sql:
select count(distinct company) from fake_db.fake_table where cardno like '%32319950517%';
207.097 seconds
200 seconds
**查詢:
執行sql:
select count(1) from fake_db.fake_table;
199.2008821964264
176.18870639801025
執行sql:
select count(distinct company) from fake_db.fake_table where cardno like '%32319950517%';
216.40228271484375
196.51006293296814
兩表聯查測試比較
測試資料量: fake_db.fake_table:9000w條 fake_db.fake_table_little: 100w條
客戶端查詢:
執行sql:
select distinct a.name hive_name,b.field_2 mysql_name from fake_db.fake_table as a,fake_db.fake_table_little as b where a.cardno=b.field_1 and a.cardno like "%32319950517%";
432.075 seconds
197 seconds
**查詢:
執行sql:
select distinct a.name hive_name,b.field_2 mysql_name from fake_db.fake_table as a,fake_db.fake_table_little as b where a.cardno=b.field_1 and a.cardno like "%32319950517%";
203.07808113098145
197.08233761787415
用大表和mysql聯查試一下
hive表資料量: 9000w
mysql表資料量: 100w
異構資料來源兩表查詢語句:
select distinct a.name hive_name,b.field_2 mysql_name from hive.fake_db.fake_table as a,mysql.test_db.test_table as b where a.cardno=b.field_1 and a.cardno like '%32319950517%';
客戶端: 195秒
**: 195.43368768692017
centos7 安裝gitea使用
en us install from binary gitea 是乙個自己託管的git服務程式。他和github,bitbucket or gitlab等比較類似。他是從 gogs 發展而來,不過我們已經fork並且命名為gitea。對於我們fork的原因可以看 這裡。gitea的首要目標是建立乙個...
安裝和使用centos7
略,盡量不修改路徑吧,否則容易出現無法初始化的情況。本次是先選擇iso路徑的安裝,簡易安裝成功後是有視覺化桌面的。區域網通訊 區域網內電腦互聯互通,需要處於同一網段。交換機 閘道器 連線n個網線,n臺機器插上網線,在介面卡中配置固定ip,即可通訊。虛擬機器通訊 安裝virtualbox軟體,會虛擬出...
使用vmware安裝CentOS7
1.先建立乙個資料夾用以存放映象 2.執行vmware,點選建立新的虛擬機器 3.選擇典型安裝 4.選擇稍後安裝作業系統 5.選擇客戶機作業系統為linux,版本為centos 64位 6.選擇一開始建立的用以存放映象的檔案,並給虛擬機器命名 7.選擇磁碟大小,選擇預設20g即可 8.點選完成 9....