1、當面臨千萬條資料量的比較時,從技術的角度來說應該用泛型鍵值(c#鍵值由於用了雜湊演算法速度很快)。例如前幾天我需要查的是 航空公司、出發、到達、返點可以將 航空公司-出發-到達做乙個鍵,返點作為值。
if (dtsourcebt.rows.count > 0)
else
}}
2、從業務角度來優化,這點很重要。因為所以的程式都不是孤立的。根據業務要求如果這樣做
第一、查出所以的資料(將近5萬條資料)
string sqlbt = "select zrateid, departureport,arrivalport,airwaycompanycode,cabincode,ratevalue,flightnumber,noflightnumber from b2b_zrate_new where state=1 and issuedtodate>=convert(varchar(10),getdate(),120) and outpattern!=3 order by ratevalue desc";
datatable dtsourcebt = dbhelper.exeall116(sqlbt);
第二、通過航空公司篩調一部分資料(剩下3千條資料)
datarow drbts = dtsourcebt.select(" airwaycompanycode='" + dr["aircompany"] + "'"); 第
三、再去比較,這樣資料量變小了。速度就快多了
foreach (datarow drbt indrbts)}}
}
兩張大資料量表大資料量的比較
rdd兩張大資料量表大資料量的比較 大批量資料驗證的範圍。核心唯一驗證。範圍內 單位範圍內的所有人員快取。比較匯入的表內的人員是否在這個人員快取。如果不在那就顯示錯誤提示。匯入的人員就不會超過這個範圍也就限制了運算元據的範圍。對於儲存表,驗證當月這個單位內的所有記錄裡是否已經存在同規則的記錄。這個人...
大資料量資料分頁查詢優化方案
在實際場景中會遇到這樣的一種情況 資料量很大,而且還要分頁查詢,如果資料量達到百萬級別之後,效能會急劇下降,導致查詢時間很長,甚至是超時。接下來我總結了兩種常用的優化方案,僅供參考。但是需要注意的是有個前提 主鍵id是遞增且資料有序。1 使用子查詢優化 這種方式先定位偏移位置的 id,然後往後查詢,...
大資料量演算法
給40億個不重複的unsigned int的整數,沒排過序的,然後再給乙個數,如何快速判斷這個數是否在那40億個數當中 位圖思想解法 include stdio.h include stdlib.h include memory.h define max num 4294967295 int mai...