直接上**
# -*- coding: utf-8 -*-
import pandas as pd
import configparser
import csv
from py2neo import graph, node, relationship
import urllib3
urllib3.disable_warnings(urllib3.exceptions.insecurerequestwarning)
def knn():
# 讀取檔案路徑與目的檔案路徑
txt_path = '../data/data.txt'
csv_path = "../data/data.csv"
#首先設定檔案頭
with open(csv_path, 'w') as csvfile:
header = ['subject','predicate', 'object']
writer = csv.writer(csvfile)
writer.writerow(header)
csvfile.close()
#讀取檔案,預設一行資料 \t 分隔, error_bad_lines可能是跳過報錯行
reader = pd.read_table(txt_path, iterator=true, encoding='utf8', error_bad_lines=false)
#迴圈讀取
loop = true
while loop:
try:
#每次讀取5000個
chunk = reader.get_chunk(5000)
#mode='a' 追加讀取, index=false 捨去行數
chunk.to_csv(csv_path, mode='a', index=false, sep=',', header=none, encoding='utf_8_sig')
except stopiteration:
loop = false
print("iteration is stopped.")
#rows = 59824257
if __name__ == '__main__':
knn()
將Txt檔案轉換成dataset
今天工作中,遇到需要將txt檔案轉化到記憶體表dataset中,於是寫了乙個方法來實現 txt檔案是特定格式的,檔案中,一條記錄為一行,各欄位之間用 分割 注 最後乙個欄位後,有 各欄位依次為資料庫中的相應字段。舉例如下 id號 線路編碼 車站 編碼 執行模式 模式設定日期 模式設定時間 1 98 ...
QT將excel檔案轉換成txt檔案
本文基於qaxobject,依賴excel程式,優化了讀xls檔案的效率。注意pro中需要新增 config qaxcontainer excel程式連線 qaxobject excel excel.setproperty visible false 隱藏開啟的excel檔案介面 qaxobject...
Python 把txt檔案轉換成csv
最近在專案上需要批量把txt檔案轉成成csv檔案格式,以前是手動開啟excel檔案,然後匯入txt來生產csv檔案,由於這已經變成每週需要做的事情,決定用python自動化指令碼來實現,思路 讀取資料夾中所有txt檔案,儲存到list中 針對每個txt檔案,自動生產同檔名的csv檔案 對每個txt檔...