首页 > 编程 > Python > 正文

使用python进行拆分大文件的方法

2020-01-04 13:53:10
字体:
来源:转载
供稿:网友

python按指定行数把大文件进行拆分

如图大文件有7000多万行,大小为16G

python,拆分大文件

需要拆分成多个200万行的小文件

代码如下:

# -*- coding:utf-8 -*-from datetime import datetime def Main(): source_dir = '/data/u_lx_data/zhangqm/sh/yanjie/liuxuesheng/jz_yuanshi_list0206.txt' target_dir = '/data/u_lx_data/zhangqm/sh/yanjie/liuxuesheng/split/'  # 计数器 flag = 0  # 文件名 name = 1  # 存放数据 dataList = []  print("开始。。。。。") print(datetime.now().strftime('%Y-%m-%d %H:%M:%S'))  with open(source_dir,'r') as f_source:  for line in f_source:   flag+=1   dataList.append(line)   if flag == 2000000:    with open(target_dir+"jz_yuanshi_list_"+str(name)+".txt",'w+') as f_target:     for data in dataList:      f_target.write(data)    name+=1    flag = 0    dataList = []     # 处理最后一批行数少于200万行的 with open(target_dir+"jz_yuanshi_list_"+str(name)+".txt",'w+') as f_target:  for data in dataList:   f_target.write(data)  print("完成。。。。。") print(datetime.now().strftime('%Y-%m-%d %H:%M:%S')) if __name__ == "__main__": Main() 

结果如下:

python,拆分大文件

总共产生39个文件,最后一个文件行数760821,这样就OK啦

经测试16G文件所需时间如图:不到两分钟

python,拆分大文件

以上这篇使用python进行拆分大文件的方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持VEVB武林网。


注:相关教程知识阅读请移步到python教程频道。
发表评论 共有条评论
用户名: 密码:
验证码: 匿名发表