网站建设资讯

NEWS

网站建设资讯

使用python怎么把超大的txt文件转换为csv文件-创新互联

本文章向大家介绍使用python怎么把超大的txt文件转换为csv文件的基本知识点总结和需要注意事项,具有一定的参考价值,需要的朋友可以参考一下。

站在用户的角度思考问题,与客户深入沟通,找到洪泽网站设计与洪泽网站推广的解决方案,凭借多年的经验,让设计与互联网技术结合,创造个性化、用户体验好的作品,建站类型包括:做网站、网站制作、企业官网、英文网站、手机端网站、网站推广、域名注册雅安服务器托管、企业邮箱。业务覆盖洪泽地区。python可以做什么

Python是一种编程语言,内置了许多有效的工具,Python几乎无所不能,该语言通俗易懂、容易入门、功能强大,在许多领域中都有广泛的应用,例如最热门的大数据分析,人工智能,Web开发等。

import numpy as np
import pandas as pd

data_txt = np.loadtxt('datas_train.txt')
data_txtDF = pd.DataFrame(data_txt)
data_txtDF.to_csv('datas_train.csv',index=False)

上述的datas_train.txt只有不到100MB,560W行数据,三分钟之内转换完毕。

然后我换了一个5600W行共1.2G的txt文本,用上述代码转换,电脑直接卡死了。

原因在于上述代码会把全部的txt加载进内存,然后再转换,这就会造成电脑内存耗尽。

然后就想到了切割数据的办法,具体实现如下:

import numpy as np
import pandas as pd


train_data = pd.read_table('big_data.txt',iterator=True,header=None)

while True:
 try:
  chunk = train_data.get_chunk(5600000)
  chunk.columns = ['user_id','spu_id','buy_or_not','date']
  chunk.to_csv('big_data111.csv', mode='a',header=False,index = None)
 except Exception as e:
  break

以上就是小编为大家带来的使用python怎么把超大的txt文件转换为csv文件的全部内容了,希望大家多多支持创新互联!


文章名称:使用python怎么把超大的txt文件转换为csv文件-创新互联
URL地址:http://cdweb.net/article/gpecj.html