利用numpy和pandas处理csv文件中的时间方法
程序员文章站
2022-06-03 17:57:28
环境:numpy,pandas,python3
在机器学习和深度学习的过程中,对于处理预测,回归问题,有时候变量是时间,需要进行合适的转换处理后才能进行学习分析,关于时间...
环境:numpy,pandas,python3
在机器学习和深度学习的过程中,对于处理预测,回归问题,有时候变量是时间,需要进行合适的转换处理后才能进行学习分析,关于时间的变量如下所示,利用pandas和numpy对csv文件中时间进行处理。
date (utc) price 01/01/2015 0:00 48.1 01/01/2015 1:00 47.33 01/01/2015 2:00 42.27
#coding:utf-8 import datetime import pandas as pd import numpy as np import pickle #用pandas将时间转为标准格式 dateparse = lambda dates: pd.datetime.strptime(dates,'%d/%m/%y %h:%m') #将时间栏合并,并转为标准时间格式 rawdata = pd.read_csv('realmarketpricedatapt.csv',parse_dates={'timeline':['date','(utc)']},date_parser=dateparse) #定义一个将时间转为数字的函数,s为字符串 def datestr2num(s): #toordinal()将时间格式字符串转为数字 return datetime.datetime.strptime(s,'%y-%m-%d %h:%m:%s').toordinal() x = [] y = [] new_date = [] for i in range(rawdata.shape[0]): x_convert = int(datestr2num(str(rawdata.ix[i,0]))) new_date.append(x_convert) y_convert = rawdata.ix[i,1].astype(np.float32) x.append(x_convert) y.append(y_convert) x = np.array(x).astype(np.float32) """ with open('price.pickle','wb') as f: pickle.dump((x,y),f) """ print(datetime.datetime.fromordinal(new_date[0]),'------>>>>>>',new_date[0]) print(datetime.datetime.fromordinal(new_date[10]),'------>>>>>>',new_date[10]) print(datetime.datetime.fromordinal(new_date[20]),'------>>>>>>',new_date[20]) print(datetime.datetime.fromordinal(new_date[30]),'------>>>>>>',new_date[30]) print(datetime.datetime.fromordinal(new_date[40]),'------>>>>>>',new_date[40]) print(datetime.datetime.fromordinal(new_date[50]),'------>>>>>>',new_date[50])
结果
将csv文件中的时间栏合并为一列,并转为方便数据分析的float或int类型
以上这篇利用numpy和pandas处理csv文件中的时间方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持。
上一篇: python脚本处理文件到数据库
下一篇: ES复杂类型数据同步到HIVE数仓