欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  IT编程

python2.7实现复制大量文件及文件夹资料

程序员文章站 2022-08-30 10:43:02
需求:拷大量数据,发现有2000g,靠系统的复制功能怕是得好几个小时,于是回来学一手操作,话不多说上代码: 说明:copyfiles1是可以将sourcedir连子目录一...

需求:拷大量数据,发现有2000g,靠系统的复制功能怕是得好几个小时,于是回来学一手操作,话不多说上代码:

说明:copyfiles1是可以将sourcedir连子目录一起原样复制到targetdir,而copyfiles2是在sourcedir中筛选特定格式文件,然后将其直接放在targetdir中,会很乱。但是很快

import os
import time
import shutil
sourcedir = r"d:\copytest\datatest"
targetdir = r"d:\copytest\result"
copyfilecounts = 0
 
def copyfiles1(sourcedir, targetdir):
#完全连子目录也会复制好,美观
  global copyfilecounts
  print(sourcedir )
  print("%s 当前处理文件夹%s已处理%s 个文件" %(time.strftime('%y-%m-%d %h:%m:%s',time.localtime(time.time())), sourcedir,copyfilecounts) )
  for f in os.listdir(sourcedir):
    sourcef = os.path.join(sourcedir, f)
    targetf = os.path.join(targetdir, f)
 
    if os.path.isfile(sourcef):
 
      if not os.path.exists(targetdir):
        os.makedirs(targetdir)
      copyfilecounts += 1
 
 
      if not os.path.exists(targetf) or (os.path.exists(targetf) and (os.path.getsize(targetf) != os.path.getsize(sourcef))):
 
        open(targetf, "wb").write(open(sourcef, "rb").read())
        print ("%s %s 复制完毕" %(time.strftime('%y-%m-%d %h:%m:%s',time.localtime(time.time())), targetf))
      else:
        print ("%s %s 已存在,不重复复制" %(time.strftime('%y-%m-%d %h:%m:%s',time.localtime(time.time())), targetf))
 
    if os.path.isdir(sourcef):
      copyfiles(sourcef, targetf)
 
def copyfiles2(dir):
  #会将目录下所有文件都复制在一起,速度快,可以筛选文件
  i=0
  for root,dir1,filename in os.walk(dir):
   #print(filename)
   for index in range(len(filename)):
    #print(os.path.splitext(filename[index])[1])
    #if os.path.splitext(filename[index])[1]=='.':#这里注意filename是个元组,splitext方法的时候只能是字符串
    if 1==1:
      #i+=1
      print('here')
      root1="d:\\copytest\\result3"
      old_path = os.path.join(root, filename[index])
      print(old_path)
      new_path = os.path.join(root1,filename[index])
      shutil.copyfile(old_path,new_path)
 
#print("总共有",i,"图层文件被复制!")
 
if __name__ == "__main__":
 time_start = time.time()
 try:
  import psyco
  psyco.profile()
 except importerror:
   pass
 #copyfiles1(sourcedir,targetdir)
 copyfiles2("d:/copytest/datatest")
 time_end = time.time()
 print('totally cost', time_end - time_start)
 
#实战代码
#!/usr/bin/python2
# coding=utf-8
#@author neo_will
#version 2019-04-02 10:39
 
import os
import os.path
import shutil
import time, datetime
 
#fpath_2018 = [1207, 1121, 1120, 1119, 1112, 1101, 1025, 1009, 0704, 0608, 0531, 0530, 0517, 0502, 0418, 0330, 0201, 0131]
#sourcedir=r"f:\level2_shanghai\2018\fpath_2018[0:]"
#des_dir=r"g:\marketdatasupplement\shanghai\2018\fpath_2018[0:]"
#原始目录和拷贝到的目录地址
sourcedir = r"d:\tools\wj"
targetdir = r"d:\users\wj"
copyfilecounts = 0
 
#定义拷贝文件的函数
def copyfiles(sourcedir, targetdir):
 global copyfilecounts
 print (sourcedir )
 print ("%s 当前处理文件夹%s已处理%s 个文件" %(time.strftime('%y-%m-%d %h:%m:%s',time.localtime(time.time())), sourcedir,copyfilecounts) )
 for f in os.listdir(sourcedir):
 sourcef = os.path.join(sourcedir, f)
 targetf = os.path.join(targetdir, f)
 if os.path.isfile(sourcef):
  #创建目录
  if not os.path.exists(targetdir):
  os.makedirs(targetdir)
  copyfilecounts += 1
 
  #文件不存在的话,或者存在但是大小存在差异不同,执行完全覆盖操作
  if not os.path.exists(targetf) or (os.path.exists(targetf) and (os.path.getsize(targetf) != os.path.getsize(sourcef))):
  #二进制文件
  open(targetf, "wb").write(open(sourcef, "rb").read())
  print u"%s %s copy over" %(time.strftime('%y-%m-%d %h:%m:%s',time.localtime(time.time())), targetf)
  else:
   print("%s %s is exists,please don't copy more" %(time.strftime('%y-%m-%d %h:%m:%s',time.localtime(time.time())), targetf))
 
 if os.path.isdir(sourcef):
  copyfiles(sourcef, targetf)
 
if __name__ == "__main__":
 time_start = time.time()
 try:
 import psyco
 psyco.profile()
 except importerror:
 pass
 #copyfiles(sourcedir,targetdir)
 copyfiles(r"d:\tools\wj",r"d:\users\wj")
 time_end = time.time()
 print('totally cost', time_end - time_start) 

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持。