利用Python pandas对Excel进行合并的方法示例

前言

在网上找了很多python处理excel的方法和代码，都不是很尽人意，所以自己综合网上各位大佬的方法，自己进行了优化，具体的代码如下。

博主也是新手一枚，代码肯定有很多需要优化的地方，欢迎各位大佬提出建议~

代码我自己已经用了一段时间，可以直接拿去用

主要功能

1. 按行合并 ，即保留固定的表头（如前几行），实现多个excel相同格式相同名字的表单按纵轴合并；
2. 按列合并。 即保留固定的首列，实现多个excel相同格式相同名字的表单按横轴合并；
3. 表单集成 ，实现不同excel中相同sheet的集成（即不汇总，仅集成到同一个新的excel中）。此处的代码稍微改一下即可实现不同excel中所有sheet的集成；
4. 自动检测所需合并的sheet名称是否出现在所有的目标文件中，如果不是则予以提示 ；
5. sheet选择、表头选择、功能选择界面实现可视化；
6. 合并后进行简单的缺省值处理、格式处理
7. 解决macos系统下文件目录中出现.ds_store隐藏文件导致程序出错的bug。
   

用到的库

pandas 、tkinter 、 pathlib、os 、 xlrd

代码

import pandas as pd
import tkinter as tk
from tkinter import filedialog
import pathlib
import os
import xlrd

# 选择文件夹对话框，窗口交互，打开选择窗口
filedirectory = filedialog.askdirectory()
p1 = pathlib.path(filedirectory) # 该部分主要为了获取目标路径下的文件名
print(p1)
bookname1 = os.listdir(p1) # 返回目标文件夹下的所有文件名
if ".ds_store" in bookname1:
 bookname1.remove('.ds_store')

# 删除文件名里的.xlsx
bookname = []
for n in bookname1:
 n1 = list(n) # 把字符变成列表
 for i in range(5): # 因为去除的是.xslx，5个字符，可以根据实际需要修改
  n1.pop() # 依次删除最后一个元素
 n2 = ''.join(n1) # 把列表变成字符
 bookname.append(n2)

excles = p1.rglob('*.xlsx') # 类似于os.work，能够返回目标路径下的文件路径，并且可以添加条件
excelarr = []
for eachexcel in excles:
 excelarr.append(eachexcel) # 创建目标路径下特定文件名的列表

# 建立一个交互窗口
windows = tk.tk()
windows.title('请提供如下信息') # 设置文本框的标题
windows.geometry('1000x300') # 设置界面的大小
# tk.label(windows, text='你好！this is tkinter', bg='green', font=('arial', 12), width=30, height=2)
# 说明：bg为背景，font为字体，width为长，height为高，这里的长和高是字符的长和高，比如height=2,就是标签有2个字符这么高)
tk.label(windows, text='请输入想要合并的sheet名称：').grid(row=0, column=0) # label用来显示不可编辑的文本和图标（提示性文字）
tk.label(windows, text='请输入想要确定的表头行数：').grid(row=1, column=0)
tk.label(windows, text='请输入您想实现的功能，1为按行合并sheet，2为按列合并sheet，3为sheet汇总：').grid(row=2, column=0)
# listbox(dict={}) # 创建可选下拉框
e1 = tk.entry(windows) # 创建输入框
e2 = tk.entry(windows) # 创建第2个输入框
e3 = tk.entry(windows)
e1.grid(row=0, column=1, padx=10, pady=5)
e2.grid(row=1, column=1, padx=10, pady=5)
e3.grid(row=2, column=1, padx=10, pady=5)
tk.button(windows, text='点击继续', width=10, command=windows.quit) \
   .grid(row=4, column=1, sticky=tk.e, padx=10, pady=5) # sticky表示方位，nswe为上下左右
tk.mainloop() # 结束循环
# 为变量赋值
word = str(e1.get())
number = int(e2.get()) - 1
choice = int(e3.get())

# 检查想要处理的sheet是否在所有的目标文件中
file_list = os.listdir(p1)
file_list.remove('.ds_store') # 移除mac系统自动生成的文件
for file in file_list: # 循环遍历列出所有文件名称
 file_name = os.path.join(p1, file) # 因os.listdir工具返回的是目标文件夹里文件的名字，然而打开文件需要文件路径+名字，故通过此工具获取完整的文件名
 workbook = xlrd.open_workbook(file_name) # 打开遍历的文件
 if word in workbook.sheet_names():
  continue
 else:
  print(str(file) + '中不存在想要合并的sheet')

if choice == 2:
 p1 = pd.excelfile(excelarr[0]) # 读取获取到的第一个文件名对应的文件
 mergedata1 = p1.parse(header=number, sheet_name=word).iloc[:, 0] # 设置索引为第一行，如果为index_col，则索引为第一列 iloc为取特定的列
 p2 = []
 for i in range(0, len(excelarr)):
  tmp = pd.excelfile(excelarr[i]) # 读取文件
  currentdata = tmp.parse(header=number, sheet_name=word).iloc[:, [1, 2, 3, 4]] # 读取特定的列
  mergedata1 = pd.concat([mergedata1, currentdata], axis=1) # concat连接函数，唯一必须的参数是参与连接的对象的列表或字典。axis=1，表示可以按照纵轴来合并
  n = currentdata.shape[1] # 返回dataframe的行数，1为返回列数
  p2.append(n) # 获取读取文件的行数列表
 name_list = []
 i = 0
 # 获取应插入的文件名的列表
 for a1 in bookname:
  for x in range(p2[i]):
   name_list.append(a1)
  i = i + 1
 name_list.insert(0, '来自表格')
 mergedata1.loc[-1] = name_list # 按行插入

if choice == 1:
 p1 = pd.excelfile(excelarr[0]) # 读取获取到的第一个文件名对应的文件
 mergedata1 = p1.parse(header=number, sheet_name=word) # 设置索引为第一行，如果为index_col，则索引为第一列
 p2 = []
 p2.append(mergedata1.shape[0])
 for i in range(1, len(excelarr)):
  tmp = pd.excelfile(excelarr[i]) # 读取文件
  currentdata = tmp.parse(header=number, sheet_name=word) # 读取特定的表
  mergedata1 = pd.concat([mergedata1, currentdata]) # concat连接函数，唯一必须的参数是参与连接的对象的列表或字典。axis=1，表示可以按照纵轴来合并
  n = currentdata.shape[0] # 返回dataframe的行数，1为返回列数
  p2.append(n) # 获取读取文件的行数列表
 name_list = []
 i = 0
 # 获取应插入的文件名的列表
 for a1 in bookname:
  for x in range(p2[i]):
   name_list.append(a1)
  i = i + 1
 mergedata1.insert(0, '来自表格', name_list) # 插入第一列，作为表格数据来源的注释

if choice == 3:
 i = 0
 fname = tk.filedialog.asksaveasfilename(title=u'保存文件', filetypes=[("excel", ".xlsx")])
 # fideialog的一个方法，可以实现数据储存是要保存的名字
 writerexcel = pd.excelwriter(fname+'.xlsx') # 写入到一个新的excel，并且命名为上一步骤确认的名字
 for name in bookname:
  p1 = pd.excelfile(excelarr[i])
  mergedata1 = p1.parse(header=number, sheet_name=word) # 设置索引为第一行，如果为index_col，则索引为第一列
  # mergedata1.dropna(thresh=4, inplace=true) # 必须使用inplace才可以使数据库记住删除的单元格
  # mergedata1.dropna(axis='columns', how='all') # 删除全是缺失值的列
  mergedata1.fillna('0') # 将所有缺失值填充为0
  mergedata1.to_excel(writerexcel, sheet_name=name, index=false) # 新建一个sheet储存信息
  i = i + 1

if choice != 3:
 # 数据清理
 mergedata1.dropna(thresh=4, inplace=true) # 必须使用inplace才可以使数据库记住删除的单元格
 mergedata1.dropna(axis='columns', how='all') # 删除全是缺失值的列
 mergedata1.fillna('0') # 将所有缺失值填充为0
 # 保存至excel
 fname = tk.filedialog.asksaveasfilename(title=u'保存文件',
           filetypes=[("excel", ".xlsx")]) # fideialog的一个方法，可以实现数据储存是要保存的名字
 writerexcel = pd.excelwriter(fname + '.xlsx') # 写入到一个新的excel，并且命名为上一步骤确认的名字
 mergedata1.to_excel(writerexcel, sheet_name='汇总表', index=false) # 将之前汇总的farmdate数据通过to excel写入到excel中

# 设置格式
sheetname = writerexcel.sheets
workbook = writerexcel.book
for sheets in sheetname:
 worksheet = writerexcel.sheets[sheets]
 format1 = workbook.add_format({'num_format': '###,##0.00', })
 # 通过xlsxwriter模块命名format1的格式，对于数字内容，每三位进行一个分隔符，并且保留两位小数。#.00%为保留两位小数的百分数.border为边框。最后为文本换行和居中
 # format2 = workbook.add_format({'bold': true, 'italic': true}) # 加粗、斜体
 worksheet.set_column('a:zz', 16, format1) # 将上述定义的格式应用到具体的单元格
 # worksheet.set_row(0, 16, format2) # 将特定格式用于表头

writerexcel.save() # 保存excel
print('success')

总结

到此这篇关于利用python pandas对excel进行合并的文章就介绍到这了,更多相关python pandas对excel合并内容请搜索以前的文章或继续浏览下面的相关文章希望大家以后多多支持！