天天看點

用python + openpyxl處理excel2007文檔思路以及心得

尋覓工具

确定任務之後第一步就是找個趁手的庫來幹活。 Python Excel上列出了xlrd、xlwt、xlutils這幾個包,但是

它們都比較老,xlwt甚至不支援07版以後的excel

它們的文檔不太友好,都可能需要去讀源代碼,而老姐的任務比較緊,加上我當時在期末,沒有這個時間細讀源代碼

再一番搜尋後我找到了openpyxl,支援07+的excel,一直有人在維護,文檔清晰易讀,參照Tutorial和API文檔很快就能上手,就是它了~

www.avcang.com

www.wnsr668.com

www.sepeizi.com

安裝

這個很容易,直接pip install openpyxl,呵呵呵~

因為我不需要處理圖檔,就沒有裝pillow。

一些考慮

源檔案大約一個在1~2MB左右,比較小,是以可以直接讀入記憶體處理。

既然是處理excel,何況他們整個組顯然都是win下幹活(資料都用excel存了= =,商科的人啊……),這個腳本還是在win下做吧

這個任務完全不需要我對現有的檔案做修改!囧……我隻要讀入、處理、再寫出另一個檔案就行了

學習使用www.avcang.com

www.wnsr668.com

www.sepeizi.com

嗯,就是打開cmd,然後用python的shell各種玩這個子產品來上手……(win下沒有裝ipython,囧)

做這個小腳本基本上我隻需要import兩個東西

from openpyxl import Workbook

from openpyxl import load_workbook

load_workbook顧名思義是把檔案導入到記憶體,Workbook是最基本的一個類,用來在記憶體裡建立檔案最後寫進磁盤的。

幹活

首先我需要導入這個檔案www.avcang.com

www.wnsr668.com

www.sepeizi.com

inwb = load_workbook(filename)

得到的就是一個workbook對象

然後我需要建立一個新的檔案

outwb = Workbook()

接着在這個新檔案裡,用create_sheet建立幾個工作表,比如

careerSheet = outwb.create_sheet(0, 'career')

就會從頭部插入一個叫career的工作表(也就是說用法類似python list的insert)

接下來我需要周遊輸入檔案的每個工作表,并且按照表名做一些工作(e.g.如果表名不是數字,我不需要處理),openpyxl支援用字典一樣的方式通過表名擷取工作表,擷取一個工作簿的表名的方法是get_sheet_names

for sheetName in inwb.get_sheet_names():

  if not sheetName.isdigit():

    continuewww.avcang.com

www.wnsr668.com

www.sepeizi.com

  sheet = inwb[sheetName]

得到工作表之後,就是按列和行處理了。openpyxl會根據工作表裡實際有資料的區域來确定行數和列數,擷取行和列的方法是sheet.rows和sheet.columns,它們都可以像list一樣用。比如,如果我想跳過資料少于2列的表,可以寫

if len(sheet.columns) < 2:

  continue

如果我想擷取這個工作表的前兩列,可以寫

colA, colB = sheet.columns[:2]

除了用columns和rows來得到這個工作表的行列之外,還可以用excel的單元格編碼來擷取一個區域,比如

cells = sheet['A1':'B20']

有點像excel自己的函數,可以拉出一塊二維的區域~

為了友善處理,遇到一個沒有C列的工作表,我要建立一個和A列等長的空的C列出來,那麼我可以用sheet.cell這個方法,通過傳入單元格編号和添加空值來建立新列。

alen = len(colA)

for i in range(1, alen + 1):

  sheet.cell('C%s' % (i)).value = None

注意:excel的單元格命名是從1開始www.avcang.com

www.wnsr668.com

www.sepeizi.com的~

上面的代碼也顯示出來了,擷取單元格的值是用cell.value(可以是左值也可以是右值),它的類型可以是字元串、浮點數、整數、或者時間(datetime.datetime),excel檔案裡也會生成對應類型的資料。

得到每個單元格的值之後,就可以進行操作了~openpyxl會自 動将字元串用unicode編碼,是以字元串都是unicode類型的。

除了逐個逐個單元格用cell.value修改值以外,還可以一行行append到工作表裡

sheet.append(strA, dateB, numC)

 最後,等新的檔案寫好,直接用workbook.save儲存就行

outwb.save("test.xlsx")

這個會覆寫目前已有的檔案,甚至你之前讀取到記憶體的那個檔案。

一些要注意的地方

如果要在周遊一列的每個單元格的時候擷取目前單元格的在這個column對象裡的下标

for idx, cell in enumerate(colA):

  # do something...

為了防止擷取的資料兩端有看不見的空格(excel檔案裡很常見的坑),記得strip()

如果工作表裡的單元格沒有資料,openpyxl會讓它的值為None,是以如果要基于單元格的值做處理,不能預先假定它的類型,最好用

if not cell.value

  continue

之類的語句來先行判斷

如果要處理的excel檔案裡有很多noise,比如當你預期一個單元格是時間的時候,有些表的資料可能是字元串,這時候可以用

if isinstance(cell.value, unicode):

  break

之類的語句處理。

win下的cmd似乎不太好設定用utf-8的code page,如果是簡體中文的話可以用936(GBK),print的時候會自動從unicode轉換到GBK輸出到終端。

一些幫忙進行中文問題的小函數

我處理的表有一些超出GBK範圍的字元,當我需要把一些資訊print出來監控處理進度的時候非常麻煩,好在它們都是可以無視的,我直接用空格替換再print也行,是以加上一些我本來就要替換掉的分隔符,我可以:

# annoying seperators

dot = u'\u00b7'

dash = u'\u2014'

emph = u'\u2022'

dot2 = u'\u2027'

seps = (u'.', dot, dash, emph, dot2)

def get_clean_ch_string(chstring):

  """Remove annoying seperators from the Chinese string.

  Usage:

    cleanstring = get_clean_ch_string(chstring)

  """

  cleanstring = chstring

  for sep in seps:

    cleanstring = cleanstring.replace(sep, u' ')

  return cleanstring

此外我還有一個需求,是把英文名[空格]中文名分成英文姓、英文名、中文姓、中文名。

首先我需要能把英文和中文分割開,我的辦法是用正則比對,按照常見中英文字元在unicode的範圍來套。比對英文和中文的正則pattern如下:

# regex pattern matching all ascii characters

asciiPattern = ur'[%s]+' % ''.join(chr(i) for i in range(32, 127))

# regex pattern matching all common Chinese characters and seporators

chinesePattern = ur'[\u4e00-\u9fff. %s]+' % (''.join(seps))

英文就用ASCII可列印字元的範圍替代,常見中文字元的範圍是\u4e00-\u9fff,那個seps是前面提到過的超出GBK範圍的一些字元。 除了簡單的分割,我還需要處理隻有中文名沒有英文名、隻有英文名沒有中文名等情況,判斷邏輯如下:

def split_name(name):

  """Split [English name, Chinese name].

    If one of them is missing, None will be returned instead.

  Usage:

    engName, chName = split_name(name)

  """

  matches = re.match('(%s) (%s)' % (asciiPattern, chinesePattern), name)

  if matches: # English name + Chinese name

    return matches.group(1).strip(), matches.group(2).strip()

  else:

    matches = re.findall('(%s)' % (chinesePattern), name)

    matches = ''.join(matches).strip()

    if matches: # Chinese name only

      return None, matches

    else: # English name only

      matches = re.findall('(%s)' % (asciiPattern), name)

      return ''.join(matches).strip(), None

得到了中文名之後,我需要分割成姓和名,因為任務要求不需要把姓名分割得很明确,我就按照常見的中文名姓名分割方式來分——兩個字or三個字的第一個字是姓,四個字的前兩個字是姓,名字帶分隔符的(少數民族名字)分隔符前是姓(這裡用到了前面的get_clean_ch_string函數來移除分隔符),名字再長一些又不帶分割符的,假設整個字元串都是名字。(注意英語的first name 指的是名,last name指的是姓,2333)

def split_ch_name(chName):

  """Split the Chinese name into first name and last name.

    * If the name is XY or XYZ, X will be returned as the last name.

    * If the name is WXYZ, WX will be returned as the last name.

    * If the name is ...WXYZ, the whole name will be returned

     as the last name.

    * If the name is ..ABC * XYZ..., the part before the seperator

     will be returned as the last name.

  Usage:

    chFirstName, chLastName = split_ch_name(chName)

  """

  if len(chName) < 4: # XY or XYZ

    chLastName = chName[0]

    chFirstName = chName[1:]

  elif len(chName) == 4: # WXYZ

    chLastName = chName[:2]

    chFirstName = chName[2:]

  else: # longer

    cleanName = get_clean_ch_string(chName)

    nameParts = cleanName.split()

    print u' '.join(nameParts)

    if len(nameParts) < 2: # ...WXYZ

      return None, nameParts[0]

    chLastName, chFirstName = nameParts[:2] # ..ABC * XYZ...

  return chFirstName, chLastName

分割英文名就很簡單了,空格分開,第一部分是名,第二部分是姓,其他情況暫時不管就行。