天天看點

使用rsync删除海量資料

具體步驟如下:

最好不要在各環境的 jumper 機器上執行,因為 jumper 機器資源有限(cpu、mem),程序會發生卡死或進度緩慢情況,可以将<code>efs</code>挂載到資源相對充足的其他節點上執行。

關于<code>screen</code>使用,詳見screen背景運作任務,選項說明:

選項

說明

--delete-before

接收者在傳輸之前進行删除操作

--progress

在傳輸時顯示傳輸過程

-a

歸檔模式,表示以遞歸方式傳輸檔案,并保持所有檔案屬性

-h

保持硬連接配接的檔案

-v

詳細輸出模式

–stats

給出某些檔案的傳輸狀态

/tmp/blank/

建立臨時空目錄

25/

需要删除的目錄下内容,目錄本身不會删除

這樣我們要删除的 25 目錄内容就會被清空了,删除的速度會非常快。rsync實際上用的是替換原理,處理數數千個檔案也是秒删。同時,我們使用<code>screen</code>背景運作方式,即使目前終端斷開也不會影響<code>rsync</code>删除程序的。

繼續閱讀