很多軟體通過設定自己的異常捕獲函數,捕獲未處理的異常,生成報告或者日志(例如生成mini-dump檔案),達到Release版本下追蹤Bug的目的。但是,到了VS2005(即VC8),Microsoft對CRT(C運作時庫)的一些與安全相關的代碼做了些改動,典型的,例如增加了對緩沖溢出的檢查。新CRT版本在出現錯誤時強制把異常抛給預設的調試器(如果沒有配置的話,預設是Dr.Watson),而不再通知應用程式設定的異常捕獲函數,這種行為主要在以下三種情況出現。
(1) 調用abort函數,并且設定了_CALL_REPORTFAULT選項(這個選項在Release版本是預設設定的)。
(2) 啟用了運作時安全檢查選項,并且在軟體運作時檢查出安全性錯誤,例如出現緩存溢出。(安全檢查選項/GS 預設也是打開的)
(3) 遇到_invalid_parameter錯誤,而應用程式又沒有主動調用
_set_invalid_parameter_handler設定錯誤捕獲函數。
是以結論是,使用VS2005(VC8)編譯的程式,許多錯誤都不能在SetUnhandledExceptionFilter捕獲到。這是CRT相對于前面版本的一個比較大的改變,但是很遺憾,Microsoft卻沒有在相應的文檔明确指出。
解決方法
之是以應用程式捕獲不到那些異常,原因是因為新版本的CRT實作在異常進行中強制删除所有應用程式先前設定的捕獲函數,如下所示:
/* Make sure any filter already in place is deleted. */
SetUnhandledExceptionFilter(NULL);
UnhandledExceptionFilter(&ExceptionPointers);
解決方法是攔截CRT調用SetUnhandledExceptionFilter函數,使之無效。在X86平台下,可以使用以下代碼。
#ifndef _M_IX86
#error "The following code only works for x86!"
#endif
void DisableSetUnhandledExceptionFilter()
{
void *addr = (void*)GetProcAddress(LoadLibrary(_T("kernel32.dll")),
"SetUnhandledExceptionFilter");
if (addr)
{
unsigned char code[16];
int size = 0;
code[size++] = 0x33;
code[size++] = 0xC0;
code[size++] = 0xC2;
code[size++] = 0x04;
code[size++] = 0x00;
DWORD dwOldFlag, dwTempFlag;
VirtualProtect(addr, size, PAGE_READWRITE, &dwOldFlag);
WriteProcessMemory(GetCurrentProcess(), addr, code, size, NULL);
VirtualProtect(addr, size, dwOldFlag, &dwTempFlag);
}
}
在設定自己的異常處理函數後,調用DisableSetUnhandledExceptionFilter禁止CRT設定即可。
其它讨論
上面通過設定api hook,解決了在VS2005上的異常捕獲問題,這種雖然不是那麼“幹淨”的解決方案,确是目前唯一簡單有效的方式。
雖然也可以通過_set_abort_behavior(0, _WRITE_ABORT_MSG | _CALL_REPORTFAULT), signal(SIGABRT, ...),和_set_invalid_parameter_handler(...) 解決(1)(3),但是對于(2),設定api hook是唯一的方式。