用VSTS代碼驗證工具捕捉C/C++錯誤

  對一個C++本機代碼(Native Code)開發者來說,Visual Studio Team System對整個軟件開發周期都提供了支持,VSTS源代碼注釋使開發者在靜態代碼分析或單元測試中,可以用方法參數前置或後置的有效條件來注釋方法,且當注釋違例時,會有相應的編譯器警告,所以,可以這樣說,VSTS提供了許多功能來幫助本機程序開發者。本文將著眼于VSTS驗證程序,它是一個分析工具,用于監控非托管代碼的執行,並可以發現如不正確的內存分配、句柄使用等等錯誤。
  與此相比,動態分析是檢查那些傳遞給系統函數的要害變量值,以發現問題的,當方法被調用時,將會探測到某些非法參數,並上報給開發者;而使用非法參數時,某些問題不能被發現,只會在後續情況如內存崩潰、非正常程序退出等情況顯現出來。
  以應用程序驗證程序開始
  啓動應用程序驗證程序是一件非常簡單的事,只需選擇「調試-以應用程序驗證程序開始」即可,如圖1所示。
  圖1:啓動應用程序驗證程序
  
用VSTS代碼驗證工具捕捉C/C++錯誤

  第一次使用應用程序驗證程序時,Visual Studio會提示你下載一個額外的DLL,此DLL將用于檢查句柄及堆,可能需要治理員權限來安裝這個補丁。
  對應用程序驗證程序的大多數使用者來說,最難之處在于要記住運行這個驗證程序,而不是啓動一次標准的調試會話。假定在使用驗證程序時,也可以使用標准調試,建議啓動驗證程序會話(Shift+Alt+F5),雖然比啓動調試會話(F5)多按了兩個鍵,但還是值得的。這樣一來,就可以在每次産生調試會話時,都充分利用驗證程序了。
  當應用程序驗證程序探測到一個問題時,它會停止執行流程,並顯示一個如下的對話框,如圖2所示:
  
用VSTS代碼驗證工具捕捉C/C++錯誤

  圖2:驗證程序停止信息
  通常來說,診斷此類問題一般爲查看能導致驗證程序停止執行的句柄、鎖、或堆指針信息,並回溯到崩潰發生之前的執行點。然而,這不會總是最簡單的調試方法,在堆或文件崩潰是問題的唯一原因時,你不一定記得起來要啓動一個調試過程。
  當驗證程序停止執行流程時,一個具體的問題描述也會被添加到任務視圖中,如圖3所示。任務視圖中的信息便于觀看,而圖2的對話框則需要先「消失」,開發者才能進入到調試器檢查變量值。
  
用VSTS代碼驗證工具捕捉C/C++錯誤

  圖3:驗證程序任務列表視圖
  此處多說一下任務列表,它可顯示一個單獨的應用程序驗證程序窗口,其對停止事件提供了最具體的信息(見圖4)。
  
用VSTS代碼驗證工具捕捉C/C++錯誤

  圖4:驗證程序窗口
  應用程序驗證程序檢查
  VSTS應用程序驗證程序主要專注于以下三個核心領域:操作系統句柄、鎖、堆內存。以上三種類型的檢查,句柄是最簡單的——應用程序驗證程序會檢查句柄以保證它不爲空(null)、句柄指向了正確的操作系統對象類型、句柄未用于DLLMain函數中的等待操作(這可是解決死鎖問題的最好方法)。
  鎖檢查就包括以下方面:
  Ø 檢查初始化操作是否未完成或過頭了
  Ø 釋放保持鎖的內存或卸載相應模塊
  Ø 鎖是否具有非法所有者
  Ø 已損壞的鎖
  堆檢查也遵循上述兩種檢查的相近模式,將會檢查是否有損壞的堆、非法的堆刪除操作、非法的堆句柄、堆溢出。
  配置應用程序驗證程序
  應用程序驗證程序需要進行配置的地方非常少,如圖5所示:
  
用VSTS代碼驗證工具捕捉C/C++錯誤

  圖5:驗證程序配置
  除去可以把這三個主要的驗證功能打開或關閉之外,你還可以與保護頁(guard page)一起使用堆驗證,或直接指定堆保護頁的位置(保護頁提供了對崩潰最初的探測,以防止其占用更多的內存)。堆保護頁的默認位置爲分配區域的末尾,它可以探測到緩沖區溢出;然而,假如想要探測非常罕見的某些緩沖區欠載(即底面通過),你也能把它挪到分配區域塊的起始處。
  應用程序驗證工具是VSTS衆多工具中最輕易使用的一個,只需簡單地選擇此菜單項就可以開始你的調試會話了,讓它來幫助你追蹤那些討厭的本機代碼問題吧。