windbg+虛擬機(jī)內(nèi)核調(diào)試過程

1、使用Virtual PC進(jìn)行Windows內(nèi)核調(diào)試的詳細(xì)過程使用Win Dbg進(jìn)行Win dows內(nèi)核調(diào)試通常需要兩臺計算機(jī)，一臺是 Debuggee 一 臺作為Debugger，又成為Host。使用Virtual PC可以在同一臺電腦上進(jìn)行內(nèi)核 調(diào)試，對于某些調(diào)試任務(wù)來說還是非常有用的。下面以Virtual PC 2004 為例，介紹一下利用 Virtual PC 進(jìn)行Windows內(nèi)核調(diào) 試的詳細(xì)過程。1, 下載并安裝Virtual PC 2004 ，從略。2, 啟動Virutal PCConsole （控制臺），創(chuàng)建一臺新的虛擬 PC,安裝向?qū)У奶?示配置硬盤、內(nèi)存等參數(shù)。3, 在剛才創(chuàng)

2、建的虛擬PC上安裝操作系統(tǒng)，這個操作系統(tǒng)應(yīng)該是你要調(diào)試的Windows版本。比如你想調(diào)試你的驅(qū)動程序在 Windows Server 2003上出現(xiàn)的問 題，那么就安裝 Windows Server 2003。我們以 Windows 2000為例。4,配置虛擬PC的串行口，在Virtual PC 的控制臺中選擇 Windows 2000,然后 點(diǎn)擊Settings按鈕彈出設(shè)置對話框，然后在左側(cè)的列表中（如下圖）選擇COM。右側(cè)選擇Named Pipe選項，即使用命名管道來模擬串行口，然后輸入管道的元 整名稱：.pipecom_1 , com_1可以為其它名稱，但是前面的部分應(yīng)該保持不 變。5,

3、啟動虛擬PC中的Windows 2000,然后進(jìn)入命令行窗口，執(zhí)行如下命令以便 在啟動菜單中增加調(diào)試選項：c: cd attrib -r -h edit boot. ini然后將其最末一行復(fù)制，并加入調(diào)試選項，成為為如下狀態(tài):ry?vcfiO.idbvc60111 It J %JIProgram Files viewer whcind windbg WINNTO呂呂 Ts-:E-i-:Hs-!1 Additions (D;) 0畫控制面板 丄聲網(wǎng)上鄒居1.26 MB豪開始| I S Q J ； M畑C：WIlMNTystem32md，.,CH22:168個對象（可用雄盤空間：14GB）6,在虛

4、擬PC中選擇重新啟動 Windows 2000,當(dāng)出現(xiàn)啟動菜單時，按方向鍵使 其停止自動計時，等待在這里。7，在主機(jī)（debugger）上準(zhǔn)備啟動 Win Dbg考慮每次輸入命令行參數(shù)太麻煩， 所以建議建立一個如下內(nèi)容的批處理文件，并將其放到與WinDbg.exe同位置的目錄中。win dbg -k com:pipe,port=.pipecom_18,運(yùn)行批處理文件，使其也進(jìn)入等待狀態(tài):nia也0卻曰園口陽0 0 kLn Oj Cd 0 5ys 0; Proc 000:0 Thrd 000:0CommandEYou are see ing this message because you pr

5、essedeither* CTRL+C (if you run kd.exe)or,* CTRL+BREAK (if you runWin DBG),* on your debugger machi neskeyboard.* Kernel com:pipe,portAApipeVcoml* - WinDbg:6.6.0003.5FiIb Edit View Debug Window Help9, 切換到虛擬PC窗口，選擇帶有“ Debug Enabled”的一項然后回車啟動。10, 切換到WinDbg窗口并觀察，如果一切順利，那么會有如下類似信息輸出：Conn ected to Win do

6、ws 2000 2195 x86 compatible target, ptr64 FALSE Kernel Debugger conn ecti on established.Symbol search path is:SRV*c:symbols*/dow nload/symbolsExecutable search path is:Win dows 2000 Kernel Versio n 2195 UP Free x86 compatibleKernel base = 0x80400000 PsLoadedModuleList = 0x80

7、46a4c0System Uptime: not available11, 見到如上信息就說明 Win Dbg已經(jīng)與虛擬PC中運(yùn)行的Win dows 2000成功建 立調(diào)試對話了。如果想感受一下將 Windows控制于股掌之中的快感，那么就按下 Ctrl+Break，隨著按鍵發(fā)出，Win dows 2000會被立刻定住。Win Dbg中會顯示如 下信息：*THIS IS NOT A BUG OR A SYSTEMCRASH* If you did not intend to break into the debugger, press the g key, then * press the E

8、nter key now. This message might immediately reappear. If it * does, press g and En teraga in.*此時Win Dbg的命令提示符區(qū)會顯示一段時間*BUSY* （或者其它無效狀態(tài)，老本 本的WinDb，這是因為 WinDbg在尋找調(diào)試符號。在你非常熟悉以上過程之后，其實可以不完全拘泥以上過程的，比如可以先讓W(xué)in dows 2000以調(diào)試選項運(yùn)行起來，然后再運(yùn)行 Win Dbg最后再介紹幾種常見的失敗情況:1）啟動Win Dbg但是出現(xiàn)下圖所示的錯誤信息，Win32 error 2 ，即指定的文件名找不到

9、，這是因為虛擬 PC還沒有啟動，還沒有創(chuàng)建這個管道 .pipecom_1 ，系統(tǒng)中不存在這樣的文件。應(yīng)該運(yùn)行虛擬PC,哪怕只到啟動選項也可以，便不會再有這個錯誤了Failed to open x.pipeconi_lKernel debugger tailed initialization, 耳in32 error 2The systeia cannot find the f ile sped f ied.posted on 2006 年 4 月 27 日 21:19 由 Raymondmulti(0)disk(0)rdisk(0)partitio n(1)WINDOWS=MicrosoftW

10、in dowsXP Professio naldebug /no execute=opt in /fastdetect /debug /debugport=com1 /baudrate=115200VM虛擬機(jī)安裝調(diào)試方法.安裝文件：VMware安裝路徑：C:ProgramFilesVMwareVMwareWorkstationSymbols(代碼庫)安裝路徑：D:toolsSymbolsWinDbg安裝路徑：C:ProgramFilesDebugging Toolsfor Windowswindbg.exe虛擬 Xp安裝路徑：E:vmxp驅(qū)動代碼所在位置：D:SfiltersysVMware

11、中的工具：打開 VMware 中的 VM 菜單 Install VMware tools. 安裝 VMware ，在安裝 winXp 并進(jìn)行以下配置，可以在 window 下對虛擬機(jī)調(diào)試：1. 在 VMware 的 WinXp 目錄( E:vmxp )下找到 winxppro.vmx 文件，加入以下的語句，為 提高效率。5vmmouse.present = FALSE svga.maxFullscreenRefreshTick2. 在VMware的WinXp中添加串口設(shè)備 Serial Port (打開 VMware選擇 WinXp進(jìn)行操作).pipecom_1This end is the

12、serverThe other end is a virtul machineAdvanced Yield CPU on poll 要選中 3.在 WinDbg 的快捷方式點(diǎn)右鍵 -屬性-目標(biāo) 中加入C:Program FilesDebugging Tools for Windowswindbg.exe -k com:port=.pipeco m_1,baud=11520,pipe4. 啟動 VMware 的 WinXp ，在它的 c:boot.ini 文件中加入 multi(0)disk(0)rdisk(0)partition(1)WINDOWS=Microsoft Windows XP Professional -debug /fastdetect /debug /debugport=com1 /baudrate=1152005. 在本機(jī)上加 “系統(tǒng)環(huán)境變量 ”_NT_SYMBOL_PATHD:toolsSymbols三 . 運(yùn)行步驟：1. 啟動 WinDbg( 1)加載 Symbol 的路徑(菜單 File-Symbol File Path D:toolsSymbols;D:Sfiltersy sobjchki386 )( 2