讲完Visual Studio调试之断点技巧篇以后,翻翻以前看得一些资料和自己写的一些文章,发现还有几个关于中断程序的技巧在前面的文章里面遗漏了,决定还是在这里总结一下。当然啦,如果你知道这些技巧,忽略这篇文章好了,:)
在程序启动的时候将调试器附加上去
可能有人会对这个问题有一些争议,因为大部分情况下我们只需要在调试器(Debugger)里面直接启动被调试程序(Debuggee)就可以在程序启动前调试程序了。
但有些情况下,你是不能控制被调试程序(Debuggee)在什么时候启动的。例如在DCOM环境里面,DCOM客户端(Client)可以通过调用CoCreateInstanceEx(…, CTX_LOCAL_SERVER, …)启动DCOM服务器(Server),启动DCOM服务器的过程是在COM库中进行的, 你没有办法将在DCOM服务器的WinMain函数之前将你的调试器附加(Attach)上去。Windows提供了一个功能就是在一个程序启动的时候,自动将设置好的调试器附加到这个新启动的程序上去。这里我就是要介绍这个功能:
或者说你需要调试一个Windows服务的启动部分,在服务启动的时候,让调试器附加上去岂不是比在Start()函数里面打印很多跟踪信息要好很多?
在程序启动的时候将调试器附加上去实际上是Windows操作系统提供的功能,呃……当然,调试器之所以能工作,也是CPU和操作系统通力合作的结果,:)。因此你需要修改一些操作系统里面的设置:
1. 打开注册表编辑器(regedit.exe).
2. 找到键值HKEY_LOCAL_MACHINE"SOFTWARE"Microsoft"Windows NT"CurrentVersion"Image File Execution Options"。
3. 新建一个键(Key),键名就是你要调试的程序的文件名,例如notepad.exe。
4. 然后在这个新建的键值(Key)下,在我们的例子里,这个键值是notepad.exe。新建一个字符串值(String Value)Debugger,值设置为你喜欢的调试器:
a. 如果选择Visual Studio的话,就是D:"Program Files"Microsoft Visual Studio 9.0"Common7"IDE"devenv.exe(假设你的Visual Studio安装在D盘)
b. 选择Windbg的话,就是c:"debuggers"windbg.exe(假设你的Windbg拷贝在c:"debuggers"目录里)。
设置好了以后,启动notepad.exe,这个时候你选择的调试器就会被Windows先启动起来,然后在notepad.exe的入口处中断。换句话说,所有的程序,都可以使用这种方法在启动的时候自动激活调试器,当然啦,如果你已经修复了你的问题,不需要调试器在程序启动之前启动的话,在注册表里面删掉那个键值就好了。
如下图所示:
如何设置验尸调试(POSTMORTEM DEBUGGER)
首先先讲一下什么叫做验尸调试,大家应该都有这个体验,当一个程序突然崩溃的时候,Windows会不失时机弹出一个对话框,问你是否要发送错误报告给微软。其实这个对话框叫做Watson, 是Windows自带的一个非常简单的调试器,它的工作就是将程序的内存拷贝下来保存到一个文件当中。这个过程就是验尸调试的准备步骤,因为程序加载进内存以后,术语叫做进程,当进程崩溃的时候,就是意外死亡嘛,当然进程正常结束那叫做自然死亡。一般我们只对意外死亡的进程比较感兴趣,就跟电视里警匪片里面描写的那样,一个无辜的配角死掉了,警察第一步总是要保护现场,带尸体回去 ,让法医验尸。进程意外死亡的时候,Windows区别进程是否是意外死亡的方式很简单,就是看进程里面是否有未处理的异常。Windows也提供了一个选项,可以让你把犯罪现场--进程发生异常的时候的内存保留下来(进程的尸体),你可以在晚一点的时候来慢慢分析这个内存(比如看一看堆栈,一些变量什么的)--这个过程就叫做验尸。
验尸调试对下面这种情况很有帮助:
1. 重现很难重现的bug,比如说你有一个bug是随机出现,但是每次出现都会把程序搞死,与其绞尽脑汁去回忆重现步骤,还不如直接把犯罪现场保留下来,慢慢分析。
启动非托管程序的验尸调试功能
跟在程序启动时将调试器附加上去类似,验尸调试实际上也是Windows提供的功能,启动验尸调试,你需要修改下面的注册表设置:
在""HKEY_LOCAL_MACHINE"Software"Microsoft"Windows NT"CurrentVersion"AeDebug里面,分别创建下面两个键:
名称 |
类型 |
键值 |
Debugger |
REG_SZ |
"C:"Windows"system32"vsjitdebugger.exe" -p %ld -e %ld |
Auto |
REG_SZ |
1 |
如图所示:
里面的键值说明一下:
1. Debugger:指定了用来执行验尸调试的调试器文件名的完整路径,-p和-e是调试器的一些命令行参数,而%ld则是一个占位符,Windows会把死亡的进程的PID替换%ld这个值(读者如果熟悉批处理编程的话,就应该知道%ld实际上是批处理程序的参数的声明方式)。
vsjitdebugger.exe是Visual Studio用来处理验尸调试的调试器名称,如果你安装了Visual Studio,VS的安装程序应该会自动为你设置好这个键。
2. Auto:如果值是1的话,那么windows就会自动在进程死亡的时候,启动调试器;如果为0的话,就会打开一个对话框问你是否要执行验尸调试—但是Windows 7如果是这个选项的话,会直接禁用验尸调试,因此我推荐将Auto的值总是设置成1。
备注:对于偏好windbg的读者,你有两个方案将Windbg设置成默认的验尸调试程序:
1. 直接执行
windbg –I
这个命令,注意I要大写。
2. 将Debugger的键值设置为:
"c:"Debuggers"windbg.exe" -p %ld -e %ld –g
设置好了以后,我们可以写一个测试程序来试一下刚才的设置:
Test.cpp
#include "stdafx.h"
int _tmain(int argc, _TCHAR* argv[]) { int *p = NULL;
// 触发一个异常 *p = 0;
return 0; } |
使用命令cl.exe /Zi test.cpp编译好程序以后,执行test.exe,你应该就可以看到调试器自动在进程死亡的时候弹出来了。
启动托管程序的验尸调试功能
然而,上面的设置仅对native程序有效,如果要设置托管程序的默认验尸调试器,在""HKEY_LOCAL_MACHINE"Software"Microsoft".NETFramework里面,分别创建下面两个键:
名称 |
类型 |
键值 |
DbgManagedDebugger |
REG_SZ |
"C:"Windows"system32"vsjitdebugger.exe" PID %d APPDOM %d EXTEXT "%s" EVTHDL %d |
DbgJITDebugLaunchSetting |
REG_DWORD |
2 |
使用上面的设置,你应该可以做所有非Winform托管程序的验尸调试了。
启动Winform程序的验尸调试功能
当你的Win form程序崩溃(Crash)的时候,你会发现你设置的默认验尸调试器没有运行起来,原因是因为Win form程序默认禁用了即时调试(JIT Debug)的功能。因此要设置Win form程序的默认验尸调试器,你除了做上面的步骤以外,你还要将Win form程序的即时调试功能打开。打开的方法:
1. 修改你机器的machine.config文件,这样机器上所有的Win form程序都会将这个即时调试功能打开。在<configuration>里面添加下面一行:
<system.windows.forms jitDebugging="true" />
2. 修改单独程序的的app.config文件打开单个Win form程序的即时调试功能。在<configuration>里面添加下面一行:
<system.windows.forms jitDebugging="true" />
例如:
<?xml version="1.0" encoding="utf-8" ?> <configuration> <system.windows.forms jitDebugging="true" /> </configuration> |
使用Visual Studio的RPC调试功能同时调试COM程序的客户端和服务端
参看我以前的文章:
http://blog.csdn.net/Donjuan/archive/2009/01/23/3851586.aspx
本文转自 donjuan 博客园博客,原文链接:http://www.cnblogs.com/killmyday/archive/2009/10/10/1580169.html ,如需转载请自行联系原作者