欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页

调试实战 —— dll 加载失败之全局变量初始化篇

程序员文章站 2024-02-17 16:31:52
...

前言

最近项目里总是遇到 dll 加载不上的问题,原因各种各样。今天先总结一个虽然不是项目中实际遇到的问题,但是却非常经典的问题。其它几种问题,后续慢慢总结。

示例代码包含一个 exe 工程,两个 dll 工程。exe 会加载两个 dll 并调用它们的导出函数(GetCallCount),结果只有一个 dll 的导出函数被成功调用。会是什么原因呢?

现象

运行效果如下图:

调试实战 —— dll 加载失败之全局变量初始化篇
run_result

通过 dumpbin 已经确认两个 dll 都有名为 GetCallCount 的函数。但是只有一个调用成功了,另外一个却调用失败。

调试实战 —— dll 加载失败之全局变量初始化篇
dumpbin-exports

使用 process explorer 观察 dll 加载情况,发现只加载了一个 dll,没发现另外一个 dll

调试实战 —— dll 加载失败之全局变量初始化篇
loaded_dll

对于这个问题,如果我们使用 procmon 观察整个加载过程,看到的都是 Success。如下图:

调试实战 —— dll 加载失败之全局变量初始化篇
procmon-trace

说明,加载正常,在本地找到了这个文件,并正确的映射到内存空间中了。但为什么在进程中观察不到这个 dll 呢?是时候上调试器了。

上调试器

直接在 vs 中按 F5 启动,果然中断到 vs 中了。

调试实战 —— dll 加载失败之全局变量初始化篇
exception-and-call-stack

从上图右侧部分,我们可以看到完整的调用栈。

这里简单介绍下相关代码。在 GlobalVariableInitializeOrder.cpp 的第 15 行调用了 HMODULE hDll2 = LoadLibraryA("GlobalVariableInitializeOrderDll2.dll"); 加载对应的模块。

Common\Test2.cpp 的第 10 行定义了全局变量 CTest2 g_t2;,问题就出在这个全局变量的初始化代码中。

从上图左侧部分,我们可以得知错误代码是 0xc0000005,内存访问异常。访问的地址是 0x00000004,对应的指令位置是 0x001EA6DB

调试实战 —— dll 加载失败之全局变量初始化篇
invalid-eax

从上图中的反汇编看,确实是挂在了 001EA6DB mov eax,dword ptr [eax]。因为 eax 的值是 4,我们需要查明 eax 为什么的值是 4。相信很多小伙伴都知道,eax 用来保存函数调用的返回值。我们可以把注意力集中到 0x001EA6D6 处的 call 指令了,调用的是成员函数 _Root()

查看 vs 提供的源码,如下:

_Nodeptr& _Root() const
{ // return root of nonmutable tree
 return (this->_Parent(this->_Myhead));
}

我们可以发现 _Root() 内部简单的调用了 _Parent() 函数,并把 this->_Myhead 当作参数传递过去了。再查看下 _Parent() 函数的源码,如下:

static _Nodepref _Parent(_Nodeptr _Pnode)
{ // return reference to parent pointer in node
 return ((_Nodepref)_Pnode->_Parent);
}

务必注意: _Parent() 的返回值类型是 _Nodepref,返回的是引用(最后三个字母 ref 已经说明了一切)!相当于返回的是 _Pnode->_Parent 的地址!我们可以查看 _Nodepref 的定义:typedef _Nodeptr& _Nodepref;

所以 _Root() 函数相当于 &(this->_Myhead->_Parent)。我们来观察下 this 的值。

调试实战 —— dll 加载失败之全局变量初始化篇
watch-this-value

可以看到 _Myhead 的值是 0,类型是 std::_Tree_node<...>

我们再看下 _Tree_node 的定义:

template<class _Value_type, class _Voidptr>
struct _Tree_node
{
 _Voidptr _Left;     // offset: 0x0
 _Voidptr _Parent;   // offset: 0x4
 _Voidptr _Right;    // offset: 0x8
 char _Color;        // offset: 0xC
 char _Isnil;        // offset: 0xD
 _Value_type _Myval; // offset: 0x10

private:
 _Tree_node& operator=(const _Tree_node&);
};

_Tree_node 的定义可知, _Parent 的偏移是 4 (因为是 32 位的程序,如果是 64 位,那么是 8)。

综上,地址 001EA6D6 处的 call 指令反回了 4。接下来的两条指令是把返回值赋给局部变量 _Nodeptr _Pnode。但是在执行第一条汇编指令  mov eax,dword ptr [eax] 时就挂了,因为 eax 的值是 4,正常情况下访问 0x00000004 处的值当然会挂掉了。

至此,我们知道了崩溃的直接原因——访问非法地址。但是根本原因是什么呢?为什么 _Myhead0 呢?我猜测是因为 map 还没有初始化。但是该如何证实这个猜测呢?

继续深入

CTest2 的构造函数里调用的是 CTest1::GetMap()GetMap() 内部会返回 CTest1 的静态变量 static std::map<std::string, std::string> s_manager; 的引用。

如果能证明在 CTest2::g_t2 初始化时,CTest1::s_manager 还没初始化,那么我们就证实了我们的猜测。

我想到两个办法:

  1. 在  map 的构造函数中输出一条日志。在调用 g_t2 的构造函数时,查看是否有我们在 map 中新加的日志。

  2. 明确每个全局变量的初始化顺序。

第一种方法比较简单,直接修改 vs 提供的源码即可,注意修改只读属性。本文以第 2 种方法为例展开。

全局变量初始化简介

本小节根据上面的调用栈简单的介绍全局变量的初始化过程(只介绍我们关心的部分)。

不知道各位小伙伴儿是否记得上面的调用栈。切换到 8 号栈帧,如下图:

调试实战 —— dll 加载失败之全局变量初始化篇
__DllMainCRTStartup-call-_CRT_INIT

可以发现,在 __DllMainCRTStartup() 函数中,当 dwReason == DLL_PROCESS_ATTACH 或者 dwReason == DLL_THREAD_ATTACH 的时候,会调用 _CRT_INIT() 函数。_CRT_INIT() 会执行运行时库的初始化相关功能,比如,初始化全局变量。然后才会调用用户提供的 DllMain() 函数。

继续切换到 7 号栈帧,如下图:

调试实战 —— dll 加载失败之全局变量初始化篇
crt_init

通过注释可知,_initterm() 是在调用 C++ constructors

我们继续切换到 6 号栈帧,如下图:

调试实战 —— dll 加载失败之全局变量初始化篇
_initterm

根据注释猜测,应该是在依次调用每个全局变量的初始化函数。pfbegin 指向了保存全局变量初始化函数的表格的起始位置,pfend 指向最后一个有效位置的下一个位置,跟标准库中的容器多么相似啊。如果 *pfbegin 的值不为 0,说明表格对应的位置有有效的初始化函数,需要调用,否则就跳过。

vs 中,我们想遍历出这个表格的内容有些费劲。是时候请 windbg 出场了。

windbg 出场

在使用 windbg 之前一定要设置好符号路径,否则很多内容看不到。

使用 windbg 打开要运行的程序,在命令窗口输入 bm GlobalVariableInitializeOrderDll2!_CRT_INIT ,埋伏好断点后执行 g 命令继续运行。

调试实战 —— dll 加载失败之全局变量初始化篇
set-breakpoint-by-bm

很快,就中断到我们设置好的断点处了。在调用 _initterm() 的地方设置好断点,执行 g 命令(也可以和 vs 一样按 F5),断下来后,单步进入 _initterm() 函数,执行 dv 查看局部变量。

调试实战 —— dll 加载失败之全局变量初始化篇
single-step-to-initterm

从输出结果可知,pfbegin = 0x001f6000pfend = 0x001f6250。然后我们就可以用强悍的 dps 来查看pfbeginpfend 之间的内容了。在命令窗口执行,dps 0x001f6000 0x001f6250。因为有很多空项,这里只截取中间部分。

调试实战 —— dll 加载失败之全局变量初始化篇
dps-0x001f6000-0x001f6250

我们可以很明显的看到,g_t2的构造函数在前,s_manager 的构造函数在后。

至此,已经证实了我们之前的猜想。

对比强化

因为工程 GlobalVariableInitializeOrderDll1 和工程 GlobalVariableInitializeOrderDll2 代码一模一样,只有一点点的不同,就是这一点不同导致了一个 dll 可以正常使用,另外一个却不能正常使用。

我们可以用相同的手法观察 GlobalVariableInitializeOrderDll1.dll 的初始化过程。

在命令窗口输入 bm GlobalVariableInitializeOrderDll1!_CRT_INIT;g ,埋伏好断点后运行起来。再次中断后,使用相同的办法进入_initterm() 函数,通过 dv 命令得到 pfbegin = 0x10026000pfend = 0x10026250 的值,然后执行 dps 0x10026000 0x10026250,如下图(同样有很多空项,只截取了中间部分):

调试实战 —— dll 加载失败之全局变量初始化篇

我们发现,s_manager 的构造函数在前,g_t2的构造函数在后。

修复

我们应该从根本上消除对全局变量的依赖,只需要把 s_manager 放到 GetMap() 中就可以了。

static std::map<std::string, std::string>& GetMap()
{
 static std::map<std::string, std::string> s_manager;
    return s_manager;
}

但有时候,由于各种各样的原因,我们不能消除这种依赖。我们还可以调整全局变量的初始化顺序。只要有办法让 g_t2s_manager 之后再初始化就可以了。对比两个 dll 工程文件,我们发现有一处关键的不同点。

调试实战 —— dll 加载失败之全局变量初始化篇
difference-of-project1-2

在能正常加载的 dll 对应的工程中, Test1.cpp, Test2.cpp 出现的顺序是 Test1.cpp, Test2.cpp,在不能正常加载的 dll 对应的工程中,出现的顺序是 Test2.cpp, Test1.cpp。调整 dll2.vcxproj 中的文件顺序和 dll1.vcxproj 一样,再次编译运行,一切顺利。

调试实战 —— dll 加载失败之全局变量初始化篇
success

动手实战

强烈建议你也动手实战一番,毕竟纸上来的终觉浅。如果你也想动手实战,可以下载完整的工程文件,使用 vs2013 编译运行即可。如果没装 vs2013,也可以手动改成其它版本的 vs

完整的测试工程下载链接:

百度云 链接: https://pan.baidu.com/s/1gW1dZsNYZoo0s_rfaO2Jzg 提取码: 7irh

CSDN 链接:https://download.csdn.net/download/xiaoyanilw/12405380

总结

  • 永远不要让一个全局变量依赖另外一个全局变量。

  • 全局变量是在 DllMain 或者 main 函数执行前进行初始化的。

  • 在 32 位程序中,一般使用 eax 保存函数的返回值。

  • dps 命令可以按地址遍历给定范围的内容。

  • dv 命令可以查看局部变量和参数。

参考资料

如果有小伙伴儿对全局变量初始化感兴趣,可以参考以下几篇文档:

https://docs.microsoft.com/en-us/cpp/c-runtime-library/crt-initialization?redirectedfrom=MSDN&view=vs-2019

http://www.cppblog.com/xlshcn/archive/2007/12/07/37088.html

http://bytepointer.com/resources/pietrek_libctiny_2001.htm

欢迎留言交流!

需要你的调试实战 —— dll 加载失败之全局变量初始化篇