记录自己在mmdetection配置中遇到的坑

主要配置过程参考https://blog.csdn.net/david_lee13/article/details/102940221
mmdet的版本和参考文章里的一致，为mmdet1.0rc0（使用旧版本是为了运行一个工程）

在使用python setup.py develop安装mmdet的时候，出现了莫名其妙的一个报错：

正在创建库 build\temp.win-amd64-3.6\Release\mmdet\ops\sigmoid_focal_loss\src\sigmoid_focal_loss_cuda.cp36-win_amd64.lib 和对象 build\temp.win-amd64-3.6\Release\mmdet\ops\sigmoid_focal_loss\src\sigmoid_focal_loss_cuda.cp36-win_amd64.exp
sigmoid_focal_loss_cuda.obj : error LNK2001: 无法解析的外部符号 "public: long * __cdecl at::Tensor::data<long>(void)const " (??$data@J@Tensor@at@@QEBAPEAJXZ)

百度了很久，找到一个解决方法 https://www.cnblogs.com/venusian/p/12996005.html

其修改步骤为，在mmdet/ops/sigmoid_focal_loss/src/sigmoid_focal_loss_cuda.cu这个文件中
添加一个函数

int Ceil_div(int a, int b) { return (a + b - 1); }

同时替换

/*targets.contiguous().data<long>(), edited by zzl*/
=>
static_cast<long*>(targets.contiguous().data_ptr()),

/*dim3 grid(std::min(THCCeilDiv(d_logits_size, 512L), 4096L)); edited by zzl*/
=>
dim3 grid(std::min(Ceil_div((int)d_logits_size, 512), 4096));

/*dim3 grid(std::min(THCCeilDiv(losses_size, 512L), 4096L)); edited by zzl*/
=>
dim3 grid(std::min(Ceil_div((int)losses_size, 512), 4096));

按照文章中内容修改后，出现了新的报错，先定位到报错文件，按照上面方法如法炮制，最终安装成功

正在创建库 build\temp.win-amd64-3.6\Release\mmdet\ops\masked_conv\src\masked_conv2d_cuda.cp36-win_amd64.lib 和对象 build\temp.win-amd64-3.6\Release\mmdet\ops\masked_conv\src\masked_conv2d_cuda.cp36-win_amd64.exp
masked_conv2d_kernel.obj : error LNK2001: 无法解析的外部符号 "public: long * __cdecl at::Tensor::data<long>(void)const " (??$data@J@Tensor@at@@QEBAPEAJXZ)

以上问题的话，似乎是torch的问题，暂时不知道什么情况。不过最新版本的mmdet并不会有这个报错
这个解决方法可能不适合所有人，只是记录一下自己的学习过程，在修改文件之前记得备份

本文地址：https://blog.csdn.net/qq_19647107/article/details/107575305