记录踩过的坑-AI

 

目录

 

NVIDIA GPU

Pytorch

TP, TN, FP, FN

HOD&HOG

TensorFlow

Windows中Keras预训练模型文件位置

Windows下，pycharm报错：Memory Error，Unable to allocate array with shape xxxx

---

NVIDIA GPU

1. 查看GPU连续使用情况 windows

命令行模式下进入C:\Program Files\NVIDIA Corporation\NVSMI

使用： nvidia-smi.exe -l 必须是小写的l， -l 指定数字表示每个几秒刷新显示

 

Pytorch

THCudaCheck FAIL file=torch\csrc\generic\StorageSharing.cpp line=252 error=63 : OS call failed or operation not supported on this OS

They are not supported on Windows. Something like doing multiprocessing on CUDA tensors cannot succeed, there are two alternatives for this.

1. Don’t use multiprocessing. Set the num_worker of DataLoader to zero.

2. Share CPU tensors instead. Make sure your custom DataSet returns CPU tensors.

 

TP, TN, FP, FN

TP —— True Positive 是指某（些）个正样本被预测判定为正；此种情况可以称作判断为真的正确情况。  

TN —— True Negative是指某（些）个负样本被预测判定为负；此种情况可以称作判断为假的正确情况。 

FP ——False Positive 是指某（些）个负样本被模型预测为正；此种情况可以称作判断为真的错误情况，或称为误报。  

FN——False Negative是指某（些）个正样本被模型预测为负；此种情况可以称作判断为假的错误情况，或称为漏报。

 

HOD&HOG

HOG( Histogram of OrientedGradients) - 方向梯度直方图

HOD(Histogram of Oriented Depths) - 深度方向直方图

 

TensorFlow

很多报错都是因为版本问题，TensorFlow的版本、CUDA的版本等等。比如以下的例子：

ImportError: Could not find 'cudart64_100.dll'

需要下载对应CUDA版本。

或者去网上下载cudart64_100.dll，拷贝到

C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\10.1\Development\bin目录下

 

ImportError: cannot import name 'set_random_seed' from 'tensorflow' 

TensorFlow-GPU2.0中遇到这个问题

2.0中的新写法：

import tensorflow
tensorflow.random.set_seed(x)

 

Windows中Keras预训练模型文件位置

C:\Users\用户名\.keras\models

 

Windows下，pycharm报错：Memory Error，Unable to allocate array with shape xxxx

以下方法都可以一定程度上解决。

1. numpy在定义数组的时候，采用更低的精度。

2. 修改pycharm的运行内存，Help->Find Action->(type "VM Options")->(Click)"Edit Custom VM Options" 打开pycharm64.exe.vmoptions进行编辑，修改-Xmx2032m 为 -Xmx4096m，分配4G内存，视情况而定。 保存并重启pycharm。

3. 修改windows虚拟内存。