“Tensor name: xxx has inconsistent batch size: 4 expecting: 1"问题

使用tfserving 的RESTful API请求已经成功加载到tfserving的目标检测模型（predict类型）时遇到下面的错误：

 "error": "Tensor name: bbox_img has inconsistent batch size: 4 expecting: 1" 

搜索了一下，找到了github上tfserving的一个issue，造成这个错误的原因大致是” input tensors for each feature, all need to have the same batch size“。实际上从使用saved_model保存的模型来看，我使用的模型只有一个输入（一张图片tensor: $w*h*3$w∗h∗3），但是在网络的前端，对输入的tensor做了一个处理，得到了另外一个batch_size不同的tensor，应该是这个导致了这个问题。

最后改用gPRC的方式请求预测，gRPC没有batch_size一致的要求，顺利完成预测请求，关于使用gRPC请求预测可以参考使用docker和tf serving搭建模型预测服务。