欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页

【学习笔记】tensorflow图片读取

程序员文章站 2022-03-20 14:53:21
...

图像基本概念

在图像数字化表示当中,分为黑白和彩色两种。在数字化表示图片的时候,有三个因素。分别是图片的长、图片的宽、图片的颜色通道数。那么黑白图片的颜色通道数为1,它只需要一个数字就可以表示一个像素位;而彩色照片就不一样了,它有三个颜色通道,分别为RGB,通过三个数字表示一个像素位。TensorFlow支持JPG、PNG图像格式,RGB、RGBA颜色空间。图像用与图像尺寸相同(height*width*chnanel)张量表示。图像所有像素存在磁盘文件,需要被加载到内存。

图像基本操作

目的:

  1. 增加图片数据的统一性
  2. 所有图片转换成指定大小
  3. 缩小图片数据量,防止增加开销

操作:

  1. 缩小图片大小

图像基本操作API

tf.image.resize_images(images, size):缩小图片

  • images:4-D形状[batch, height, width, channels]或3-D形状的张量[height, width, channels]的图片数据
  • size:1-D int32张量:new_height, new_width,图像的新尺寸
  • 返回4-D格式或者3-D格式图片

图像读取API

图像读取器:

tf.WholeFileReader:将文件的全部内容作为值输出的读取器

  • return:读取器实例
  • read(file_queue):输出将是一个文件名(key)和该文件的内容(值)

图像解码器:

tf.image.decode_jpeg(contents):将JPEG编码的图像解码为uint8张量

  • return:uint8张量,3-D形状[height, width, channels]

tf.image.decode_png(contents):将PNG编码的图像解码为uint8或uint16张量

  • return:张量类型,3-D形状[height, width, channels]

狗图片读取

import tensorflow as tf
import os

def readpic(filelist):
    """
    狗图片读取
    """
    # 构建文件队列
    file_queue = tf.train.string_input_producer(filelist)

    # 构造阅读器
    reader = tf.WholeFileReader()

    key, value = reader.read(file_queue)
    print(value)

    # 对读取到的图片进行解码
    image = tf.image.decode_jpeg(value)
    print(image)

    # 处理图片的大小
    img_resize = tf.image.resize_images(image, [250, 250])
    print(img_resize)
    img_resize.set_shape([250, 250, 3])

    # 批处理
    image_batch = tf.train.batch([img_resize], batch_size=10, num_threads=1, capacity=10)
    print(image_batch)
    return image_batch


if __name__ == '__main__':
    filelist = os.listdir("./data/dogs")
    filelist = ["./data/dogs/{}".format(i) for i in filelist]

    image_batch = readpic(filelist)

    with tf.Session() as sess:

        # 线程协调器
        coord = tf.train.Coordinator()

        # 开启读取文件线程
        threads = tf.train.start_queue_runners(sess, coord=coord)

        # 打印数据
        print(sess.run([image_batch]))

        coord.request_stop()
        coord.join()

案例流程:

  • 构造图片文件队列
  • 构造阅读器
  • 读取图片数据
  • 处理图片数据

CIFAR-10二进制数据读取

网站:https://www.cs.toronto.edu/~kriz/cifar.html

import tensorflow as tf
import os

# 定义cifar命令相关参数
tf.app.flags.DEFINE_string("cifar_dir", "./data/cifar-10-batches-bin", "cifar目录")

FLAGS = tf.app.flags.FLAGS


class CifarReader(object):
    """
    读取二进制文件,写入tfrecords,读取tfrecords
    """

    def __init__(self, filelist):
        self.filelist = filelist

        # 定义读取的二进制图片的一些属性
        self.width = 32
        self.height = 32
        self.channel = 3

        self.label_bytes = 1
        self.image_bytes = self.width * self.height * self.channel
        self.bytes = self.label_bytes + self.image_bytes

    def read_and_decode(self):
        # 构造文件队列
        file_queue = tf.train.string_input_producer(self.filelist)

        # 构造二进制文件阅读器
        reader = tf.FixedLengthRecordReader(self.bytes)
        key, value = reader.read(file_queue)

        # 解码
        label_image = tf.decode_raw(value, tf.uint8)
        print(label_image)

        # 分离出图片和标签数据
        label = tf.cast(tf.slice(label_image, [0], [self.label_bytes]), tf.int32)
        image = tf.slice(label_image, [self.label_bytes], [self.image_bytes])
        # 改变图片的形状 [3072] -> [32, 32, 3]
        image_reshape = tf.reshape(image, [self.height, self.width, self.channel])
        print(label, image_reshape)

        # 批处理数据
        label_batch, image_batch = tf.train.batch([label, image_reshape], batch_size=20, num_threads=1, capacity=20)
        print(label_batch, image_batch)

        return label_batch, image_batch


if __name__ == '__main__':
    filelist = os.listdir(FLAGS.cifar_dir)
    filelist = [os.path.join(FLAGS.cifar_dir, i) for i in filelist if i.endswith(".bin")]

    cf = CifarReader(filelist)

    label_batch, image_batch = cf.read_and_decode()

    with tf.Session() as sess:

        # 线程协调器
        coord = tf.train.Coordinator()

        # 开启读取文件线程
        threads = tf.train.start_queue_runners(sess, coord=coord)

        # 打印数据
        print(sess.run([label_batch, image_batch]))

        coord.request_stop()
        coord.join()

TFRecords

TFRecords是Tensorflow设计的一种内置文件格式,是一种二进制文件,它能更好的利用内存,更方便复制和移动。为了将二进制数据和标签(训练的类别标签)数据存储在同一个文件中。

TFRecords存储

  1. 建立TFRecord存储器:tf.python_io.TFRecordWriter(path)
    • path: TFRecords文件的路径
    • return:写文件
    • 方法:
      • write(record):向文件中写入一个字符串记录
      • close():关闭文件写入器
    • 注:字符串是一个序列化的Example:Example.SerializeToString()
  2. 构造每个样本的Example协议块
    • tf.train.Example(features=None)
      • 写入tfrecords文件
      • features:tf.train.Features类型的特征实例
      • return:example格式协议块
    • tf.train.Features(feature=None)
      • 构建每个样本的信息键值对
      • features:字典数据,key为要保存的名字,value为tf.train.Feature实例
      • return:Features类型
    • tf.train.Feature(**options)
      • **options:例如:
        bytes_list=tf.train. BytesList(value=[Bytes])
        int64_list=tf.train. Int64List(value=[Value])

对于上例中【CIFAR-10二进制数据读取】读取到的数据进行存储:

import tensorflow as tf
import os


# 定义cifar命令相关参数
tf.app.flags.DEFINE_string("cifar_dir", "./data/cifar-10-batches-bin", "cifar目录")
tf.app.flags.DEFINE_string("cifar_tfrecords", "./temp/cifar.tfrecords", "保存的tfrecords文件路径")

FLAGS = tf.app.flags.FLAGS


class CifarReader(object):
    """
    读取二进制文件,写入tfrecords,读取tfrecords
    """

    def __init__(self, filelist):
        self.filelist = filelist

        # 定义读取的二进制图片的一些属性
        self.width = 32
        self.height = 32
        self.channel = 3

        self.label_bytes = 1
        self.image_bytes = self.width * self.height * self.channel
        self.bytes = self.label_bytes + self.image_bytes

    def read_and_decode(self):
        # 构造文件队列
        file_queue = tf.train.string_input_producer(self.filelist)

        # 构造二进制文件阅读器
        reader = tf.FixedLengthRecordReader(self.bytes)
        key, value = reader.read(file_queue)

        # 解码
        label_image = tf.decode_raw(value, tf.uint8)
        print(label_image)

        # 分离出图片和标签数据
        label = tf.cast(tf.slice(label_image, [0], [self.label_bytes]), tf.int32)
        image = tf.slice(label_image, [self.label_bytes], [self.image_bytes])
        # 改变图片的形状 [3072] -> [32, 32, 3]
        image_reshape = tf.reshape(image, [self.height, self.width, self.channel])
        print(label, image_reshape)

        # 批处理数据
        label_batch, image_batch = tf.train.batch([label, image_reshape], batch_size=20, num_threads=1, capacity=20)
        print(label_batch, image_batch)

        return label_batch, image_batch

    def write_to_tfrecords(self, label_batch, image_batch):
        """
        存储图片的目标值和特征值
        :param label_batch: 图片的目标值
        :param image_batch: 图片的特征值
        :return: None
        """
        # 建立tfrecords存储器
        writer = tf.python_io.TFRecordWriter(FLAGS.cifar_tfrecords)

        # 将所有样本写入文件
        for i in range(label_batch.shape[0]):
            label = int(label_batch[i].eval()[0])
            image = image_batch[i].eval().tostring()

            example = tf.train.Example(features=tf.train.Features(feature={
                "label": tf.train.Feature(int64_list=tf.train.Int64List(value=[label])),
                "image": tf.train.Feature(bytes_list=tf.train.BytesList(value=[image]))
            }))

            writer.write(example.SerializeToString())

        writer.close()


if __name__ == '__main__':
    filelist = os.listdir(FLAGS.cifar_dir)
    filelist = [os.path.join(FLAGS.cifar_dir, i) for i in filelist if i.endswith(".bin")]

    cf = CifarReader(filelist)

    label_batch, image_batch = cf.read_and_decode()

    with tf.Session() as sess:

        # 线程协调器
        coord = tf.train.Coordinator()

        # 开启读取文件线程
        threads = tf.train.start_queue_runners(sess, coord=coord)

        # 存为tfrecords文件
        cf.write_to_tfrecords(label_batch, image_batch)

        # 打印数据
        print(sess.run([label_batch, image_batch]))

        coord.request_stop()
        coord.join()

TFRecords读取方法

同文件阅读器流程,中间需要解析过程

解析TFRecords的example协议内存块:

  • tf.parse_single_example(serialized,features=None,name=None)
    • 解析一个单一的Example原型
    • serialized:标量字符串Tensor,一个序列化的Example
    • features:dict字典数据,键为读取的名字,值为FixedLenFeature
    • return:一个键值对组成的字典,键为读取的名字
  • tf.FixedLenFeature(shape,dtype)
    • shape:输入数据的形状,一般不指定,为空列表
    • dtype:输入数据类型,与存储进文件的类型要一致,类型只能是float32,int64,string

读取上例保存的tfrecords文件:

# 定义cifar命令相关参数
tf.app.flags.DEFINE_string("cifar_dir", "./data/cifar-10-batches-bin", "cifar目录")
tf.app.flags.DEFINE_string("cifar_tfrecords", "./temp/cifar.tfrecords", "保存的tfrecords文件路径")

FLAGS = tf.app.flags.FLAGS


class CifarReader(object):
    """
    读取二进制文件,写入tfrecords,读取tfrecords
    """

    def __init__(self, filelist):
        self.filelist = filelist

        # 定义读取的二进制图片的一些属性
        self.width = 32
        self.height = 32
        self.channel = 3

        self.label_bytes = 1
        self.image_bytes = self.width * self.height * self.channel
        self.bytes = self.label_bytes + self.image_bytes

    def read_from_cfrecords(self):
        """
        读取cfrecords
        :return: None
        """
        # 构建文件队列
        file_queue = tf.train.string_input_producer([FLAGS.cifar_tfrecords])

        # 构建文件阅读器
        reader = tf.TFRecordReader()
        key, value = reader.read(file_queue)

        # 解析example
        features = tf.parse_single_example(value, features={
            "label": tf.FixedLenFeature([], tf.int64),
            "image": tf.FixedLenFeature([], tf.string)
        })

        # 解码
        image = tf.decode_raw(features["image"], tf.uint8)
        image_reshape = tf.reshape(image, [self.height, self.width, self.channel])
        label = tf.cast(features["label"], tf.int32)
        print(label, image_reshape)

        # 批处理
        label_batch, image_batch = tf.train.batch([label, image_reshape], batch_size=20, num_threads=1, capacity=20)
        print(label_batch, image_reshape)
        return label_batch, image_reshape

if __name__ == '__main__':

    label_batch, image_batch = cf.read_from_cfrecords()

    with tf.Session() as sess:

        # 线程协调器
        coord = tf.train.Coordinator()

        # 开启读取文件线程
        threads = tf.train.start_queue_runners(sess, coord=coord)

        # 打印数据
        print(sess.run([label_batch, image_batch]))

        coord.request_stop()
        coord.join()