神经网络设计过程

神经网络的设计过程分成四步：

1. 准备数据，需要采集大量的数据和标签
2. 搭建网络：搭建神经网络结构
3. 优化参数：训练网络获取最佳参数（使用反向传播）
4. 应用网络：将网络保存为模型，输入新数据，输出分类或预测 结果。

这里使用鸢尾花分类的例子进行讲解神经网络设计过程。

下面slide讲解的传统的专家系统通过if case 方法也可以完成鸢尾花分类的问题，但这是一种比较机械的方法，实现中，有经验的专家在有丰富经验之后很容易就能辨别鸢尾花的类别。神经网络的设计更加符合情形。

对大量的鸢尾花信息（包括花瓣长等信息，即输入特征）和标签（对应的类别，需要人工标定）构建数据集，然后将数据集喂入到搭建好的神经网络结构中，网络优化参数，神经网络不断从数据集学习到更好的“经验”，训练完之后得到的模型，再输入新的特征，输出识别结果。

NOTE：数据和输入特征还是有些区别的，输入特征是输入神经网络的输入层的，都是一些数字，更为准确是每一行或者每一列不同可能是不同含义的多维向量。

在最开始搭建网络时首先会随机初始化所有的参数w和b。

损失函数使用的是向后传播不停的迭代，优化参数。损失函数是对预测值和实际值差距的函数。

• 梯度下降 是 找损失函数极小值的一种方法
• 反向传播 是 求解梯度的一种方法