基于python进行数据分析(python基础代码大全)
【关键字】
1. pyhton
2. tensorflow
3. 机器学习
【场景定义】
假定一些样本数据和正确结果,而且人为添加一些噪音数据(偏差数据),提供给tensorflow进行机器学习,看看机器学习效果如何,并通过实验理解机器学习
1)样本数据模型:f(x) = ax^2 + bx + c,即抛物线,当然也可以任意定义一个模型
2)噪音数据:y=f(x) + 随机数,随机数就作为偏差值,产生噪音数据
3)输入和输出:输入数据x和输出数据y都是明确的一维数据,是最简单的模型,取值:x=[0,300],得到的y就是输出数据
import tensorflow as tf
import numpy as np
import matplotlib.pyplot as plt
import os
os.environ[‘tf_cpp_min_log_level’] = ‘2’
#产生样本数据和图形
numdots=300
inputdata=[]
for i in range(numdots):
x=np.random.normal(0.8,10)
y=0.3*x*x-0.2*x+0.5+np.random.normal(0,6)
inputdata.append([x,y])
x_data=[v[0] for v in inputdata]
y_data=[v[1] for v in inputdata]
【神经网络】
基于tesonflow构建神经网络,用到了神经网络的几个常用方法:
1)array.reshape(): 生成矩阵
2)placeholder:添加计算占位符节点,相当于定义一个参数,需要重点理解清楚
x = tf.placeholder(dtype=tf.float32, shape=[144, 10], name=’x’)
参数说明
dtype:数据类型,必填,默认为value的数据类型,传入参数为tensorflow下的枚举值(float32,float64…….)
shape:数据形状,选填,不填则随传入数据的形状自行变动,可以在多次调用中传入不同形状的数据
name:常量名,选填,默认值不重复,根据创建顺序为(placeholder,placeholder_1,placeholder_2…….)
3)variable:变量域,相当于设置一个变量
4)relu:线性整流函数(rectified linear unit, relu),又称修正线性单元
5)matmul:将矩阵 a 乘以矩阵 b,生成a * b
6)reduce_mean :计算张量tensor沿着指定的数轴(tensor的某一维度)上的的平均值,主要用作降维或者计算tensor(图像)的平均值
7)gradientdescentoptimizer:实现实现梯度下降算法的优化器类,用于构造一个新的梯度下降优化器实例
#构建神经网络模式
x_data=np.array([x_data]).reshape(-1,1)
y_data=np.array([y_data]).reshape(-1,1)
x_h=tf.placeholder(dtype=tf.float64,shape=[none,1],name=”xh”)
y_h=tf.placeholder(dtype=tf.float64,shape=[none,1],name=”yh”)
w=tf.variable(np.random.normal(0,0.3,size=[1,20]),dtype=tf.float64)
b=tf.variable(np.random.normal(0.0,0.5,size=[20]),dtype=tf.float64)
y0=tf.nn.relu(tf.matmul(x_h,w)+b)
w1=tf.variable(np.random.normal(0,0.5,size=[20,1]),dtype=tf.float64)
b1=tf.variable(np.random.normal(0,0.8,size=[1]),dtype=tf.float64)
y=(tf.matmul(y0,w1)+b1)
los=tf.reduce_mean((tf.square(y-y_h)))
tran=tf.train.gradientdescentoptimizer(0.001).minimize(los)
【机器训练】
训练主要在session中进行交互,session具有管理cpu/gpu计算能力和网络连接功能,相当于一个上下文,使用参数是:
1)session:session作为会话,主要功能是指定操作对象的执行环境,session类构造函数有3个可选参数。
target(可选):指定连接的执行引擎,多用于分布式场景。
graph(可选):指定要在session对象中参与计算的图(graph)。
config(可选):辅助配置session对象所需的参数(限制cpu或gpu使用数目,设置优化参数以及设置日志选项等)。
2)global_variables_initializer:返回一个用来初始化计算图中所有global variable的op,通常使用方式是:sess.run(tf.global_variables_initializer()),启动所需要的数据流图进行计算。
3)session.run:执行计算,参数是:run(op, data),比如:
import tensorflow as tf
a = tf.add(1, 2)
# 定义了一个op操作,恒等于1+2 = 3
b = tf.multiply(a, 2)
# 定义了相乘操作,a*2
session = tf.session()
v1 = session.run(b)
print(v1)
# v1=(1+2) * 2 =6
replace_dict = {a:20}
# a重新定义为常量20
v2 = session.run(b, feed_dict = replace_dict)
print(v2)
# v2= 20 *2 = 40
训练次数越高,如果模型合理的话,拟合结果会越准确,本文是明确的抛物线模型,所以训练结果能较好的回归
【使用训练结果】
训练结束后,在相同的上下文计算,可以使用训练结果看看学习效果
#用神经网络计算x上的所有点的y值,绘制图形,看效果
testx=np.linspace(-30,30,60,dtype=np.float32).reshape(-1,1)
testy=sess.run(y,feed_dict={x_h:testx})
#plt.scatter(testx,testy)
plt.scatter(x_data,y_data)
plt.plot(testx,testy)
plt.show()
上述代码可以直接运行,得到结果是:
蓝点:带有噪音的样本数据
曲线:训练结束后,基于训练结果计算得到的数据,已经非常接近于去除噪音的样本模型了
推荐阅读
-
基于python进行数据分析(python基础代码大全)
-
python基础代码实例详解(python基础代码大全)
-
基于python进行数据分析(python基础代码大全)
-
python基础代码实例详解(python基础代码大全)
-
《利用Python进行数据分析》第9章 groupby技术和数据聚合笔记
-
python数据分析实战-在线零售业务的交易-电商平台零售数据分析(附源代码)
-
基于Python的某电商平台交易数据分析
-
数据挖掘利用python的numpy库计算矩阵均值,协方差矩阵,特征值,特征值向量,进行主成分分析。
-
Python电影票房数据可视化分析基础实践
-
Python数据分析之如何利用pandas查询数据示例代码