tensorflow笔记2

生成参数

神经网络实现过程

前向传播

反向传播

搭建神经网络的八股

示例

#!/usr/bin/env python3
# -*- coding: utf-8 -*-
"""
Created on Sat Feb 23 16:16:15 2019

@author: sunyirong
"""

import tensorflow as tf
import numpy as np
BATCH_SIZE=8
seed=23455

# 基于seed产生随机数
rng = np.random.RandomState(seed)
# 随机数返回32行2列的矩阵 表示32组 零件的体积和重量 作为输入数据集
X = rng.rand(32,2)
# 从X这个32行2列的矩阵中 取出一行 判断如果和小于1 给Y赋值1 如果和不小于1 给Y赋值0
# 作为输入数据集的标签（正确答案）
Y = [[int(x0+x1<1)] for (x0,x1) in X]
print("X:\n",X)
print("Y:\n",Y)


#1 定义神经网络的输入、参数和输出，定义前向传播过程
x = tf.placeholder(tf.float32,shape=(None,2))
y_ = tf.placeholder(tf.float32,shape=(None,1))

# 隐藏层用3个神经元
w1 = tf.Variable(tf.random_normal([2,3],stddev=1,seed=1))
w2 = tf.Variable(tf.random_normal([3,1],stddev=1,seed=1))

# 前向传播的计算过程描述，用矩阵乘法实现
a = tf.matmul(x,w1)
y = tf.matmul(a,w2)


#2 定义损失函数及反向传播方法
# 选用均方误差计算loss
loss=tf.reduce_mean(tf.square(y-y_))
# 选用梯度下降实现训练过程，学习率填0.001
train_step = tf.train.GradientDescentOptimizer(0.001).minimize(loss)
# 也可以使用下面两种优化方法
# train_step = tf.train.MomentumOptimizer(0.001,0.9).minimize(loss)
# train_step = tf.train.AdamOptimizer(0.001).minimize(loss)


#3 生成会话，训练steps轮
with tf.Session() as sess:
    # 初始化所有变量
    init_op = tf.global_variables_initializer()
    sess.run(init_op)
    # 输出目前（未经训练）的参数取值
    print("w1:\n",sess.run(w1))
    print("w2:\n",sess.run(w2))
    print("\n")
    
    # 训练模型 训练3000轮 每轮BATCH_SIZE组数据
    STEPS = 3000
    for i in range(STEPS):
        start = (i*BATCH_SIZE) % 32
        end = start + BATCH_SIZE
        sess.run(train_step,feed_dict={x:X[start:end],y_:Y[start:end]})
        if i%500 == 0:
            total_loss = sess.run(loss,feed_dict={x:X,y_:Y})
            print("After %d training step(s),loss on all data is %g"%(i,total_loss))
            
    # 输出训练后的参数取值
    print('\n')
    print('w1:\n',sess.run(w1))
    print('w2"\n',sess.run(w2))