之前的一篇博客专门介绍了神经网络的搭建,是在python环境下基于numpy搭建的,之前的numpy版两层神经网络,不能支持增加神经网络的层数。最近看了一个介绍tensorflow的视频,介绍了关于tensorflow的构建神经网络的方法,特此记录。
tensorflow的构建封装的更加完善,可以任意加入中间层,只要注意好维度即可,不过numpy版的神经网络代码经过适当地改动也可以做到这一点,这里最重要的思想就是层的模型的分离。
import tensorflow as tf import numpy as np def addLayer(inputData,inSize,outSize,activity_function = None): Weights = tf.Variable(tf.random_normal([inSize,outSize])) basis = tf.Variable(tf.zeros([1,outSize])+0.1) weights_plus_b = tf.matmul(inputData,Weights)+basis if activity_function is None: ans = weights_plus_b else: ans = activity_function(weights_plus_b) return ans x_data = np.linspace(-1,1,300)[:,np.newaxis] # 转为列向量 noise = np.random.normal(0,0.05,x_data.shape) y_data = np.square(x_data)+0.5+noise xs = tf.placeholder(tf.float32,[None,1]) # 样本数未知,特征数为1,占位符最后要以字典形式在运行中填入 ys = tf.placeholder(tf.float32,[None,1]) l1 = addLayer(xs,1,10,activity_function=tf.nn.relu) # relu是激励函数的一种 l2 = addLayer(l1,10,1,activity_function=None) loss = tf.reduce_mean(tf.reduce_sum(tf.square((ys-l2)),reduction_indices = [1]))#需要向相加索引号,redeuc执行跨纬度操作 train = tf.train.GradientDescentOptimizer(0.1).minimize(loss) # 选择梯度下降法 init = tf.initialize_all_variables() sess = tf.Session() sess.run(init) for i in range(10000): sess.run(train,feed_dict={xs:x_data,ys:y_data}) if i%50 == 0: print sess.run(loss,feed_dict={xs:x_data,ys:y_data})
以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持小牛知识库。
主要内容:使用TensorFlow实现递归神经网络递归神经网络是一种面向深度学习的算法,遵循顺序方法。在神经网络中,我们总是假设每个输入和输出都独立于所有其他层。这些类型的神经网络称为循环,因为它们以顺序方式执行数学计算。 考虑以下步骤来训练递归神经网络 - 第1步 - 从数据集输入特定示例。 第2步 - 网络将举例并使用随机初始化变量计算一些计算。 第3步 - 然后计算预测结果。 第4步 - 生成的实际结果与期望值的比较将产生错误。 第5步 -
在了解了机器学习概念之后,现在可以将注意力转移到深度学习概念上。深度学习是机器学习的一个分支。深度学习实现的示例包括图像识别和语音识别等应用。 以下是两种重要的深度神经网络 - 卷积神经网络 递归神经网络 在本章中,我们将重点介绍CNN - 卷积神经网络。 卷积神经网络 卷积神经网络旨在通过多层阵列处理数据。这种类型的神经网络用于图像识别或面部识别等应用。CNN与其他普通神经网络之间的主要区别在于
本文向大家介绍tensorflow建立一个简单的神经网络的方法,包括了tensorflow建立一个简单的神经网络的方法的使用技巧和注意事项,需要的朋友参考一下 本笔记目的是通过tensorflow实现一个两层的神经网络。目的是实现一个二次函数的拟合。 如何添加一层网络 代码如下: 注意该函数中是xW+b,而不是Wx+b。所以要注意乘法的顺序。x应该定义为[类别数量, 数据数量], W定义为[数据类
人工神经网络指由大量的神经元互相连接而形成的复杂网络结构。以人的视觉系统为例,人的视觉系统的信息处理是分级的,高层的特征是低层特征的组合,从低层到高层的特征表示越来越抽象,越来越能表达语义或者意图。人工神经网络提出最初的目的是为了模拟生物神经网络传递和处理信息的功能。它按照一定规则将许多神经元连接在一起,并行的处理外接输入信息。人工神经网络的每一层都有若干神经元并用可变权重的有向弧连接,具体训练过程是通过多次迭代对已知信息的反复学习并调整改变神经元的连接权重。
本文向大家介绍TensorFlow搭建神经网络最佳实践,包括了TensorFlow搭建神经网络最佳实践的使用技巧和注意事项,需要的朋友参考一下 一、TensorFLow完整样例 在MNIST数据集上,搭建一个简单神经网络结构,一个包含ReLU单元的非线性化处理的两层神经网络。在训练神经网络的时候,使用带指数衰减的学习率设置、使用正则化来避免过拟合、使用滑动平均模型来使得最终的模型更加健壮。 程序将
本文向大家介绍神经网络(BP)算法Python实现及应用,包括了神经网络(BP)算法Python实现及应用的使用技巧和注意事项,需要的朋友参考一下 本文实例为大家分享了Python实现神经网络算法及应用的具体代码,供大家参考,具体内容如下 首先用Python实现简单地神经网络算法: 使用自己定义的神经网络算法实现一些简单的功能: 小案例: X: Y 0 0