本文主要是总结利用tensorflow实现迁移学习的基本步骤。
所谓迁移学习,就是将上一个问题上训练好的模型通过简单的调整使其适用于一个新的问题。比如说,我们可以保留训练好的Inception-v3模型中所有的参数,只替换最后一层全连接层。在最后一层全连接层之前的网络称之为瓶颈层(bottleneck)。
持久化
首先需要简单介绍下tensorflow中的持久化:在tensorflow中提供了一个非常简单的API来保存和还原一个神经网络模型,这个API就是tf.train.Saver类。当采用该方法保存时会生成三个文件,一个文件是model.ckpt.meta,它保存了Tensorflow计算图的结构;第二个文件是model.ckpt,它保存了程序中每一个变量的取值;最后一个文件是checkpoint文件,这个文件中保存了一个目录下所有模型文件列表。
保存图
init_op = tf.initialize_all_variables() with tf.Session() as sess: sess.run(init_op) saver.save(sess, "model.ckpt")
加载图
saver = tf.train.import_meta_graph("model.ckpt.meta") with tf.Session() as sess: saver.restore(sess, "model.ckpt")
迁移学习
第一步: 读取加载已经训练好的模型
在inception-v3模型代表瓶颈层结果的张量名称是'pool3/_reshape:0',图像输入张量对应的名称'DecodeJpeg/contents:0'
BOTTLENECK_TENSOR_NAME = 'pool_3/_reshape:0' JPEG_DATA_TENSOR_NAME = 'DecodeJpeg/contents:0' #读取已经训练好的模型 with gfile.FastGFile(os.path.join(MODEL_DIR, MODEL_FILE), 'rb') as f: graph_def = tf.GraphDef() graph_def.ParseFromString(f.read()) bottleneck_tensor, jpeg_data_tensor = tf.import_graph_def(graph_def, return_elements=[BOTTLENECK_TENSOR_NAME, JPEG_DATA_TENSOR_NAME])
第二步:利用读取的模型,定义新的神经网络输入,这个输入就是新的图片经过Inception-v3模型前向传播到达瓶颈层的取值,是一种特征提取过程。
def run_bottlenect_on_images(sess, image_data, image_data_tensor, bottlenect_tensor): bottlenect_values = sess.run(bottlenect_tensor, {image_data_tensor: image_data}) # 经过卷积网络处理后的是一个思维数组,压缩成一个特征,一维向量输出 bottlenect_values = np.squeeze(bottlenect_values) return bottlenect_values
该过程实际上利用获取的tensor计算图片的特征向量,完成特征提取的过程。
第三步:利用获取的图像的特征向量完成接下来的任务(比如分类)
以上是仅关键代码。希望对大家的学习有所帮助,也希望大家多多支持小牛知识库。
本文向大家介绍迁移学习相关面试题,主要包含被问及迁移学习时的应答技巧和注意事项,需要的朋友参考一下 参考回答: 迁移学习就是把之前训练好的模型直接拿来用,可以充分利用之前数据信息,而且能够避免自己实验数据量较小等问题。简单来讲就是给模型做初始化,初始化的数据来自于训练好的模型。
迁移学习(Transfer learning)顾名思义就是就是把已学训练好的模型参数迁移到新的模型来帮助新模型训练数据集。 经典论文: Progressive Neural Networks
本文向大家介绍hadoop迁移数据应用实例详解,包括了hadoop迁移数据应用实例详解的使用技巧和注意事项,需要的朋友参考一下 项目开发中hadoop一直装在虚拟机上,最近要迁移到服务器上。记录下迁移过程。 一、为虚拟机添加一块新的硬盘 虚拟机的初始硬盘只有30G,容不开要导出的数据。两种方式,一是给虚拟机扩容;二是为虚拟机添加一块新的硬盘。这里采取第二种方式。 1、添加虚拟硬盘 至此,添加硬盘成
译者:片刻 作者: Sasank Chilamkurthy 在本教程中,您将学习如何使用迁移学习来训练您的网络。您可以在 cs231n 笔记 上阅读更多关于迁移学习的信息 引用这些笔记: 在实践中,很少有人从头开始训练整个卷积网络(随机初始化),因为拥有足够大小的数据集是相对罕见的。相反,通常在非常大的数据集(例如 ImageNet,其包含具有1000个类别的120万个图像)上预先训练 ConvN
本文向大家介绍Android 逆向学习详解及实例,包括了Android 逆向学习详解及实例的使用技巧和注意事项,需要的朋友参考一下 断断续续的总算的把android开发和逆向的这两本书看完了,虽然没有java,和android开发的基础,但总体感觉起来还是比较能接收的,毕竟都是触类旁通的。当然要深入的话还需要对这门语言的细节特性和奇技淫巧进行挖掘。 这里推荐2本书,个人觉得对
本文向大家介绍Python机器学习之K-Means聚类实现详解,包括了Python机器学习之K-Means聚类实现详解的使用技巧和注意事项,需要的朋友参考一下 本文为大家分享了Python机器学习之K-Means聚类的实现代码,供大家参考,具体内容如下 1.K-Means聚类原理 K-means算法是很典型的基于距离的聚类算法,采用距离作为相似性的评价指标,即认为两个对象的距离越近,其相似度就越大