Tensorflow 深度学习笔记（四）可视化

过拟合

当网络模型较为复杂而数据集相对较少时，容易产生过拟合现象。相当于未知量的个数远大于已知方程的个数，无法求出正解。
解决方法：

1. 增加数据集
2. 正则化方法
3. dropout

机器学习：各种优化器Optimizer的总结与比较

tensorboard可视化

tf.argmax(y,1) 是求最大的标签在那个位置，0是按列取，1是按行取。
Summary用法（全）
tf.summary.FileWriter用法

 writer = tf.summary.FileWriter(path, session.graph)#path路径，例如“log”

指定一个文件用来保存图。
log是事件文件所在的目录，这里是工程目录下的log目录。第二个参数是事件文件要记录的图，也就是TensorFlow默认的图。
可以调用其add_summary()方法将训练过程数据保存在filewriter指定的文件中。

Tensorboard中projector的使用

该文章中难点：建立config（必要）

#下面基本是projector的固定操作

config= projector.ProjectorConfig()

embedding =config.embeddings.add()

#将需要可视化的变量与embedding绑定

embedding.tensor_name = embedding_var.name

#指定embedding每个点对应的标签信息

#这个是可选的，没有指定就没有标签信息（所以还是有必要添加的，否则最后可视化的结果只有一种颜色）

embedding.metadata_path = meta_file

#指定embedding每个点对应的图像

#这个文件也是可选的，没有指定就显示一个圆点

embedding.sprite.image_path = sprite_file

#指定sprite图中单张图片的大小，下面是mnist中的图片大小

embedding.sprite.single_image_dim.extend([28,28])

projector.visualize_embeddings(tf.summary.FileWriter(same_file), config)

Tensorflow加载预训练模型和保存模型