模型可视化

网络权值可视化

卷积层权值可视化十分有用，经过良好训练的网络权值通常表现为美观、光滑的滤波器。反之，如果表现为噪声图样，则可能意味着网络还没有经过足够长时间的训练，或者由于正则化强度过小导致网络出现过拟合。

什么样的权值是坏的：

• 图案类似噪声
• 图案相关性太高
• 图案缺乏结构性

特征图可视化

在将 feature map 可视化之后，每个小方块显示了对应特定滤波器的响应图，其中低层响应特征图关注图像中不同细节（背景或主体的纹理或轮廓），高层响应特征图变得局部且稀疏，用于剔除不想管内容并提取目标重要的特征。

学习曲线可视化

通过学习曲线，可以评估当前训练状态：

• train loss 不断下降，test loss 不断下降，说明网络仍然在认真学习
• train loss 不断下降，test loss 趋于不变，说明网络过拟合
• train loss 趋于不变，test loss 趋于不变，说明学习遇到瓶颈，需减小学习速率或批量数据尺寸
• train loss 趋于不变，test loss 不断下降，说明数据集 100% 有问题
• train loss 不断上升，test loss 不断上升（最终变为 NaN），可能是网络结构设计不当、训练超参数设置不当、程序 bug 等某个问题印奇的，需要进一步定位。