TensorFlow框架案例实战-第6课-Tensorboard工具与模型优化


第6课 Tensorboard工具与模型优化

Tensorboard简介

可视化

  • 模型结构
  • 参数分布
  • 训练过程
  • Embedding数据分析


Accuracy随迭代次数变化图

Accuracy随迭代次数变化图

Cross_entropy随迭代次数变化图

Cross_entropy随迭代次数变化图

参数Distribution图

参数Distribution图

参数histogram

参数histogram

MNIST

优化方法

  • Adam
  • Adadelta
  • sgd
  • sgd + momentum


Ensemble

  • 同样模型结构,不同初始化方法。
  • 不同的模型结构,选取最好的几个model。
  • 同样的模型,不同的训练阶段。


Eearly stopping

  • Val accuracy 一下降就停。
  • 连续多次 val accuracy 下降。
  • 记录最优值,连续多次 val accuracy 没达到最优值。
  • 每一段时间对 val accuracy 计算平均值,平均值下降即停。


Cifar 快速实验

ifar 快速实验
已邀请:

要回复问题请先登录注册

返回顶部