当前位置: 首页 > 面试题库 >

用过哪些 Optimizer,效果如何

苗康平
2023-03-14
本文向大家介绍用过哪些 Optimizer,效果如何相关面试题,主要包含被问及用过哪些 Optimizer,效果如何时的应答技巧和注意事项,需要的朋友参考一下

参考回答:

1)SGD;2)Momentum;3)Nesterov;4)Adagrad;5)Adadelta;6)RMSprop;7)Adam;8)Adamax;9)Nadam。(1)对于稀疏数据,尽量使用学习率可自适应的算法,不用手动调节,而且最好采用默认参数。(2)SGD通常训练时间最长,但是在好的初始化和学习率调度方案下,结果往往更可靠。但SGD容易困在鞍点,这个缺点也不能忽略。(3)如果在意收敛的速度,并且需要训练比较深比较复杂的网络时,推荐使用学习率自适应的优化方法。(4)Adagrad,Adadelta和RMSprop是比较相近的算法,表现都差不多。(5)在能使用带动量的RMSprop或者Adam的地方,使用Nadam往往能取得更好的效果。

 类似资料:
  • 本文向大家介绍用过Nginx吗?都用过哪些?相关面试题,主要包含被问及用过Nginx吗?都用过哪些?时的应答技巧和注意事项,需要的朋友参考一下 nginx是一个高性能的HTTP和反向代理服务器。 常使用场景: (1) 反向代理 (2) 网站负载均衡 详细参见:http://www.cnblogs.com/hobinly/p/6023883.html 移动端布局与适配

  • CSS3 过渡是元素从一种样式逐渐改变为另一种的效果。 尽管 CSS3 过渡效果是足够的过渡的一个元素,但是 text-transform 属性可以提高 CSS3 过渡效果的风格。 主要有四个属性的CSS3转换效果,已被描述如下: transition-property transition-duration transition-timing-function transition-delay

  • 本文向大家介绍HTML5标准提供了哪些新的API?你有用过哪些?相关面试题,主要包含被问及HTML5标准提供了哪些新的API?你有用过哪些?时的应答技巧和注意事项,需要的朋友参考一下 两个选择器API 地理定位API 多媒体API 拖放API 文件API XHR2 本地储存API canvas svg

  • 本文向大家介绍你在使用calc过程中遇到过哪些坑?如何解决?相关面试题,主要包含被问及你在使用calc过程中遇到过哪些坑?如何解决?时的应答技巧和注意事项,需要的朋友参考一下 css3 calc()方法 大坑 “-”号前面和后面一定要加空格,加空格 加空格

  • 本文向大家介绍你用过哪些Node的web框架?相关面试题,主要包含被问及你用过哪些Node的web框架?时的应答技巧和注意事项,需要的朋友参考一下 基于回调的http框架 express.js 基于promise的http框架 koa.js 基于koa的MVC结构的http框架egg.js TS+node实现MVC结构的nest.js的http框架

  • 主要内容:使用案例过渡效果(Transition)插件提供了简单的过渡效果。 如果您想要单独引用该插件的功能,那么除了其他的 JS 文件,您还需要引用 transition.js。或者,正如 Bootstrap 插件概览 一章中所提到,您可以引用 bootstrap.js 或压缩版的 bootstrap.min.js。 Transition.js 是 transitionEnd 事件和 CSS 过渡效果模拟器的基本