分享web开发知识

注册/登录|最近发布|今日推荐

主页 IT知识网页技术软件开发前端开发代码编程运营维护技术分享教程案例
当前位置:首页 > 教程案例

课程二(Improving Deep Neural Networks: Hyperparameter tuning, Regularization and Optimization),第三周(Hyperparameter tuning, Batch Normalization and Programming Frameworks) —— ?1.Practice Questions

发布时间:2023-09-06 01:31责任编辑:彭小芳关键词:暂无标签

【中文翻译】

  2、每个 hyperparameter, 如果设置不佳, 会对训练产生巨大的负面影响, 所以所有的参数都同样重要, 可以很好地调整。真的还是假的?

 【中文翻译】

   4、如果你认为β (hyperparameter 为动量) 在0.9 和0.99 之间, 以下是推荐的方法为 beta 的值抽样?

【中文翻译】

 8、以下哪一项关于γ和β在Batch Norm 中的陈述是真的?

   每个层都有一个全局值γ∈R 和一个全局值β∈R, 并适用于该层中的所有隐藏单元。  

  最优的值是和β = μ。  

  β和γ是算法的参数, 我们通过随机抽样进行调整。

  他们可以使用Adam, 动量梯度下降与,或 RMSprop训练, 不只是与梯度下降。

  它们设置给定层的线性变量 z [l] 的平均值和方差。

课程二(Improving Deep Neural Networks: Hyperparameter tuning, Regularization and Optimization),第三周(Hyperparameter tuning, Batch Normalization and Programming Frameworks) —— ?1.Practice Questions

原文地址:http://www.cnblogs.com/hezhiyao/p/8082815.html

知识推荐

我的编程学习网——分享web前端后端开发技术知识。 垃圾信息处理邮箱 tousu563@163.com 网站地图
icp备案号 闽ICP备2023006418号-8 不良信息举报平台 互联网安全管理备案 Copyright 2023 www.wodecom.cn All Rights Reserved