分享web开发知识

注册/登录|最近发布|今日推荐

主页 IT知识网页技术软件开发前端开发代码编程运营维护技术分享教程案例
当前位置:首页 > 前端开发

课程二(Improving Deep Neural Networks: Hyperparameter tuning, Regularization and Optimization),第一周(Practical aspects of Deep Learning) —— 1.Practice Questions : Practical aspects of deep learning

发布时间:2023-09-06 01:30责任编辑:彭小芳关键词:暂无标签

【中文翻译】

4、你正在一个超市的自动退房亭工作, 并正在建设一个苹果, 香蕉和桔子分类器。假设您的分类器训练集误差是 0.5%, 并且验证集误差为7%。下面哪些是有希望改进分类器的?(检查所有适用的)(A,C)
(A)增加正则化参数 lambda
(B)降低正则化参数 lambda
(C)获取更多训练数据
(D)使用更大的神经网络
 
【解释】
只要正则适度,通常构建一个更大的网络便可以,在不影响方差的同时减少偏差,而采用更多数据通常可以在不过多影响偏差的同时减少方差
 
 

【中文翻译】

5.什么是权重衰减?
(1)在训练过程中逐渐降低学习速度。
(2)如果对噪声数据进行训练, 就会逐渐损坏神经网络中的权重。
(3)一种正则化技术 (如 L2 正规化), 导致梯度下降在每次迭代中收缩权重。
(4)通过对权重值施加上限来避免梯度消失的技术。

【中文翻译】

6、当你增加正则化的超参数 lambda 时会发生什么?

(1)权重变小 (接近 0)

(2)重量变得更大 (远离 0)

(3)加倍的λ导致加倍的权重

(4)每次迭代,梯度下降采取更大的步距 (与 lambda 成正比)

【解释】

 -------------------------------------------------------------------------------------------------------------------------

答案仅供参考

课程二(Improving Deep Neural Networks: Hyperparameter tuning, Regularization and Optimization),第一周(Practical aspects of Deep Learning) —— 1.Practice Questions : Practical aspects of deep learning

原文地址:http://www.cnblogs.com/hezhiyao/p/8040451.html

知识推荐

我的编程学习网——分享web前端后端开发技术知识。 垃圾信息处理邮箱 tousu563@163.com 网站地图
icp备案号 闽ICP备2023006418号-8 不良信息举报平台 互联网安全管理备案 Copyright 2023 www.wodecom.cn All Rights Reserved