标签归档：反向传播算法

Geoffrey Hinton 大神面向机器学习的神经网络公开课及相关视频资料

Geoffrey Hinton 大神的"面向机器学习的神经网络（Neural Networks for Machine Learning）"公开课早在2012年就在 Coursera 上开过一轮，之后一直沉寂，直到 Coursera 新课程平台上线，这门经典课程已开过多轮次，之前我们在《深度学习课程资源整理》隆重推荐过。

1月15日，Geoffrey Hinton 大神在twitter上宣布：

My Coursera MOOC "Neural Networks for Machine Learning" was prepared in 2012 and is now seriously out of date so I have asked them to discontinue the course. But the lectures are still a good introduction to many of the basic ideas and are available at https://www.cs.toronto.edu/~hinton/coursera_lectures.html

大意是这门在Coursera上的MOOC课程是在2012年准备的，现在有点过时了，所以要求他们（Coursera)停止提供这门课程。但是这门深度学习课程依然是介绍神经网络相关基础概念的好资料，所以课程视频依然保留在多伦多大学hinton大神的主页下，感兴趣的同学可以直接观看：https://www.cs.toronto.edu/~hinton/coursera_lectures.html

我试了一下Coursera，发现如果之前注册过，还能打开这门课程，但是一旦是非登录状态后，这门课程已经无法在Coursera上找到了：

https://www.coursera.org/learn/neural-networks

这样稍微有点遗憾，不能在Coursera上做相关的Quiz，感兴趣的同学可以参考课程图谱上早期关于这门课程的评论：

http://coursegraph.com/coursera_neuralnets

“宗派大师+开拓者直接讲课，秒杀一切二流子！”

“巨牛级别的人物来开课，我也不说啥了。”

“还有什么好说的呢？Deep Learning必修课程啊！”

该课程最后在Coursera上开课的时间大概在2018年11月份：

http://coursegraph.com/coursera-neural-networks

最后，如果你觉得访问多伦多Hinton教授主页那个教程页面不方便，这里提供早期从Coursera上下载的课程版本，包括视频、PPT、英文字幕等，关注AINLP公众号，回复“hinton"获取：

注：本文首发于“课程图谱博客”：http://blog.coursegraph.com

本文链接地址：Geoffrey Hinton 大神面向机器学习的神经网络公开课及相关视频资料 http://blog.coursegraph.com/?p=985

Andrew Ng 深度学习公开课系列第五门课程序列模型开课

发表回复

Andrew Ng 深度学习课程系列第五门课程序列模型（Sequence Models）在1月的尾巴终于开课，在跳票了几次之后，这门和NLP比较相关的深度学习课程终于开课了。这门课程属于Coursera上的深度学习专项系列，这个系列有5门课，目前终于完备，感兴趣的同学可以关注：Deep Learning Specialization

This course will teach you how to build models for natural language, audio, and other sequence data. Thanks to deep learning, sequence algorithms are working far better than just two years ago, and this is enabling numerous exciting applications in speech recognition, music synthesis, chatbots, machine translation, natural language understanding, and many others. You will: - Understand how to build and train Recurrent Neural Networks (RNNs), and commonly-used variants such as GRUs and LSTMs. - Be able to apply sequence models to natural language problems, including text synthesis. - Be able to apply sequence models to audio applications, including speech recognition and music synthesis. This is the fifth and final course of the Deep Learning Specialization.

这门课程主要面向自然语言，语音和其他序列数据进行深度学习建模，将会学习递归神经网络，GRU，LSTM等内容，以及如何将其应用到语音识别，机器翻译，自然语言理解等任务中去。个人认为这是目前互联网上最适合入门深度学习的系列系列课程了，Andrew Ng 老师善于讲课，另外用Python代码抽丝剥茧扣作业，课程学起来非常舒服，希望最后这门RNN课程也不负众望。参考我之前写得两篇小结：

Andrew Ng 深度学习课程小记

Andrew Ng (吴恩达) 深度学习课程小结

额外推荐: 深度学习课程资源整理

Andrew Ng 深度学习课程系列第四门课程卷积神经网络开课

发表回复

Andrew Ng 深度学习课程系列第四门课程卷积神经网络（Convolutional Neural Networks）将于11月6日开课，不过课程资料已经放出，现在注册课程已经可以听课了，这门课程属于Coursera上的深度学习专项系列，这个系列有5门课，前三门已经开过好几轮，但是第4、第5门课程一直处于待定状态，新的一轮将于11月7号开始，感兴趣的同学可以关注：Deep Learning Specialization

This course will teach you how to build convolutional neural networks and apply it to image data. Thanks to deep learning, computer vision is working far better than just two years ago, and this is enabling numerous exciting applications ranging from safe autonomous driving, to accurate face recognition, to automatic reading of radiology images. You will: - Understand how to build a convolutional neural network, including recent variations such as residual networks. - Know how to apply convolutional networks to visual detection and recognition tasks. - Know to use neural style transfer to generate art. - Be able to apply these algorithms to a variety of image, video, and other 2D or 3D data. This is the fourth course of the Deep Learning Specialization.

个人认为这是目前互联网上最适合入门深度学习的课程系列了，Andrew Ng 老师善于讲课，另外用Python代码抽丝剥茧扣作业，课程学起来非常舒服，参考我之前写得两篇小结：

Andrew Ng 深度学习课程小记

Andrew Ng (吴恩达) 深度学习课程小结

额外推荐: 深度学习课程资源整理

Andrew Ng (吴恩达) 深度学习课程小结

4条回复

Andrew Ng (吴恩达) 深度学习课程从宣布到现在大概有一个月了，我也在第一时间加入了这个Coursera上的深度学习系列课程，并且在完成第一门课“Neural Networks and Deep Learning（神经网络与深度学习）”的同时写了关于这门课程的一个小结：Andrew Ng 深度学习课程小记。之后我断断续续的完成了第二门深度学习课程“Improving Deep Neural Networks: Hyperparameter tuning, Regularization and Optimization"和第三门深度学习课程“Structuring Machine Learning Projects”的相关视频学习和作业练习，也拿到了课程证书。平心而论，对于一个有经验的工程师来说，这门课程的难度并不高，如果有时间，完全可以在一个周内完成三门课程的相关学习工作。但是对于一个完全没有相关经验但是想入门深度学习的同学来说，可以预先补习一下Python和机器学习的相关知识，如果时间允许，建议先修一下 Coursera 的Python系列课程：Python for Everybody Specialization 和 Andrew Ng 本人的机器学习课程。

吴恩达这个深度学习系列课 (Deep Learning Specialization) 有5门子课程，截止目前，第四门"Convolutional Neural Networks" 和第五门"Sequence Models"还没有放出，不过上周四 Coursera 发了一封邮件给学习这门课程的用户：

Dear Learners,

We hope that you are enjoying Structuring Machine Learning Projects and your experience in the Deep Learning Specialization so far!

As we are nearing the one month anniversary of the Deep Learning Specialization, we wanted to thank you for your feedback on the courses thus far, and communicate our timelines for when the next courses of the Specialization will be available.

We plan to begin the first session of Course 4, Convolutional Neural Networks, in early October, with Course 5, Sequence Models, following soon after. We hope these estimated course launch timelines will help you manage your subscription as appropriate.

If you’d like to maintain full access to current course materials on Coursera’s platform for Courses 1-3, you should keep your subscription active. Note that if you only would like to access your Jupyter Notebooks, you can save these locally. If you do not need to access these materials on platform, you can cancel your subscription and restart your subscription later, when the new courses are ready. All of your course progress in the Specialization will be saved, regardless of your decision.

Thank you for your patience as we work on creating a great learning experience for this Specialization. We look forward to sharing this content with you in the coming weeks!

Happy Learning,

Coursera

大意是第四门深度学习课程 CNN（卷积神经网络）将于10月上旬推出，第五门深度学习课程 Sequence Models(序列模型, RNN等）将紧随其后。对于付费订阅的用户，如果你想随时随地获取当前3门深度学习课程的所有资料，最好保持订阅；如果你仅仅想访问 Jupyter Notebooks，也就是获取相关的编程作业，可以先本地保存它们。你也可以现在取消订阅这门课程，直到之后的课程开始后重新订阅，你的所有学习资料将会保存。所以一个比较省钱的办法，就是现在先离线保存相关课程资料，特别是编程作业等，然后取消订阅。当然对于视频，也可以离线下载，不过现在免费访问这门课程的视频有很多办法，譬如Coursera本身的非订阅模式观看视频，或者网易云课堂免费提供了这门课程的视频部分。不过我依然觉得，吴恩达这门深度学习课程，如果仅仅观看视频，最大的功效不过30%，这门课程的精华就在它的练习和编程作业部分，特别是编程作业，非常值得揣摩，花钱很值。

再次回到 Andrew Ng 这门深度学习课程的子课程上，第二门课程是“Improving Deep Neural Networks: Hyperparameter tuning, Regularization and Optimization"，有三周课程，包括是深度神经网络的调参、正则化方法和优化算法讲解：

第一周课程是关于深度学习的实践方面的经验 (Practical aspects of Deep Learning), 包括训练集/验证集/测试集的划分，Bias 和
Variance的问题，神经网络中解决过拟合 (Overfitting) 的 Regularization 和 Dropout 方法，以及Gradient Check等：

这周课程依然强大在编程作业上，有三个编程作业需要完成：

完成编程的作业的过程也是一个很好的回顾课程视频的过程，可以把一些听课中容易忽略的点补上。

第二周深度学习课程是关于神经网络中用到的优化算法 (Optimization algorithms），包括 Mini-batch gradient descent，RMSprop， Adam等优化算法：

编程作业也很棒，在老师循循善诱的预设代码下一步一步完成了几个优化算法。

第三周深度学习课程主要关于神经网络中的超参数调优和深度学习框架问题（Hyperparameter tuning , Batch Normalization and Programming Frameworks），顺带讲了一下多分类问题和 Softmax regression, 特别是最后一个视频简单介绍了一下 TensorFlow , 并且编程作业也是和TensorFlow相关，对于还没有学习过Tensorflow的同学，刚好是一个入门学习机会，视频介绍和作业设计都很棒：

第三门深度学习课程“Structuring Machine Learning Projects”更简单一些，只有两周课程，只有 Quiz, 没有编程作业，算是Andrew Ng 老师关于深度学习或者机器学习项目方法论的一个总结：

第一周课程主要关于机器学习的策略、项目目标（可量化）、训练集/开发集/测试集的数据分布、和人工评测指标对比等：

课程虽然没有提供编程作业，但是Quiz练习是一个关于城市鸟类识别的机器学习案例研究，通过这个案例串联15个问题，对应着课程视频中的相关经验，值得玩味。

第二周课程的学习目标是：

“Understand what multi-task learning and transfer learning are
Recognize bias, variance and data-mismatch by looking at the performances of your algorithm on train/dev/test sets”

主要讲解了错误分析（Error Analysis），不匹配训练数据和开发/测试集数据的处理（Mismatched training and dev/test set），机器学习中的迁移学习（Transfer learning）和多任务学习（Multi-task learning），以及端到端深度学习（End-to-end deep learning）：

这周课程的选择题作业仍然是一个案例研究，关于无人驾驶的：Autonomous driving (case study)，还是用15个问题串起视频中得知识点，体验依然很棒。

最后，关于Andrew Ng (吴恩达) 深度学习课程系列，Coursera上又启动了新一轮课程周期，9月12号开课，对于错过了上一轮学习的同学，现在加入新的一轮课程刚刚好。不过相信 Andrew Ng 深度学习课程会成为他机器学习课程之后 Coursera 上又一个王牌课程，会不断滚动推出的，所以任何时候加入都不会晚。另外，如果已经加入了这门深度学习课程，建议在学习的过程中即使保存资料，我都是一边学习一边保存这门深度学习课程的相关资料的，包括下载了课程视频用于离线观察，完成Quiz和编程作业之后都会保存一份到电脑上，方便随时查看。

索引：Andrew Ng 深度学习课程小记

注：原创文章，转载请注明出处及保留链接“我爱自然语言处理”：https://www.52nlp.cn

本文链接地址：Andrew Ng (吴恩达) 深度学习课程小结 https://www.52nlp.cn/?p=9761

Andrew Ng 深度学习课程小记

9条回复

2011年秋季，Andrew Ng 推出了面向入门者的MOOC雏形课程机器学习: Machine Learning，随后在2012年4月，Andrew Ng 在Coursera上推出了改进版的Machine Learning(机器学习)公开课: Andrew Ng' Machine Learning: Master the Fundamentals，这也同时宣告了Coursera平台的诞生。当时我也是第一时间加入了这门课程，并为这门课程写了一些笔记：Coursera公开课笔记: 斯坦福大学机器学习。同时也是受这股MOOC浪潮的驱使，建立了“课程图谱”，因此结识了不少公开课爱好者和MOOC大神。而在此之前，Andrew Ng 在斯坦福大学的授课视频“机器学习”也流传甚广，但是这门面向斯坦福大学学生的课程难道相对较高。直到2012年Coursera, Udacity等MOOC平台的建立，把课程视频，作业交互，编程练习有机结合在一起，才产生了更有生命力的MOOC课程。Andrew Ng 在为新课程深度学习写的宣传文章“deeplearning.ai: Announcing new Deep Learning courses on Coursera”里提到，这门机器学习课程自从开办以来，大约有180多万学生学习过，这是一个惊人的数字。

回到这个深度学习系列课：Deep Learning Specialization ，该课程正式开课是8月15号，但是在此之前几天已经开放了，加入后可以免费学习7天，之后开始按月费49美元收取，直到取消这个系列的订阅为止。正式加入的好处是，除了课程视频，还可以在Coursera平台上做题和提交编程作业，得到实时反馈，如果通过的话，还可以拿到相应的课程证书。我在上周六加入了这门以 deeplearning.ai 的名义推出的Deep Learning(深度学习)系列课，并且利用业余时间完成了第一门课“Neural Networks and Deep Learning（神经网络与深度学习）”的相关课程，包括视频观看和交互练习以及编程作业，体验很不错。自从Coursera迁移到新平台后，已经很久没有上过相关的公开课了，这次要不是Andrew Ng 离开百度后重现MOOC江湖，点燃了内心久违的MOOC情节，我大概也不会这么认真的去上公开课了。

具体到该深度学习课程的组织上，Andrew Ng 把这门课程的门槛已经降到很低，和他的机器学习课程类似，这是一个面向AI初学者的深度学习系列课程：

If you want to break into AI, this Specialization will help you do so. Deep Learning is one of the most highly sought after skills in tech. We will help you become good at Deep Learning.

In five courses, you will learn the foundations of Deep Learning, understand how to build neural networks, and learn how to lead successful machine learning projects. You will learn about Convolutional networks, RNNs, LSTM, Adam, Dropout, BatchNorm, Xavier/He initialization, and more. You will work on case studies from healthcare, autonomous driving, sign language reading, music generation, and natural language processing. You will master not only the theory, but also see how it is applied in industry. You will practice all these ideas in Python and in TensorFlow, which we will teach.

You will also hear from many top leaders in Deep Learning, who will share with you their personal stories and give you career advice.

AI is transforming multiple industries. After finishing this specialization, you will likely find creative ways to apply it to your work.

We will help you master Deep Learning, understand how to apply it, and build a career in AI.

虽然面向初学者，但是这门课程也会讲解很多实践中的工程经验，所以这门课程既适合没有经验的同学从基础学起，也适合有一定基础的同学查遗补漏：

从实际听课的效果上来看，如果用一个字来总结效果，那就是“值”，花钱也值。该系列第一门课是“Neural Networks and Deep Learning（神经网络与深度学习）” 分为4个部分：

1. Introduction to deep learning
2. Neural Networks Basics
3. Shallow neural networks
4. Deep Neural Networks

第一周关于“深度学习的介绍”非常简单，也没有编程作业，只有简单的选择题练习，主要是关于深度学习的宏观介绍和课程的相关介绍：

第二周关于“神经网络基础”从二分类讲起，到逻辑回归，再到梯度下降，再到用计算图（computation graph ）求导，如果之前学过Andrew Ng的“Machine Learning(机器学习)” 公开课，除了Computation Graph, 其他应该都不会陌生：

第二周课程同时也提供了编程作业所需要的基础部分视频课程：Python and Vectorization。这门课程的编程作业使用Python语言，并且提供线上 Jupyter Notebook 编程环境完成作业，无需线下编程验证提交，非常方便。这也和之前机器学习课程的编程作业有了很大区别，之前那门课程使用Octave语言（类似Matlab的GNU Octave)，并且是线下编程测试后提交给服务器验证。这次课程线上完成编程作业的感觉是非常棒的，这个稍后再说。另外就是强调数据处理时的 Vectorization(向量化/矢量化），并且重度使用 Numpy 工具包, 如果没有特别提示，请尽量避免使用 "for loop":

当然，这部分最赞的是编程作业的设计了，首先提供了一个热身可选的编程作业：Python Basics with numpy (optional)，然后是本部分的相关作业：Logistic Regression with a Neural Network mindset。每部分先有一个引导将这部分的目标讲清楚，然后点击“Open Notebook”开始作业，Notebook中很多相关代码老师已经精心设置好，对于学生来说，只需要在相应提示的部分写上几行关键代码（主要还是Vectorization)，运行后有相应的output，如果output和里面提示的期望输出一致的话，就可以点击保存继续下一题了，非常方便，完成作业后就可以提交了，这部分难度不大：

第三周课程关于“浅层神经网络”的课程我最关心的其实是关于反向传播算法的讲解，不过在课程视频中这个列为了可选项，并且实话实话Andrew Ng关于这部分的讲解并不能让我满意，所以如果看完这一部分后对于反向传播算法还不是很清楚的话，可以脑补一下《反向传播算法入门资源索引》中提到的相关文章。不过瑕不掩瑜，老师关于其他部分的讲解依然很棒，包括激活函数的选择，为什么需要一个非线性的激活函数以及神经网络中的初始化参数选择等问题：

虽然视频中留有遗憾，但是编程作业堪称完美，在Python Notebook中老师用代入模式系统的过了一遍神经网络中的基本概念，堪称“手把手教你用Python写一个神经网络”的经典案例：

update: 这个周六（2017.08.20）完成了第四周课程和相关作业，也达到了拿证书的要求，不过需要上传相关证件验证ID，暂时还没有操作。下面是关于第四周课程的一点补充。

第四周课程关于“深度神经网络（Deep Neural Networks）”，主要是多层神经网络的相关概念，有了第三周课程基础，第四周课程视频相对来说比较轻松：

不过本周课程的提供了两个编程作业，一个是一步一步完成深度神经网络，一个是深度神经网络的应用，依然很棒：

完成最后的编程作业就可以拿到相应的分数和可有获得课程证书了，不过获得证书前需要上传自己的相关证书完成相关身份验证，这个步骤我还没有操作，所以是等待状态：

这是我学完Andrew Ng这个深度学习系列课程第一门课程“Neural Networks and Deep Learning（神经网络与深度学习）” 的体验，如果用几个字来总结这个深度学习系列课程，依然是：值、很值、非常值。如果你是完全的人工智能的门外汉或者入门者，那么建议你先修一下Andrew Ng的 Machine Learning(机器学习)公开课，用来过渡和理解相关概念，当然这个是可选项；如果你是一个业内的从业者或者深度学习工具的使用者，那么这门课程很适合给你扫清很多迷雾；当然，如果你对机器学习和深度学习了如指掌，完全可以对这门课程一笑了之。

关于是否付费学习这门深度学习课程，个人觉得很值，相对于国内各色收费的人工智能课程，这门课程49美元的月费绝对物超所值，只要你有时间，你完全可以一个月学完所有课程。特别是其提供的作业练习平台，在尝试了几个周的编程作业后，我已经迫不及待的想进入到其他周课程和编程作业了。

最后再次附上这门课程的链接，正如这门课程的目标所示：掌握深度学习、拥抱AI，现在就加入吧：Deep Learning Specialization: Master Deep Learning, and Break into AI

反向传播算法入门资源索引

6条回复

1、一切从维基百科开始，大致了解一个全貌：
反向传播算法 Backpropagation

2、拿起纸和笔，再加上ipython or 计算器，通过一个例子直观感受反向传播算法：
A Step by Step Backpropagation Example

3、再玩一下上篇例子对应的200多行Python代码: Neural Network with Backpropagation

4、有了上述直观的反向传播算法体验，可以从1986年这篇经典的论文入手了：Learning representations by back-propagating errors

5、如果还是觉得晦涩，推荐读一下"Neural Networks and Deep Learning"这本深度学习在线书籍的第二章：How the backpropagation algorithm works

6、或者可以通过油管看一下这个神经网络教程的前几节关于反向传播算法的视频: Neural Network Tutorial

7、hankcs 同学对于上述视频和相关材料有一个解读: 反向传播神经网络极简入门

8、这里还有一个比较简洁的数学推导：Derivation of Backpropagation

9、神牛gogo 同学对反向传播算法原理及代码解读：神经网络反向传播的数学原理

10、关于反向传播算法，更本质一个解释：自动微分反向模式（Reverse-mode differentiation ）Calculus on Computational Graphs: Backpropagation

注：原创文章，转载请注明出处及保留链接“我爱自然语言处理”：https://www.52nlp.cn

本文链接地址：反向传播算法入门资源索引 https://www.52nlp.cn/?p=9350

斯坦福大学深度学习与自然语言处理第四讲：词窗口分类和神经网络

6条回复

斯坦福大学在三月份开设了一门“深度学习与自然语言处理”的课程：CS224d: Deep Learning for Natural Language Processing，授课老师是青年才俊 Richard Socher，以下为相关的课程笔记。

第四讲：词窗口分类和神经网络（Word Window Classification and Neural Networks）

推荐阅读材料：

[UFLDL tutorial]
[Learning Representations by Backpropogating Errors]
第四讲Slides [slides]
第四讲视频 [video]

以下是第四讲的相关笔记，主要参考自课程的slides，视频和其他相关资料。
继续阅读 →

斯坦福大学机器学习第九课“神经网络的学习(Neural Networks: Learning)”

1条回复

斯坦福大学机器学习斯坦福大学机器学习第九课“神经网络的学习(Neural Networks: Learning)”学习笔记，本次课程主要包括8部分：

1) Cost function(代价函数)

2) Backpropagation algorithm(BP算法 or 反向传播算法)

3) Backpropagation intuition(BP算法的直观解释)

4) Implementation note: Unrolling parameters(实现时的注意点：展开参数)

5) Gradient checking(梯度下降算法的验证)

6) Random initialization(随机初始化)

7) Putting it together(组合到一起-如何训练一个神经网络)

8) Backpropagation example: Autonomous driving (optional)(BP算法的例子-无人驾驶汽车)

以下是每一部分的详细解读。

1) Cost function(代价函数)

首先回顾一下神经网络的结构：

神经网络结构-我爱公开课-52opencourse.com

其中：

训练集是： $(x^{(1)}, y^{(1)}),...,(x^{(m)}, y^{(m)})$
L = 神经网络的层数
$s_l$ = 第l层的单元个数（不包括偏置单元）

对于一个分类问题来说：

如果是一个二类分类(Binary classification)，那么y = 0 或1，在神经网络的输出层上只有一个输出单元；

如果是一个多类分类(Multi-class classification), 那么

神经网络分类问题-我爱公开课-52opencourse.com

在神经网络的输出层上有K个输出单元。

Cost function：

在逻辑回归中，Cost Function的定义相对简单，如下所示：

逻辑回归成本函数-我爱公开课-52opencourse.com

由于神经网络的输出层通常有多个输出，属于k维向量，因此用如下的方式定义神经网络的Cost function:
神经网络成本函数-我爱公开课-52opencourse.com

注意，对于训练集的每一个样本，都需要对输出层所有的输出单元计算cost并求和。

2) Backpropagation algorithm(BP算法 or 反向传播算法)

和线性回归或逻辑回归相似，求取神经网络的参数也可以采用梯度下降算法，但是和它们二者略微不同的是，神经网络相对复杂，如果计算它的梯度？

我们知道，神经网络的Cost function是：

神经网络代价函数-我爱公开课-52opencourse.com

目标是最小化Cost function:

最小化代价函数-我爱公开课-52opencourse.com

我们需要通过如下两个式子来计算梯度:

神经网络梯度下降算法-我爱公开课-52opencourse.com

在上一课“神经网络的表示”里，我们给出了前馈网络的计算方法（向量化实现），对于一个给定训练样本(x, y)的神经网络，首先通过“前向传播”的方式从输入层开始计算神经网络的每一层表示，直到输出层。例如对于如下的4层神经网络：

4层神经网络举例-我爱公开课-52opencourse.com

计算的方法如下：

神经网络前向传播-我爱公开课-52opencourse.com

有了神经网络的“表示”，如何计算梯度？这个时候，我们引入反向传播算法，简称BP算法。反向算法的核心是最小化网络输出值和目标值之间的“误差”，所以这里首先引入一个关于误差的记号：

$\delta^{(l)}_j$ = l 层 j 节点的误差(error)

对于神经网络输出层的单元来说，例如上例中的第4层，误差的计算比较直观：

神经网络输出层误差-我爱公开课-52opencourse.com

但是对于隐藏层的误差计算，就不那么直观了：

神经网络隐藏层误差-我爱公开课-52opencourse.com

注：有志于弄清楚为什么的同学可以参考Mitchell教授的经典书籍《机器学习》的第四章“人工神经网络”，有详细的说明。

现在我们可以给出一个完成的BP算法，至于BP算法的一些解释和说明，将会在之后的小节给出：

神经网络反向传播算法-我爱公开课-52opencourse.com

我们需要计算每个节点的梯度，这里通过反向传播算法达到了。

补充：关于前馈网络和BP神经网络的关系，可以参考这篇文章中的解释：

我们最常用的神经网络就是BP网络，也叫多层前馈网络。BP是back propagation的所写，是反向传播的意思。我以前比较糊涂，因为一直不理解为啥一会叫前馈网络，一会叫BP（反向传播）网络，不是矛盾吗？其实是这样的，前馈是从网络结构上来说的，是前一层神经元单向馈入后一层神经元，而后面的神经元没有反馈到之前的神经元；而BP网络是从网络的训练方法上来说的，是指该网络的训练算法是反向传播算法，即神经元的链接权重的训练是从最后一层（输出层）开始，然后反向依次更新前一层的链接权重。因此二者并不矛盾，只是我没有理解其精髓而已。

随便提一下BP网络的强大威力：
1）任何的布尔函数都可以由两层单元的网络准确表示，但是所需的隐藏层神经元的数量随网络输入数量呈指数级增长；
2）任意连续函数都可由一个两层的网络以任意精度逼近。这里的两层网络是指隐藏层使用sigmoid单元、输出层使用非阈值的线性单元；
3）任意函数都可由一个三层的网络以任意精度逼近。其两层隐藏层使用sigmoid单元、输出层使用非阈值的线性单元。

【注】参考自《机器学习》

3) Backpropagation intuition(BP算法的直观解释)

相对于线性回归或逻辑回归来说，BP算法不是很简洁和清晰，这一小节将解释神经网络BP算法的一些步骤，希望对大家直观的了解BP算法有一些帮助。不过Andrew Ng教授也说了：

And even though, you know, I have used back prop for many years, sometimes it's a difficult algorithm to understand.

首先从前向传播说起，下面是一个前馈神经网络的例子：

神经网络前馈网络示例-我爱公开课-52opencourse.com

对于这个神经网络来说，它有4层，除了输出层只有1个单元外，其他每层都有2个单元（除去偏置单元）。对于一个训练样本 $(x^{(i)}, y^{(i)})$ 来说，可以通过前向传播的方式计算各个相关单元，如下图所示：

前向传播计算前馈网络-我爱公开课-52opencourse.com

那么反向传播到底在做什么？首先简化神经网络的代价函数：

神经网络代价函数-我爱公开课-52opencourse.com

我们仅关注一个样本 $x^{(i)}, y^{(i)}?????????????????????????????($ \lambda = 0), 这样Cost function可以简化为如下的形式：

神经网络简化的代价函数-我爱公开课-52opencourse.com

那么对于样本i, BP算法在神经网络上是如何生效的？如果记

$\delta^{(l)}_j$ = l 层 j 节点 $a^{(l)}_j$ 的cost的误差(error)

其中：

神经网络节点误差的表示-我爱公开课-52opencourse.com

BP算法主要是从输出层反向计算各个节点的误差的，故称之为反向传播算法，对于上例，计算的过程如下图所示：

反向传播算法示例-我爱公开课-52opencourse.com

注：这里有些细节没有详细描述，具体的可参考视频课程或者Mitchell教授的经典书籍《机器学习》的第四章“人工神经网络”。

4) Implementation note: Unrolling parameters(实现时的注意点：展开参数)

本节主要讲的是利用octave实现神经网络算法的一个小技巧：将多个参数矩阵展开为一个向量。具体可以参考课程视频，此处略。

5) Gradient checking(梯度下降算法的验证)

神经网络算法是一个很复杂的算法，所以有必要在实现的时候做一些检查，本节给出一个检验梯度的数值化方法。

关于梯度，有一种比较简便的数值估计方法，例如，对于一元参数来说：

梯度的估计-我爱公开课-52opencourse.com

可以用如下公式近似估计梯度：

梯度的数值估计公式-我爱公开课-52opencourse.com

其中 $\epsilon$ 取较小的值。

同理，对于多元参数或参数向量来说，上述方法同样适用：

多元参数的梯度估计-我爱公开课-52opencourse.com

我们的主要目标是检查这个梯度的近似向量与反向传播算法得到的梯度向量是否近似相等：

反向传播算法梯度向量检查-我爱公开课-52opencourse.com

实现时的注意点：

首先实现反向传播算法来计算梯度向量DVec；
其次实现梯度的近似gradApprox;
确保以上两步计算的值是近似相等的；
在实际的神经网络学习时使用反向传播算法，并且关掉梯度检查。

特别重要的是：

一定要确保在训练分类器时关闭梯度检查的代码。如果你在梯度下降的每轮迭代中都运行数值化的梯度计算，你的程序将会非常慢。

6) Random initialization(随机初始化)

关于如何学习一个神经网络的细节到目前为止基本说完了，不过还有一点需要注意，就是如何初始化参数向量or矩阵。通常情况下，我们会将参数全部初始化为0，这对于很多问题是足够的，但是对于神经网络算法，会存在一些问题，以下将会详细的介绍。

对于梯度下降和其他优化算法，对于参数 $\Theta$ 向量的初始化是必不可少的。能不能将初始化的参数全部设置为0：

梯度下降参数向量设置为0

在神经网络中：

神经网络参数初始化-我爱公开课-52opencourse.com

如果将参数全部初始化为0：
神经网络参数矩阵初始化为0-我爱公开课-52opencourse.com

会导致一个问题，例如对于上面的神经网络的例子，如果将参数全部初始化为0，在每轮参数更新的时候，与输入单元相关的两个隐藏单元的结果将是相同的，既：

$a^{(2)}_1 = a^{(2)}_2$

这个问题又称之为对称的权重问题，因此我们需要打破这种对称，这里提供一种随机初始化参数向量的方法：初始化 $\Theta^{(l)}_{ij}$ 为一个落在 [ $-\epsilon, \epsilon$ ]区间内的随机数, $\epsilon$ 可以很小，但是与梯度检验中的 $\epsilon$ 没有任何关系。