反向传播算法入门资源索引

1、一切从维基百科开始,大致了解一个全貌:
反向传播算法 Backpropagation

2、拿起纸和笔,再加上ipython or 计算器,通过一个例子直观感受反向传播算法:
A Step by Step Backpropagation Example

3、再玩一下上篇例子对应的200多行Python代码: Neural Network with Backpropagation

4、有了上述直观的反向传播算法体验,可以从1986年这篇经典的论文入手了:Learning representations by back-propagating errors

5、如果还是觉得晦涩,推荐读一下”Neural Networks and Deep Learning“这本深度学习在线书籍的第二章:How the backpropagation algorithm works

6、或者可以通过油管看一下这个神经网络教程的前几节关于反向传播算法的视频: Neural Network Tutorial

7、hankcs 同学对于上述视频和相关材料有一个解读: 反向传播神经网络极简入门

8、这里还有一个比较简洁的数学推导:Derivation of Backpropagation

9、神牛gogo 同学对反向传播算法原理及代码解读:神经网络反向传播的数学原理

10、关于反向传播算法,更本质一个解释:自动微分反向模式(Reverse-mode differentiation )Calculus on Computational Graphs: Backpropagation

注:原创文章,转载请注明出处及保留链接“我爱自然语言处理”:http://www.52nlp.cn

本文链接地址:反向传播算法入门资源索引 http://www.52nlp.cn/?p=9350

此条目发表在机器学习, 深度学习分类目录,贴了, , , , , , , , , , , , , , , 标签。将固定链接加入收藏夹。

反向传播算法入门资源索引》有 6 条评论

  1. 老所说:

    这个真是很有用啊,谢谢。

    [回复]

  2. Abner说:

    在神经网络的时候学过这个。

    [回复]

  3. FunQC说:

    自然语言处理方面有哪些期刊或者会议推荐跟踪?

    [回复]

  4. Bob说:

    http://www.cs.toronto.edu/~tijmen/csc321/inclass/140123.pdf
    是我见过的最简单的反向传播算法的解释。可能不是最完整的,是最简单的,不涉及矩阵和矢量,适合初学者看个大概意思,再去看别的带有矩阵和矢量的例子(如题主给出的https://mattmazur.com/2015/03/17/a-step-by-step-backpropagation-example/)就容易了。

    [回复]

    52nlp 回复:

    [回复]

发表评论

电子邮件地址不会被公开。 必填项已用*标注