深度学习入门

monchickey

2021/03/02

深度学习(deep learning)是机器学习的一个分支,在研究深度学习之前,最好还是要有一定的机器学习基础,因为深度学习中的很多调试方法都是在机器学习中应用的很成熟的;深度学习的主要模型就是深层神经网络,如果之前看过吴恩达的机器学习,那么应该对神经网络有很深的印象,其实这个就是深度学习的基础。

深度学习目前也已经形成了一套相当完备的体系,是机器学习中非常重要的研究方向,多隐藏层的网络可以学习和表达非常多的信息,在非结构化数据集上的应用效果非常好,而人类最擅长处理的也是非结构化的信息,目前最常用的应用是:图像识别、人脸识别、语音识别、文本分析以及更多自然语言处理的场景,并且目前发展非常快,新的网络架构不断出现,使得深度学习领域不断完善,之后将逐渐渗透到生产、医疗、教育、安全等多个行业,对我们的生活带来巨大的改变。

深度学习入门课程,同样推荐Coursera上吴恩达的《深度学习》课程,链接:https://www.coursera.org/specializations/deep-learning,这个目前是付费课程,完成之后会颁发证书,不过网易云课堂和deeplearning.ai合作推出了深度学习工程师微专业,专门为国内提供的,课程视频和官方原版同步,并且配上专门翻译的英文字幕,除了没有课后练习都全了,链接地址:http://mooc.study.163.com/smartSpec/detail/1001319001.htm,这5门课程循序渐进,从神经网络基础的构建到实用技巧、超参数调试、优化算法再到结构化的机器学习方法,最后两门是专门用于图像和自然语言处理领域的卷积神经网络和循环神经网络,在每门课程结束时都有深度学习领域的大师的精彩采访;整个课程认真看完后你一定会对深度学习有一个全新的认识!目前整理了网络上的一些优秀的笔记如下:

深度学习概论笔记上:https://mp.weixin.qq.com/s/nA3i6uaYnz-CZXur_qJKZg

深度学习概论笔记下:https://mp.weixin.qq.com/s/KfOdVDHt3sZ4nQ6tMcg-dA

另外还推荐一个非常精品的笔记总结的非常好,采用多张图做了非常精华的汇总:http://mp.weixin.qq.com/s/EvxAdSNh4lYw89LHyYV3hw,pdf分享链接:https://pan.baidu.com/s/1zsReYG7FhI9vHjTIdbxp5g

另一位童鞋的笔记(笔记2):http://mp.weixin.qq.com/s/XtvfYufggBLp7dSmO1bNCg

笔记3:https://github.com/mbadry1/DeepLearning.ai-Summary

知乎上的这个笔记汇总整理的也非常好:https://zhuanlan.zhihu.com/p/30870804

以上这些笔记可以在学习中作为参考。

然后就是推荐,Hinton的《机器学习与神经网络》课程,Hinton是深度学习领域的先驱,神经网络之父,他发明了反向传播算法(back propagation),终于把神经网络从边缘化推向新的浪潮,这门课程同样经典!网易链接:https://study.163.com/course/introduction/1003842018.htm

最后推荐一本经典书籍,作者是由[美]Ian Goodfellow、[加]Yoshua Bengio、[加]Aaron Courville的著作《DEEP LEARNING》,这3位都是深度学习领域的大师级人物,其中Ian Goodfellow是生成对抗网络(GAN)的发明者,这本书中文版是人民邮电出版社出版,这本书可谓是深度学习领域的圣经,深度学习基础非常全面,这本书亮点是开始首先将必要的数学知识总结了,所以读者完全不用再去到处翻教科书,直接就可以学习了,这一点Ian Goodfellow本人也曾表示,数学基础非常重要,所以这本书都已经准备好了,非常棒!封面如下:

3af6cead-b62f-4e77-97f5-ff9f751686da

另外有其他好资源会继续完善,最后感谢阅读,也欢迎补充!