深度学习

课程信息

  • 授课时间: 2017.6.26-2017.7.1
  • 授课老师: 唐建博士,张铭教授
  • 授课语音: 中文
  • 学分: 无

内容简介

    这门课程主要介绍深度学习的基本原理、方法以及在不同领域的实践。课程的第一部分介绍深度学习的发展现状、理论以及基本方法。第二部分课程介绍深度学习框架TensorFlow。第三部分课程介绍深度学习在不同领域的应用包括计算机视觉、自然语言理解、网络分析、以及推荐。

    Deep learning has achieved tremendous success in many applications. This course aims to introduce the fundamental concepts, methods, and applications of deep learning. The first part of the course focuses on the theory and methods; the second part provides an introduction to the widely used deep learning framework TensorFlow; the last part introduces the applications of deep learning to various domains including computer vision, natural language understanding, information network analysis, and recommendation.

内容提要

  • Math and Machine Learning Basics.
  • Feedforward Neural Network.
  • Optimization and Tricks.
  • Convolutional Neural Networks.
  • Recurrent Neural Networks.
  • Introduction to TensorFlow.
  • Deep Learning for Natural Language Understanding.
  • Deep Learning for Network Analysis.
  • Deep Learning for Recommendation.

参考书籍

  1. Ian Goodfellow, Yoshua Bengio, Aaron Courville. Deep Learning. MIT Press, 2016.
  2. Chritopher Bishop. Pattern Recognition and Machine Learning. Springer, 2013.
  3. Trevor Hastie, Robert Tibshirani, Jerome Friedman. The Elements of Statistical Learning. Springer, 2009.
  4. Jure Leskover, Anand Rajaraman, Jeffery D.Ullman. Mining of Massive Datasets. Cambridge University Press, 2010.
  5. Alex Smola and S.V.N. Vishwanathan. Introduction to Machine Learning. Cambridge University Press, 2010.
  6. Kevin P.Mruphy. Machine Learning: A Probabilistic Perspective. MIT, 2012.
  7. Mehryar Mohri, Afshin Fostamizadeh. Foundations of Machine Learning. MIT, 2012.
  8. Tom M. Mitchell. Machine Learning. McGraw-Hill Education, 1997.
  9. Aser S. Abu-Mostafa, Malik Magdon-Ismail, Hsuan-Tien Lin. Learning From Data. AMLBook, 2012.

任课教师简历

    唐建博士将于2017年秋季加入蒙特利尔大学任职助理教授,成为国际上人工智能和深度学习方向最有名的三大教授之一Youshua Bengio领导的研究小组成员。他于2014年在北京大学信息科学技术学院获博士学位,现为美国卡耐基梅隆大学和密歇根大学联合培养博士后。他的研究方向为人工智能、深度学习、机器学习以及大数据分析。博士期间主要从事统计主题模型在自然语言方面的研究,期间发表了大量有影响力的论文。博士期间的主要工作被机器学习领域国际上最顶级的两大会议之一ICML 2014接收,并且获得该会议的最佳论文,成为国内首位在该会议上获得最佳论文的研究员。毕业后加入微软研究院,从事深度学习方面的研究。在微软工作期间,他做出了一系列开创性的研究成果,推动了深度学习在复杂网络分析领域的应用,所发表的论文被提名为大数据分析领域国际顶级会议WWW 2016最佳论文,他提出的LINE和LargeVis 等模型被广泛引用,并且被美国各大名校列为机器学习课程的重要参考文献。

    张铭,北京大学信息科学技术学院教授,博士生导师,CCF教育工委会副主任,ACM教育 专委会惟一的中国理事,中国ACM教育专委会主席,ACM/IEEE IT2017学科执委,ACM/IEEE CC2020计算机学科规范领导小组成员。自1984年考入北京大学,分别获得学士、硕士和博士学位。研究方向为文本挖掘、社会网络分析等,目前主持国家自然科学基金和教育部博士点基金在研项目,合作发表科研学术论文100多篇(ICML, KDD, AAAI, IJCAI, TKDE等A类会议和期刊),获得ICML 2014最佳论文奖,获WWW 2016最佳论文提名。发表了SIGCSE、L@S等教学研究论文,出版学术专著1部,获软件著作权6项,获发明专利3项。主编多部教材,其中2部教材为国家“十一五”规划教材,《数据结构与算法》获北京市精品教材奖并得到国家“十二五”规划教材支 持。主持的“数据结构与算法”被评选为国家级和北京市级精品课程,也是教育部精品资源共享课程。