- Week 1 – Lecture - History motivation and evolution of Deep Learning
- Week 1 – Practicum - Classification linear algebra and visualisation
- Week 2 – Lecture - Stochastic gradient descent and backpropagation
- Week 2 – Practicum - Training a neural network
- Week 3 – Lecture - Convolutional neural networks
- Week 3 – Practicum - Natural signals properties and CNNs
- Week 4 – Practicum- Listening to convolutions
- Week 5 – Lecture- Optimisation
- Week 5 – Practicum - 1D multi-channel convolution and autograd
- Week 6 – Lecture- CNN applications RNN and attention
- Week 6 – Practicum- RNN and LSTM architectures
- Week 7 – Practicum- Under- and over-complete autoencoders
- Week 7 – Lecture- Energy based models and self-supervised learning
- Week 8 – Lecture- Contrastive methods and regularised latent variable models
- Week 8 – Practicum- Variational autoencoders
- Week 9 – Lecture- Group sparsity world model and generative adversarial networ
- Week 9 – Practicum- (Energy-based) Generative adversarial networks
- Week 10 – Lecture- Self-supervised learning (SSL) in computer vision (CV)
- Week 10 – Practicum- The Truck Backer-Upper
- Week 11 – Lecture- PyTorch activation and loss functions
- Week 11 – Practicum- Prediction and Policy learning Under Uncertainty (PPUU)
纽约大学-2020深度学习课程:从理论到实战的全方位指南
内容简介:
今天为大家深度剖析一门重量级课程——由深度学习先驱Yann LeCun主讲的纽约大学2020年《深度学习(PyTorch)》课程。这门课可以说是深度学习领域的"大师课",全面覆盖了从基础理论到前沿应用的关键知识点。
课程最大的亮点是完美平衡了理论与实践。LeCun教授不仅会深入讲解神经网络的工作原理,更会手把手教你用PyTorch实现各种经典模型。尤其适合想要系统掌握深度学习核心技术的开发者,或是希望理解AI底层逻辑的产品经理。
课程内容与时俱进,包含计算机视觉、NLP等热门领域的实战案例。比如第三周的卷积神经网络专题,就会带学员复现图像分类的最新研究成果。特别值得一提的是,课程还涵盖了较少公开讲解的嵌入方法和度量学习,这对推荐系统开发特别有价值。
教学方式也别具一格:每周配套的编程作业都是工业级任务,像用LSTM生成文本这种项目既锻炼编程能力,又能积累作品集素材。课程提供的GitHub资料库包含完整的代码示例和数据集,对自学者非常友好。
需要注意的是,这门课确实有一定门槛。建议至少掌握Python编程和线性代数基础,如果之前接触过机器学习基础概念会更轻松。不过对于有决心的学习者,论坛活跃的助教团队能提供及时帮助。
课程核心内容
深度学习基础模块
从反向传播算法讲起,逐步推导各种神经网络的结构设计原理。这部分会重点对比监督学习与无监督学习的应用场景差异。
计算机视觉实战
详解卷积神经网络的架构演进,包括ResNet、DenseNet等经典模型。实验环节会使用真实医学影像数据集进行病灶检测。
自然语言处理专题
从词嵌入到Transformer,完整梳理NLP技术发展脉络。特别设置了一个基于BERT的问答系统实战项目。
课程目录精要
- Week1:深度学习概论与PyTorch基础
- Week2:神经网络优化原理
- Week3:卷积神经网络设计
- Week4:序列建模与RNN
- Week5:自注意力机制详解
- Week6:生成对抗网络
- Week7:强化学习基础
- Week8:课程项目展示
这门课程最珍贵的不仅是知识本身,更是LeCun教授思考问题的独特视角。比如讨论模型局限性的环节,教授会分享很多学术界尚未解决的难题,这种前沿视角在普通网课中很难获取。








