预习阶段 从DL基础起步，掌握三大核心模型

预习视频：DNN与CNN，及NN框架

• 1-DNN与混合网络：google Wide&Deep
• 2-实战项目：数据非线性切分+google wide&deep 模型实现分类
• 3-CNN:从AlexNet到ResNet
• 4-实战项目：搭建CNN完成图像分类示例
• 5-NN框架：caffe, tensorflow与pytorch
• 6-实战项目：用几大框架完成DNN与CNN网络搭建与分类

预习视频：RNN、LSTM、与条件生成、attention

• 1-RNN/LSTM/Grid LSTM
• 2-实战项目：RNN文本分类
• 3-RNN条件生成与attention
• 4-实战项目：google神经网络翻译系统

第一阶段 夯实深度学习基础模型

预习视频：深入理解神经网络原理

• 1-从线性分类器说到非线性分类器
• 2-理解神经网络参数W的物理意义
• 3-Backpropagation的两种理解/推导方式
• 4-初探神经网络模型训练调参

在线实训：基于tensorflow/keras实现分类任务

预习视频：深度卷积神经网络原理与实践

• 1-卷积操作的数学定义和物理意义
• 2-卷积神经网络结构的两大原理—局部连接和权值共享
• 3-卷积神经网络的主体结构和变种
• 4-3小时内用百行代码登顶Kaggle图像分类比赛的Top-5%

在线实训：参加Kaggle图像分类比赛并提交结果

上午线下：神经网络基础

• 1-机器学习基本框架：输入输出、损失函数、优化求解
• 2-深入理解线性分类器的物理意义：以图像分类为例
• 3-神经元、激活函数以及神经网络基本结构
• 4-初识前向传递与反向传播
• 5-反向传播的数学推导与物理意义
• 6-神经网络的正则化技术
• 7-神经网络调参技巧

下午线下：深度卷积神经网络理论与实践

• 1-卷积操作数学定义和物理意义
• 2-卷积神经网络的两个基本假设：局部连接参数共享
• 3-深入理解卷积层的输入输出及其参数
• 4-深度卷积神经网络架构的基本架构和模式
• 5-迁移学习技术在卷积神经网络中的应用

上午线下：高级卷积神经网络设计、调参及训练技巧

• 1-深度神经网络训练高级使用技巧
• 2-读懂损失曲线Loss Curve
• 3-总结当模型训练遇到Bug时可查阅Checklist
• 4-解析AlexNet、VGG-Net、ZF-Net、Inception-V1/V2/V3/V4、ResNet、DenseNet等进阶深度卷积神经网络架构
• 5-重点解析VGG-Net卷积核3x3化的本质原因、Inception系列拓展了卷积神经网络的另一个维度：宽度和多尺度融合、ResNet中的残差连接到底解决的什么问题
• 6-再谈卷积神经网络中的核心概念：感受野及其Top-Down计算方式

下午线下：代码实践（需要使用笔记本电脑）

• 1-安装配置环境tensorflow 2.0（CPU版本或云端GPU版本皆可）
• 2-神经网络构建Step by Step
• 3-神经网络训练技巧与调参技巧
• 4-搭建深度深度卷积神经实现Kaggle图像识别项目
• 5-快速提升Kaggle类竞赛技巧

第二阶段 深度学习高级应用：计算机视觉与自然语言处理

预习视频：深度学习在物体检测中的应用（上）

• 1-物体检测相关必备背景知识
• 2-深入理解RCNN家族模型
• 3-消灭令人抓狂的Anchor理解（从Motivation说到实践技巧）

在线实训：MS-COCO物体检测by Faster RCNN

预习视频：深度学习在物体检测中的应用（中）

• 1-对比One Stage/Two Stage模型的优劣势
• 2-从SSD说到YOLO-V3
• 3-深入理解Focal Loss-消灭Class Imbalance/Hard-Easy Examples Problem

在线实训：MS-COCO物体检测by YOLO-V3

预习视频：深度学习在物体检测中的应用（下）

• 1-物体检测中多尺度变化问题的处理
• 2-2019年物体检测领域的弄潮儿：Anchor Free
• 3-刷新行人检测记录的新思路：Center and Scale Prediction

在线实训：行人检测by CSP

预习视频：文本预处理，词袋模型，word2vec，语言模型

• 1-NLP基本知识：词袋、tf-idf、朴素贝叶斯
• 2-DL中的NLP基础：word2vec、doc2vec、embedding、N-gram LM
• 3-用深度学习一步步完成情感分析任务

在线实训：基于维基百科语料库自己动手训练word2vec模型

上午线下：Two-Stage物体检测

• 1-读懂物体检测的评价指标及其计算方式
• 2-NMS及其近年来变种（Soft-NMS、Softer NMS、Adaptive NMS、GIoU、DIoU等）
• 3-深入理解Anchor机制
• 4-再谈Anchor：实际业务场景中Anchor需要调整吗？
• 5-详解ROI Pooling与ROI Alignment
• 6-RCNN家族模型详解（从RCNN到Cascade RCNN）

下午线下：One-Stage物体检测与Anchor Free方法

• 1-SSD、YOLO系列模型深度剖析
• 2-Focal Loss背后的机制与原理
• 3-多维度比较Two-Stage与One-Stage方法
• 4-Anchor Free方法的代表作：详解CenterNet框架
• 5-物体检测模型训练实践技巧若干

上午线下：词向量、循环神经网络以及序列到序列模型

• 1-深入理解Word2Vec的基本框架以及两种实现方式：CBOW和Skip-gram（从损失函数到实现思路）
• 2-循环神经网络RNN基本架构以及基于RNN的语言模型
• 3-RNN训练重点BPTT（解析梯度消失和梯度爆炸原因）
• 4-RNN的Long-Term Dependency问题以及LSTM和GRU
• 5-使用RNN/LSTM/GRU解决语义情感分析问题
• 6-跨域/跨模态问题的核心：序列到序列（Seq2Seq）模型架构
• 7-深度解析注意力机制Attention
• 8-Seq2Seq高级应用：看图说话Image Captioning实现架构

下午线下：Self-Attention和Transformer架构

• 1-深入理解Self-Attention与RNN之间的等价关系
• 2-解析Self-Attention中的三大基本概念：Query、Key和Value
• 3-为什么要使用Multi-head Attention？
• 4-Positional Encoding: Self-Attention中的位置信息编码机制
• 5-剖析Transformer架构：由Self-Attention、FC、Layer Norm组成
• 6-其他Attention组件：SE-Net、SK-Net、Non-local等

第三阶段 深度学习实用和前沿技术

预习视频：神经网络压缩技术：工业界业务上线/部署的大杀器！

• 1-业务场景下的特征处理与挖掘套路
• 2-Deep Compression：兼顾神经网络模型的效果和效率
• 3-详解网络剪枝技术（及其变种）以及知识蒸馏模型

在线实训：基于tensorflow/keras实现知识蒸馏模型

上午线下：工业界部署大杀器-轻量级神经网络与深度模型压缩技术

• 1-深度可分离卷积：更加高效的卷积操作
• 2-深度可分离卷积应用案例：理解MobileNet系列
• 3-神经网络剪枝和量化：模型部署上线前的必修课
• 4-知识蒸馏技术解析：鱼（效果）和熊掌（效率）可以兼得

下午线下：深度网络模型压缩实践与对抗攻击技术

• 1-实战深度卷积神经网络模型压缩与剪枝
• 2-对抗攻击方法的损失函数理解与推导
• 3-L2-norm 与L-infinity距离
• 4-有目标攻击与无目标攻击的实现方式
• 5-对抗攻击在高维数据中的可解释性
• 6-详解FGSM算法
• 7-黑盒攻击 VS. 白盒攻击
• 8-数据“投毒”攻击
• 9-对抗攻击的常用防御技术

上午线下：Transformer在计算机视觉和多模态技术中的应用

• 1-Multi-Head Attention原理和代码实现，以及BoTNet应用
• 2-VideoBERT：视频与文本互搜技术
• 3-Transformer在目标检测中的应用：DETR以及Deformable DETR
• 4-Vision Transformer (ViT) 基本原理和架构
• 5-DeiT基本原理和架构
• 6-ViT实践：Patch Encoding、Positional Encoding、Transformer Blocks等

下午线下：深度学习技术新趋势：自监督学习技术原理和应用

• 1-回顾监督学习、无监督学习、半监督学习等技术框架
• 2-自监督基本思想：通过观察数据本身特性构建监督信号学习表征
• 3-自监督模型评价标准：Linear Evalutation、Finetune、Data Efficiency
• 4-早期自监督学习架构概述：如旋转图像、打乱图像Patch、Shuffle视频序列等
• 5-2020年自监督学习技术热门方向：对比学习（Contrastive Learning）深入理解
• 6-解析自监督学习前沿技术框架，如SimCLR、MoCo、Supervised Contrastive Learning、BYOL、MIL-NCE等近期自监督最新工作基本思想
• 7-总结与思考自监督学习任务成功背后的原因以及设计自监督任务时的“避坑”事项

第四阶段 智慧城市/智慧安防领域核心技术：行人重识别项目全流程实践

项目目标：掌握AI项目实现的思路和实践过程，通过“手撸代码”的方式掌握从搭建Baseline到迭代优化至主流前沿方案的全过程，培养实践AI项目的深度学习思维框架

上午线下：ReID的简介与建模

• 1-ReID任务的本质理解：通过图像搜索技术达到未知样本的识别任务
• 2-搭建一个Person ReID的基础模型：从Data Loader到Data Augmentation
• 3-实现Person ReID任务的评价指标：mAP和Top-k Accuracy

下午线下：视觉排序与多任务训练

• 1-理解和实现视觉重排序（Re-ranking）技术
• 2-深度排序（Deep Ranking）损失函数和对应的Data Loader实现原理和技巧
• 3-多任务训练（Multi-task Training）的实现细节

上午线下：深度排序进阶与训练实践技巧

• 1-深度排序（Deep Ranking）进阶：不是所有的Triplet都能够带来信息增益
• 2-若干训练实践技巧：如Warm Up Learning Rate、Random Erasing等
• 3-实际解决分类损失与深度排序损失联合导致的特征空间不一致性问题

下午线下：综合实战技巧与项目总结

• 1-理解中心点损失及其通过Embedding Layer的巧妙实现
• 2-综合多种实用技巧融合一个更加强有力的单模型