Giai đoạn 4 · AI Vision · Chặng 10/14

Chặng 10: Deep Learning

Học xong chặng này, bạn có thể: Huấn luyện mô hình phân loại ảnh OK/NG bằng PyTorch.

  • 12 bài học
  • ~15 giờ học
  • ~6 tuần
  • 0/12 bài đã học

Trước khi bắt đầu

Hoàn thành chặng 1 (Python, NumPy). Biết đạo hàm cơ bản là lợi thế nhưng không bắt buộc.

Chặng này gồm

  • Mạng nơ-ron, CNN, hàm mất mát và tối ưu
  • Chia train/validation/test, overfitting, data augmentation
  • PyTorch cơ bản và transfer learning
  • Backpropagation, BatchNorm, kiến trúc CNN kinh điển, khởi tạo trọng số

Bài học theo thứ tự

Học lần lượt từ trên xuống. Làm hết bài tập trong mỗi bài, đánh dấu đã học để theo dõi tiến độ.

  1. 1

    Machine Learning là gì?

    Phân biệt lập trình truyền thống và học máy · Biết các loại bài toán học máy · Hiểu quy trình một dự án ML

    Bài học~60 phút
  2. 2

    Gradient descent từ đầu với NumPy

    Hiểu hàm mất mát và gradient · Tự cài gradient descent · Ảnh hưởng của learning rate

    Bài học~75 phút
  3. 3

    Mạng nơ-ron và CNN hoạt động thế nào

    Hiểu neuron, hàm kích hoạt, lớp và linear classifier · Hiểu tích chập, pooling, feature map, conv 1×1 · Tính số tham số một lớp Conv

    Bài học~90 phút
  4. 4

    PyTorch cơ bản: tensor, autograd, vòng lặp huấn luyện

    Làm việc với tensor trên CPU, GPU · Dùng autograd tính gradient · Viết vòng lặp huấn luyện 4 bước

    Bài học~90 phút
  5. 5

    Loss function và các optimizer: SGD, Momentum, Adam

    Chọn hàm loss đúng cho hồi quy và phân loại · Hiểu mini-batch SGD và learning rate · So sánh Momentum, Adagrad, RMSProp, Adam

    Bài học~75 phút
  6. 6

    Backpropagation: lan truyền ngược

    Dùng quy tắc chuỗi trên đồ thị tính toán · Hiểu upstream và local gradient · Tự cài forward, backward cho mạng 2 lớp bằng NumPy

    Bài học~75 phút
  7. 7

    BatchNorm, Dropout và receptive field

    Hiểu BatchNorm khi train và khi suy luận · Dùng Dropout đúng chỗ · Tính receptive field qua từng lớp

    Bài học~60 phút
  8. 8

    Các kiến trúc CNN kinh điển: LeNet đến ResNet

    Nắm ý tưởng chính của LeNet, AlexNet, VGG, ResNet · Hiểu vì sao skip connection giúp mạng sâu · Dùng mô hình pretrained với weights= của torchvision

    Bài học~60 phút
  9. 9

    Vanishing gradient, khởi tạo trọng số, gradient clipping

    Nhận biết vanishing, exploding gradient · Chọn hàm kích hoạt và khởi tạo Xavier, He · Dùng gradient clipping theo norm

    Bài học~60 phút
  10. 10

    Dataset, DataLoader và augmentation

    Viết Dataset đọc ảnh từ thư mục · Dùng DataLoader, batch, shuffle · Chọn augmentation hợp với ảnh công nghiệp

    Bài học~75 phút
  11. 11

    Overfitting và chia train/val/test

    Nhận biết overfitting qua đường loss · Chia dữ liệu không rò rỉ · Các cách chống quá khớp

    Bài học~45 phút
  12. 12

    Dự án chặng 10: phân loại ảnh OK/NG bằng transfer learning

    Tinh chỉnh mô hình có sẵn với ít dữ liệu · Đánh giá bằng ma trận nhầm lẫn · Xuất mô hình ONNX

    Dự án~150 phút

Đọc thêm

Không bắt buộc, đọc khi muốn hiểu sâu hơn.