Bắt đầu học

Giai đoạn 5 · Triển khai & thực chiến · Chặng 13/14

Chặng 13: Deployment

Học xong chặng này, bạn có thể: Đưa mô hình chạy real-time ổn định trên máy tính công nghiệp.

  • 6 bài học
  • ~8 giờ học
  • ~3 tuần
  • 0/6 bài đã học
Bắt đầu bài 1 Xem cả lộ trình

Trước khi bắt đầu

Có ít nhất một mô hình đã huấn luyện từ chặng 10 hoặc 12.

Chặng này gồm

  • Xuất mô hình ONNX, tối ưu bằng TensorRT / OpenVINO
  • Chạy trên PC công nghiệp, GPU, thiết bị edge (Jetson)
  • Đo latency, logging, giám sát và cập nhật mô hình

Bài học theo thứ tự

Học lần lượt từ trên xuống. Làm hết bài tập trong mỗi bài, đánh dấu đã học để theo dõi tiến độ.

  1. 1

    Xuất ONNX và kiểm tra kết quả khớp PyTorch

    Xuất mô hình PyTorch, YOLO sang ONNX · Chạy suy luận bằng ONNX Runtime trong Python · So sánh sai số đầu ra với PyTorch

    Bài học~75 phút
  2. 2

    Chạy mô hình ONNX trong C#

    Tiền xử lý đúng như lúc huấn luyện · Chạy suy luận trong .NET · Giải mã đầu ra

    Bài học~75 phút
  3. 3

    Tăng tốc suy luận: OpenVINO, TensorRT, FP16, INT8

    Đo tốc độ đúng cách · Chọn runtime theo phần cứng · Giảm độ chính xác số an toàn

    Bài học~75 phút
  4. 4

    Đo latency, logging và giám sát mô hình

    Đo thời gian từng bước của pipeline · Ghi log có cấu trúc, xoay vòng file log · Phát hiện dữ liệu trôi (drift) trong sản xuất

    Bài học~60 phút
  5. 5

    Docker cho kỹ sư AI

    Đóng gói môi trường chạy giống nhau · Viết Dockerfile cho ứng dụng vision · Chạy GPU trong container

    Bài học~60 phút
  6. 6

    Dự án chặng 13: đóng gói ứng dụng vision chạy 24/7

    Cấu hình bằng file, không sửa code · Tự khởi động lại khi lỗi · Cập nhật mô hình an toàn

    Dự án~120 phút

Đọc thêm

Không bắt buộc, đọc khi muốn hiểu sâu hơn.