Học AI & Lập trình
Xuất mô hình PyTorch sang ONNX và kiểm tra kết quả khớp PyTorch
Xuất PyTorch và YOLO sang ONNX, chạy bằng ONNX Runtime, đo sai số trên nhiều ảnh, bắt lỗi tiền xử lý và lưu thẻ mô hình có mã băm.
⭐ Mới bắt đầu? Học theo thứ tự
Chặng 13: Deployment trong lộ trình Vision Engineer
6 bài học sắp xếp từ dễ đến khó, có mục tiêu, bài tập và dự án cuối chặng.
Bài viết về Vision Deployment
Học AI & Lập trình
Chạy mô hình ONNX trong C#: tiền xử lý, suy luận, giải mã đầu ra
Dùng ONNX Runtime và OpenCvSharp trong .NET: tiền xử lý khớp Python tới 1e-6, DenseTensor, giải mã phân loại và YOLO, parity test với bộ ảnh vàng.
Học AI & Lập trình
Tăng tốc suy luận: đo đúng cách, ONNX Runtime, INT8, TensorRT, OpenVINO
Đo p50/p99 đúng cách, chỉnh luồng và tối ưu đồ thị, lượng tử hóa INT8 bằng ONNX Runtime và đánh giá bằng escape/overkill, chọn runtime theo phần cứng.
Học AI & Lập trình
Đo latency, log JSON và phát hiện drift cho mô hình AI trong nhà máy
Đo thời gian từng bước với p95/p99, log JSON xoay vòng, giám sát drift bằng PSI, KS và p-chart, heartbeat cho trạm vision chạy liên tục.
Kiến thức
Docker cho kỹ sư AI: đóng gói ứng dụng vision, camera, GPU, compose
Dockerfile chuẩn cho ứng dụng vision Python, chạy với camera USB/GigE, tự khởi động lại, healthcheck, GPU NVIDIA, docker compose và lưu ý Windows/WSL.
Học AI & Lập trình
Dự án: đóng gói ứng dụng vision chạy 24/7, tự khởi động lại, cập nhật mô hình
Cấu hình TOML có kiểm tra, supervisor tự khởi động lại khi lỗi hay treo, cập nhật mô hình nguyên tử có rollback, chạy như dịch vụ Windows/Linux.
Projects
Dự án: đếm người qua cửa với YOLO26 và tracking
Kết hợp phát hiện đối tượng và theo dõi để đếm lượt vào, ra theo hai chiều; đánh giá sai số và tăng tốc trên máy yếu.