Buộc LLM trả JSON đúng schema: kiểm tra bằng Pydantic và thử lại
Định nghĩa schema bằng Pydantic, bắt câu trả lời sai định dạng của LLM, gửi lỗi lại để mô hình tự sửa và giới hạn số lần thử. Code chạy được không cần khóa API.
Bước 1 · Học
Bài học và bài viết về LLM / AI Agents trên HọcFree.
11 bài viếtĐịnh nghĩa schema bằng Pydantic, bắt câu trả lời sai định dạng của LLM, gửi lỗi lại để mô hình tự sửa và giới hạn số lần thử. Code chạy được không cần khóa API.
Chuẩn mở về cách agent của người dùng tương tác với doanh nghiệp, với Walmart, Shopify, Stripe là đối tác sáng lập.
Mô hình đa phương thức lớn nhất của Mistral với 49 tỷ tham số hoạt động, ngữ cảnh 1 triệu token, trọng số mở dự kiến cuối tháng 10.
Chỉnh sửa thử nghiệm, dò thử công cụ và hàng triệu yêu cầu tự động: bài học về trách nhiệm khi triển khai agent.
Xây chatbot trả lời dựa trên tài liệu vận hành nhà máy: chia đoạn, nhúng vector, tìm kiếm ngữ nghĩa và sinh câu trả lời có trích dẫn.
Thiết kế công cụ có giới hạn, vòng lặp agent, prompt hệ thống và kiểm soát rủi ro: agent chỉ đọc và soạn nháp.
Khóa học Hugging Face, sách có chương Transformer, tài liệu của nhà cung cấp và lộ trình từ khái niệm đến agent.
Khác biệt giữa chatbot và agent, vòng lặp suy nghĩ – hành động – quan sát, ví dụ trong nhà máy và các nguyên tắc an toàn.
Số liệu tính bằng code, LLM chỉ diễn đạt; prompt có cấu trúc, kiểm tra tự động con số bịa và giao diện duyệt.
Giải thích các khái niệm cốt lõi của mô hình ngôn ngữ lớn để dùng đúng cách và hiểu vì sao nó đôi khi sai.
Bảy nguyên tắc viết prompt cho công việc kỹ thuật, mẫu prompt dùng ngay và những việc không nên làm với trợ lý AI.