Kiến trúc một tính năng AI điển hình

Vì sao hiểu kiến trúc tính năng AI quan trọng

Một tính năng AI không chỉ là gọi mô hình. Nó là cả một chuỗi gồm nhận đầu vào, chuẩn bị ngữ cảnh, gọi mô hình, kiểm tra đầu ra, và trả kết quả an toàn cho người dùng. PM hiểu kiến trúc này mới viết được yêu cầu đầy đủ và phối hợp tốt với đội kỹ thuật.

Cái giá của việc thiếu kỹ năng: PM chỉ nghĩ tới phần gọi mô hình mà quên các lớp bảo vệ, dẫn tới sản phẩm để lộ lỗi ra người dùng. Một app ngân hàng Việt Nam ra chatbot mà không có lớp kiểm tra đầu ra, nên khi mô hình bịa thông tin lãi suất, thông tin sai đến thẳng khách hàng. Hậu quả là khiếu nại và rủi ro pháp lý. Nếu có lớp kiểm chứng và trích dẫn nguồn, sự cố đã được chặn.

Hiểu kiến trúc tổng thể giúp PM thấy toàn cảnh, đặt đúng chốt kiểm soát, và ước lượng công sức cho từng phần.

Bức tranh lớn

Một tính năng AI điển hình gồm nhiều lớp nối tiếp. Đầu vào của người dùng được làm sạch và kiểm tra. Hệ thống chuẩn bị ngữ cảnh, có thể dùng RAG để truy hồi dữ liệu. Prompt được ghép lại và gửi tới mô hình. Đầu ra được kiểm tra an toàn và độ chính xác trước khi hiển thị.

graph LR
A[Dau vao nguoi dung] --> B[Lam sach va kiem tra]
B --> C[Chuan bi ngu canh]
C --> D[Ghep prompt]
D --> E[Goi mo hinh]
E --> F[Kiem tra dau ra]
F --> G[Tra ket qua an toan]

Điểm mấu chốt cho PM: phần gọi mô hình chỉ là một mắt xích. Các lớp trước và sau quyết định sản phẩm có an toàn và đáng tin không. PM cần quan tâm cả pipeline chứ không chỉ prompt.

Ví dụ chi tiết

Một công ty bảo hiểm Việt Nam xây trợ lý giải thích quyền lợi hợp đồng cho khách hàng.

Bước 1: Đầu vào của khách được làm sạch và kiểm tra để chặn nội dung độc hại hoặc yêu cầu ngoài phạm vi.

Bước 2: Hệ thống dùng RAG truy hồi điều khoản hợp đồng liên quan tới câu hỏi.

Bước 3: Prompt ghép điều khoản truy hồi được cùng câu hỏi và chỉ dẫn chỉ trả lời dựa trên điều khoản.

Bước 4: Mô hình sinh câu trả lời kèm trích dẫn số điều khoản.

Bước 5: Lớp kiểm tra đầu ra xác minh câu trả lời có trích dẫn hợp lệ, không chứa cam kết vượt quyền lợi. Nếu không đạt, hệ thống chuyển sang câu trả lời an toàn hoặc mời tư vấn viên. PM đo tỷ lệ câu trả lời qua kiểm tra và tỷ lệ chuyển cho người thật. Nhờ kiến trúc đầy đủ lớp, sản phẩm an toàn hơn nhiều so với chỉ gọi mô hình trần.

Lộ trình từng bước để làm chủ

graph TD
A[Ve so do pipeline] --> B[Xac dinh lop lam sach dau vao]
B --> C[Thiet ke chuan bi ngu canh]
C --> D[Thiet ke lop kiem tra dau ra]
D --> E[Dat phuong an du phong an toan]
E --> F[Do luong tung lop]

Bắt đầu bằng vẽ sơ đồ pipeline hoàn chỉnh. Xác định lớp làm sạch đầu vào. Thiết kế cách chuẩn bị ngữ cảnh, dùng RAG khi cần. Thiết kế lớp kiểm tra đầu ra. Đặt phương án dự phòng an toàn khi đầu ra không đạt. Cuối cùng đo lường chất lượng từng lớp.

Thói quen & kỷ luật

Working mindset: gọi mô hình chỉ là một mắt xích, chất lượng sản phẩm nằm ở toàn bộ pipeline và các lớp bảo vệ.

Cần luyện tập gì (drills)

Drill 1: Vẽ pipeline đầy đủ cho một tính năng AI thật và đánh dấu mọi lớp kiểm tra.

Drill 2: Với một ca lỗi cụ thể, xác định nó bắt nguồn từ lớp nào và đề xuất cách chặn.

Drill 3: Thiết kế phương án dự phòng an toàn cho tình huống mô hình trả lời không đạt kiểm tra.

Checklist hành động tuần này

• [ ] Vẽ sơ đồ pipeline cho một tính năng AI của bạn
• [ ] Xác định lớp làm sạch đầu vào và các rủi ro cần chặn
• [ ] Thiết kế lớp kiểm tra đầu ra với ít nhất hai loại kiểm tra
• [ ] Định nghĩa phương án dự phòng an toàn khi đầu ra không đạt
• [ ] Định nghĩa chỉ số cho từng lớp trong pipeline

Chỉ số & North Star

North Star cho bài này: tỷ lệ đầu ra sai lọt tới người dùng tiến gần về không.

Dấu hiệu bạn đã thành thạo

Bạn nhìn một tính năng AI là thấy ngay toàn bộ pipeline chứ không chỉ phần gọi mô hình. Bạn đặt đúng lớp kiểm tra và phương án dự phòng. Bạn truy được một ca lỗi về đúng lớp gây ra và đề xuất cách chặn.

Cạm bẫy thường gặp

Chốt lại

• Tính năng AI là cả pipeline nhiều lớp, không chỉ là gọi mô hình.
• Lớp làm sạch đầu vào và kiểm tra đầu ra quyết định độ an toàn.
• Luôn thiết kế phương án dự phòng khi đầu ra không đạt.
• Đo lường từng lớp để truy lỗi và cải tiến liên tục.