Bài 4 — Tự chủ vs Human-in-the-loop: vẽ ranh giới quyền lực

Câu hỏi trung tâm của mọi sản phẩm agentic

"Agent được tự quyết đến đâu, và khi nào phải hỏi người?" Trả lời sai theo hướng quá tự chủ → rủi ro và mất niềm tin. Trả lời sai theo hướng quá phụ thuộc người → agent vô dụng, không tiết kiệm được công sức. Vẽ đúng ranh giới này là kỹ năng đắt giá nhất của Agentic AI PM.

Nguyên tắc nền: rủi ro càng cao, người can thiệp càng sâu

Dùng ma trận hậu quả × khả năng đảo ngược:

• Hậu quả thấp + đảo ngược được (gắn nhãn email) → để agent tự làm (mức 3).
• Hậu quả cao + đảo ngược được (gửi email cho khách) → agent làm nhưng ghi log rõ, có nút thu hồi (mức 2).
• Hậu quả cao + không đảo ngược được (chuyển tiền, xóa dữ liệu, ký hợp đồng) → bắt buộc người duyệt trước (mức 1).

Câu hỏi vàng: "Nếu agent làm sai bước này, ta có gỡ lại được không, và mất bao nhiêu?" Không gỡ lại được → không cho tự chủ.

Ba kiểu human-in-the-loop

• Approve trước (pre-approval): agent đề xuất, người duyệt rồi mới thực thi. An toàn nhất, nhưng chậm — dùng cho hành động không đảo ngược.
• Giám sát sau (post-hoc review): agent tự làm, người xem log định kỳ và can thiệp khi cần. Nhanh, hợp việc rủi ro trung bình có thể sửa.
• Leo thang theo ngưỡng (escalation): agent tự làm trong ngưỡng (hoàn tiền < 500k), vượt ngưỡng thì chuyển người. Cân bằng tốt nhất giữa tốc độ và an toàn.

Thiết kế điểm bàn giao (handoff) cho mượt

Một handoff tệ khiến người dùng cảm thấy "bị đá qua đá lại". PM cần thiết kế:

• Chuyển kèm ngữ cảnh: khi escalate, đưa nhân viên toàn bộ những gì agent đã làm và lý do dừng — đừng bắt họ hỏi lại từ đầu.
• Rõ ràng ai đang phụ trách: người dùng luôn biết mình đang nói với agent hay người.
• Đường quay lại: sau khi người xử lý xong, có thể trả về agent để tiếp tục phần còn lại.

Ví dụ: agent duyệt chi phí công tác

Hóa đơn < 2 triệu, đúng chính sách  → agent tự duyệt (log lại)
Hóa đơn 2–10 triệu                   → agent kiểm tra + đề xuất, quản lý duyệt
Hóa đơn > 10 triệu hoặc bất thường    → chuyển thẳng người, agent chỉ tóm tắt

Ngưỡng này không cố định mãi: khi bạn đo được agent duyệt đúng 99% ở mức < 2 triệu suốt 3 tháng, bạn có thể nâng ngưỡng. Tự chủ nên tăng dần theo độ tin cậy đã chứng minh, không phải theo cảm tính.

Niềm tin là thứ kiếm được, không phải mặc định

Lộ trình trưởng thành điển hình:

• Shadow mode: agent chạy song song nhưng không thực thi, chỉ để so với người.
• Có duyệt: agent thực thi sau khi người bấm đồng ý.
• Tự hành có ngưỡng: mở dần theo dữ liệu.
• Tự hành rộng: chỉ khi số liệu chứng minh đủ tin cậy.

Khung tư duy "Trước khi cho agent tự quyết"

• Hành động này đảo ngược được không?
• Hậu quả tệ nhất là gì, ai gánh?
• Ta đã có dữ liệu độ tin cậy để tin agent chưa?
• Khi agent bí, đường escalate có kèm ngữ cảnh không?
• Có log và nút thu hồi/kiểm toán không?

Sai lầm thường gặp

• Cho tự chủ theo cảm tính thay vì theo số liệu đã đo.
• Handoff cụt ngữ cảnh, bắt khách/nhân viên lặp lại từ đầu.
• Approve mọi thứ khiến agent chậm và vô dụng ("approval fatigue").
• Không log — khi sự cố xảy ra không truy được nguyên nhân.

Checklist kết bài

• [ ] Mỗi hành động đã được xếp theo hậu quả × khả năng đảo ngược.
• [ ] Hành động không đảo ngược đều có người duyệt trước.
• [ ] Có cơ chế escalation theo ngưỡng và handoff kèm ngữ cảnh.
• [ ] Mức tự chủ gắn với dữ liệu độ tin cậy, không phải cảm tính.