Bài 3 — Orchestration: điều phối chuỗi hành động nhiều bước

Orchestration là gì

Một tác vụ thật hiếm khi xong trong một bước. "Nghiên cứu 3 đối thủ và viết báo cáo" cần: tìm kiếm → đọc → tổng hợp → viết → kiểm tra. Orchestration là cách bạn tổ chức chuỗi bước đó: agent nên đi tuần tự, rẽ nhánh, lặp, hay chia cho nhiều sub-agent? Đây là quyết định thiết kế mà PM phải hiểu để định hình sản phẩm.

Bốn mẫu orchestration phổ biến

• Tuần tự (sequential/chain): bước A → B → C cố định. Dễ kiểm soát, dễ debug. Hợp cho quy trình rõ ràng như duyệt hồ sơ.
• Định tuyến (router): một agent phân loại yêu cầu rồi chuyển đến nhánh phù hợp ("khiếu nại" → nhánh CSKH, "kỹ thuật" → nhánh support). Giảm nhiễu, tăng chính xác.
• Vòng lặp ReAct (reason + act): agent suy luận → gọi tool → quan sát → lặp cho đến khi đạt mục tiêu. Linh hoạt nhất nhưng khó đoán, cần giới hạn số vòng.
• Đa agent (planner–worker): một agent lập kế hoạch, chia việc cho các agent con chuyên biệt, rồi tổng hợp. Mạnh cho việc phức tạp nhưng đắt và khó gỡ lỗi.

Quy tắc PM: chọn mẫu đơn giản nhất còn hoàn thành được việc. Đa agent nghe "xịn" nhưng thường thêm chi phí, độ trễ và điểm gãy mà không thêm giá trị.

Planning: kế hoạch cứng hay linh hoạt?

• Kế hoạch cứng (predefined): bạn định nghĩa sẵn các bước. Tin cậy cao, phù hợp quy trình chuẩn hóa (KYC, onboarding).
• Kế hoạch động (agent tự lập): agent tự nghĩ ra các bước. Linh hoạt cho việc mở (nghiên cứu), nhưng khó đảm bảo chất lượng.

Nhiều sản phẩm tốt dùng hybrid: khung cứng cho phần rủi ro cao, để agent tự do trong phần rủi ro thấp.

Ví dụ: agent xử lý yêu cầu hoàn tiền

[Router] Phân loại yêu cầu
   ├─ Đủ điều kiện tự động (giá trị nhỏ)
   │     → [Chain] xác minh đơn → tính mức hoàn → tạo lệnh hoàn → thông báo
   └─ Phức tạp / giá trị lớn
         → [Human-in-the-loop] chuyển nhân viên duyệt

Ở đây router lọc rủi ro, chain xử lý phần chuẩn hóa, còn phần nhạy cảm được đẩy sang người. Một thiết kế orchestration tốt chính là một thiết kế quản trị rủi ro.

Kiểm soát vòng lặp — điều PM hay quên

Vòng lặp ReAct có thể chạy vô tận nếu agent kẹt (gọi tool lỗi → thử lại → lại lỗi). Bạn cần các cầu chì (circuit breaker):

• Giới hạn số bước (ví dụ tối đa 10 vòng).
• Ngân sách token/thời gian cho mỗi tác vụ.
• Phát hiện lặp (cùng một hành động lặp 3 lần → dừng và escalate).
• Điểm dừng an toàn: khi bí, agent phải biết "bỏ cuộc đẹp" và chuyển người, thay vì đốt tài nguyên.

Khung tư duy chọn orchestration

• Quy trình có xác định trước không? → có: chain/router; không: ReAct.
• Có bước rủi ro cao không? → tách ra human-in-the-loop.
• Cần nhiều chuyên môn khác nhau không? → cân nhắc đa agent (nhưng hỏi kỹ: có đáng chi phí?).
• Đã đặt giới hạn vòng lặp và ngân sách chưa? → bắt buộc trước khi lên production.

Sai lầm thường gặp

• Mặc định chọn đa agent vì nghe hiện đại, gánh thêm chi phí và lỗi.
• Không giới hạn số vòng ReAct, để agent chạy vô tận đốt token.
• Nhồi mọi thứ vào một agent khổng lồ thay vì tách bước rõ ràng.
• Không có điểm dừng an toàn, agent kẹt mà không escalate.

Checklist kết bài

• [ ] Tôi chọn được mẫu orchestration đơn giản nhất còn làm xong việc.
• [ ] Bước rủi ro cao đã được tách sang human-in-the-loop.
• [ ] Đã đặt giới hạn số bước và ngân sách token/thời gian.
• [ ] Có cơ chế phát hiện lặp và điểm dừng an toàn.