Agents & tool use (khái niệm)

Vì sao hiểu agents và tool use quan trọng

Agent là hệ thống dùng LLM để tự lập kế hoạch và gọi công cụ nhằm hoàn thành một mục tiêu nhiều bước, thay vì chỉ trả lời một câu. Tool use là khả năng LLM gọi ra các công cụ bên ngoài như tra cứu dữ liệu, tính toán hay gửi email.

Nếu PM không hiểu khái niệm này, họ dễ vẽ ra một agent làm mọi thứ tự động rồi giao cho đội, nhưng agent càng nhiều quyền tự chủ thì càng khó kiểm soát và dễ sai. Một công ty du lịch Việt Nam từng xây agent tự đặt vé và hoàn tiền hoàn toàn tự động, nhưng thiếu chốt kiểm soát nên agent hoàn tiền nhầm nhiều đơn. Cái giá là mất tiền thật và mất niềm tin của khách.

Hiểu agents giúp PM thiết kế đúng ranh giới quyền tự chủ, đặt chốt an toàn, và biết khi nào cần con người phê duyệt.

Bức tranh lớn

Agent hoạt động theo vòng lặp: mô hình suy nghĩ nên làm gì tiếp theo, chọn một công cụ, gọi công cụ đó, nhận kết quả, rồi suy nghĩ tiếp cho tới khi đạt mục tiêu. Tool use là mảnh ghép cho phép mô hình chạm tới thế giới thực.

graph TD
A[Muc tieu nguoi dung] --> B[Mo hinh suy nghi ke hoach]
B --> C[Chon cong cu phu hop]
C --> D[Goi cong cu]
D --> E[Nhan ket qua]
E --> B
B --> F[Hoan thanh muc tieu]

Điểm mấu chốt cho PM: quyền tự chủ càng cao thì rủi ro càng lớn. Một agent chỉ đọc dữ liệu ít rủi ro hơn agent được phép thực hiện hành động thay đổi trạng thái như thanh toán. Thiết kế tốt là cho agent quyền tối thiểu cần thiết và đặt chốt phê duyệt ở những hành động nhạy cảm.

Ví dụ chi tiết

Một sàn thương mại điện tử Việt Nam muốn agent hỗ trợ chăm sóc khách hàng xử lý yêu cầu đổi trả.

Bước 1: PM liệt kê các công cụ agent cần: tra cứu đơn hàng, kiểm tra chính sách đổi trả, và tạo yêu cầu đổi trả.

Bước 2: Đội thiết kế vòng lặp: agent đọc yêu cầu khách, tra đơn hàng, đối chiếu chính sách, rồi đề xuất phương án.

Bước 3: PM nhận ra hành động tạo yêu cầu hoàn tiền là nhạy cảm, nên đặt chốt: agent chỉ đề xuất, con người bấm duyệt.

Bước 4: Với các bước chỉ đọc dữ liệu, agent được tự chạy vì rủi ro thấp.

Bước 5: PM đo tỷ lệ đề xuất đúng của agent và tỷ lệ cần con người sửa. Nhờ giới hạn quyền tự chủ hợp lý, agent tăng tốc xử lý mà không gây thiệt hại tài chính.

Lộ trình từng bước để làm chủ

graph TD
A[Hieu vong lap agent] --> B[Liet ke cong cu can thiet]
B --> C[Phan loai hanh dong theo rui ro]
C --> D[Dat chot phe duyet cho hanh dong nhay cam]
D --> E[Cho chay thu co giam sat]
E --> F[Do va mo rong quyen dan]

Trước hết hiểu vòng lặp suy nghĩ và gọi công cụ. Liệt kê công cụ cần thiết. Phân loại hành động theo mức rủi ro. Đặt chốt phê duyệt cho hành động nhạy cảm. Cho chạy thử có giám sát. Cuối cùng đo lường và mở rộng quyền tự chủ dần khi đủ tin cậy.

Thói quen & kỷ luật

Working mindset: cho agent quyền tối thiểu cần thiết, mở rộng dần khi có bằng chứng đáng tin.

Cần luyện tập gì (drills)

Drill 1: Vẽ vòng lặp của một agent giả định và đánh dấu hành động nào đọc dữ liệu, hành động nào thay đổi trạng thái.

Drill 2: Với một agent, liệt kê mọi hành động nhạy cảm cần con người phê duyệt và lý do.

Drill 3: Nghĩ ra ba tình huống agent có thể làm sai và thiết kế chốt an toàn cho mỗi tình huống.

Checklist hành động tuần này

• [ ] Vẽ vòng lặp agent cho một tình huống trong sản phẩm của bạn
• [ ] Phân loại các hành động của agent theo mức rủi ro
• [ ] Xác định hành động nào cần con người phê duyệt
• [ ] Định nghĩa chỉ số tỷ lệ đề xuất đúng của agent
• [ ] Thảo luận với đội về quyền tối thiểu cho agent

Chỉ số & North Star

North Star cho bài này: agent hoàn thành nhiều bước đúng mà không gây hành động sai nghiêm trọng.

Dấu hiệu bạn đã thành thạo

Bạn thiết kế được ranh giới quyền tự chủ hợp lý cho agent. Bạn phân biệt hành động đọc và hành động thay đổi trạng thái, đặt chốt đúng chỗ. Bạn không mơ mộng agent làm mọi thứ tự động, mà mở rộng quyền dần theo bằng chứng.

Cạm bẫy thường gặp

Chốt lại

• Agent chạy vòng lặp suy nghĩ, gọi công cụ, nhận kết quả cho tới khi đạt mục tiêu.
• Tool use cho mô hình chạm tới dữ liệu và hành động thật.
• Quyền tự chủ càng cao thì rủi ro càng lớn, hãy cho quyền tối thiểu.
• Đặt chốt phê duyệt cho hành động nhạy cảm và mở rộng dần theo bằng chứng.