Bài 2 — Bộ não: chọn LLM và viết system prompt cho agent

LLM là bộ não của agent — nó không tự làm gì cả, nhưng nó quyết định mỗi bước tiếp theo. Chất lượng agent phụ thuộc trực tiếp vào (1) chọn đúng model và (2) system prompt biến model thành một tác nhân biết dùng tool.

Chọn LLM: đánh đổi ba trục

Khi chọn model làm bộ não, cân nhắc ba trục:

• Khả năng suy luận & dùng tool — model có được huấn luyện để gọi function tốt không? Đây là yếu tố số 1 cho agent.
• Độ trễ (latency) — agent gọi model nhiều lần/lượt, latency cộng dồn.
• Chi phí token — mỗi bước là một lời gọi; agent 10 bước = 10 lần trả tiền.

Quy tắc thực chiến: dùng model mạnh cho khâu lập kế hoạch/quyết định, model nhỏ rẻ cho khâu phụ (tóm tắt, phân loại). Không cần "model xịn nhất" cho mọi bước.

System prompt: linh hồn của agent

System prompt cho agent khác chatbot ở chỗ nó phải nêu rõ: vai trò, công cụ có sẵn, quy trình suy nghĩ, và ranh giới. Một khung 5 phần:

[1. Vai trò]   Bạn là trợ lý đặt lịch cho phòng kinh doanh.
[2. Mục tiêu]  Giúp user tạo/sửa/hủy sự kiện đúng ý.
[3. Tools]     Bạn CÓ THỂ gọi: get_calendar, create_event, send_email.
[4. Quy tắc]   - Luôn kiểm tra lịch trống TRƯỚC khi tạo.
               - Không gửi email nếu user chưa xác nhận.
               - Nếu thiếu thông tin, hãy HỎI, đừng đoán.
[5. Định dạng] Suy nghĩ từng bước. Khi xong, tóm tắt ngắn gọn.

Các bước viết system prompt cho agent

• Khai báo vai trò hẹp: "trợ lý đặt lịch", không phải "trợ lý vạn năng". Càng hẹp càng ổn định.
• Liệt kê rõ tool và KHI NÀO dùng: mô tả mục đích từng tool để model biết chọn đúng.
• Đặt guardrails (ranh giới): những việc tuyệt đối không được làm (xóa dữ liệu, gửi tiền, spam).
• Ép hỏi khi thiếu thông tin: câu "Nếu thiếu thông tin, hãy hỏi" giảm mạnh việc model bịa (hallucinate).
• Chỉ định định dạng đầu ra cuối để phần code dễ parse.

Ví dụ: cùng model, hai prompt, hai kết quả

Prompt A (yếu): "Bạn là trợ lý. Giúp người dùng."
→ Model đoán ngày, tự tạo event sai giờ, không kiểm tra lịch.

Prompt B (tốt, có guardrail): thêm "Luôn gọi get_calendar
 trước create_event. Thiếu ngày thì HỎI."
→ Model hỏi lại ngày, kiểm tra lịch, tạo đúng.

Cùng một "bộ não", cách bạn "lập trình" nó bằng ngôn ngữ tự nhiên quyết định hành vi.

Khung tư duy: nhiệt độ (temperature)

• Nhiệm vụ quyết định/gọi tool: đặt temperature thấp (0–0.3) để ổn định, ít ngẫu nhiên.
• Nhiệm vụ sáng tạo nội dung: đặt cao hơn (0.7+).

Agent chủ yếu là ra quyết định → mặc định nên để temperature thấp.

Checklist system prompt

• [ ] Vai trò hẹp, một câu.
• [ ] Danh sách tool + khi nào dùng từng cái.
• [ ] Ít nhất 2 guardrail rõ ràng.
• [ ] Câu ép "hỏi khi thiếu thông tin".
• [ ] Định dạng đầu ra cuối cùng.

Sai lầm thường gặp

• Prompt mô tả vai trò quá rộng ("trợ lý làm mọi thứ"): model phân tán, chọn sai tool.
• Không nói khi nào dùng tool nào: model gọi lung tung hoặc không gọi.
• Quên guardrail phá hoại: agent lỡ tay xóa dữ liệu, gửi email sai. Guardrail phải nằm trong system prompt VÀ trong code tool.
• Để temperature cao cho khâu quyết định: agent trả lời khác nhau mỗi lần chạy, không thể test.
• Nhồi cả nghìn dòng vào system prompt: vừa tốn token mỗi bước, vừa loãng chỉ dẫn quan trọng.

Bộ não đã sẵn sàng. Bài 3 ta lắp "tay chân" — tools — để agent thực sự chạm được thế giới.