AI Ethics & "Khi nào KHÔNG dùng"

Tại sao kỹ năng này càng quan trọng trong thời đại AI?

Câu hỏi 2020: "AI có thể làm việc này không?" — câu trả lời thường là "chưa". Câu hỏi 2026: "AI có nên làm việc này không?" — câu trả lời cần judgment, không phải tech. PM nào không có khung tư duy này sẽ vô tình ship feature gây hại: hallucination trong y tế, bias trong tuyển dụng, lộ data user, hoặc đơn giản là làm user mất lòng tin.

VN regulatory đang siết: Nghị định 13/2023 về data privacy, dự thảo Luật AI 2025, GDPR ảnh hưởng tới VN export market. PM phải biết khi nào KHÔNG dùng AI trước cả khi luật buộc — vì khi luật buộc thì đã muộn (đã ship, đã có khủng hoảng PR).

Quan trọng hơn: trust một khi mất rất khó lấy lại. 1 hallucination trong chatbot y tế của bạn có thể khiến 100,000 user rời app. AI ethics không phải nice-to-have — nó là risk management.

Framework / Mental model

Khung "Should we use AI?" gồm 4 chiều phải đánh giá:

• Data sensitivity: Data có chứa PII, sức khỏe, tài chính, vị trí, trẻ em không?
• Decision impact: Nếu AI sai, ai bị tổn hại? Reversible không?
• User awareness: User có biết họ đang nói chuyện với AI không? Có consent không?
• Human override: Có path để human review/override không?

Cây quyết định:

flowchart TD
    A[Đề xuất dùng AI
cho feature X] --> B{Data có PII /
sức khỏe /
tài chính / trẻ em?}
    B -->|Có| C{Có consent rõ ràng
+ encryption +
data minimization?}
    B -->|Không| D{AI sai → có ai
bị tổn hại thực không?
(tiền, sức khỏe, danh tiếng)}
    C -->|Chưa đủ| K[KHÔNG dùng AI
hoặc làm rule-based]
    C -->|Đủ| D
    D -->|Tổn hại nặng,
khó rollback| E{Có human-in-loop
cho mỗi decision?}
    D -->|Tổn hại nhẹ /
rollback dễ| F{User có biết
đó là AI?}
    E -->|Không| K
    E -->|Có| F
    F -->|Không| G[Phải disclose
"This is AI-generated"]
    F -->|Có| H[Pass — dùng AI
với guardrails:
logging, eval,
fallback]
    G --> H

Quy luật bổ sung: "Default human cho high-stakes, default AI cho low-stakes." Nếu không chắc, treat as high-stakes.

Ví dụ thực tế

Case 1 — Chatbot hỗ trợ sức khỏe ở 1 startup VN: Startup muốn build chatbot AI tư vấn triệu chứng cho user. Đi qua framework: data sensitivity = SỨC KHỎE (high), decision impact = nếu sai user có thể không đi bác sĩ kịp (high, irreversible), user awareness = user có thể tin AI như bác sĩ. Quyết định: KHÔNG dùng AI cho diagnosis. Thay vào đó, dùng AI để: (1) triage symptom theo rule-based, (2) suggest specialist phù hợp, (3) luôn có disclaimer "Đây không phải tư vấn y khoa. Hãy gặp bác sĩ."

Case 2 — AI screening CV tự động: Một HR-tech VN muốn build AI score CV để filter. Đi qua framework: data có PII, decision impact = ảnh hưởng nghề nghiệp người ta (high), bias risk = AI có thể bias về giới tính/tuổi (đã có nhiều case ở Amazon, đã bị fail). Quyết định: AI chỉ rank, không filter. Human recruiter phải review top 30, AI không tự reject ai. Audit log mỗi tháng để check bias.

Case 3 — Chatbot customer support cho e-commerce: Đi qua framework: data sensitivity = thấp (order info), decision impact = thấp (sai thì user chỉ phải hỏi lại), reversible = có. Quyết định: AI fine, với guardrails: (1) disclose "Tôi là AI assistant", (2) escalate đến human khi user yêu cầu hoặc khi confidence thấp, (3) không bao giờ confirm refund/cancel mà không có human approve.

Luyện tập hàng ngày

• Bài 1 (5 phút/ngày — "AI vs not"): Mỗi feature/idea bạn xem hôm nay, hỏi: "Cái này có nên dùng AI không? Hay rule-based đủ?". Lý do để default rule-based: deterministic, explainable, không hallucination, không cần eval. AI chỉ khi rule-based thực sự không khả thi.
• Bài 2 (15 phút/tuần — "Risk register"): Cho mỗi AI feature đang ship, viết: top 3 cách AI có thể sai, top 3 cách user có thể bị hại, mitigation hiện tại. Update register này weekly.
• Bài 3 (1 buổi/tháng — "Red team session"): Tổ chức 60 phút với eng + design + legal. Mỗi người cố tìm cách "break" AI feature: prompt injection, edge case, demographic bias, abuse. Document và fix top 3.

Sai lầm phổ biến

Dấu hiệu bạn đã master

• Bạn đã kill ít nhất 1 AI feature proposal vì ethics — và team tôn trọng quyết định đó.
• Mỗi AI feature bạn ship đều có: disclosure, fallback, human-in-loop path, audit log.
• Bạn có thể trả lời câu hỏi của legal/compliance trong 5 phút mà không hoảng — vì đã pre-empt.
• Khi 1 AI competitor có scandal (bias, leak, hallucination), team của bạn không panic — vì bạn đã có guardrails.

Tài nguyên thêm

• Sách: Cathy O'Neil — Weapons of Math Destruction. Case study về AI bias trong tuyển dụng, credit, criminal justice — đọc 1 lần là tỉnh ngộ.
• Sách: Brian Christian — The Alignment Problem. Foundation cho AI safety thinking cho non-researcher.
• Bài viết: Anthropic — Responsible Scaling Policy (anthropic.com/rsp). Framework công nghệ tier-based.
• Bài viết: Google PAIR — People + AI Research Guidebook (pair.withgoogle.com/guidebook). Foundation cho human-AI UX patterns.
• Luật VN: Nghị định 13/2023/NĐ-CP về bảo vệ dữ liệu cá nhân. Bắt buộc đọc nếu làm AI product ở VN.
• Video: Stuart Russell — "Provably Beneficial AI" TED talk + UC Berkeley course slides. Foundation triết học.