Bài 2 — Chọn công cụ: pgvector vs Qdrant vs Pinecone vs Weaviate

Không có công cụ "tốt nhất", chỉ có công cụ phù hợp với hoàn cảnh. Bài này cho bạn khung quyết định thực dụng để chọn giữa 4 lựa chọn phổ biến nhất cho bộ nhớ agent.

Bảng so sánh nhanh

Khung quyết định 4 câu hỏi

• Đã có Postgres trong hệ thống chưa?

- Rồi, dữ liệu vài trăm nghìn vector, muốn join với bảng users/orders → pgvector. Ít hạ tầng mới, transaction ACID, một chỗ backup.

• Cần hiệu năng cao + filter phức tạp, muốn tự host / OSS?

- → Qdrant. Filter theo payload rất mạnh, quantization tốt, chạy nhẹ bằng Docker.

• Không muốn vận hành gì cả, chấp nhận trả tiền theo dùng?

- → Pinecone. Serverless, tự lo scaling, hợp startup ít DevOps.

• Muốn schema có kiểu dữ liệu, module hóa (vectorizer, generative)?

- → Weaviate. Có thể tự sinh embedding qua module, hybrid BM25 sẵn.

Ví dụ tình huống thật

Tình huống A — Startup fintech đã dùng Supabase (Postgres). Cần agent nhớ lịch sử giao dịch của user và tra chính sách. Vector vài trăm nghìn. → Chọn pgvector. Lý do: join thẳng memories với users bằng user_id, một hệ backup, không thêm hạ tầng.

Tình huống B — Sản phẩm search ngữ nghĩa 50 triệu vector, cần độ trễ < 50ms, đội nhỏ không muốn quản DB. → Chọn Pinecone hoặc Qdrant Cloud. pgvector ở quy mô này sẽ đau về tuning index.

Đoạn khởi tạo nhanh mỗi bên (cảm nhận API)

# pgvector (qua SQL)
# CREATE EXTENSION vector;
# CREATE TABLE mem (id bigserial, embedding vector(1536), text text, user_id int);

# Qdrant
from qdrant_client import QdrantClient
c = QdrantClient(":memory:")
c.create_collection("mem", vectors_config={"size":1536,"distance":"Cosine"})

# Pinecone
from pinecone import Pinecone
pc = Pinecone(api_key="...")
pc.create_index("mem", dimension=1536, metric="cosine")

# Weaviate
import weaviate
client = weaviate.connect_to_local()
client.collections.create("Mem", vectorizer_config=None)  # tự đẩy vector

Checklist chọn công cụ

• [ ] Quy mô vector (nghìn → pgvector ok; nhiều triệu → chuyên dụng).
• [ ] Có cần join với dữ liệu quan hệ không? (Có → pgvector lợi thế lớn.)
• [ ] Đội có kỹ năng DevOps để self-host không? (Không → managed.)
• [ ] Ràng buộc chi phí: SaaS tính theo dùng vs server cố định.
• [ ] Compliance: dữ liệu có được phép rời hạ tầng của bạn? (Không → self-host.)

Sai lầm thường gặp

• Chọn Pinecone chỉ vì "nghe nổi tiếng" trong khi đã có Postgres và chỉ vài chục nghìn vector — thêm hạ tầng + chi phí không cần thiết.
• Chọn pgvector cho 100 triệu vector rồi ngạc nhiên vì chậm — quy mô đó nên dùng DB chuyên dụng.
• Bỏ qua yếu tố filter: nếu agent luôn lọc theo user_id, hãy chọn công cụ có metadata filter mạnh và biết cách đánh index cho field đó.
• Lock-in mù quáng: viết code bám chặt SDK một bên. Nên bọc một lớp MemoryStore interface để đổi backend về sau đỡ đau.

Bài sau: hiểu cho đúng embedding, chiều vector và distance metric — nền tảng để mọi công cụ trên chạy chuẩn.