← Tất cả bài viết
SOOT · BLOG

Model chỉ đề xuất, runtime mới là bên quyết định

Khi xây agent AI cho các tác vụ quan trọng, đừng bao giờ để LLM trực tiếp ký lệnh hay giữ khóa. Trong Soot, model chỉ là bên đề xuất tham số; runtime và chính sách do bạn cấp mới quyết định tool có được chạy hay không.

Gần đây, một kỹ sư chia sẻ câu chuyện thú vị trên dev.to với tựa đề: *"The AI Understood My Payment Request. My Rust Code Refused It."* (AI hiểu đúng yêu cầu thanh toán của tôi. Code Rust của tôi đã từ chối nó).

Trong hệ thống SpendGuard mà tác giả xây dựng, người dùng yêu cầu chuyển tiền bằng ngôn ngữ tự nhiên. Mô hình ngôn ngữ lớn (LLM) phân tích câu lệnh rất chuẩn, trích xuất đúng địa chỉ ví và số tiền. Nhưng khi payload được gửi tới tầng thực thi, hệ thống runtime bằng Rust lập tức chặn lại và báo lỗi: số tiền vượt quá hạn mức cho phép và địa chỉ ví chưa nằm trong danh sách trắng (allowlist).

Bài học ở đây rất sáng tỏ: Mô hình AI chỉ là một bộ phân tích đề xuất (untrusted parser), không bao giờ được phép nắm quyền quyết định hay trực tiếp thực thi.

Đừng trao chìa khóa cho mô hình ngôn ngữ

Khi bắt đầu xây dựng các ứng dụng agent AI, sai lầm phổ biến nhất là đặt quá nhiều niềm tin vào khả năng "tự chủ" của mô hình. Nhiều người cho LLM trực tiếp nắm private key, API token nhạy cảm, hoặc để model tự gọi lệnh HTTP gửi tiền mà không qua một lớp kiểm duyệt tất định nào.

Dù mô hình tiên tiến đến đâu, bản chất của nó vẫn là xác suất:

  • Nó có thể bị dẫn dụ bởi prompt injection từ dữ liệu bên ngoài.
  • Nó có thể nhầm lẫn số thập phân hoặc địa chỉ nhận.
  • Nó không có khái niệm thực sự về ranh giới ngân sách hay trách nhiệm pháp lý.

Xem LLM như một thực tập sinh mới vào nghề: rất nhanh nhạy trong việc đọc hiểu và soạn thảo đề xuất, nhưng mọi hành động tác động ra thế giới thực — chuyển tiền, sửa database, gửi email hàng loạt — đều phải đi qua một người quản lý với quy tắc cứng rắn.

Lớp runtime tất định (deterministic policy) làm nhiệm vụ gì?

Trong kiến trúc chuẩn, mã runtime và policy engine độc lập với model và thực hiện các nhiệm vụ không thể thỏa hiệp:

  1. Kiểm tra giới hạn cứng (Hard caps & Allowlists): Bất kể model đề xuất chuyển bao nhiêu, runtime kiểm tra: Giao dịch có vượt mức trần mỗi lần không? Có vượt ngân sách ngày không? Địa chỉ đích có nằm trong allowlist đã được phê duyệt từ trước không? Nếu vi phạm, runtime từ chối ngay lập tức trước khi chạm vào mạng.
  2. Ghi nhận trạng thái outbox trước khi gọi mạng: Mọi giao dịch hay hành động ra ngoài đều phải được ghi log trạng thái rõ ràng. Nếu sự cố mạng xảy ra, hệ thống không rơi vào trạng thái lấp lửng hay thực hiện lặp lại hai lần.
  3. Giải mã minh bạch cho con người duyệt: Trước khi ký hay xác nhận lệnh, payload thô phải được decode thành thông tin dễ đọc để người vận hành kiểm tra lần cuối. Người duyệt nhìn thấy đúng những gì máy sẽ làm, không phải lời hứa mơ hồ của prompt.

Ranh giới trong Soot: Kiểm soát quyền trước khi chạy tool

Thiết kế của Soot đi theo đúng triết lý phân tách ranh giới này.

Khi bạn giao một việc cho Soot trong app Nest hoặc trên server của bạn, quy trình diễn ra theo ranh giới nghiêm ngặt:

  • Model chỉ tạo đề xuất gọi tool (tool call proposal): Model suy luận từ ngữ cảnh và đề xuất: *"Tôi muốn gọi tool X với tham số Y"*. Nó không có quyền tự kích hoạt tiến trình hệ điều hành hay tự gửi gói tin ra mạng.
  • Host runtime kiểm tra grant và scope: Runtime của Soot (chạy cục bộ trên máy của bạn) đứng ở giữa. Trước khi tool được gọi, runtime kiểm tra:

+ Soot này có được bạn cấp quyền (grant) cho tool đó không? (Như nguyên tắc *cài đặt không phải cấp quyền* trong Forge: cài pack không có nghĩa là tool được phép chạy). + Thư mục, bảng dữ liệu hay endpoint được yêu cầu có nằm trong scope được phân công không?

  • Chặn ngay tại cửa khi sai phạm vi: Nếu model đề xuất truy cập một tệp nằm ngoài phạm vi được chỉ định, hoặc gọi một tool mà bạn chưa cấp grant, runtime sẽ từ chối ngay lập tức và trả về lỗi quyền rõ ràng. Không có chuyện model tự "vượt rào".

Một Soot nhỏ, một việc rõ, bằng chứng rõ

Đây là lý do Soot kiên trì với nguyên tắc: Một Soot nhỏ, một việc rõ, bằng chứng rõ.

  • Một Soot nhỏ: Mỗi trợ lý AI chỉ nên nhận một phạm vi hẹp với các tool tối thiểu cần thiết cho công việc đó. Đừng tạo một "siêu agent" nắm mọi quyền hạn từ đọc email đến thanh toán hóa đơn.
  • Một việc rõ: Mục tiêu cụ thể, đầu vào cụ thể, điều kiện hoàn thành đo đếm được.
  • Bằng chứng rõ: Mọi đề xuất của model, mọi quyết định cấp quyền của runtime và kết quả thực thi đều để lại dấu vết kiểm toán tường minh trên máy bạn. Bạn luôn biết Soot đã làm gì, vào lúc nào, với bằng chứng gì.

Mô hình AI đem lại khả năng thích ứng ngôn ngữ linh hoạt. Nhưng sự an toàn và độ tin cậy đến từ mã runtime tất định và quyền kiểm soát nằm trong tay bạn.

---

Tìm hiểu thêm về mô hình phân quyền và cách Soot bảo vệ ranh giới thực thi tại trysoot.com/docs. Tải Nest để trải nghiệm trên máy của bạn tại trysoot.com/download.