Điều khiển đầu ra của LLM chính xác bằng 'khuôn' — ép model theo đúng định dạng, giảm lỗi, tiết kiệm token.
Guidance cho phép bạn đan xen văn bản và logic điều khiển để 'dẫn dắt' model sinh ra đầu ra đúng cấu trúc mong muốn (JSON, mẫu cố định, lựa chọn hạn chế…). Nó can thiệp ngay trong quá trình sinh để ép theo ngữ pháp/khuôn, nhờ đó giảm lỗi định dạng và tiết kiệm token so với prompt thuần.
Khung & nền tảng dựng app AI: viết content, ghép dữ liệu, tạo workflow tri thức.
Các bước cơ bản để bắt đầu.
Cài `pip install guidance`Nạp model và viết hàm guidance với khuôn mong muốnGọi để sinh đầu ra bám đúng cấu trúcThư viện dùng hàng trăm nghìn mô hình AI (ngôn ngữ, ảnh, âm thanh) — tải & chạy chỉ vài dòng code.
Bộ khung xây ứng dụng LLM: nối model với dữ liệu, công cụ, bộ nhớ để tạo chatbot, RAG, agent.