Bản thay thế OpenAI API tự host: chạy chat, ảnh, giọng nói, embedding ngay trên hạ tầng của bạn.
LocalAI là cổng API tự host mô phỏng y hệt OpenAI API nhưng chạy trên máy/máy chủ của bạn. Nó gom nhiều loại model — chat, sinh ảnh, text-to-speech, embedding — vào một endpoint duy nhất, không cần GPU cũng chạy được. Chỉ cần đổi base URL, mọi app đang dùng OpenAI có thể chuyển sang LocalAI ngay.
Tải & chạy các mô hình LLM ngay trên máy bạn — trái tim cấp trí tuệ cho cả nhà máy.
Các bước cơ bản để bắt đầu.
Chạy nhanh bằng Docker: `docker run -p 8080:8080 localai/localai`Tải model qua gallery hoặc cấu hình YAMLTrỏ app tới `http://localhost:8080/v1`Tải & chạy LLM (Llama, Mistral, Qwen…) cục bộ chỉ bằng một lệnh; có API tương thích OpenAI.
Chạy LLM cực nhẹ trên CPU/GPU thường, kể cả máy yếu; nền tảng cho hầu hết công cụ chạy AI cục bộ.
