Người mẫu
Initializing...
👋 Hi! I'm a local AI running entirely in your browser. Select a model and start chatting!
Note: First load requires downloading model weights (1-4GB). Please be patient.
Note: First load requires downloading model weights (1-4GB). Please be patient.
Chạy LLM cục bộ với WebGPU
Chạy các mô hình AI mạnh mẽ như Llama 3 và Gemma trực tiếp trong trình duyệt của bạn bằng WebGPU.
Yêu cầu hệ thống
Yêu cầu thiết bị hỗ trợ GPU và trình duyệt hiện đại (Chrome/Edge 113+).
Câu hỏi thường gặp về LLM địa phương
Dữ liệu của tôi có riêng tư không?
Có, mô hình này chạy hoàn toàn trên thiết bị của bạn. Không có dữ liệu được gửi đến bất kỳ máy chủ.
Tại sao nó chậm?
Hiệu suất phụ thuộc vào GPU của bạn. Thời gian tải ban đầu có thể dài do trọng số của mô hình được lưu vào bộ nhớ đệm.