Modell
Initializing...
👋 Hi! I'm a local AI running entirely in your browser. Select a model and start chatting!
Note: First load requires downloading model weights (1-4GB). Please be patient.
Note: First load requires downloading model weights (1-4GB). Please be patient.
LLM-ek helyi futtatása WebGPU-val
Futtasson olyan hatékony mesterséges intelligencia modelleket, mint a Llama 3 és a Gemma, közvetlenül a böngészőjében a WebGPU segítségével.
Rendszerkövetelmények
GPU-képes eszközt és modern böngészőt (Chrome/Edge 113+) igényel.
Helyi LLM GYIK
Személyesek az adataim?
Igen, a modell teljes egészében az Ön készülékén fut. Nem küldenek adatokat egyetlen szerverre sem.
Miért lassú?
A teljesítmény a GPU-tól függ. A kezdeti betöltési idők hosszúak lehetnek, amíg a modell súlyai gyorsítótárban vannak.