Detect Detectar Check for WebGPU with half-precision shaders. Without it, fall back to WebAssembly on the CPU. Confere se há WebGPU com shaders de meia precisão. Sem isso, volta para WebAssembly na CPU.
Browser model lab
Laboratório de modelo no navegador
Run a model
in this tab.Rode um modelo
nesta aba.
Everything else in this guide talks about models you rent. Here you download one: a small open model from Hugging Face, running on your own GPU or CPU, with no account, no key, and no server reading your prompt.
O resto deste guia fala de modelos que você aluga. Aqui você baixa um: um modelo aberto pequeno do Hugging Face, rodando na sua GPU ou CPU, sem conta, sem chave e sem servidor lendo seu prompt.
Transcript Transcrição
- A language model, inside a web page.
- The weights download once, from the Hub.
- Next visit, they load from the browser cache.
- It runs on your own GPU.
- Your prompt never leaves the page.
- The model comes to you.
- Um modelo de linguagem dentro da página.
- Os pesos baixam uma vez, do Hub.
- Na próxima visita, vêm do cache do navegador.
- Ele roda na sua própria GPU.
- Seu prompt nunca sai da página.
- O modelo vem até você.
01 · Chat
01 · Conversa
Pick a model. It downloads once. Escolha um modelo. Ele baixa uma vez.
These are small open models, a few hundred megabytes each, so expect short answers and real mistakes. That is the point: you can feel what size buys. The size shown is what your browser will download; after that the model loads from its cache.
São modelos abertos pequenos, de algumas centenas de megabytes, então espere respostas curtas e erros de verdade. É esse o ponto: dá para sentir o que o tamanho compra. O tamanho mostrado é o que seu navegador vai baixar; depois disso o modelo carrega do cache.
…
02 · Search by meaning
02 · Busca por significado
Words differ. Meaning matches. As palavras mudam. O sentido combina.
This is the retrieval half of RAG. An embedding model turns each sentence into a list of numbers; sentences that mean similar things land close together, even with no words in common. Ask about "vacation days" and the sentence about "paid leave" should rise to the top.
Esta é a metade de recuperação do RAG. Um modelo de embeddings transforma cada frase em uma lista de números; frases com sentido parecido ficam perto, mesmo sem palavras em comum. Pergunte sobre "dias de folga" e a frase sobre "férias" deve subir para o topo.
- – Use a fast model for small, well-specified edits. Use um modelo rápido para edições pequenas e bem especificadas.
- – Raise reasoning effort when the task is ambiguous or costly to get wrong. Aumente o esforço de raciocínio quando a tarefa for ambígua ou cara de errar.
- – Give each agent its own git worktree so edits never collide. Dê a cada agente sua própria git worktree para as edições nunca colidirem.
- – A skill keeps only its description in context until a request matches it. Uma skill mantém só a descrição no contexto até um pedido combinar com ela.
- – A pre-push hook runs the checks before code leaves your machine. Um hook de pre-push roda as checagens antes do código sair da sua máquina.
- – Split documents into labelled chunks and cite the source of every answer. Divida documentos em trechos rotulados e cite a fonte de cada resposta.
- – If no chunk scores high enough, answer that the sources do not say. Se nenhum trecho pontuar o suficiente, responda que as fontes não dizem.
- – Full-time staff get 25 working days of paid leave a year. Quem trabalha em tempo integral tem 25 dias úteis de férias por ano.
03 · Your disk
03 · Seu disco
What stays behind. O que fica.
Downloaded weights live in this site's browser storage, not in a folder you can see. They stay until you clear them here or clear site data. Nothing you type is stored or sent anywhere.
Os pesos baixados ficam no armazenamento do navegador para este site, não numa pasta visível. Ficam até você limpar aqui ou apagar os dados do site. Nada do que você digita é guardado ou enviado.
…
What happens on Load
O que acontece ao carregar
Four steps,
all in your browser.
Quatro passos,
todos no navegador.
The page itself is static. The work happens in a background worker, so the page stays responsive while the model thinks.
A página em si é estática. O trabalho acontece num worker em segundo plano, então a página continua responsiva enquanto o modelo pensa.
-
01 -
02 Download Baixar Fetch the quantized ONNX weights and tokenizer from the Hub, once, into the browser cache. Busca os pesos ONNX quantizados e o tokenizador no Hub, uma vez, para o cache do navegador. -
03 Compile Compilar ONNX Runtime Web builds the model's graph for your GPU or CPU. This is the pause after the bar fills. O ONNX Runtime Web monta o grafo do modelo para sua GPU ou CPU. É a pausa depois que a barra enche. -
04 Stream Transmitir Each new token is sent back to the page as it is produced, so you watch the answer being written. Cada novo token volta para a página assim que é gerado, então você vê a resposta sendo escrita.
Other places
Outros lugares
Where open models come from. De onde vêm os modelos abertos.
Hugging Face
Hugging Face
Where this page gets its weights. Look for repos with an onnx/ folder, often under onnx-community, to run them in a browser.
De onde esta página tira os pesos. Procure repositórios com pasta onnx/, muitas vezes na onnx-community, para rodar no navegador.
Browse browser-ready models ↗ Ver modelos prontos para navegador ↗Built-in models
Modelos embutidos
Some browsers ship their own on-device model behind a Prompt API. When yours does, the lab offers it as an extra option.
Alguns navegadores trazem o próprio modelo local via Prompt API. Quando o seu traz, o laboratório oferece como opção extra.
Read the Prompt API ↗ Ler sobre a Prompt API ↗Your own machine
Sua própria máquina
For models too big for a tab, run them as a local server with Ollama or llama.cpp; the same open weights, more memory.
Para modelos grandes demais para uma aba, rode como servidor local com Ollama ou llama.cpp; os mesmos pesos abertos, mais memória.
Ollama library ↗ Biblioteca do Ollama ↗