Como integrar Ollama com JavaScript e Node.js

Instalação

npm install ollama

Conversa básica

import ollama from "ollama";

const response = await ollama.chat({
  model: "qwen3:8b",
  messages: [
    { role: "system", content: "Responda em português do Brasil." },
    { role: "user", content: "Qual é a diferença entre JavaScript e TypeScript?" },
  ],
});

console.log(response.message.content);

(Para usar ES modules: use a extensão .mjs no nome do arquivo ou defina "type": "module" em package.json.)

Saída em streaming

import ollama from "ollama";

const stream = await ollama.chat({
  model: "qwen3:8b",
  messages: [{ role: "user", content: "Escreva um poema curto de quatro versos" }],
  stream: true,
});

for await (const part of stream) {
  process.stdout.write(part.message.content);
}

Cancelar a geração

Quando o usuário clicar em “Parar”:

const stream = await ollama.chat({ model: "qwen3:8b", messages, stream: true });

setTimeout(() => stream.abort(), 3000); // cancela após 3 segundos

try {
  for await (const part of stream) process.stdout.write(part.message.content);
} catch (err) {
  if (err.name === "AbortError") console.log("\nInterrompido");
}

Conectar a outro host

import { Ollama } from "ollama";

const client = new Ollama({ host: "http://192.168.1.50:11434" });
const res = await client.chat({ model: "qwen3:8b", messages: [{ role: "user", content: "Olá" }] });

Usar no navegador

import ollama from "ollama/browser";

Para chamar o Ollama local diretamente de uma página da Web, configure OLLAMA_ORIGINS para permitir a origem da página. Consulte Variáveis de ambiente e configuração. Em produtos em produção, normalmente as solicitações são encaminhadas pelo seu próprio backend, sem conectar o navegador diretamente ao Ollama.

Sem instalar o pacote: use fetch diretamente

const res = await fetch("http://localhost:11434/api/chat", {
  method: "POST",
  headers: { "Content-Type": "application/json" },
  body: JSON.stringify({
    model: "qwen3:8b",
    messages: [{ role: "user", content: "Olá" }],
    stream: false,
  }),
});
const data = await res.json();
console.log(data.message.content);

Processar streaming com fetch

A resposta em streaming contém um JSON por linha (NDJSON):

const res = await fetch("http://localhost:11434/api/chat", {
  method: "POST",
  body: JSON.stringify({ model: "qwen3:8b", messages: [{ role: "user", content: "Conte de 1 a 10" }] }),
});

const reader = res.body.getReader();
const decoder = new TextDecoder();
let buffer = "";

while (true) {
  const { value, done } = await reader.read();
  if (done) break;
  buffer += decoder.decode(value, { stream: true });
  const lines = buffer.split("\n");
  buffer = lines.pop(); // a última linha pode estar incompleta; guarde-a para a próxima leitura
  for (const line of lines) {
    if (!line.trim()) continue;
    const chunk = JSON.parse(line);
    process.stdout.write(chunk.message?.content ?? "");
  }
}

Usar o OpenAI SDK

npm install openai

import OpenAI from "openai";

const openai = new OpenAI({ baseURL: "http://localhost:11434/v1", apiKey: "ollama" });

const completion = await openai.chat.completions.create({
  model: "qwen3:8b",
  messages: [{ role: "user", content: "Olá" }],
});
console.log(completion.choices[0].message.content);

Uma API simples com Express

Empacote o Ollama em sua própria API para que o frontend possa chamá-la:

import express from "express";
import ollama from "ollama";

const app = express();
app.use(express.json());

app.post("/api/ask", async (req, res) => {
  const { question } = req.body;
  res.setHeader("Content-Type", "text/plain; charset=utf-8");
  const stream = await ollama.chat({
    model: "qwen3:8b",
    messages: [
      { role: "system", content: "Responda de forma concisa em português do Brasil." },
      { role: "user", content: question },
    ],
    stream: true,
  });
  for await (const part of stream) res.write(part.message.content);
  res.end();
});

app.listen(3000, () => console.log("http://localhost:3000"));

curl -N -X POST http://localhost:3000/api/ask \
  -H "Content-Type: application/json" \
  -d '{"question":"O que é uma API?"}'

Atualizado 12 de outubro de 2026