Saltar para o conteúdo

Para programadores

Um hub de IA para cada aplicação que criar.

As suas aplicações comunicam com a nerix em vez de comunicarem com cada empresa de IA. Uma chave por servidor, 63 modelos num único formato, um só saldo de créditos e cada resposta indica o modelo que respondeu e quanto custou.

SDKsPHPNodePythonGo

example.ts
// one client per process: it holds your server's key
import { RespireSoftAI } from '@respiresoft/ai'

const ai = new RespireSoftAI()

const answer = await ai.chat.create({
  model: 'mistral/mistral-large-latest',  // or an alias: 'fast'
  messages: [{ role: 'user', content: 'Summarise this contract' }],
  nerix: { tenant: 't42', feature: 'summaries' },
})

answer.nerix.resolved   // the model that actually answered
answer.nerix.cost       // { credits: 2, ... }
Fig. 1 A mesma chamada em Node. Em PHP, Python e Go, a estrutura é a mesma.

01Como funciona

Três passos, e o primeiro fica inteiramente no seu servidor.

  1. 01

    Crie uma chave no seu servidor

    Um único comando grava uma chave privada que só o seu servidor pode ler e apresenta a respetiva parte pública.

    $ npx respiresoft-ai keygen --out /srv/keys/myapp-ai.pem

    No seu servidor: a chave privada é gravada com permissões exclusivas do proprietário e nunca é apresentada no ecrã.

  2. 02

    Envie-nos a parte pública

    Registamos a sua aplicação, os seus âmbitos de acesso, os seus limites e a sua tarifa em créditos.

  3. 03

    Faça chamadas ao hub

    Com o SDK para PHP, Node, Python ou Go, ou com qualquer cliente capaz de assinar um pedido.

    $ npx respiresoft-ai doctor

    Verifica o endereço, a sua chave, as chaves do hub, o relógio e a assinatura do hub antes da primeira chamada.

02O que pode usar

Conversa, pesquisa, imagens e voz já disponíveis. Agentes a seguir.

Tudo o que se segue passa pelo mesmo ponto de acesso com assinaturas digitais, é faturado com os mesmos créditos e identifica o modelo que fez o trabalho.

  • Acesso antecipado

    Chat e transmissão em tempo real

    Qualquer modelo de chat, com respostas token a token e utilização de ferramentas.

  • Acesso antecipado

    Escolha automática do modelo

    Envie o modelo "auto" e o hub escolhe o modelo e o nível de esforço com base em regras fixas, em menos de 5 ms.

  • Acesso antecipado

    Embeddings e pesquisa

    Vetores de qualquer modelo de embeddings e coleções de pesquisa partilhadas, com isolamento por aplicação e cliente.

  • Acesso antecipado

    Imagens

    Imagens a partir de uma descrição escrita, com modelos da OpenAI e da Google.

  • Acesso antecipado

    Voz em tempo real

    Tokens de curta duração para que um telemóvel ou navegador transmita voz diretamente para o fornecedor de serviços de voz.

  • Acesso antecipado

    Mais barato quando pode esperar

    Marque o trabalho como podendo esperar para que seja executado à tarifa mais baixa do fornecedor.

  • Acesso antecipado

    Agentes, ferramentas e digitalizações

    Execuções com utilização de ferramentas, leitura de páginas digitalizadas e aprovações.

  • Acesso antecipado

    Trabalho agendado

    Fluxos de trabalho executados segundo um horário ou após aprovação de alguém.

03Segurança

Pedidos assinados, respostas assinadas, nada para expor.

  • A sua chave nunca sai do seu servidor

    Cada servidor gera a sua própria chave Ed25519. O hub guarda apenas a parte pública, e duas chaves podem coexistir durante a rotação.

  • Todos os pedidos são assinados

    Método, caminho, parâmetros de consulta e um resumo criptográfico do corpo, segundo a norma de assinaturas de mensagens HTTP (RFC 9421). Os pedidos com mais de 60 segundos ou já recebidos anteriormente são recusados.

  • Todas as respostas são assinadas

    As respostas e os fluxos de dados são assinados pelo hub e verificados pelo SDK com base em chaves previamente fixadas. Se uma verificação falhar, o SDK recusa a resposta.

  • Privilégio mínimo

    Âmbitos de acesso, limites de frequência, limites de tokens e limites de créditos por chave, por cliente e por funcionalidade. Os identificadores dos clientes são opacos: nunca um endereço de email ou um nome.

04Créditos

Uma só moeda para todas as aplicações e modelos.

  • Primeiro reservados, depois liquidados

    Os créditos são reservados antes de uma chamada e liquidados depois, pelo custo real do trabalho realizado pelo modelo.

  • Uma tarifa por aplicação

    Cada aplicação tem a sua própria tarifa, definida no registo, para que diferentes produtos possam aplicar preços diferentes à IA.

  • Consumo que pode explicar

    Cada resposta inclui o consumo (tokens de entrada, de entrada em cache, de saída e de raciocínio) e o respetivo custo.

Por enquanto, o acesso está sujeito a registo: envie-nos o nome da sua aplicação e a parte pública da respetiva chave.

Fale connosco