Para programadores
Um hub de IA para cada aplicação que criar.
As suas aplicações comunicam com a nerix em vez de comunicarem com cada empresa de IA. Uma chave por servidor, 63 modelos num único formato, um só saldo de créditos e cada resposta indica o modelo que respondeu e quanto custou.
SDKsPHPNodePythonGo
// one client per process: it holds your server's key
import { RespireSoftAI } from '@respiresoft/ai'
const ai = new RespireSoftAI()
const answer = await ai.chat.create({
model: 'mistral/mistral-large-latest', // or an alias: 'fast'
messages: [{ role: 'user', content: 'Summarise this contract' }],
nerix: { tenant: 't42', feature: 'summaries' },
})
answer.nerix.resolved // the model that actually answered
answer.nerix.cost // { credits: 2, ... }01Como funciona
Três passos, e o primeiro fica inteiramente no seu servidor.
- 01
Crie uma chave no seu servidor
Um único comando grava uma chave privada que só o seu servidor pode ler e apresenta a respetiva parte pública.
$ npx respiresoft-ai keygen --out /srv/keys/myapp-ai.pemNo seu servidor: a chave privada é gravada com permissões exclusivas do proprietário e nunca é apresentada no ecrã.
- 02
Envie-nos a parte pública
Registamos a sua aplicação, os seus âmbitos de acesso, os seus limites e a sua tarifa em créditos.
- 03
Faça chamadas ao hub
Com o SDK para PHP, Node, Python ou Go, ou com qualquer cliente capaz de assinar um pedido.
$ npx respiresoft-ai doctorVerifica o endereço, a sua chave, as chaves do hub, o relógio e a assinatura do hub antes da primeira chamada.
02O que pode usar
Conversa, pesquisa, imagens e voz já disponíveis. Agentes a seguir.
Tudo o que se segue passa pelo mesmo ponto de acesso com assinaturas digitais, é faturado com os mesmos créditos e identifica o modelo que fez o trabalho.
- Acesso antecipado
Chat e transmissão em tempo real
Qualquer modelo de chat, com respostas token a token e utilização de ferramentas.
- Acesso antecipado
Escolha automática do modelo
Envie o modelo "auto" e o hub escolhe o modelo e o nível de esforço com base em regras fixas, em menos de 5 ms.
- Acesso antecipado
Embeddings e pesquisa
Vetores de qualquer modelo de embeddings e coleções de pesquisa partilhadas, com isolamento por aplicação e cliente.
- Acesso antecipado
Imagens
Imagens a partir de uma descrição escrita, com modelos da OpenAI e da Google.
- Acesso antecipado
Voz em tempo real
Tokens de curta duração para que um telemóvel ou navegador transmita voz diretamente para o fornecedor de serviços de voz.
- Acesso antecipado
Mais barato quando pode esperar
Marque o trabalho como podendo esperar para que seja executado à tarifa mais baixa do fornecedor.
- Acesso antecipado
Agentes, ferramentas e digitalizações
Execuções com utilização de ferramentas, leitura de páginas digitalizadas e aprovações.
- Acesso antecipado
Trabalho agendado
Fluxos de trabalho executados segundo um horário ou após aprovação de alguém.
03Segurança
Pedidos assinados, respostas assinadas, nada para expor.
A sua chave nunca sai do seu servidor
Cada servidor gera a sua própria chave Ed25519. O hub guarda apenas a parte pública, e duas chaves podem coexistir durante a rotação.
Todos os pedidos são assinados
Método, caminho, parâmetros de consulta e um resumo criptográfico do corpo, segundo a norma de assinaturas de mensagens HTTP (RFC 9421). Os pedidos com mais de 60 segundos ou já recebidos anteriormente são recusados.
Todas as respostas são assinadas
As respostas e os fluxos de dados são assinados pelo hub e verificados pelo SDK com base em chaves previamente fixadas. Se uma verificação falhar, o SDK recusa a resposta.
Privilégio mínimo
Âmbitos de acesso, limites de frequência, limites de tokens e limites de créditos por chave, por cliente e por funcionalidade. Os identificadores dos clientes são opacos: nunca um endereço de email ou um nome.
04Créditos
Uma só moeda para todas as aplicações e modelos.
Primeiro reservados, depois liquidados
Os créditos são reservados antes de uma chamada e liquidados depois, pelo custo real do trabalho realizado pelo modelo.
Uma tarifa por aplicação
Cada aplicação tem a sua própria tarifa, definida no registo, para que diferentes produtos possam aplicar preços diferentes à IA.
Consumo que pode explicar
Cada resposta inclui o consumo (tokens de entrada, de entrada em cache, de saída e de raciocínio) e o respetivo custo.
Por enquanto, o acesso está sujeito a registo: envie-nos o nome da sua aplicação e a parte pública da respetiva chave.
Fale connosco