Per sviluppatori
Un unico hub AI per ogni app che sviluppi.
Le tue app chiamano nerix anziché i singoli fornitori di AI. Una chiave per server, 63 modelli in un unico formato, un solo saldo crediti e ogni risposta indica quale modello ha risposto e quanto è costata.
SDKPHPNodePythonGo
// one client per process: it holds your server's key
import { RespireSoftAI } from '@respiresoft/ai'
const ai = new RespireSoftAI()
const answer = await ai.chat.create({
model: 'mistral/mistral-large-latest', // or an alias: 'fast'
messages: [{ role: 'user', content: 'Summarise this contract' }],
nerix: { tenant: 't42', feature: 'summaries' },
})
answer.nerix.resolved // the model that actually answered
answer.nerix.cost // { credits: 2, ... }01Come funziona
Tre passaggi, il primo resta sul tuo server.
- 01
Crea una chiave sul tuo server
Un solo comando salva una chiave privata leggibile solo dal tuo server e mostra la corrispondente chiave pubblica.
$ npx respiresoft-ai keygen --out /srv/keys/myapp-ai.pemSul tuo server: la chiave privata viene scritta con permessi riservati al proprietario e non viene mai mostrata in output.
- 02
Inviaci la chiave pubblica
Registriamo la tua app, i suoi ambiti di autorizzazione, i suoi limiti e la sua tariffa in crediti.
- 03
Chiama l'hub
Con l'SDK per PHP, Node, Python o Go, oppure con qualsiasi client in grado di firmare una richiesta.
$ npx respiresoft-ai doctorVerifica l'indirizzo, la tua chiave, le chiavi dell'hub, l'orologio e la firma dell'hub prima della tua prima chiamata.
02Cosa puoi chiamare
Chat, ricerca, immagini e voce oggi. Gli agenti saranno i prossimi.
Tutto ciò che segue passa dallo stesso punto di accesso con firma digitale, viene addebitato negli stessi crediti e riporta il modello che ha svolto il lavoro.
- Accesso anticipato
Chat e streaming
Qualsiasi modello di chat, risposte token per token, con strumenti.
- Accesso anticipato
Scelta automatica del modello
Invia il modello "auto" e l'hub sceglie il modello e il livello di elaborazione in base a regole fisse, in meno di 5 ms.
- Accesso anticipato
Embedding e ricerca
Vettori da qualsiasi modello di embedding e raccolte di ricerca condivise, isolate per app e cliente.
- Accesso anticipato
Immagini
Immagini da una descrizione scritta, con i modelli di OpenAI e Google.
- Accesso anticipato
Voce in tempo reale
Token di breve durata per trasmettere l'audio in streaming da un telefono o un browser direttamente al fornitore del servizio vocale.
- Accesso anticipato
Costa meno se può aspettare
Indica che un'attività può aspettare e verrà eseguita alla tariffa ridotta del fornitore.
- Accesso anticipato
Agenti, strumenti e scansioni
Esecuzioni che usano strumenti, lettura di pagine scansionate e approvazioni.
- Accesso anticipato
Attività programmate
Flussi di lavoro eseguiti a orari prestabiliti o dopo un'approvazione.
03Sicurezza
Richieste firmate, risposte firmate, nessun segreto da esporre.
La tua chiave non lascia mai il tuo server
Ogni server genera la propria chiave Ed25519. L'hub conserva solo la parte pubblica e due chiavi possono coesistere durante la rotazione.
Ogni richiesta è firmata
Metodo, percorso, query e un digest del corpo, secondo lo standard per le firme dei messaggi HTTP (RFC 9421). Una richiesta più vecchia di 60 secondi o già ricevuta viene rifiutata.
Ogni risposta è firmata
Le risposte e i flussi vengono firmati dall'hub e verificati dall'SDK rispetto a chiavi predefinite. Se una verifica fallisce, l'SDK rifiuta la risposta.
Privilegio minimo
Ambiti di autorizzazione, limiti di frequenza, di token e di crediti per chiave, cliente e funzionalità. Gli identificativi dei clienti sono opachi: mai un indirizzo email o un nome.
04Crediti
Un'unica valuta per ogni app e ogni modello.
Prima riservati, poi addebitati
I crediti vengono bloccati prima di una chiamata e addebitati al termine, in base al costo effettivo del lavoro svolto dal modello.
Una tariffa per app
Ogni app ha una propria tariffa, definita al momento della registrazione, così prodotti diversi possono applicare prezzi diversi per l'AI.
Consumi che puoi spiegare
Ogni risposta riporta i propri consumi (token di input, input in cache, output e ragionamento) e il relativo costo.
Per ora l'accesso richiede la registrazione: inviaci il nome della tua app e la parte pubblica della sua chiave.
Parliamone