För utvecklare
En AI-hubb för varje app du bygger.
Dina appar anropar nerix i stället för varje enskilt AI-företag. En nyckel per server, 63 modeller i ett och samma format, ett gemensamt kreditsaldo och svar som alltid anger vilken modell som svarade och vad det kostade.
SDK:erPHPNodePythonGo
// one client per process: it holds your server's key
import { RespireSoftAI } from '@respiresoft/ai'
const ai = new RespireSoftAI()
const answer = await ai.chat.create({
model: 'mistral/mistral-large-latest', // or an alias: 'fast'
messages: [{ role: 'user', content: 'Summarise this contract' }],
nerix: { tenant: 't42', feature: 'summaries' },
})
answer.nerix.resolved // the model that actually answered
answer.nerix.cost // { credits: 2, ... }01Så fungerar det
Tre steg, och det första lämnar aldrig din server.
- 01
Skapa en nyckel på din server
Ett enda kommando skapar en privat nyckel som bara din server kan läsa och skriver ut den publika delen.
$ npx respiresoft-ai keygen --out /srv/keys/myapp-ai.pemPå din server: den privata nyckeln skrivs med behörigheter endast för ägaren och skrivs aldrig ut.
- 02
Skicka oss den publika delen
Vi registrerar din app, dess behörigheter, gränser och kredittaxa.
- 03
Anropa hubben
Med SDK för PHP, Node, Python eller Go, eller valfri klient som kan signera en förfrågan.
$ npx respiresoft-ai doctorKontrollerar adressen, din nyckel, hubbens nycklar, klockan och hubbens signatur före ditt första anrop.
02Det här kan du anropa
Chatt, sökning, bilder och tal i dag. Agenter härnäst.
Allt nedan går via samma signerade ingång, debiteras i samma krediter och märks med modellen som utförde arbetet.
- Tidig åtkomst
Chatt och strömning
Valfri chattmodell, svar token för token, med verktyg.
- Tidig åtkomst
Automatiskt modellval
Ange "auto" som modell så väljer hubben modell och arbetsinsats enligt fasta regler, på under 5 ms.
- Tidig åtkomst
Inbäddningar och sökning
Vektorer från valfri inbäddningsmodell och gemensamma söksamlingar med strikt åtskillnad mellan appar och kunder.
- Tidig åtkomst
Bilder
Bilder från en skriftlig beskrivning, med modeller från OpenAI och Google.
- Tidig åtkomst
Tal i realtid
Kortlivade token så att en telefon eller webbläsare kan strömma tal direkt till talleverantören.
- Tidig åtkomst
Billigare när det kan vänta
Markera arbete som kan vänta så körs det till leverantörens lägre pris.
- Tidig åtkomst
Agenter, verktyg och skanningar
Körningar som använder verktyg, läsning av skannade sidor och godkännanden.
- Tidig åtkomst
Schemalagt arbete
Arbetsflöden som körs enligt ett schema eller efter att någon har godkänt dem.
03Säkerhet
Signerade förfrågningar, signerade svar, inget som kan läcka.
Din nyckel lämnar aldrig din server
Varje server skapar sin egen Ed25519-nyckel. Hubben lagrar bara den offentliga delen, och två nycklar kan finnas sida vid sida när du byter nyckel.
Varje förfrågan signeras
Metod, sökväg, frågesträng och ett hashvärde av meddelandekroppen, enligt standarden för HTTP-meddelandesignaturer (RFC 9421). En förfrågan som är äldre än 60 sekunder eller redan har tagits emot avvisas.
Varje svar signeras
Svar och strömmar signeras av hubben och kontrolleras av SDK:t mot förhandsbetrodda nycklar. Om en kontroll misslyckas avvisar SDK:t svaret.
Minsta möjliga behörighet
Behörighetsomfång, anropsgränser, tokengränser och kreditgränser per nyckel, per kund och per funktion. Kund-ID:n avslöjar ingen information: aldrig en e-postadress eller ett namn.
04Krediter
En valuta för varje app och varje modell.
Reserveras först, avräknas sedan
Krediter reserveras före ett anrop och avräknas efteråt, utifrån den faktiska kostnaden för det modellen gjorde.
En taxa per app
Varje app har en egen taxa som fastställs vid registreringen, så att olika produkter kan prissätta AI olika.
Användning som du kan förklara
Varje svar innehåller uppgifter om användningen (indata, cachad indata, utdata och resonemangstoken) och kostnaden.
Tills vidare krävs registrering för åtkomst: skicka oss appens namn och den offentliga delen av dess nyckel.
Prata med oss