Hoppa till innehållet

För utvecklare

En AI-hubb för varje app du bygger.

Dina appar anropar nerix i stället för varje enskilt AI-företag. En nyckel per server, 63 modeller i ett och samma format, ett gemensamt kreditsaldo och svar som alltid anger vilken modell som svarade och vad det kostade.

SDK:erPHPNodePythonGo

example.ts
// one client per process: it holds your server's key
import { RespireSoftAI } from '@respiresoft/ai'

const ai = new RespireSoftAI()

const answer = await ai.chat.create({
  model: 'mistral/mistral-large-latest',  // or an alias: 'fast'
  messages: [{ role: 'user', content: 'Summarise this contract' }],
  nerix: { tenant: 't42', feature: 'summaries' },
})

answer.nerix.resolved   // the model that actually answered
answer.nerix.cost       // { credits: 2, ... }
Fig. 1 Samma anrop från Node. PHP, Python och Go följer samma mönster.

01Så fungerar det

Tre steg, och det första lämnar aldrig din server.

  1. 01

    Skapa en nyckel på din server

    Ett enda kommando skapar en privat nyckel som bara din server kan läsa och skriver ut den publika delen.

    $ npx respiresoft-ai keygen --out /srv/keys/myapp-ai.pem

    På din server: den privata nyckeln skrivs med behörigheter endast för ägaren och skrivs aldrig ut.

  2. 02

    Skicka oss den publika delen

    Vi registrerar din app, dess behörigheter, gränser och kredittaxa.

  3. 03

    Anropa hubben

    Med SDK för PHP, Node, Python eller Go, eller valfri klient som kan signera en förfrågan.

    $ npx respiresoft-ai doctor

    Kontrollerar adressen, din nyckel, hubbens nycklar, klockan och hubbens signatur före ditt första anrop.

02Det här kan du anropa

Chatt, sökning, bilder och tal i dag. Agenter härnäst.

Allt nedan går via samma signerade ingång, debiteras i samma krediter och märks med modellen som utförde arbetet.

  • Tidig åtkomst

    Chatt och strömning

    Valfri chattmodell, svar token för token, med verktyg.

  • Tidig åtkomst

    Automatiskt modellval

    Ange "auto" som modell så väljer hubben modell och arbetsinsats enligt fasta regler, på under 5 ms.

  • Tidig åtkomst

    Inbäddningar och sökning

    Vektorer från valfri inbäddningsmodell och gemensamma söksamlingar med strikt åtskillnad mellan appar och kunder.

  • Tidig åtkomst

    Bilder

    Bilder från en skriftlig beskrivning, med modeller från OpenAI och Google.

  • Tidig åtkomst

    Tal i realtid

    Kortlivade token så att en telefon eller webbläsare kan strömma tal direkt till talleverantören.

  • Tidig åtkomst

    Billigare när det kan vänta

    Markera arbete som kan vänta så körs det till leverantörens lägre pris.

  • Tidig åtkomst

    Agenter, verktyg och skanningar

    Körningar som använder verktyg, läsning av skannade sidor och godkännanden.

  • Tidig åtkomst

    Schemalagt arbete

    Arbetsflöden som körs enligt ett schema eller efter att någon har godkänt dem.

03Säkerhet

Signerade förfrågningar, signerade svar, inget som kan läcka.

  • Din nyckel lämnar aldrig din server

    Varje server skapar sin egen Ed25519-nyckel. Hubben lagrar bara den offentliga delen, och två nycklar kan finnas sida vid sida när du byter nyckel.

  • Varje förfrågan signeras

    Metod, sökväg, frågesträng och ett hashvärde av meddelandekroppen, enligt standarden för HTTP-meddelandesignaturer (RFC 9421). En förfrågan som är äldre än 60 sekunder eller redan har tagits emot avvisas.

  • Varje svar signeras

    Svar och strömmar signeras av hubben och kontrolleras av SDK:t mot förhandsbetrodda nycklar. Om en kontroll misslyckas avvisar SDK:t svaret.

  • Minsta möjliga behörighet

    Behörighetsomfång, anropsgränser, tokengränser och kreditgränser per nyckel, per kund och per funktion. Kund-ID:n avslöjar ingen information: aldrig en e-postadress eller ett namn.

04Krediter

En valuta för varje app och varje modell.

  • Reserveras först, avräknas sedan

    Krediter reserveras före ett anrop och avräknas efteråt, utifrån den faktiska kostnaden för det modellen gjorde.

  • En taxa per app

    Varje app har en egen taxa som fastställs vid registreringen, så att olika produkter kan prissätta AI olika.

  • Användning som du kan förklara

    Varje svar innehåller uppgifter om användningen (indata, cachad indata, utdata och resonemangstoken) och kostnaden.

Tills vidare krävs registrering för åtkomst: skicka oss appens namn och den offentliga delen av dess nyckel.

Prata med oss