Hopp til innholdet
Start gratis

For utviklere

Én AI-hub for alle appene du bygger.

Appene dine kaller nerix i stedet for hvert enkelt AI-selskap. Én nøkkel per server, 63 modeller i ett format, én kredittsaldo, og hvert svar oppgir hvilken modell som svarte og hva det kostet.

Be om tilgangSe modellene

SDK-erPHPNodePythonGo

example.ts
// one client per process: it holds your server's key
import { RespireSoftAI } from '@respiresoft/ai'

const ai = new RespireSoftAI()

const answer = await ai.chat.create({
  model: 'mistral/mistral-large-latest',  // or an alias: 'fast'
  messages: [{ role: 'user', content: 'Summarise this contract' }],
  nerix: { tenant: 't42', feature: 'summaries' },
})

answer.nerix.resolved   // the model that actually answered
answer.nerix.cost       // { credits: 2, ... }
Fig. 1 Det samme kallet fra Node. PHP, Python og Go følger samme mønster.

01Slik fungerer det

Tre trinn, og det første forlater aldri serveren din.

  1. 01

    Opprett en nøkkel på serveren din

    Én kommando oppretter en privat nøkkel som bare serveren din kan lese, og skriver ut den offentlige delen.

    $ npx respiresoft-ai keygen --out /srv/keys/myapp-ai.pem

    På serveren din: Den private nøkkelen lagres med tilgang kun for eieren og skrives aldri ut.

  2. 02

    Send oss den offentlige delen

    Vi registrerer appen din, tilgangsområdene, grensene og kredittsatsen.

  3. 03

    Kall huben

    Med SDK-et for PHP, Node, Python eller Go, eller en hvilken som helst klient som kan signere en forespørsel.

    $ npx respiresoft-ai doctor

    Kontrollerer adressen, nøkkelen din, hubens nøkler, klokken og hubens signatur før det første kallet ditt.

02Dette kan du kalle

Chat, søk, bilder og tale i dag. Agenter kommer.

Alt nedenfor går gjennom den samme signerte inngangen, faktureres med de samme kredittene og merkes med modellen som gjorde jobben.

  • Tidlig tilgang

    Chat og strømming

    Alle chatmodeller, med svar token for token og støtte for verktøy.

  • Tidlig tilgang

    Automatisk modellvalg

    Send modellnavnet "auto", så velger huben modell og innsatsnivå etter faste regler på under 5 ms.

  • Tidlig tilgang

    Embedding og søk

    Vektorer fra alle embeddingmodeller og delte søkesamlinger som holdes adskilt per app og kunde.

  • Tidlig tilgang

    Bilder

    Bilder fra en skriftlig beskrivelse, med modeller fra OpenAI og Google.

  • Tidlig tilgang

    Tale i sanntid

    Kortlivede tilgangstokener lar en telefon eller nettleser strømme tale direkte til taleleverandøren.

  • Tidlig tilgang

    Billigere når det kan vente

    Merk arbeid som noe som kan vente, så kjøres det til leverandørens lavere pris.

  • Tidlig tilgang

    Agenter, verktøy og skanninger

    Kjøringer som bruker verktøy, lesing av skannede sider og godkjenninger.

  • Tidlig tilgang

    Planlagt arbeid

    Arbeidsflyter som kjører etter en tidsplan eller etter at noen har godkjent dem.

03Sikkerhet

Signerte forespørsler, signerte svar, ingenting som kan lekke.

  • Nøkkelen din forlater aldri serveren din

    Hver server lager sin egen Ed25519-nøkkel. Huben lagrer bare den offentlige delen, og to nøkler kan eksistere side om side under nøkkelrotasjon.

  • Hver forespørsel er signert

    Metode, sti, spørringsparametere og en hash av forespørselskroppen signeres i henhold til standarden for HTTP-meldingssignaturer (RFC 9421). En forespørsel som er eldre enn 60 sekunder, eller som er sett før, avvises.

  • Hvert svar er signert

    Svar og strømmer signeres av huben og kontrolleres av SDK-et mot forhåndsfastsatte nøkler. Hvis en kontroll mislykkes, avviser SDK-et svaret.

  • Minste privilegium

    Tilgangsomfang, frekvensgrenser, tokengrenser og kredittgrenser per nøkkel, per kunde og per funksjon. Kunde-ID-er er ugjennomsiktige: aldri en e-postadresse eller et navn.

04Kreditter

Én valuta for alle apper og alle modeller.

  • Reserveres først, avregnes etterpå

    Kreditter reserveres før et kall og avregnes etterpå, basert på den faktiske kostnaden for det modellen gjorde.

  • En sats per app

    Hver app har sin egen sats, som fastsettes ved registrering, slik at ulike produkter kan prise AI ulikt.

  • Forbruk du kan forklare

    Hvert svar oppgir forbruket sitt (tokens for inndata, hurtigbufrede inndata, utdata og resonnering) og kostnaden.

Foreløpig krever tilgang registrering: Send oss navnet på appen din og den offentlige delen av nøkkelen.

Ta kontakt