Gå til indhold
Start gratis

Til udviklere

Én AI-hub til alle de apps, du bygger.

Dine apps kalder nerix i stedet for de enkelte AI-virksomheder. Én nøgle pr. server, 63 modeller i ét format, én kreditsaldo, og hvert svar angiver, hvilken model der svarede, og hvad det kostede.

Anmod om adgangSe modellerne

SDK'erPHPNodePythonGo

example.ts
// one client per process: it holds your server's key
import { RespireSoftAI } from '@respiresoft/ai'

const ai = new RespireSoftAI()

const answer = await ai.chat.create({
  model: 'mistral/mistral-large-latest',  // or an alias: 'fast'
  messages: [{ role: 'user', content: 'Summarise this contract' }],
  nerix: { tenant: 't42', feature: 'summaries' },
})

answer.nerix.resolved   // the model that actually answered
answer.nerix.cost       // { credits: 2, ... }
Fig. 1 Det samme kald fra Node. PHP, Python og Go følger samme mønster.

01Sådan fungerer det

Tre trin, og det første forlader aldrig din server.

  1. 01

    Opret en nøgle på din server

    Én kommando opretter en privat nøgle, som kun din server kan læse, og udskriver den offentlige del.

    $ npx respiresoft-ai keygen --out /srv/keys/myapp-ai.pem

    På din server: Den private nøgle gemmes med adgang kun for ejeren og vises aldrig.

  2. 02

    Send os den offentlige del

    Vi registrerer din app, dens adgangsområder, grænser og kredittakst.

  3. 03

    Kald hubben

    Med SDK'et til PHP, Node, Python eller Go eller en hvilken som helst klient, der kan signere en anmodning.

    $ npx respiresoft-ai doctor

    Kontrollerer adressen, din nøgle, hubbens nøgler, uret og hubbens signatur før dit første kald.

02Det kan du kalde

Chat, søgning, billeder og tale i dag. Agenter som det næste.

Alt nedenfor går gennem den samme signerede indgang, afregnes med de samme kreditter og mærkes med den model, der udførte arbejdet.

  • Tidlig adgang

    Chat og streaming

    Alle chatmodeller, svar token for token, med værktøjer.

  • Tidlig adgang

    Automatisk modelvalg

    Send model "auto", så vælger hubben model og indsatsniveau ud fra faste regler på under 5 ms.

  • Tidlig adgang

    Embeddings og søgning

    Vektorer fra enhver embeddingmodel og fælles søgesamlinger, der holdes adskilt for hver app og kunde.

  • Tidlig adgang

    Billeder

    Billeder ud fra en skriftlig beskrivelse med modeller fra OpenAI og Google.

  • Tidlig adgang

    Tale i realtid

    Kortlivede tokens, så en telefon eller browser kan streame tale direkte til taleudbyderen.

  • Tidlig adgang

    Billigere, når det kan vente

    Markér opgaver som noget, der kan vente, så køres de til udbyderens lavere pris.

  • Tidlig adgang

    Agenter, værktøjer og scanninger

    Kørsler med brug af værktøjer, læsning af scannede sider og godkendelser.

  • Tidlig adgang

    Planlagte opgaver

    Arbejdsgange, der kører efter en tidsplan, eller når nogen har godkendt dem.

03Sikkerhed

Signerede anmodninger, signerede svar, intet at lække.

  • Din nøgle forlader aldrig din server

    Hver server genererer sin egen Ed25519-nøgle. Hubben gemmer kun den offentlige del, og to nøgler kan være aktive samtidig, mens du udskifter dem.

  • Alle anmodninger signeres

    Metode, sti, forespørgselsparametre og et hash af indholdet signeres i henhold til standarden for HTTP-meddelelsessignaturer (RFC 9421). En anmodning, der er ældre end 60 sekunder eller er set før, afvises.

  • Alle svar signeres

    Svar og streams signeres af hubben og kontrolleres af SDK'et mod fastlåste nøgler. Hvis en kontrol fejler, afviser SDK'et svaret.

  • Mindst mulige rettigheder

    Adgangsomfang, grænser for kald, tokengrænser og kreditgrænser pr. nøgle, pr. kunde og pr. funktion. Kunde-id'er er uden identificerbare oplysninger: aldrig en e-mailadresse eller et navn.

04Kreditter

Én valuta til alle apps og modeller.

  • Først reserveret, så afregnet

    Kreditter reserveres før et kald og afregnes bagefter ud fra den faktiske pris for det arbejde, modellen udførte.

  • En sats pr. app

    Hver app har sin egen sats, som fastsættes ved registrering, så forskellige produkter kan prissætte AI forskelligt.

  • Forbrug, du kan forklare

    Hvert svar indeholder oplysninger om sit forbrug (inputtokens, cachelagrede inputtokens, outputtokens og ræsonnementstokens) og sin pris.

Adgang kræver indtil videre registrering: Send os navnet på din app og den offentlige del af dens nøgle.

Tal med os