Sari la conținut
Începe gratuit

Pentru dezvoltatori

Un singur hub AI pentru toate aplicațiile pe care le dezvolți.

Aplicațiile tale apelează nerix în locul fiecărui furnizor AI. O cheie per server, 63 modele într-un singur format, un singur sold de credite, iar fiecare răspuns indică modelul care a răspuns și costul său.

Solicită accesVezi modelele

SDK-uriPHPNodePythonGo

example.ts
// one client per process: it holds your server's key
import { RespireSoftAI } from '@respiresoft/ai'

const ai = new RespireSoftAI()

const answer = await ai.chat.create({
  model: 'mistral/mistral-large-latest',  // or an alias: 'fast'
  messages: [{ role: 'user', content: 'Summarise this contract' }],
  nerix: { tenant: 't42', feature: 'summaries' },
})

answer.nerix.resolved   // the model that actually answered
answer.nerix.cost       // { credits: 2, ... }
Fig. 1 Același apel din Node. În PHP, Python și Go, codul arată la fel.

01Cum funcționează

Trei pași, iar primul are loc exclusiv pe serverul tău.

  1. 01

    Generează o cheie pe serverul tău

    O singură comandă salvează o cheie privată pe care doar serverul tău o poate citi și afișează partea sa publică.

    $ npx respiresoft-ai keygen --out /srv/keys/myapp-ai.pem

    Pe serverul tău: cheia privată este salvată cu permisiuni doar pentru proprietar și nu este niciodată afișată.

  2. 02

    Trimite-ne partea publică

    Înregistrăm aplicația ta, permisiunile, limitele și tariful ei în credite.

  3. 03

    Apelează hubul

    Cu SDK-ul pentru PHP, Node, Python sau Go ori cu orice client care poate semna o cerere.

    $ npx respiresoft-ai doctor

    Verifică adresa, cheia ta, cheile hubului, ceasul și semnătura hubului înainte de primul apel.

02Ce poți apela

Chat, căutare, imagini și voce acum. Agenți în curând.

Tot ce urmează trece prin același punct de acces cu semnături digitale, se facturează în aceleași credite și este etichetat cu modelul care a efectuat operațiunea.

  • Acces anticipat

    Chat și streaming

    Orice model de chat, cu răspunsuri token cu token și utilizarea de instrumente.

  • Acces anticipat

    Alegerea automată a modelului

    Trimite valoarea "auto" pentru model, iar hubul alege modelul și nivelul de efort pe baza unor reguli fixe, în mai puțin de 5 ms.

  • Acces anticipat

    Reprezentări vectoriale și căutare

    Vectori de la orice model de reprezentare vectorială și colecții de căutare partajate, izolate pentru fiecare aplicație și client.

  • Acces anticipat

    Imagini

    Imagini generate pe baza unei descrieri scrise, cu modele de la OpenAI și Google.

  • Acces anticipat

    Voce în timp real

    Tokenuri cu durată scurtă de valabilitate, pentru ca un telefon sau un browser să transmită fluxul vocal direct către furnizorul de servicii vocale.

  • Acces anticipat

    Mai ieftin când poate aștepta

    Marchează sarcinile care pot aștepta, iar acestea vor fi executate la tariful redus al furnizorului.

  • Acces anticipat

    Agenți, instrumente și scanări

    Execuții care folosesc instrumente, citirea paginilor scanate și aprobări.

  • Acces anticipat

    Sarcini programate

    Fluxuri de lucru care rulează după un program sau după aprobarea cuiva.

03Securitate

Cereri semnate, răspunsuri semnate, fără secrete de expus.

  • Cheia ta nu părăsește niciodată serverul

    Fiecare server își generează propria cheie Ed25519. Hubul stochează doar partea publică, iar două chei pot coexista în timpul rotației.

  • Fiecare cerere este semnată

    Metoda, calea, parametrii de interogare și amprenta corpului cererii, conform standardului pentru semnăturile mesajelor HTTP (RFC 9421). O cerere mai veche de 60 de secunde sau deja primită este respinsă.

  • Fiecare răspuns este semnat

    Răspunsurile și fluxurile sunt semnate de hub și verificate de SDK folosind chei de încredere fixate în prealabil. Dacă o verificare eșuează, SDK-ul respinge răspunsul.

  • Privilegii minime

    Permisiuni, limite de frecvență, limite de tokenuri și limite de credite pentru fiecare cheie, client și funcționalitate. Identificatorii clienților sunt opaci: niciodată o adresă de e-mail sau un nume.

04Credite

O singură monedă pentru toate aplicațiile și modelele.

  • Rezervate, apoi decontate

    Creditele sunt rezervate înaintea unui apel și decontate după acesta, la costul real al operațiunilor efectuate de model.

  • Un tarif pentru fiecare aplicație

    Fiecare aplicație are propriul tarif, stabilit la înregistrare, astfel încât produse diferite să poată avea prețuri diferite pentru AI.

  • Consum pe care îl poți explica

    Fiecare răspuns include consumul său (tokenuri de intrare, de intrare din cache, de ieșire și de raționament) și costul.

Deocamdată, accesul se face prin înregistrare: trimite-ne numele aplicației tale și partea publică a cheii sale.

Discută cu noi