Siirry sisältöön
Aloita ilmaiseksi

Kehittäjille

Yksi AI-keskus kaikille kehittämillesi sovelluksille.

Sovelluksesi kutsuvat nerixiä kunkin AI-yrityksen sijaan. Yksi avain palvelinta kohti, 63 mallia samassa muodossa, yksi krediittisaldo. Jokainen vastaus kertoo, mikä malli vastasi ja mitä se maksoi.

Pyydä käyttöoikeuttaTutustu malleihin

SDK:tPHPNodePythonGo

example.ts
// one client per process: it holds your server's key
import { RespireSoftAI } from '@respiresoft/ai'

const ai = new RespireSoftAI()

const answer = await ai.chat.create({
  model: 'mistral/mistral-large-latest',  // or an alias: 'fast'
  messages: [{ role: 'user', content: 'Summarise this contract' }],
  nerix: { tenant: 't42', feature: 'summaries' },
})

answer.nerix.resolved   // the model that actually answered
answer.nerix.cost       // { credits: 2, ... }
Kuv. 1 Sama kutsu Nodella. PHP-, Python- ja Go-versiot noudattavat samaa rakennetta.

01Näin se toimii

Kolme vaihetta. Ensimmäinen pysyy kokonaan palvelimellasi.

  1. 01

    Luo avain palvelimellasi

    Yksi komento tallentaa yksityisen avaimen, jota vain palvelimesi voi lukea, ja tulostaa sen julkisen osan.

    $ npx respiresoft-ai keygen --out /srv/keys/myapp-ai.pem

    Palvelimellasi: yksityinen avain tallennetaan vain omistajan käyttöoikeuksin, eikä sitä koskaan tulosteta.

  2. 02

    Lähetä meille julkinen osa

    Rekisteröimme sovelluksesi, sen käyttöoikeuksien laajuudet, käyttörajat ja krediittiveloituksen.

  3. 03

    Kutsu keskitintä

    Käytä PHP-, Node-, Python- tai Go-kehityspakettia tai mitä tahansa asiakasohjelmaa, joka pystyy allekirjoittamaan pyynnön.

    $ npx respiresoft-ai doctor

    Tarkistaa osoitteen, avaimesi, keskuksen avaimet, kellon ja keskuksen allekirjoituksen ennen ensimmäistä kutsuasi.

02Mitä voit kutsua

Keskustelu, haku, kuvat ja puhe jo nyt. Seuraavaksi agentit.

Kaikki alla mainittu kulkee saman allekirjoitetun rajapinnan kautta, laskutetaan samoilla krediiteillä ja merkitään työn tehneen mallin nimellä.

  • Ennakkokäytössä

    Chat ja suoratoisto

    Mikä tahansa chat-malli, vastaukset token kerrallaan ja työkalutuki.

  • Ennakkokäytössä

    Automaattinen mallin valinta

    Lähetä mallin nimeksi "auto", niin keskitin valitsee mallin ja laskentatehon ennalta määritettyjen sääntöjen mukaan alle 5 ms:ssa.

  • Ennakkokäytössä

    Vektoriesitykset ja haku

    Vektorit mistä tahansa vektoriesitysmallista sekä yhteiset hakukokoelmat, joissa sovellusten ja asiakkaiden tiedot pidetään erillään.

  • Ennakkokäytössä

    Kuvat

    Kuvia kirjallisen kuvauksen pohjalta OpenAI- ja Google-malleilla.

  • Ennakkokäytössä

    Reaaliaikainen puhe

    Lyhytikäiset käyttöoikeustunnisteet, joiden avulla puhelin tai selain suoratoistaa puheen suoraan puhepalvelun tarjoajalle.

  • Ennakkokäytössä

    Edullisempaa, kun työ voi odottaa

    Merkitse, että työ voi odottaa, niin se suoritetaan palveluntarjoajan alemmalla hinnalla.

  • Ennakkokäytössä

    Agentit, työkalut ja skannaukset

    Työkaluja käyttävät suoritukset, skannattujen sivujen lukeminen ja hyväksynnät.

  • Ennakkokäytössä

    Ajastetut työt

    Työnkulut, jotka suoritetaan aikataulun mukaan tai jonkun hyväksynnän jälkeen.

03Tietoturva

Allekirjoitetut pyynnöt ja vastaukset. Ei mitään vuodettavaa.

  • Avaimesi ei koskaan poistu palvelimeltasi

    Jokainen palvelin luo oman Ed25519-avaimensa. Keskus tallentaa vain julkisen osan, ja kaksi avainta voi olla käytössä rinnakkain avaimen vaihdon aikana.

  • Jokainen pyyntö allekirjoitetaan

    Metodi, polku, kyselyparametrit ja rungon tiiviste allekirjoitetaan HTTP-viestien allekirjoitusstandardin (RFC 9421) mukaisesti. Yli 60 sekuntia vanha tai aiemmin nähty pyyntö hylätään.

  • Jokainen vastaus allekirjoitetaan

    Keskus allekirjoittaa vastaukset ja tietovirrat, ja SDK tarkistaa ne ennalta määritettyjä avaimia vasten. Jos tarkistus epäonnistuu, SDK hylkää vastauksen.

  • Vähimmät tarvittavat oikeudet

    Käyttöoikeusalueet sekä kutsutiheyden, tokenien ja krediittien rajat avain-, asiakas- ja toimintokohtaisesti. Asiakastunnisteista ei voi päätellä henkilöllisyyttä: ne eivät koskaan ole sähköpostiosoitteita tai nimiä.

04Krediitit

Yksi valuutta kaikille sovelluksille ja malleille.

  • Ensin varaus, sitten veloitus

    Krediitit varataan ennen kutsua ja veloitetaan sen jälkeen mallin tekemän työn todellisen hinnan mukaan.

  • Sovelluskohtainen hinta

    Jokaisella sovelluksella on oma hintansa, joka määritetään rekisteröinnin yhteydessä. Näin eri tuotteet voivat hinnoitella AI:n eri tavoin.

  • Käyttötiedot, jotka voit perustella

    Jokainen vastaus sisältää käyttötietonsa (syötteen, välimuistissa olevan syötteen, tulosteen ja päättelyn tokenit) sekä hintansa.

Käyttö edellyttää toistaiseksi rekisteröitymistä: lähetä meille sovelluksesi nimi ja sen avaimen julkinen osa.

Ota yhteyttä