Ugrás a tartalomhoz

Fejlesztőknek

Egyetlen AI-központ minden alkalmazásodhoz.

Alkalmazásaid az egyes AI-szolgáltatók helyett a nerixet hívják. Szerverenként egy kulcs, 63 modell egységes formátumban, egyetlen kreditegyenleg. Minden válaszból kiderül, melyik modell válaszolt, és mennyibe került.

SDK-kPHPNodePythonGo

example.ts
// one client per process: it holds your server's key
import { RespireSoftAI } from '@respiresoft/ai'

const ai = new RespireSoftAI()

const answer = await ai.chat.create({
  model: 'mistral/mistral-large-latest',  // or an alias: 'fast'
  messages: [{ role: 'user', content: 'Summarise this contract' }],
  nerix: { tenant: 't42', feature: 'summaries' },
})

answer.nerix.resolved   // the model that actually answered
answer.nerix.cost       // { credits: 2, ... }
ábra 1 Ugyanez a hívás Node-ban. PHP, Python és Go nyelven is hasonlóan néz ki.

01Így működik

Három lépés, az első végig a szervereden marad.

  1. 01

    Hozz létre egy kulcsot a szervereden

    Egyetlen parancs létrehoz egy privát kulcsot, amelyet csak a szervered olvashat, és kiírja a nyilvános párját.

    $ npx respiresoft-ai keygen --out /srv/keys/myapp-ai.pem

    A szervereden: a privát kulcsot kizárólag a tulajdonos számára hozzáférhető jogosultságokkal mentjük, és soha nem írjuk ki.

  2. 02

    Küldd el nekünk a nyilvános kulcsot

    Regisztráljuk az alkalmazásodat, a jogosultsági köreit, a korlátait és a kreditdíjszabását.

  3. 03

    Hívd meg a központot

    A PHP, Node, Python vagy Go SDK-val, vagy bármely olyan klienssel, amely képes aláírni egy kérést.

    $ npx respiresoft-ai doctor

    Az első hívás előtt ellenőrzi a címet, a kulcsodat, a központ kulcsait, az órát és a központ aláírását.

02Elérhető funkciók

Csevegés, keresés, képek és beszéd már ma. Hamarosan ügynökök is.

Az alábbi funkciók mind ugyanazon a digitális aláírással védett csatornán érhetők el, elszámolásuk ugyanabban a kreditben történik, és mindegyiknél szerepel a feladatot végrehajtó modell neve.

  • Korai hozzáférés

    Csevegés és streamelés

    Bármely csevegőmodell, tokenenként érkező válaszok, eszközhasználattal.

  • Korai hozzáférés

    Automatikus modellválasztás

    Add meg az "auto" modellnevet, és a központ rögzített szabályok alapján, kevesebb mint 5 ms alatt kiválasztja a modellt és a ráfordítás szintjét.

  • Korai hozzáférés

    Beágyazások és keresés

    Vektorok bármely beágyazási modellből, valamint közös keresési gyűjtemények, alkalmazásonként és ügyfelenként elkülönítve.

  • Korai hozzáférés

    Képek

    Képek szöveges leírásból, az OpenAI és a Google modelljeivel.

  • Korai hozzáférés

    Valós idejű beszéd

    Rövid élettartamú tokenek, amelyekkel a telefon vagy a böngésző közvetlenül a beszédszolgáltatóhoz streamelheti a beszédet.

  • Korai hozzáférés

    Olcsóbb, ha várhat

    Jelöld a feladatot halaszthatóként, és az a szolgáltató alacsonyabb díján fut le.

  • Korai hozzáférés

    Ágensek, eszközök és szkennelt oldalak

    Eszközöket használó futtatások, szkennelt oldalak olvasása és jóváhagyások.

  • Korai hozzáférés

    Ütemezett feladatok

    Munkafolyamatok, amelyek ütemezés szerint vagy valakinek a jóváhagyása után futnak le.

03Biztonság

Aláírt kérések, aláírt válaszok, nincs mit kiszivárogtatni.

  • A kulcsod soha nem hagyja el a szerveredet

    Minden szerver saját Ed25519 kulcsot hoz létre. A központ csak a nyilvános részét tárolja, kulcscsere közben pedig két kulcs is használható párhuzamosan.

  • Minden kérés alá van írva

    A metódus, az útvonal, a lekérdezési paraméterek és a törzs kivonata, a HTTP-üzenetaláírások szabványa (RFC 9421) szerint. A 60 másodpercnél régebbi vagy korábban már fogadott kéréseket a rendszer elutasítja.

  • Minden válasz alá van írva

    A válaszokat és az adatfolyamokat a központ írja alá, az SDK pedig rögzített kulcsok alapján ellenőrzi őket. Ha az ellenőrzés sikertelen, az SDK elutasítja a választ.

  • A legkisebb jogosultság elve

    Jogosultsági körök, hívásgyakorisági, token- és kreditkorlátok kulcsonként, ügyfelenként és funkciónként. Az ügyfélazonosítók nem árulnak el személyes adatot: soha nem e-mail-címek vagy nevek.

04Kreditek

Egyetlen elszámolási egység minden alkalmazáshoz és modellhez.

  • Előbb zárolás, majd elszámolás

    A hívás előtt zároljuk a krediteket, utána pedig a modell által végzett munka tényleges költsége alapján számolunk el.

  • Alkalmazásonkénti díjszabás

    Minden alkalmazásnak saját, a regisztrációkor beállított díjszabása van, így a különböző termékek eltérően árazhatják az AI-használatot.

  • Átlátható használat

    Minden válasz tartalmazza a felhasználási adatokat (bemeneti, gyorsítótárazott bemeneti, kimeneti és következtetési tokenek) és a költséget.

A hozzáférés egyelőre regisztrációhoz kötött: küldd el nekünk az alkalmazásod nevét és a kulcsának nyilvános részét.

Lépj kapcsolatba velünk