Fejlesztőknek
Egyetlen AI-központ minden alkalmazásodhoz.
Alkalmazásaid az egyes AI-szolgáltatók helyett a nerixet hívják. Szerverenként egy kulcs, 63 modell egységes formátumban, egyetlen kreditegyenleg. Minden válaszból kiderül, melyik modell válaszolt, és mennyibe került.
SDK-kPHPNodePythonGo
// one client per process: it holds your server's key
import { RespireSoftAI } from '@respiresoft/ai'
const ai = new RespireSoftAI()
const answer = await ai.chat.create({
model: 'mistral/mistral-large-latest', // or an alias: 'fast'
messages: [{ role: 'user', content: 'Summarise this contract' }],
nerix: { tenant: 't42', feature: 'summaries' },
})
answer.nerix.resolved // the model that actually answered
answer.nerix.cost // { credits: 2, ... }01Így működik
Három lépés, az első végig a szervereden marad.
- 01
Hozz létre egy kulcsot a szervereden
Egyetlen parancs létrehoz egy privát kulcsot, amelyet csak a szervered olvashat, és kiírja a nyilvános párját.
$ npx respiresoft-ai keygen --out /srv/keys/myapp-ai.pemA szervereden: a privát kulcsot kizárólag a tulajdonos számára hozzáférhető jogosultságokkal mentjük, és soha nem írjuk ki.
- 02
Küldd el nekünk a nyilvános kulcsot
Regisztráljuk az alkalmazásodat, a jogosultsági köreit, a korlátait és a kreditdíjszabását.
- 03
Hívd meg a központot
A PHP, Node, Python vagy Go SDK-val, vagy bármely olyan klienssel, amely képes aláírni egy kérést.
$ npx respiresoft-ai doctorAz első hívás előtt ellenőrzi a címet, a kulcsodat, a központ kulcsait, az órát és a központ aláírását.
02Elérhető funkciók
Csevegés, keresés, képek és beszéd már ma. Hamarosan ügynökök is.
Az alábbi funkciók mind ugyanazon a digitális aláírással védett csatornán érhetők el, elszámolásuk ugyanabban a kreditben történik, és mindegyiknél szerepel a feladatot végrehajtó modell neve.
- Korai hozzáférés
Csevegés és streamelés
Bármely csevegőmodell, tokenenként érkező válaszok, eszközhasználattal.
- Korai hozzáférés
Automatikus modellválasztás
Add meg az "auto" modellnevet, és a központ rögzített szabályok alapján, kevesebb mint 5 ms alatt kiválasztja a modellt és a ráfordítás szintjét.
- Korai hozzáférés
Beágyazások és keresés
Vektorok bármely beágyazási modellből, valamint közös keresési gyűjtemények, alkalmazásonként és ügyfelenként elkülönítve.
- Korai hozzáférés
Képek
Képek szöveges leírásból, az OpenAI és a Google modelljeivel.
- Korai hozzáférés
Valós idejű beszéd
Rövid élettartamú tokenek, amelyekkel a telefon vagy a böngésző közvetlenül a beszédszolgáltatóhoz streamelheti a beszédet.
- Korai hozzáférés
Olcsóbb, ha várhat
Jelöld a feladatot halaszthatóként, és az a szolgáltató alacsonyabb díján fut le.
- Korai hozzáférés
Ágensek, eszközök és szkennelt oldalak
Eszközöket használó futtatások, szkennelt oldalak olvasása és jóváhagyások.
- Korai hozzáférés
Ütemezett feladatok
Munkafolyamatok, amelyek ütemezés szerint vagy valakinek a jóváhagyása után futnak le.
03Biztonság
Aláírt kérések, aláírt válaszok, nincs mit kiszivárogtatni.
A kulcsod soha nem hagyja el a szerveredet
Minden szerver saját Ed25519 kulcsot hoz létre. A központ csak a nyilvános részét tárolja, kulcscsere közben pedig két kulcs is használható párhuzamosan.
Minden kérés alá van írva
A metódus, az útvonal, a lekérdezési paraméterek és a törzs kivonata, a HTTP-üzenetaláírások szabványa (RFC 9421) szerint. A 60 másodpercnél régebbi vagy korábban már fogadott kéréseket a rendszer elutasítja.
Minden válasz alá van írva
A válaszokat és az adatfolyamokat a központ írja alá, az SDK pedig rögzített kulcsok alapján ellenőrzi őket. Ha az ellenőrzés sikertelen, az SDK elutasítja a választ.
A legkisebb jogosultság elve
Jogosultsági körök, hívásgyakorisági, token- és kreditkorlátok kulcsonként, ügyfelenként és funkciónként. Az ügyfélazonosítók nem árulnak el személyes adatot: soha nem e-mail-címek vagy nevek.
04Kreditek
Egyetlen elszámolási egység minden alkalmazáshoz és modellhez.
Előbb zárolás, majd elszámolás
A hívás előtt zároljuk a krediteket, utána pedig a modell által végzett munka tényleges költsége alapján számolunk el.
Alkalmazásonkénti díjszabás
Minden alkalmazásnak saját, a regisztrációkor beállított díjszabása van, így a különböző termékek eltérően árazhatják az AI-használatot.
Átlátható használat
Minden válasz tartalmazza a felhasználási adatokat (bemeneti, gyorsítótárazott bemeneti, kimeneti és következtetési tokenek) és a költséget.
A hozzáférés egyelőre regisztrációhoz kötött: küldd el nekünk az alkalmazásod nevét és a kulcsának nyilvános részét.
Lépj kapcsolatba velünk