Přejít k obsahu
Začít zdarma

Pro vývojáře

Jeden AI hub pro každou aplikaci, kterou vytvoříte.

Vaše aplikace volají nerix místo jednotlivých poskytovatelů AI. Jeden klíč pro každý server, 63 modelů v jednom formátu, jeden kreditní zůstatek a každá odpověď uvádí, který model odpověděl a kolik to stálo.

Požádat o přístupProhlédnout modely

SDKPHPNodePythonGo

example.ts
// one client per process: it holds your server's key
import { RespireSoftAI } from '@respiresoft/ai'

const ai = new RespireSoftAI()

const answer = await ai.chat.create({
  model: 'mistral/mistral-large-latest',  // or an alias: 'fast'
  messages: [{ role: 'user', content: 'Summarise this contract' }],
  nerix: { tenant: 't42', feature: 'summaries' },
})

answer.nerix.resolved   // the model that actually answered
answer.nerix.cost       // { credits: 2, ... }
Obr. 1 Stejné volání v Node. V PHP, Pythonu a Go vypadá obdobně.

01Jak to funguje

Tři kroky. Ten první probíhá výhradně na vašem serveru.

  1. 01

    Vytvořte klíč na svém serveru

    Jediný příkaz uloží soukromý klíč, který může číst pouze váš server, a vypíše jeho veřejnou část.

    $ npx respiresoft-ai keygen --out /srv/keys/myapp-ai.pem

    Na vašem serveru: soukromý klíč se uloží s přístupovými právy pouze pro vlastníka a nikdy se nevypisuje.

  2. 02

    Pošlete nám veřejnou část

    Zaregistrujeme vaši aplikaci, rozsah jejích oprávnění, limity a kreditní sazbu.

  3. 03

    Volejte hub

    Pomocí SDK pro PHP, Node, Python nebo Go, případně libovolného klienta, který umí podepsat požadavek.

    $ npx respiresoft-ai doctor

    Před prvním voláním zkontroluje adresu, váš klíč, klíče hubu, hodiny a podpis hubu.

02Co můžete volat

Chat, vyhledávání, obrázky a řeč už dnes. Agenti přijdou na řadu příště.

Vše níže prochází stejným rozhraním s digitálními podpisy, účtuje se ve stejných kreditech a nese označení modelu, který práci provedl.

  • Předběžný přístup

    Chat a streamování

    Libovolný chatovací model, odpovědi token po tokenu, s podporou nástrojů.

  • Předběžný přístup

    Automatický výběr modelu

    Pošlete model "auto" a hub podle pevně daných pravidel vybere model i míru výpočetního úsilí za méně než 5 ms.

  • Předběžný přístup

    Embeddingy a vyhledávání

    Vektory z libovolného embeddingového modelu a sdílené vyhledávací kolekce s oddělenými daty pro každou aplikaci a zákazníka.

  • Předběžný přístup

    Obrázky

    Obrázky podle textového popisu z modelů OpenAI a Google.

  • Předběžný přístup

    Řeč v reálném čase

    Tokeny s krátkou platností umožňují telefonu nebo prohlížeči streamovat řeč přímo k poskytovateli řečových služeb.

  • Předběžný přístup

    Levněji, když to může počkat

    Označte úlohu jako odložitelnou a provede se za nižší cenu poskytovatele.

  • Předběžný přístup

    Agenti, nástroje a skeny

    Běhy s využitím nástrojů, čtení naskenovaných stránek a schvalování.

  • Předběžný přístup

    Naplánované úlohy

    Pracovní postupy, které se spouštějí podle rozvrhu nebo po schválení.

03Zabezpečení

Podepsané požadavky, podepsané odpovědi, žádná tajemství k úniku.

  • Váš klíč nikdy neopustí váš server

    Každý server si vytvoří vlastní klíč Ed25519. Hub ukládá pouze veřejnou část a při rotaci mohou vedle sebe fungovat dva klíče.

  • Každý požadavek je podepsaný

    Metoda, cesta, parametry dotazu a otisk těla podle standardu pro podpisy HTTP zpráv (RFC 9421). Požadavek starší než 60 sekund nebo již dříve přijatý požadavek bude odmítnut.

  • Každá odpověď je podepsaná

    Odpovědi i streamy podepisuje hub a SDK je ověřuje pomocí pevně nastavených klíčů. Pokud ověření selže, SDK odpověď odmítne.

  • Princip nejnižších oprávnění

    Rozsahy oprávnění, limity četnosti požadavků, tokenů a kreditů pro každý klíč, každého zákazníka a každou funkci. Identifikátory zákazníků jsou neprůhledné: nikdy nejde o e-mail ani jméno.

04Kredity

Jedna měna pro každou aplikaci i každý model.

  • Nejprve rezervace, pak vyúčtování

    Kredity se před voláním rezervují a po něm vyúčtují podle skutečných nákladů na práci modelu.

  • Sazba pro každou aplikaci

    Každá aplikace má vlastní sazbu nastavenou při registraci, takže různé produkty mohou mít různé ceny za AI.

  • Spotřeba, kterou můžete vysvětlit

    Každá odpověď obsahuje údaje o spotřebě (vstupní tokeny, vstupní tokeny z mezipaměti, výstupní tokeny a tokeny pro uvažování) a nákladech.

Přístup je zatím možný po registraci: pošlete nám název své aplikace a veřejnou část jejího klíče.

Ozvěte se nám