Przejdź do treści

Dla programistów

Jedno centrum AI dla każdej tworzonej aplikacji.

Twoje aplikacje wywołują nerix zamiast usług poszczególnych dostawców AI. Jeden klucz na serwer, 63 modeli w jednym formacie, jedno saldo kredytów, a każda odpowiedź wskazuje, który model odpowiedział i ile to kosztowało.

SDKPHPNodePythonGo

example.ts
// one client per process: it holds your server's key
import { RespireSoftAI } from '@respiresoft/ai'

const ai = new RespireSoftAI()

const answer = await ai.chat.create({
  model: 'mistral/mistral-large-latest',  // or an alias: 'fast'
  messages: [{ role: 'user', content: 'Summarise this contract' }],
  nerix: { tenant: 't42', feature: 'summaries' },
})

answer.nerix.resolved   // the model that actually answered
answer.nerix.cost       // { credits: 2, ... }
Rys. 1 To samo wywołanie w Node. W PHP, Python i Go wygląda podobnie.

01Jak to działa

Trzy kroki, a pierwszy odbywa się wyłącznie na Twoim serwerze.

  1. 01

    Utwórz klucz na swoim serwerze

    Jedno polecenie zapisuje klucz prywatny, który może odczytać tylko Twój serwer, i wyświetla odpowiadający mu klucz publiczny.

    $ npx respiresoft-ai keygen --out /srv/keys/myapp-ai.pem

    Na Twoim serwerze: klucz prywatny jest zapisywany z uprawnieniami tylko dla właściciela i nigdy nie jest wyświetlany.

  2. 02

    Prześlij nam klucz publiczny

    Zarejestrujemy Twoją aplikację, jej zakresy uprawnień, limity i stawkę kredytową.

  3. 03

    Wyślij żądanie do huba

    Za pomocą SDK dla PHP, Node, Python lub Go albo dowolnego klienta, który potrafi podpisać żądanie.

    $ npx respiresoft-ai doctor

    Sprawdza adres, Twój klucz, klucze centrum, zegar i podpis centrum przed pierwszym wywołaniem.

02Co możesz wywoływać

Dziś czat, wyszukiwanie, obrazy i mowa. Wkrótce agenci.

Wszystkie poniższe funkcje korzystają z tego samego interfejsu z podpisami cyfrowymi, są rozliczane w tych samych kredytach i wskazują model, który wykonał zadanie.

  • Wczesny dostęp

    Czat i strumieniowanie

    Dowolny model czatu, odpowiedzi token po tokenie, z obsługą narzędzi.

  • Wczesny dostęp

    Automatyczny wybór modelu

    Wyślij żądanie z modelem „auto”, a hub wybierze model i poziom wysiłku obliczeniowego według stałych reguł, w mniej niż 5 ms.

  • Wczesny dostęp

    Embeddingi i wyszukiwanie

    Wektory z dowolnego modelu embeddingowego oraz współdzielone kolekcje wyszukiwania odizolowane dla każdej aplikacji i każdego klienta.

  • Wczesny dostęp

    Obrazy

    Obrazy na podstawie opisu tekstowego, generowane przez modele OpenAI i Google.

  • Wczesny dostęp

    Mowa na żywo

    Krótkotrwałe tokeny, dzięki którym telefon lub przeglądarka przesyła strumień mowy bezpośrednio do dostawcy usług mowy.

  • Wczesny dostęp

    Taniej, gdy może poczekać

    Oznacz zadanie jako takie, które może poczekać, a zostanie wykonane po niższej cenie dostawcy.

  • Wczesny dostęp

    Agenci, narzędzia i skany

    Wykonywanie zadań z użyciem narzędzi, odczytywanie zeskanowanych stron i zatwierdzanie.

  • Wczesny dostęp

    Zaplanowane zadania

    Przepływy pracy uruchamiane zgodnie z harmonogramem lub po czyimś zatwierdzeniu.

03Bezpieczeństwo

Podpisane żądania, podpisane odpowiedzi, żadnych sekretów do ujawnienia.

  • Twój klucz nigdy nie opuszcza Twojego serwera

    Każdy serwer tworzy własny klucz Ed25519. Centrum przechowuje tylko część publiczną, a podczas rotacji dwa klucze mogą działać równolegle.

  • Każde żądanie jest podpisane

    Metoda, ścieżka, parametry zapytania i skrót treści, zgodnie ze standardem podpisów wiadomości HTTP (RFC 9421). Żądanie starsze niż 60 sekund lub otrzymane już wcześniej jest odrzucane.

  • Każda odpowiedź jest podpisana

    Odpowiedzi i strumienie są podpisywane przez centrum i weryfikowane przez SDK przy użyciu przypiętych kluczy. Jeśli weryfikacja się nie powiedzie, SDK odrzuca odpowiedź.

  • Zasada najmniejszych uprawnień

    Zakresy uprawnień, limity częstotliwości żądań, limity tokenów i kredytów dla każdego klucza, klienta i funkcji. Identyfikatory klientów nie ujawniają ich tożsamości: nigdy nie są adresem e-mail ani imieniem i nazwiskiem.

04Kredyty

Jedna waluta dla każdej aplikacji i każdego modelu.

  • Najpierw rezerwacja, potem rozliczenie

    Kredyty są rezerwowane przed wywołaniem i rozliczane po nim według rzeczywistego kosztu pracy modelu.

  • Stawka dla każdej aplikacji

    Każda aplikacja ma własną stawkę, ustalaną przy rejestracji, dzięki czemu różne produkty mogą inaczej wyceniać AI.

  • Zużycie, które możesz wyjaśnić

    Każda odpowiedź zawiera dane o zużyciu (tokeny wejściowe, wejściowe z pamięci podręcznej, wyjściowe i rozumowania) oraz koszcie.

Na razie dostęp wymaga rejestracji: prześlij nam nazwę swojej aplikacji i publiczną część jej klucza.

Porozmawiaj z nami