Dla programistów
Jedno centrum AI dla każdej tworzonej aplikacji.
Twoje aplikacje wywołują nerix zamiast usług poszczególnych dostawców AI. Jeden klucz na serwer, 63 modeli w jednym formacie, jedno saldo kredytów, a każda odpowiedź wskazuje, który model odpowiedział i ile to kosztowało.
SDKPHPNodePythonGo
// one client per process: it holds your server's key
import { RespireSoftAI } from '@respiresoft/ai'
const ai = new RespireSoftAI()
const answer = await ai.chat.create({
model: 'mistral/mistral-large-latest', // or an alias: 'fast'
messages: [{ role: 'user', content: 'Summarise this contract' }],
nerix: { tenant: 't42', feature: 'summaries' },
})
answer.nerix.resolved // the model that actually answered
answer.nerix.cost // { credits: 2, ... }01Jak to działa
Trzy kroki, a pierwszy odbywa się wyłącznie na Twoim serwerze.
- 01
Utwórz klucz na swoim serwerze
Jedno polecenie zapisuje klucz prywatny, który może odczytać tylko Twój serwer, i wyświetla odpowiadający mu klucz publiczny.
$ npx respiresoft-ai keygen --out /srv/keys/myapp-ai.pemNa Twoim serwerze: klucz prywatny jest zapisywany z uprawnieniami tylko dla właściciela i nigdy nie jest wyświetlany.
- 02
Prześlij nam klucz publiczny
Zarejestrujemy Twoją aplikację, jej zakresy uprawnień, limity i stawkę kredytową.
- 03
Wyślij żądanie do huba
Za pomocą SDK dla PHP, Node, Python lub Go albo dowolnego klienta, który potrafi podpisać żądanie.
$ npx respiresoft-ai doctorSprawdza adres, Twój klucz, klucze centrum, zegar i podpis centrum przed pierwszym wywołaniem.
02Co możesz wywoływać
Dziś czat, wyszukiwanie, obrazy i mowa. Wkrótce agenci.
Wszystkie poniższe funkcje korzystają z tego samego interfejsu z podpisami cyfrowymi, są rozliczane w tych samych kredytach i wskazują model, który wykonał zadanie.
- Wczesny dostęp
Czat i strumieniowanie
Dowolny model czatu, odpowiedzi token po tokenie, z obsługą narzędzi.
- Wczesny dostęp
Automatyczny wybór modelu
Wyślij żądanie z modelem „auto”, a hub wybierze model i poziom wysiłku obliczeniowego według stałych reguł, w mniej niż 5 ms.
- Wczesny dostęp
Embeddingi i wyszukiwanie
Wektory z dowolnego modelu embeddingowego oraz współdzielone kolekcje wyszukiwania odizolowane dla każdej aplikacji i każdego klienta.
- Wczesny dostęp
Obrazy
Obrazy na podstawie opisu tekstowego, generowane przez modele OpenAI i Google.
- Wczesny dostęp
Mowa na żywo
Krótkotrwałe tokeny, dzięki którym telefon lub przeglądarka przesyła strumień mowy bezpośrednio do dostawcy usług mowy.
- Wczesny dostęp
Taniej, gdy może poczekać
Oznacz zadanie jako takie, które może poczekać, a zostanie wykonane po niższej cenie dostawcy.
- Wczesny dostęp
Agenci, narzędzia i skany
Wykonywanie zadań z użyciem narzędzi, odczytywanie zeskanowanych stron i zatwierdzanie.
- Wczesny dostęp
Zaplanowane zadania
Przepływy pracy uruchamiane zgodnie z harmonogramem lub po czyimś zatwierdzeniu.
03Bezpieczeństwo
Podpisane żądania, podpisane odpowiedzi, żadnych sekretów do ujawnienia.
Twój klucz nigdy nie opuszcza Twojego serwera
Każdy serwer tworzy własny klucz Ed25519. Centrum przechowuje tylko część publiczną, a podczas rotacji dwa klucze mogą działać równolegle.
Każde żądanie jest podpisane
Metoda, ścieżka, parametry zapytania i skrót treści, zgodnie ze standardem podpisów wiadomości HTTP (RFC 9421). Żądanie starsze niż 60 sekund lub otrzymane już wcześniej jest odrzucane.
Każda odpowiedź jest podpisana
Odpowiedzi i strumienie są podpisywane przez centrum i weryfikowane przez SDK przy użyciu przypiętych kluczy. Jeśli weryfikacja się nie powiedzie, SDK odrzuca odpowiedź.
Zasada najmniejszych uprawnień
Zakresy uprawnień, limity częstotliwości żądań, limity tokenów i kredytów dla każdego klucza, klienta i funkcji. Identyfikatory klientów nie ujawniają ich tożsamości: nigdy nie są adresem e-mail ani imieniem i nazwiskiem.
04Kredyty
Jedna waluta dla każdej aplikacji i każdego modelu.
Najpierw rezerwacja, potem rozliczenie
Kredyty są rezerwowane przed wywołaniem i rozliczane po nim według rzeczywistego kosztu pracy modelu.
Stawka dla każdej aplikacji
Każda aplikacja ma własną stawkę, ustalaną przy rejestracji, dzięki czemu różne produkty mogą inaczej wyceniać AI.
Zużycie, które możesz wyjaśnić
Każda odpowiedź zawiera dane o zużyciu (tokeny wejściowe, wejściowe z pamięci podręcznej, wyjściowe i rozumowania) oraz koszcie.
Na razie dostęp wymaga rejestracji: prześlij nam nazwę swojej aplikacji i publiczną część jej klucza.
Porozmawiaj z nami