Για προγραμματιστές
Ένας κόμβος AI για κάθε εφαρμογή που δημιουργείτε.
Οι εφαρμογές σας καλούν το nerix αντί για κάθε εταιρεία AI ξεχωριστά. Ένα κλειδί ανά διακομιστή, 63 μοντέλα σε ενιαία μορφή, ένα υπόλοιπο πιστώσεων και κάθε απάντηση αναφέρει ποιο μοντέλο απάντησε και πόσο κόστισε.
SDKPHPNodePythonGo
// one client per process: it holds your server's key
import { RespireSoftAI } from '@respiresoft/ai'
const ai = new RespireSoftAI()
const answer = await ai.chat.create({
model: 'mistral/mistral-large-latest', // or an alias: 'fast'
messages: [{ role: 'user', content: 'Summarise this contract' }],
nerix: { tenant: 't42', feature: 'summaries' },
})
answer.nerix.resolved // the model that actually answered
answer.nerix.cost // { credits: 2, ... }01Πώς λειτουργεί
Τρία βήματα, και το πρώτο γίνεται αποκλειστικά στον διακομιστή σας.
- 01
Δημιουργήστε ένα κλειδί στον διακομιστή σας
Μία εντολή αποθηκεύει ένα ιδιωτικό κλειδί που μπορεί να διαβάσει μόνο ο διακομιστής σας και εμφανίζει το αντίστοιχο δημόσιο κλειδί.
$ npx respiresoft-ai keygen --out /srv/keys/myapp-ai.pemΣτον διακομιστή σας: το ιδιωτικό κλειδί αποθηκεύεται με δικαιώματα πρόσβασης μόνο για τον κάτοχο και δεν εμφανίζεται ποτέ στην έξοδο.
- 02
Στείλτε μας το δημόσιο κλειδί
Καταχωρίζουμε την εφαρμογή σας, τα δικαιώματα πρόσβασής της, τα όριά της και τη χρέωσή της σε πιστώσεις.
- 03
Καλέστε τον κόμβο
Με το SDK για PHP, Node, Python ή Go, ή με οποιονδήποτε πελάτη μπορεί να υπογράψει ένα αίτημα.
$ npx respiresoft-ai doctorΕλέγχει τη διεύθυνση, το κλειδί σας, τα κλειδιά του κόμβου, το ρολόι και την υπογραφή του κόμβου πριν από την πρώτη σας κλήση.
02Τι μπορείτε να καλέσετε
Συνομιλία, αναζήτηση, εικόνες και ομιλία σήμερα. Πράκτορες AI στη συνέχεια.
Όλα τα παρακάτω περνούν από την ίδια πύλη με ψηφιακές υπογραφές, χρεώνονται με τις ίδιες πιστώσεις και φέρουν ένδειξη του μοντέλου που εκτέλεσε την εργασία.
- Πρώιμη πρόσβαση
Συνομιλία και σταδιακή μετάδοση
Οποιοδήποτε μοντέλο συνομιλίας, απαντήσεις ανά token, με χρήση εργαλείων.
- Πρώιμη πρόσβαση
Αυτόματη επιλογή μοντέλου
Στείλτε το "auto" ως μοντέλο και ο κόμβος επιλέγει το μοντέλο και το επίπεδο συλλογιστικής προσπάθειας βάσει σταθερών κανόνων, σε λιγότερο από 5 ms.
- Πρώιμη πρόσβαση
Διανυσματικές αναπαραστάσεις και αναζήτηση
Διανύσματα από οποιοδήποτε μοντέλο διανυσματικών αναπαραστάσεων και κοινόχρηστες συλλογές αναζήτησης με απομόνωση ανά εφαρμογή και πελάτη.
- Πρώιμη πρόσβαση
Εικόνες
Εικόνες από γραπτή περιγραφή, με μοντέλα των OpenAI και Google.
- Πρώιμη πρόσβαση
Ομιλία σε πραγματικό χρόνο
Διακριτικά πρόσβασης μικρής διάρκειας, ώστε ένα τηλέφωνο ή ένα πρόγραμμα περιήγησης να μεταδίδει ομιλία απευθείας στον πάροχο υπηρεσιών ομιλίας.
- Πρώιμη πρόσβαση
Χαμηλότερο κόστος όταν δεν επείγει
Δηλώστε ότι μια εργασία μπορεί να περιμένει και θα εκτελεστεί στη χαμηλότερη τιμή του παρόχου.
- Πρώιμη πρόσβαση
Πράκτορες, εργαλεία και σαρώσεις
Εκτελέσεις με χρήση εργαλείων, ανάγνωση σαρωμένων σελίδων και εγκρίσεις.
- Πρώιμη πρόσβαση
Προγραμματισμένες εργασίες
Ροές εργασίας που εκτελούνται βάσει χρονοδιαγράμματος ή μετά από έγκριση.
03Ασφάλεια
Υπογεγραμμένα αιτήματα, υπογεγραμμένες απαντήσεις, κανένα μυστικό προς διαρροή.
Το κλειδί σας δεν φεύγει ποτέ από τον διακομιστή σας
Κάθε διακομιστής δημιουργεί το δικό του κλειδί Ed25519. Ο κόμβος αποθηκεύει μόνο το δημόσιο μέρος και δύο κλειδιά μπορούν να συνυπάρχουν κατά την αντικατάστασή τους.
Κάθε αίτημα υπογράφεται
Η μέθοδος, η διαδρομή, οι παράμετροι ερωτήματος και μια σύνοψη του σώματος υπογράφονται σύμφωνα με το πρότυπο υπογραφών μηνυμάτων HTTP (RFC 9421). Αιτήματα παλαιότερα από 60 δευτερόλεπτα ή αιτήματα που έχουν ήδη ληφθεί απορρίπτονται.
Κάθε απάντηση υπογράφεται
Οι αποκρίσεις και οι ροές υπογράφονται από τον κόμβο και ελέγχονται από το SDK με βάση προκαθορισμένα κλειδιά. Αν ένας έλεγχος αποτύχει, το SDK απορρίπτει την απάντηση.
Ελάχιστα αναγκαία δικαιώματα
Πεδία δικαιωμάτων, όρια ρυθμού αιτημάτων, όρια token και όρια πιστώσεων ανά κλειδί, ανά πελάτη και ανά λειτουργία. Τα αναγνωριστικά πελατών δεν αποκαλύπτουν στοιχεία ταυτότητας: δεν είναι ποτέ διεύθυνση email ή όνομα.
04Πιστώσεις
Ένα νόμισμα για κάθε εφαρμογή και κάθε μοντέλο.
Πρώτα δέσμευση, μετά εκκαθάριση
Οι πιστώσεις δεσμεύονται πριν από την κλήση και εκκαθαρίζονται μετά, με βάση το πραγματικό κόστος της εργασίας που εκτέλεσε το μοντέλο.
Μια τιμή ανά εφαρμογή
Κάθε εφαρμογή έχει τη δική της τιμή, που ορίζεται κατά την εγγραφή της, ώστε διαφορετικά προϊόντα να μπορούν να τιμολογούν διαφορετικά την AI.
Χρήση που μπορείτε να εξηγήσετε
Κάθε απάντηση περιλαμβάνει τα στοιχεία χρήσης της (token εισόδου, αποθηκευμένης εισόδου, εξόδου και συλλογισμού) και το κόστος της.
Προς το παρόν, η πρόσβαση παρέχεται κατόπιν εγγραφής: στείλτε μας το όνομα της εφαρμογής σας και το δημόσιο μέρος του κλειδιού της.
Επικοινωνήστε μαζί μας