Qu'est-ce que Respan ?

Respan est une passerelle d'IA et une plateforme d'ingénierie LLM destinées aux équipes qui développent des applications et agents d'IA. La passerelle est open source et achemine les requêtes vers plus de 1 000 modèles via une seule clé API, tout en enregistrant chaque appel.

La plateforme ajoute des fonctions d'observabilité, comme le traçage des agents, le suivi des coûts et de l'utilisation, les alertes, les tableaux de bord personnalisés et la prise en charge d'OpenTelemetry. Elle comprend aussi la gestion des prompts avec contrôle de version et déploiement, un terrain de jeu pour les modèles, ainsi que des expériences et évaluations avec jeux de données et scores.

Le plan Free couvre 100 000 journaux et 10 prompts. Le plan Team est indiqué à 199 $ par mois avec facturation annuelle, avec prompts, jeux de données et évaluateurs illimités, et un rapport SOC 2. Le plan Enterprise est sur mesure et ajoute des SLA et un BAA HIPAA.

Avantages & Inconvénients

Avantages

  • La passerelle open source route vers plus de 1 000 modèles avec une seule clé API
  • Inclut le traçage des agents, les journaux, le contrôle de version des prompts et les évaluations
  • Prend en charge OpenTelemetry, avec le suivi des coûts et de l'usage

Inconvénients

  • Les SLA et un BAA HIPAA ne sont décrits que pour le niveau Enterprise

Questions fréquemment posées

Combien coûte Respan ?

Respan est disponible sans frais.

Respan a-t-il une offre à vie?

Selon nos dernières informations, cet outil ne semble pas avoir d'offre à vie pour le moment, malheureusement.

Comment la passerelle Respan achemine-t-elle les requêtes ?

La passerelle est open source et achemine les requêtes vers plus de 1 000 modèles avec une seule clé API. Chaque appel qui y passe est enregistré, ce qui vous permet de conserver un journal de votre utilisation des modèles. Il s'agit donc d'un seul point d'intégration, au lieu de clés et de configurations distinctes pour chaque fournisseur.

Quelles fonctions d'observabilité sont incluses ?

Respan propose le traçage des agents, le suivi des coûts et de l'usage, des alertes, des tableaux de bord personnalisables et la prise en charge d'OpenTelemetry. Ces fonctions aident les équipes à voir comment les agents se comportent en production et où se concentre l'usage. Les tableaux de bord peuvent être personnalisés pour afficher les indicateurs les plus importants pour votre équipe.

Puis-je gérer des prompts et lancer des évaluations ?

La gestion des prompts comprend le contrôle de version et le déploiement, ainsi qu'un bac à sable de modèles pour tester les prompts. Les expériences et les évaluations utilisent des jeux de données et des scores, ce qui permet de comparer des versions de prompts sur les mêmes données de test. Prompts, jeux de données et évaluateurs illimités font partie de l'offre Team.

Quels rapports de sécurité Respan propose-t-il ?

L'offre Team inclut un rapport SOC 2. L'offre Enterprise, sur devis, ajoute des SLA et un accord de partenariat HIPAA (BAA). Ces documents comptent pour les organisations soumises à des exigences formelles de sécurité ou de santé ; demandez donc au fournisseur des copies à jour.

Avis : Ce site utilise des liens d’affiliation pour gagner des commissions sur les ventes. Veuillez lire leurs CGU avant de vous inscrire quelque part.