Respanとは何ですか?

Respanは、AIアプリケーションやエージェントを開発するチーム向けのAIゲートウェイ兼LLMエンジニアリングプラットフォームです。ゲートウェイはオープンソースで、1つのAPIキーで1,000以上のモデルにリクエストを振り分け、すべての呼び出しを記録します。

プラットフォームには、エージェントのトレース、コストと利用状況の追跡、アラート、カスタムダッシュボード、OpenTelemetryのサポートなどのオブザーバビリティ機能が含まれます。また、バージョン管理とデプロイに対応したプロンプト管理、モデルのプレイグラウンド、データセットとスコアを使った実験・評価も備えています。

Freeプランでは10万件のログと10個のプロンプトが利用できます。Teamプランは年払いで月額199ドルと記載されており、プロンプト、データセット、評価ツールは無制限で、SOC 2レポートも含まれます。Enterpriseはカスタム価格で、SLAとHIPAA BAAが追加されます。

利点と欠点

利点

  • オープンソースのゲートウェイで、1つのAPIキーから1,000以上のモデルにルーティング
  • エージェントのトレーシング、ログ記録、プロンプトのバージョン管理、評価を含む
  • コストと利用量の追跡に加え、OpenTelemetryにも対応

欠点

  • SLAとHIPAA BAAはEnterpriseティアについてのみ説明されています

よくある質問

Respanの価格はいくらですか?

Respanは無料で利用できます。

Respanにはライフタイムディールがありますか?

最新の情報によると、残念ながらこのツールには現在生涯契約がないようです。

Respanのゲートウェイはリクエストをどのようにルーティングしますか?

このゲートウェイはオープンソースで、1つのAPIキーで1,000を超えるモデルにリクエストをルーティングします。ゲートウェイを通過するすべての呼び出しが記録されるため、モデルの利用履歴を残せます。プロバイダーごとに別々のキーや設定を用意する必要がなく、統合の窓口は1つで済みます。

どのような可観測性機能が含まれていますか?

Respanは、エージェントのトレーシング、コストと利用量の追跡、アラート、カスタムダッシュボード、OpenTelemetryのサポートを提供しています。これらの機能により、チームは本番環境でのエージェントの動作や利用が集中している箇所を把握できます。ダッシュボードは、チームにとって重要な指標を表示するように設定できます。

そこでプロンプトを管理し、評価を実行できますか?

プロンプト管理にはバージョン管理とデプロイに加え、プロンプトを試せるモデルプレイグラウンドが含まれます。実験と評価はデータセットとスコアを使うため、同じテストデータでプロンプトのバージョンを比較できます。プロンプト、データセット、評価器の無制限利用はTeamプランに含まれます。

Respanはどのようなセキュリティレポートを提供していますか?

Teamプランには、SOC 2レポートが含まれます。Enterpriseプランはカスタム契約で、SLAとHIPAAのビジネスアソシエイト契約(BAA)が加わります。正式なセキュリティや医療分野の要件がある組織にとって重要な書類なので、最新版を提供元に請求してください。

お知らせ:このウェブサイトは、販売からの手数料を得るためにアフィリエイトリンクを使用しています。どこかにサインアップする際は、彼らの利用規約をお読みください。