Какво е Respan?

Respan е AI шлюз и платформа за LLM инженерство за екипи, които създават AI приложения и агенти. Шлюзът е с отворен код и насочва заявките към над 1000 модела чрез един API ключ, като записва всяко извикване.

Платформата добавя функции за наблюдаемост, като проследяване на агенти, отчитане на разходите и използването, известия, персонализирани табла и поддръжка на OpenTelemetry. Включени са също управление на промптове с версиониране и внедряване, плейграунд за модели, експерименти и оценки с набори от данни и резултати.

Планът Free включва 100 000 записа и 10 промпта. Планът Team е обявен на 199 USD на месец при годишно плащане, с неограничени промптове, набори от данни и оценители и доклад SOC 2. Enterprise е индивидуален и добавя SLA и HIPAA BAA.

Плюсове и минуси

Плюсове

  • Gateway с отворен код насочва към над 1000 модела с един API ключ
  • Включва проследяване на агенти, журнали, контрол на версиите на промптове и оценки
  • Поддържа OpenTelemetry заедно с проследяване на разходи и използване

Минуси

  • SLA и HIPAA BAA са описани само за нивото Enterprise

Често задавани въпроси

Колко струва Respan?

Respan е наличен безплатно.

Има ли Respan доживотна сделка?

Според нашата последна информация, този инструмент в момента не изглежда да има ограничена оферта, за съжаление.

Как шлюзът на Respan маршрутизира заявките?

Шлюзът е с отворен код и насочва заявките към над 1000 модела чрез един API ключ. Всяко извикване, минаващо през него, се записва, така че поддържате журнал за използването на моделите. Това означава една точка на интеграция вместо отделни ключове и настройки за всеки доставчик.

Какви функции за наблюдаемост са включени?

Respan предлага проследяване на агенти, проследяване на разходи и използване, известия, персонализирани табла и поддръжка на OpenTelemetry. Тези функции помагат на екипите да видят как агентите се държат в работна среда и къде е концентрирано използването. Таблата могат да се персонализират, за да показват показателите, които са най-важни за екипа ви.

Мога ли да управлявам промптове и да пускам оценки там?

Управлението на промптове включва контрол на версиите и внедряване, както и среда за изпробване на модели. Експериментите и оценките използват набори от данни и резултати, така че можете да сравнявате версии на промптове върху едни и същи тестови данни. Неограничен брой промптове, набори от данни и оценители са част от плана Team.

Кои доклади за сигурност предлага Respan?

Планът Team включва доклад SOC 2. Планът Enterprise е по договаряне и добавя SLA и споразумение HIPAA (BAA). Тези документи са важни за организации с официални изисквания за сигурност или здравеопазване, затова поискайте от доставчика актуални копия.

Уведомление: Този уебсайт използва афилиейт линкове, за да печели комисионни от продажби. Моля, прочетете техните условия за ползване, когато се регистрирате някъде.