Назад это Backend as a Service (BaaS) для приложений ИИ, которые безопасно размещают LLM API на вашем интерфейсе, не обнажая приватные ключи или не требуя LLM SDK. Он действует как LLM API Gatekeeper, предлагая аутентификацию, ограничение скорости на пользователя и управление доступом к ресурсам, чтобы обеспечить безопасность вашего приложения, обеспечивая при этом мощные возможности ИИ.
Обзор
Backmesh обеспечивает безопасный канал для вызова LLM API из вашего приложения. Он проверяет запросы с помощью JWT, выпущенных поставщиком аутентификации вашего приложения, обеспечивает ограничение скорости на пользователя и защищает конфиденциальные ресурсы, такие как файлы и потоки, поэтому только создатель может получить к ним доступ. Все вызовы LLM API могут быть использованы для аналитики, чтобы помочь вам оптимизировать использование, стоимость и удовлетворенность пользователей.
Как это работает
- Ваше приложение аутентифицирует пользователей и выпускает JWT.
- Запросы на Backmesh включают JWT, подтверждающий личность пользователя.
- Backmesh валидирует JWT, применяет ограничения скорости на пользователя и направляет запрос в API LLM.
- Ответы возвращаются в ваше приложение с дополнительной аналитикой и пониманием использования.
Вопросы безопасности и охраны
- Доступ на основе JWT гарантирует, что только авторизованные пользователи могут вызывать LLM API.
- Ограничения ставок на одного пользователя помогают предотвратить злоупотребления и контролировать расходы.
- Чувствительные ресурсы (например, файлы, потоки) контролируются доступом, поэтому только создатели могут получить к ним доступ.
Основные характеристики
- JWT Authentication: Запросы, проверенные с помощью JWT от поставщика аута вашего приложения для обеспечения авторизованного доступа.
- Пределы тарифов для пользователей: Конфигурируемые ограничения для предотвращения злоупотреблений (например, предел выборки, например, 5 вызовов OpenAI на пользователя в час).
- API Resource Access Control: Защищает конфиденциальные ресурсы, поэтому доступ к ним имеют только создатели.
- LLM API Gatekeeper: безопасный управляемый шлюз для вызова LLM API из вашего приложения.
- LLM User Analytics: Инструментальный API-интерфейс для понимания использования, снижения затрат и повышения удовлетворенности пользователей.
- Готовая к запуску документация и испытание: быстрая настройка с документацией и пробным доступом.
Начало работы
- Начните тест для оценки интеграции.
- Используйте панель управления документацией и продуктами для настройки поставщиков JWT, лимитов тарифов и политик ресурсов.
