Tiktokenizer

Тиктокенайзер это платформа инструментов ИИ, ориентированная на разработчиков, которая позволяет интегрировать API чата OpenAI с отслеживанием использования токенов с нулевым трением и визуализацией использования в режиме реального времени. Он предназначен для упрощения создания приложений на основе ИИ путем обработки учета токенов, проверок модерации и данных об использовании, готовых к выставлению счетов, в одном потоке запросов. Служба пересылает запросы и их тела в API чата OpenAI, запускает проверку модераций предварительного запроса и предоставляет удобные фрагменты кода и встроенный визуализатор для мониторинга использования и выставления счетов за пользователя.

Как это работает

1. Ваше приложение отправляет запрос в Tiktokenizer с желаемой моделью, сообщениями и метаданными (пользовательская электронная почта, appId, developerKey).
2. Tiktokenizer перенаправляет полезную нагрузку на API чата OpenAI после запуска проверок API Moderations на контенте.
3. Ответ от OpenAI возвращается в ваше приложение, а показатели использования (токены, сметы расходов) фиксируются в режиме реального времени.
4. Платформа предлагает встроенный API использования, чтобы показывать пользователям потребление токенов и поддерживать циклы выставления счетов.

Начало работы

• Используйте готовые фрагменты кода непосредственно в вашем проекте для быстрой интеграции.
• Смотрите живой пример потока запроса / ответа (предоставленный в документах инструмента), чтобы понять структуру полезной нагрузки.
• Визуализируйте данные об использовании и выставлении счетов с помощью встроенного визуализатора.

Как использовать API (пример)

Example request
fetch ( "https://api.tiktokenizer.dev/openai" , {
 headers : { Authorization : "Bearer <DEVELOPERS_OPENAI_KEY>" },
 method : "POST",
 body : JSON . stringify ( {
 email : "<APP_USER_EMAIL>",
 appId : "<APP_ID>",
 developerKey : "<DEVELOPERS_API_KEY>",
 model : "gpt-3.5-turbo",
 messages : [ { role : "user" , content : "Hey ChatGPT, what's the capital of Portugal?" } ],
 } ) ,
} ) ;

Пример ответа

{ "message" : "The capital of Portugal is Lisbon.", "usage" : { "totalTokens" : 25 }, "newUserCreated" : false }

Основные возможности

• Отслеживание использования токенов в реальном времени по запросу и на пользователя
• Встроенный API Moderations проверяет перед отправкой запросов в OpenAI
• Простые в использовании фрагменты кода копирования-вставки для быстрой интеграции
• Визуализатор для использования и выставления счетов в моделях ChatGPT и GPT-4
• Простой поток подписки и выставления счетов с идеями ценообразования на основе токенов

Безопасность и лучшие практики

• Убедитесь, что у вас есть согласие пользователя на обработку и выставление счетов.
• Используйте проверки модераций, чтобы предотвратить отправку небезопасного или запрещенного контента в API OpenAI.
• Относитесь к данным об использовании как к PII, где это применимо, и защищайте их в пути и в покое.

Основные характеристики

• Разработка приложений с нулевым трением: быстрый старт с предварительно созданных фрагментов кода
• Визуализация использования токенов в реальном времени для каждого пользователя и идеи выставления счетов
• Интеграция API для проверки безопасности
• Простая интеграция API с OpenAI Chat API
• Встроенный визуализатор для отслеживания использования, затрат и запросов
• Безопасная обработка учетных данных и легкий поток обновления подписки
• Подробные примеры полезной нагрузки и готовые к использованию шаблоны кода