AMOD — модели ИИ по требованию это платформа, которая позволяет быстро развертывать и масштабировать современные модели большого языка (LLM) для бизнеса. Он поддерживает несколько семейств моделей (например, Meta Llama, Anthropic Claude, Amazon Titan, Mistral, Mixtral и т. Д.), Разнообразные схемы API и развертывание по требованию с автомасштабированием. Сервис подчеркивает легкую интеграцию, гибкие схемы и доступ как к активным предложениям, так и к предварительным вариантам через прозрачную структуру ценообразования.
Как работает AMOD
- Выберите из доступных моделей. Доступ к нескольким версиям ведущих LLM (например, Meta Llama, Anthropic Claude, Amazon Titan и другие).
- Выберите схему API. Выберите желаемую схему API для интеграции; каждая конечная точка модели может использовать любую поддерживаемую схему.
- Развернуть и соединить. Разверните модель, а затем подключитесь к ней через живую конечную точку, которая автоматически масштабируется. Для содействия миграции и интеграции имеется документация.
Модели и возможности
- Llama 3.2 (3B) — Инструктивный текст: окно контекста 131k; генерация текста, генерация кода, форматирование богатого текста, многоязычная поддержка, обработка на устройстве, частное и безопасное, развертывание края, низкая задержка.
- Llama 3 (70B) — Инструктивный текст: 128k; сильное следование инструкциям, расширенные рассуждения, многоязычный перевод.
- Amazon Titan Text G1 Express — Текст: 8k; генерация текста, генерация кода, следование инструкциям.
- Mistral Large (24.02) — текст: 32k; сложные рассуждения и анализ, генерация текста, RAG, агенты.
- Mixtral 8x7B — Инструктивный текст: 32k; сложные рассуждения и анализ, генерация текста.
- Anthropic Claude 3 (Haiku) — Text & Vision: 200k; image-to-text, conversation, chat-optimized.
- Anthropic Claude 3.5 (Sonnet) — Text & Vision: 200k; image-to-text, conversation, chat-optimized.
- Другие поддерживаемые модели включают Meta Llama 3, Claude 3, Haiku, Claude 3.5, Sonnet, Amazon Titan, Mistral и пользовательские модели.
Ценообразование увязывается с прозрачностью и гибкостью в планах Hobbyist, Pro и Enterprise, включая варианты неограниченного развертывания и использования на дому / в автономном режиме, где это применимо.
Ценовые планы (обзор)
- Хоббист: от $19,99 в месяц; попробуйте бесплатно в течение 14 дней. Доступ к избранным моделям.
- Pro: от $49,99 в месяц; доступ к более широкому набору моделей, включая более мощные варианты.
- Предприятие: локальные, офлайн, on-prem варианты; контактные продажи для заказов.
Безопасные платежи обрабатываются через Stripe. Платформа подчеркивает масштабируемое развертывание и экономичный выбор посредством четкого сравнения затрат.
Как это работает (кратко)
- Выберите модель(ы) и схему API.
- Развернуть до конечной точки с автоматическим масштабированием.
- Используйте развернутую модель для своих приложений через стандартные вызовы API.
Основные характеристики
- Доступ к нескольким ведущим семействам LLM (Meta Llama, Anthropic Claude, Amazon Titan, Mistral, Mixtral и т. Д.)
- Гибкий выбор схемы API для конечной точки модели
- Быстрое развертывание с автоматическим масштабированием конечных точек
- Широкие возможности модели (текст, код, рассуждения, видение/текстовые комбинации)
- On-prem/offline для развертывания Enterprise
- Прозрачные ежемесячные цены с бесплатными пробными вариантами
- Поддержка пользовательских моделей и миграций от других поставщиков