Ламинар унифицированная платформа с открытым исходным кодом для отслеживания, оценки и маркировки продуктов LLM. Он обеспечивает видимость этапов выполнения ваших приложений LLM, помогает собирать данные для оценок, примеров с несколькими выстрелами и тонкой настройки и предлагает масштабируемый способ построения и развертывания трубопроводов LLM. Он предназначен для легкой интеграции с минимальными накладными расходами и полностью открытым исходным кодом для самостоятельного хостинга.
Как работает ламинар
- Начните отслеживать приложение LLM всего с 2 строк кода. Следы собираются в фоновом режиме и отправляются через gRPC с минимальной производительностью и задержкой.
- Онлайн-оценки позволяют настраивать оценщики для автоматических диапазонов меток, что позволяет масштабировать генерацию данных и обратную связь за пределами ручной маркировки.
- Создавайте и развертывайте наборы данных из следов для оценки, точной настройки и быстрой инженерии. Усилить подсказки, извлекая семантически похожие примеры из индексированных наборов данных.
- Конструктор трубопроводов позволяет вам прототипировать и итерировать на подсказках и цепях LLM, поддерживая как простые, так и сложные рабочие процессы.
- Laminar является полностью открытым исходным кодом и может быть размещен с несколькими командами.
Начало работы
- Начните отслеживать приложение LLM с двух строк кода:
- Тип скрипта:
import { Laminar, observe } from '@lmnr-ai/lmnr' Laminar.initialize({ projectApiKey: "..." })или вручную отследить функцию:const myFunction = observe({ name: 'myFunc' }, async () => { ... })- Запустите приложение и наблюдайте следы на приборной панели Laminar или предпочитаемом вами бэкэнде.
Онлайн-оценки
- Настройка онлайн-оценщиков LLM или Python для обработки каждого полученного интервала.
- Оценки автоматически охватывают маркировку, предлагая масштабируемую альтернативу маркировке человека.
Динамические примеры нескольких снимков и наборы данных
- Создавайте наборы данных из следов для оценки, тонкой настройки и быстрой инженерии.
- Усилить подсказки, извлекая семантически похожие примеры из индексированных наборов данных.
Бессерверные LLM трубопроводы
- Наш конструктор трубопроводов — это невероятный инструмент прототипирования, который позволяет быстро создавать и повторять как простые подсказки, так и сложные цепочки LLM.
- После прототипирования вы можете развернуть трубопроводы LLM для производства с минимальным трением.
Open Source и самообслуживание
- Laminar полностью с открытым исходным кодом и предназначен для простого самохостинга.
- Начните с нескольких команд и разместите их на своей собственной инфраструктуре.
Основные характеристики
- Легкий двухлинейный код для LLM-звонков с минимальными накладными расходами
- Автоматическое отслеживание общих фреймворков LLM и SDK
- Онлайн-оценки с автоматической маркировкой охвата для масштабируемой генерации данных
- Создание набора данных из следов для оценки, тонкой настройки и быстрой инженерии
- Семантический поиск аналогичных примеров для усиления подсказок
- Бессерверные или автономные варианты развертывания
- Открытый исходный код и простой для самостоятельного хостинга
- Конструктор трубопроводов для быстрого экспериментирования с подсказками и цепями LLM
- Наблюдение и видимость каждого этапа выполнения приложений LLM
