HumanLayer

HumanLayer — человек в петле для агентов ИИ

HumanLayer — это API и SDK, который позволяет агентам ИИ связываться с людьми для обратной связи, ввода и одобрения. Он предоставляет чистые API, которые вписываются в ваш стек (Python, TypeScript, REST) и интегрируется с популярными LLM и оркестровочными фреймворками. Платформа подчеркивает безопасный, поддающийся аудиту человеческий надзор для долгосрочных или дорогостоящих рабочих процессов агентов.

Как это работает

1. Начните быстроБросьте SDK и начните строительство за считанные минуты. Он поддерживает Python, TypeScript, REST и работает с OpenAI, LangChain, CrewAI, ControlFlow, FastAPI, Flask и другими.
2. Определите инструменты и действияЭкспозиция функционирует как инструмент, который может быть вызван агентом. Некоторые звонки могут потребовать одобрения человека перед исполнением.
3. Утверждения «человек-в-петле»Используйте декоратор @hl.require approval() для блокировки определенных вызовов функции, пока человек не одобрит. В случае отказа обратная связь выдвигается в контекст LLM.
4. Контактный канал OmniChannelДоберитесь до людей через Slack, Email, Discord и многое другое для быстрого ответа.
5. Продвинутые утвержденияКоординировать согласования между командами с эскалациями и тайм-аутами.
6. Человек как инструментОтноситесь к людям как к привлекательному инструменту для ответов, советов или обратной связи в рабочих процессах агентов.
7. Гранулярная маршрутизацияОдобрение маршрута для конкретных лиц или команд.
8. Принесите свой собственный LLM и фреймворкРаботает с любыми LLM и основными структурами оркестровки, которые поддерживают вызов инструментов.
9. Асинхронные внешние петлиСоздавайте долгосрочные рабочие процессы агентов внешней петли с взаимодействиями человека в петле.
10. Pre-fill подсказки и пользовательские ответыРеакция перед заполнением побуждает к беспрепятственному взаимодействию человека и агента и эскалации.

Как использовать (Code Snippet)

• Определение инструментов и аннотация с требованиями к официальному утверждению:
• Пример: простой инструмент добавления без одобрения
• Отметьте определенные инструменты с одобрения человека:
• @hl.require_approval() def multiply(x: int, y: int) -> int: return x * y
• Сбор ответов и путь к нужным людям / командам

Образцы использования образцов показаны в документации и примерах GitHub, иллюстрируя, как подключить LLM с HumanLayer для организации одобрения, обратной связи и ввода человеком в режиме реального времени.

Ключевые особенности

• @hl.require approval() блокирует определенные вызовы функций, пока человек не проконсультируется и не одобрит.
• Контакт OmniChannel: Вовлекайте людей через Slack, Email, Discord и многое другое.
• Расширенные утверждения: Эскалации, тайм-ауты и многокомандная координация сложных рабочих процессов.
• Относитесь к людям как к действенному инструменту для ответов, советов или обратной связи.
• Гранулярная маршрутизация: одобрение маршрута для конкретных лиц или команд.
• Bring Your Own LLM + Framework: работает с любыми LLM и основными структурами оркестровки.
• Asynchronous, Outer-Loop Workflows: Создайте долгосрочные агентные процессы, которые останавливаются для ввода человеком.
• Предварительные ответы и пользовательские эскалации: Подготовьте подсказки и пути эскалации для беспрепятственного взаимодействия.
• Экспорт наборов данных для обучения и оценки: Экспорт живой обратной связи с помеченными наборами данных для точной настройки или оценки.

Планы и цены (Overview)

• Стартер (бесплатно для хакеров и взломщиков): 100 операций в месяц. Slack, Email, интеграция с Discord. Ограниченное хранение данных.
• Премиум: $500 в месяц. Включает 2000 операций в месяц, расширенные рабочие процессы утверждения, каналы для команд MS, SMS, RCS и более высокое хранение данных. Пользовательский брендинг и BYO приложение/ключи.
• Enterprise: пользовательские развертывания (VPC/on-prem), RBAC/SSO, скидки на объем и экспертное руководство для сборок пользовательских агентов.

Примечание: См. официальную страницу ценообразования для подробных квот и условий.

Безопасность и управление

• Человеческие одобрения обеспечивают ответственное выполнение деликатных действий.
• Отказ в одобрении возвращается в контекст агента для улучшения принятия решений.
• Экспортируемые наборы данных обратной связи поддерживают соответствующую подготовку и оценку.

Зачем использовать HumanLayer?

• Переверните модель агента ИИ, введя человеческое направление для жестких, непрофильных частей, в то время как автоматизация выполняет рутинные задачи.
• Ускорение рабочих процессов с надежными агентами производственного уровня со встроенными каналами надзора и сотрудничества.

Быстрый старт

1. Установите SDK и подключитесь к предпочтительному LLM.
2. Определите инструменты и аннотируйте те, которые требуют одобрения человека.
3. Добавьте каналы для ввода данных человеком (Slack, Email, Discord).
4. Развертывайте и контролируйте утверждения, эскалации и циклы обратной связи.

Смотрите также

• Официальные документы
• Примеры GitHub

О нас

Доверенные инженеры и команды, создающие автоматизацию на основе агентов с необходимым человеческим контролем. Создавайте ответственные рабочие процессы ИИ, которые сочетают автоматизацию с экспертной обратной связью с людьми, где это имеет наибольшее значение.