Langfuse — это open-source платформа для трассировки, отладки и оценки LLM-приложений. Она позволяет разработчикам видеть каждый шаг AI-агента или цепочки, от входа до ответа, с метриками скорости и стоимости. Решает проблему «черного ящика» в AI-продакшене.
Ключевые особенности: Трассировка и observability LLM: Пошаговое логирование всех вызовов с latency, токенами и стоимостью. Оценка качества LLM: Скоринг ответов, датасеты и сравнение версий промптов и моделей. Отладка приложений и цепочек: Поиск узких мест, ошибок и дорогих запросов. Open-source и OpenTelemetry: Открытый код, интеграция с OTEL и другими инструментами экосистемы.
Для кого: Инструмент ориентирован на AI-инженеров и платформенные команды, которым нужны прозрачность и контроль качества LLM-приложений в продакшене.
Сценарии использования: Поиск медленного звена в RAG-пайплайне: Инженер видит, что retrieval занимает 80 процентов времени, и оптимизирует его. Сравнение промптов перед деплоем: Команда тестирует несколько версий промпта и выбирает лучшую по метрикам. Контроль бюджета AI-фичи: Платформа показывает, сколько тратится на API по каждому пользователю и сценарию. Аудит AI-ответов: Каждый ответ можно воспроизвести и проанализировать.
Цены и доступность: Платформа предлагает бесплатную open-source версию без ограничений для self-hosted развертывания. Облачный тариф Hobby бесплатен с базовыми лимитами (50 000 наблюдений в месяц). Платные облачные тарифы стартуют от 59 долларов в месяц за расширенные лимиты и фичи. Enterprise-план с бессрочным хранением и SSO — по индивидуальному расчету. Детали раскрыты на официальном сайте.
