Fallom

Fallom — это платформа наблюдаемости для LLM, которая автоматически отслеживает каждый вызов искусственного интеллекта, фиксируя запросы, входные/выходные данные, токены, задержки, затраты и вызовы инструментов. Она предоставляет интерактивные панели мониторинга в реальном времени, трассировки сессий/групп, A/B тестирование моделей и запросов, встроенные оценки LLM и полные аудиторские следы для соблюдения нормативных требований. Легковесный SDK на TypeScript/Python (с поддержкой OpenTelemetry) позволяет обернуть существующие LLM-клиенты всего за несколько минут, чтобы команды могли эффективно отслеживать и отлаживать AI-агентов, распределять расходы и безопасно развертывать модели у различных провайдеров.