Langfuse

Langfuseとは？

Langfuse(ラングフューズ)は、LLM(大規模言語モデル)アプリケーションの開発・監視・評価・デバッグをチームで進めるためのオープンソース基盤です。提供元・公開情報によると、トレース(実行履歴の記録)、評価、プロンプト管理、データセット、プレイグラウンドといった機能を備えるとされています。OpenTelemetry・LangChain・OpenAI SDK・LiteLLMなどとの連携が案内されています。

中核はMITライセンスのオープンソースとして公開されており、ライセンス費用なしで自己ホストできると紹介されています。ただし自己ホストにはPostgreSQL・ClickHouse・Redis・S3互換ストレージといった基盤が必要とされています。運用の手間を避けたい場合はクラウド版が利用できます。

クラウド版はフリーミアム型の従量課金です。無料のHobbyプランは月間5万オブザベーションまで利用でき、クレジットカードの登録は不要とされています。有料プランはCoreが月額29ドル、Proが月額199ドル、Enterpriseが月額2,499ドルと案内されています。Coreプランは月間10万ユニット・90日間のデータ参照・ユーザー数無制限などを含むとされています。課金単位となる1ユニットは、取り込まれたトレース・オブザベーション・スコアのいずれか1件を指します。1回のユーザーリクエストがLLM呼出3回と評価スコア2件を生む場合、合計6ユニットとして数えられると説明されています。割当超過分は全有料プラン共通で追加10万ユニットあたり8ドルとされています。最新の料金・提供状況や商用利用の条件は公式サイトでの確認が確実です。これらは提供元・公開情報です。