← プロジェクト一覧に戻る

Langfuse
LLMアプリケーションのトレース・プロンプト管理・評価基盤
公式MIT
Langfuseとは
エージェントが実際に何をしたか——各呼び出し、ツール実行、コスト——を記録し、そのトレースを評価用データセットへ変換できます。マネージド版とDocker Composeでセルフホストする版が同一コードベースのため、どちらの方向にも移行コストが低いのが利点です。一部のエンタープライズ機能はMITのコア部分に含まれないため、必要な機能の提供範囲を事前に確認してください。
Langfuseで何ができますか?
- 関数単位でトレースを仕込む — OpenAI SDKの代わりにlangfuse.openaiをimportすると、OpenAIへの呼び出しがモデルパラメータ込みで記録されます。トレースの入れ子はREADMEのmain()とstory()のように@observe()を付けた関数ごとに作られるため、検索処理やエージェントの処理を残したい場合はその関数にも@observe()を付けます。
- プロンプトをコードの外で管理 — Prompt Managementでプロンプトを一元管理し、バージョンを追跡できます。サーバー側とクライアント側の両方でキャッシュが効くため、最新版を取得してもアプリのレイテンシは増えません。
- トレースを評価データセットへ — Datasetsでリリース前テスト用のベンチマークを作り、LLM-as-a-judge、コード評価器、手動ラベリング、ユーザーフィードバックで採点します。
- 失敗した出力をPlaygroundで再試行 — トレース画面で問題のある結果を見つけたら、そのままLLM Playgroundへ移動し、プロンプトやモデル設定を変えて試せます。
- 自社インフラでの運用 — ローカルはdocker compose up、本番はHelmチャートによるKubernetes構成が推奨で、AWS・Azure・GCP向けのTerraformテンプレートも用意されています。
Langfuseを選ぶ前に
- 表示されるコストは、実際の請求と突き合わせるまでは概算として扱ってください。ある提供元では、トークン数の読み取りを誤り、費用がおよそ9倍で計上されるという報告があります。報告#8020
スター推移
8月15日〜10月30日 · +3.6k
33.1k36.8k
よくある質問
Langfuseは商用利用できますか?
LangfuseはMITライセンスで公開されています。OSI承認のオープンソースライセンスで、商用利用が認められています。
Langfuseはどの形で使えますか?
Langfuseはセルフホスト・マネージドクラウドの形で利用できます。