← プロジェクト一覧に戻る
Helicone
リクエストの経路上に入ってモデル呼び出しを記録するため、コード側に計測を仕込まなくてよい
Apache-2.0
Heliconeとは
多くの記録ツールは呼び出しを包むことを求めますが、見たいコードがライブラリの中や別のジョブ、他人が持つサービスの中にあると、その方法は使えません。Helicone は別の道を取ります。接続先のURLを向けるだけで、通過するリクエストがすべて記録され、経路上にSDKは入りません。すでにその位置にいるため、ゲートウェイの仕事も兼ねます。複数の提供元を1つの鍵で扱い、片方が落ちたら自動で切り替え、繰り返しのプロンプトはキャッシュから返します。引き換えはその位置そのものです。アプリケーションとモデルの間にプロキシが入るため、運用する部品と経路が1つ増えます。エージェントの実行はセッションとしてまとまるので、多段の記録が無関係な30件の呼び出しではなく1つのまとまりとして読めます。
Heliconeで何ができますか?
- 呼び出し側のコードを変えずに記録する — 接続先のURLを変えるだけで導入が済むため、ライブラリの奥や他チームのサービスの中で行われる呼び出しも記録されます。
- 多段の実行を1つのまとまりとして読む — 関連する呼び出しがセッションにまとまるので、30回要求を出して作業を終えたエージェントが30行ではなく1つの記録として見えます。
- 提供元が止まっても動き続ける — すでに経路上にいるため、複数の提供元へ振り分け、片方が失敗し始めたら自動的に切り替えられます。
- 同じプロンプトに二重で払わない — 繰り返しの要求をキャッシュから返せます。毎ターン同じ文脈を送り直すエージェントのループで効いてきます。
- 記録した通信を評価データにする — 記録した要求を評価や追加学習のために集められます。作り物の例ではなく実際の利用が試験項目になります。
- データを外に出せないなら自分で動かす — 基盤はオープンソースで自社運用できます。プロンプトに社外へ出せない内容が含まれる場合、ここが決め手になります。
Heliconeを選ぶ前に
- 経路上のプロキシは運用対象が1つ増え、すべての呼び出しに1経路加わることを意味します。それを受け入れる理由は、手を入れられないコードまで記録できる点にあります。
- 基盤一式を自社で動かすのは、記録用ライブラリを足すより重い作業です。読み込むパッケージではなく、自前のデータ保存先を伴うWebアプリケーションだからです。
スター推移
8月29日〜10月30日 · +133
6.1k6.2k
よくある質問
Heliconeは商用利用できますか?
HeliconeはApache-2.0ライセンスで公開されています。OSI承認のオープンソースライセンスで、商用利用が認められています。
Heliconeはどの形で使えますか?
Heliconeはセルフホスト・マネージドクラウド・ローカル実行の形で利用できます。