小编Dan*_*món的帖子

LangChain.js 无法获取代币消耗和费用

我正在 Langchain 和 OpenAI 中创建一个项目,除了当我尝试跟踪每个链运行的代币使用情况和成本时,一切都正常工作。

在 python 中,Langchain.py 的 Callback 部分中有一个方法 get_openai_callback() ,但我在 JS 框架上找不到等效的方法。

Langchain 聊天机器人给了我正确的答案。它只是给了我 JS 框架中不存在的功能。

有谁知道如何跟踪每次链运行中的代币使用情况和产生的成本?欢迎任何帮助。

PD。我将 ConversationalRetrievalQAChain 与 BufferMemory 和矢量搜索结合使用。

我尝试使用 langchain 聊天机器人给我的这段代码

const { Chain } = require("langchain");

async function getChainRunCost(chainRunId) {
  const chain = new Chain();
  const callback = await chain.getOpenAICallback(chainRunId);
  const cost = callback.cost;
  return cost;
}

// Usage
const chainRunId = "your-chain-run-id";
const cost = await getChainRunCost(chainRunId);
console.log(cost);
Run Code Online (Sandbox Code Playgroud)

但框架中不存在这个功能: const callback = await chain.getOpenAICallback(chainRunId);

有没有真正的方法可以在每次链运行中返还成本?

javascript langchain

2
推荐指数
1
解决办法
2787
查看次数

标签 统计

javascript ×1

langchain ×1