我正在 Langchain 和 OpenAI 中创建一个项目,除了当我尝试跟踪每个链运行的代币使用情况和成本时,一切都正常工作。
在 python 中,Langchain.py 的 Callback 部分中有一个方法 get_openai_callback() ,但我在 JS 框架上找不到等效的方法。
Langchain 聊天机器人给了我正确的答案。它只是给了我 JS 框架中不存在的功能。
有谁知道如何跟踪每次链运行中的代币使用情况和产生的成本?欢迎任何帮助。
PD。我将 ConversationalRetrievalQAChain 与 BufferMemory 和矢量搜索结合使用。
我尝试使用 langchain 聊天机器人给我的这段代码
const { Chain } = require("langchain");
async function getChainRunCost(chainRunId) {
const chain = new Chain();
const callback = await chain.getOpenAICallback(chainRunId);
const cost = callback.cost;
return cost;
}
// Usage
const chainRunId = "your-chain-run-id";
const cost = await getChainRunCost(chainRunId);
console.log(cost);
Run Code Online (Sandbox Code Playgroud)
但框架中不存在这个功能:
const callback = await chain.getOpenAICallback(chainRunId);
有没有真正的方法可以在每次链运行中返还成本?