基本上我想用 Flask 和 LangChain 来实现这一点：https://www.youtube.com/watch?v =x8uwwLNxqis 。
我正在构建一个在后端使用 LangChain 的问答 Flask 应用程序，但我在传输来自 ChatGPT 的响应时遇到问题。我的链条看起来像这样：
chain = VectorDBQA.from_chain_type(llm=ChatOpenAI(model_name="gpt-3.5-turbo", streaming=True, chain_type="stuff", vectorstore=docsearch)
...
result = chain({"query": query})
output = result['result']
Jinja 只是打印{{ output }}，并且工作正常，但结果不会出现在网站中，直到整个响应完成。我想流式传输由 ChatGPT 生成的结果。
我尝试过使用stream_template，但它不起作用（它不传输结果，它只是立即打印完整的响应，尽管我可能做错了什么）。
我终于解决了：