OpenAI ChatGPT (GPT-3.5) API：我可以微调 gpt-3.5-turbo 模型吗？

Question

我有一个包含大量数据的 SQL 表，需要使用 Chat Completion API 将 SQL 表数据训练到 ChatGPT。

我尝试使用 ChatGPT 生成 SQL 查询，但这无法按预期工作。有时它会生成不适当的查询。

Answer 1

更新：2023 年 8 月 22 日

正如OpenAI官方博客中所述，GPT-3.5 的微调现已可用：

GPT-3.5 Turbo 的微调现已推出，GPT-4 的微调将于今年秋天推出。此更新使开发人员能够自定义更适合其用例的模型，并大规模运行这些自定义模型。早期测试表明，GPT-3.5 Turbo 的微调版本在某些狭窄任务上可以匹配甚至超越基本 GPT-4 级别的功能。与我们所有的 API 一样，传入和传出微调 API 的数据归客户所有，OpenAI 或任何其他组织不会使用这些数据来训练其他模型。

此外，还引入了两个新模型（即davinci-002和）作为​​ GPT-3 模型（ 、、和）的替代品，因为这些 GPT-3 模型将于 2024 年 1 月 4 日关闭。因此，如果您查看现在查看 OpenAI官方文档，您将看到以下内容：babbage-002davincicuriebabbageada

哪些模型可以进行微调？

目前可对以下型号进行微调：

• gpt-3.5-turbo-0613（受到推崇的）
• babbage-002
• davinci-002

我们希望 gpt-3.5-turbo在结果和易用性方面成为大多数用户的正确模型，除非您要迁移旧的微调模型。

注意：GPT-3 模型已从列表中删除，但在 2024 年 1 月 4 日之前仍可进行微调。

您无法微调模型gpt-3.5-turbo。

正如OpenAI官方文档中所述：

哪些模型可以进行微调？

微调目前仅适用于以下基本型号：davinci、curie、babbage和ada。这些是原始模型，在训练后没有任何说明（例如text-davinci-003）。您还可以继续微调已微调的模型以添加其他数据，而无需从头开始。