
当您在使用openai微调模型时遇到“the model `xxxxx` does not exist”错误,这通常是由于选择了错误的api端点。解决此问题的关键在于识别您的微调模型所基于的原始模型类型:若基于gpt-3.5 turbo,应使用chat completions api;若基于gpt-3(如`babbage-002`或`davinci-002`),则需使用completions api。本文将详细指导您如何根据模型类型选择正确的api端点,并提供相应的代码示例。
在使用OpenAI API时,如果尝试调用一个微调模型却收到"The model \ft-modelname` does not exist"`的错误信息,即使您已通过API确认该模型确实存在,这通常不是模型本身的问题,而是您调用的API端点与微调模型类型不匹配。OpenAI的API设计区分了不同类型的模型及其对应的交互方式。
最初,OpenAI的微调功能主要针对GPT-3系列的基础模型(如davinci-002、babbage-002)。这些微调模型只能通过Completions API (/v1/completions) 来调用,其请求体中包含一个prompt字符串。
然而,自2023年8月22日起,OpenAI正式开放了GPT-3.5 Turbo模型的微调功能。这意味着现在您可以对gpt-3.5-turbo进行微调,而这些基于gpt-3.5-turbo的微调模型,则需要通过Chat Completions API (/v1/chat/completions) 来调用,其请求体中包含一个messages数组,遵循聊天对话的结构。未来,GPT-4的微调功能也将遵循类似的逻辑。
因此,解决“模型不存在”错误的核心在于:根据您的微调模型所基于的原始模型类型,选择正确的API端点。
当您完成微调任务并成功创建了一个微调模型后,OpenAI会在微调任务的详情中提供fine_tuned_model字段,其中包含模型名称。要确定应使用哪个API端点,您需要知道这个微调模型是基于哪个原始模型进行训练的。
如果您的微调模型是基于 gpt-3.5-turbo 训练的:
如果您的微调模型是基于 babbage-002 或 davinci-002(或其他GPT-3系列模型)训练的:
以下是根据不同微调模型类型调用API的示例。
如果您的微调模型(例如 ft-your-gpt35-model)是基于 gpt-3.5-turbo 训练的,您应使用 chat/completions 端点。
const API_KEY = "YOUR_OPENAI_API_KEY";
const ORG_ID = "YOUR_OPENAI_ORG_ID"; // 可选,如果您的API密钥关联到特定组织
const headers = {
"Content-Type": "application/json",
Authorization: "Bearer " + API_KEY,
"OpenAI-Organization": ORG_ID, // 如果有组织ID,请包含
};
const fineTunedChatModel = "ft-your-gpt35-model"; // 您的基于GPT-3.5 Turbo的微调模型名称
const userMessage = "你好,请问你是谁?";
try {
const res = await axios.post(
"https://api.openai.com/v1/chat/completions",
{
model: fineTunedChatModel,
messages: [
{
role: "system",
content: "你的名字是小助手。",
},
{
role: "user",
content: userMessage,
},
],
},
{ headers }
);
console.log("Chat Completions API 响应:", res.data.choices[0].message.content);
} catch (error) {
console.error("Chat Completions API 调用失败:", error.response ? error.response.data : error.message);
}如果您的微调模型(例如 ft-your-gpt3-model)是基于GPT-3系列模型训练的,您应使用 completions 端点。
const API_KEY = "YOUR_OPENAI_API_KEY";
const ORG_ID = "YOUR_OPENAI_ORG_ID"; // 可选
const headers = {
"Content-Type": "application/json",
Authorization: "Bearer " + API_KEY,
"OpenAI-Organization": ORG_ID, // 如果有组织ID,请包含
};
const fineTunedCompletionModel = "ft-your-gpt3-model"; // 您的基于GPT-3的微调模型名称
const promptText = "请说这是一个测试。";
try {
const res = await axios.post(
"https://api.openai.com/v1/completions",
{
model: fineTunedCompletionModel,
prompt: promptText,
max_tokens: 50, // 根据需要设置
},
{ headers }
);
console.log("Completions API 响应:", res.data.choices[0].text);
} catch (error) {
console.error("Completions API 调用失败:", error.response ? error.response.data : error.message);
}以下是针对Completions API(用于GPT-3系列微调模型)的通用调用方式。
Python
import os
import openai
openai.api_key = os.getenv("OPENAI_API_KEY")
fine_tuned_model_name = "ft-your-gpt3-model"
your_prompt = "请说这是一个测试。"
try:
response = openai.Completion.create(
model=fine_tuned_model_name,
prompt=your_prompt
)
print(response.choices[0].text)
except openai.error.OpenAIError as e:
print(f"API 调用失败: {e}")NodeJS (使用官方 openai 库)
const { Configuration, OpenAIApi } = require("openai");
const configuration = new Configuration({
apiKey: process.env.OPENAI_API_KEY,
});
const openai = new OpenAIApi(configuration);
const fineTunedModelName = "ft-your-gpt3-model";
const yourPrompt = "请说这是一个测试。";
async function callCompletionAPI() {
try {
const response = await openai.createCompletion({
model: fineTunedModelName,
prompt: yourPrompt,
});
console.log(response.data.choices[0].text);
} catch (error) {
console.error("API 调用失败:", error.response ? error.response.data : error.message);
}
}
callCompletionAPI();cURL
curl https://api.openai.com/v1/completions \
-H "Authorization: Bearer $OPENAI_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"prompt": "请说这是一个测试。",
"model": "ft-your-gpt3-model",
"max_tokens": 50
}'OpenAI CLI
openai api completions.create -m <ft-your-gpt3-model> -p "请说这是一个测试。"
通过仔细核对您的微调模型类型并选择对应的API端点和请求参数,您将能够成功调用您的微调模型,避免“模型不存在”的错误。
以上就是OpenAI微调模型调用错误:“模型不存在”的解决方案与API选择指南的详细内容,更多请关注php中文网其它相关文章!
每个人都需要一台速度更快、更稳定的 PC。随着时间的推移,垃圾文件、旧注册表数据和不必要的后台进程会占用资源并降低性能。幸运的是,许多工具可以让 Windows 保持平稳运行。
Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号