从 OpenAI 迁移至阶跃星辰
前提条件
阶跃星辰大模型支持个人和企业调用,你可以在开放平台后台创建 API Key,并使用 API Key 调用。在测试模型能力时,除了通过 API 调用,你也可以通过体验中心快速体验阶跃星辰大模型。
在测试完成后, 你可以通过联系我们联系阶跃星辰客服,我们将会为你提供和 OpenAI 对标的 TPM / RPM 限制,帮助你无缝迁移调用。
模型选择
阶跃星辰为开发者提供多种模型能力,你可以根据自己当前使用的模型,切换至阶跃星辰大模型。
文本大模型
- Step 2: 万亿参数大模型,擅长逻辑推理、中文应用和创作生成。
- Step 1:千亿参数大模型,擅长逻辑推理、多轮指令跟随和超长上下文。
- Step 1 Flash:极速版语言大模型,擅长通用任务,低延迟,输出速度快。
视觉理解大模型
- Step 1V:千亿参数视觉识别大模型,擅长多轮指令跟随、精准识别。
文生图模型
- Step 1X:文生图大模型,支持通用场景和精准输出。
API 兼容
目前,阶跃星辰大模型兼容 OpenAI 的 API 规范,你可以直接使用 OpenAI 的 SDK 进行调用,如果你的应用已经在使用 OpenAI SDK 开发,那么可以以极低的成本进行迁移。
目前我们与 OpenAI 兼容的 API 如下:
SDK 迁移指南
OpenAI Python SDK
从 OpenAI Python SDK 迁移时,你只需要将原本的 Client 初始化中的参数 api_key
替换为阶跃星辰的 API Key ,并新增 base_url
设置为 https://api.stepfun.com/v1
,并在具体的模型设置中,设置为阶跃星辰大模型即可完成调用。
# 修改前
client = OpenAI(
api_key="OPENAI_KEY"
)
# 修改后
client = OpenAI(
api_key="STEP_API_KEY",
base_url="https://api.stepfun.com/v1"
)
OpenAI TypeScript SDK
从 OpenAI TypeScript SDK 迁移时,你只需要将原本的 Client 初始化中的参数 api_key
替换为阶跃星辰的 API Key ,并新增 base_url
设置为 https://api.stepfun.com/v1
,并在具体的模型设置中,设置为阶跃星辰大模型即可完成调用。
// 修改前
const openai = new OpenAI({
apiKey: "OPENAI_KEY"
});
// 修改后
const openai = new OpenAI({
apiKey: "STEP_API_KEY",
baseURL: "https://api.stepfun.com/v1"
});
LangChain
在使用 Langchain 开发应用时,你只需要修改 ChatOpenAI 初始化时的 openai_api_key
、openai_api_base
和 model_name
,即可切换至阶跃星辰大模型。
from langchain.chat_models import ChatOpenAI
from langchain.prompts import PromptTemplate
from langchain.chains import LLMChain
from os import getenv
from dotenv import load_dotenv
load_dotenv()
template = """你是阶跃星辰大模型开发的智能助手,你会根据用户的问题,一步一步的思考并回答。用户的问题是:问题:{question}"""
prompt = PromptTemplate(template=template, input_variables=["question"])
# 修改前
# llm = ChatOpenAI(
# openai_api_key=getenv("OPENAI_KEY"),
# model_name="gpt-4o"
# )
# 修改后
llm = ChatOpenAI(
openai_api_key=getenv("STEP_API_KEY"),
openai_api_base="https://api.stepfun.com/v1",
model_name="step-1v-8k"
)
llm_chain = LLMChain(prompt=prompt, llm=llm)
question = "阶跃星辰大模型如何帮助企业员工提升效率"
print(llm_chain.run(question))
LangChain.js
在使用 Langchain.js 开发应用时,你只需要修改 ChatOpenAI 初始化时的 modelName、openAIApiKey 和 basePath ,即可切换至阶跃星辰大模型。
// 修改前
const chat = new ChatOpenAI({
modelName: "gpt-4o",
openAIApiKey: $OPENAI_KEY,
});
// 修改后
const chat = new ChatOpenAI({
modelName: "step-1v-8k",
openAIApiKey: $STEP_API_KEY,
}, {
basePath:'https://api.stepfun.com/v1',
});