文档
开发指南
从 OpenAI 迁移至阶跃星辰

从 OpenAI 迁移至阶跃星辰

前提条件

阶跃星辰大模型支持个人和企业调用,你可以在开放平台后台创建 API Key,并使用 API Key 调用。在测试模型能力时,除了通过 API 调用,你也可以通过体验中心快速体验阶跃星辰大模型。

在测试完成后, 你可以通过联系我们联系阶跃星辰客服,我们将会为你提供和 OpenAI 对标的 TPM / RPM 限制,帮助你无缝迁移调用。

模型选择

阶跃星辰为开发者提供多种模型能力,你可以根据自己当前使用的模型,切换至阶跃星辰大模型。

文本大模型

  • Step 2: 万亿参数大模型,擅长逻辑推理、中文应用和创作生成。
  • Step 1:千亿参数大模型,擅长逻辑推理、多轮指令跟随和超长上下文。
  • Step 1 Flash:极速版语言大模型,擅长通用任务,低延迟,输出速度快。

视觉理解大模型

  • Step 1V:千亿参数视觉识别大模型,擅长多轮指令跟随、精准识别。

文生图模型

  • Step 1X:文生图大模型,支持通用场景和精准输出。

API 兼容

目前,阶跃星辰大模型兼容 OpenAI 的 API 规范,你可以直接使用 OpenAI 的 SDK 进行调用,如果你的应用已经在使用 OpenAI SDK 开发,那么可以以极低的成本进行迁移。

目前我们与 OpenAI 兼容的 API 如下:

SDK 迁移指南

OpenAI Python SDK

从 OpenAI Python SDK 迁移时,你只需要将原本的 Client 初始化中的参数 api_key 替换为阶跃星辰的 API Key ,并新增 base_url 设置为 https://api.stepfun.com/v1,并在具体的模型设置中,设置为阶跃星辰大模型即可完成调用。

# 修改前
client = OpenAI(
    api_key="OPENAI_KEY"
)
 
# 修改后
client = OpenAI(
    api_key="STEP_API_KEY", 
    base_url="https://api.stepfun.com/v1"
)

OpenAI TypeScript SDK

从 OpenAI TypeScript SDK 迁移时,你只需要将原本的 Client 初始化中的参数 api_key 替换为阶跃星辰的 API Key ,并新增 base_url 设置为 https://api.stepfun.com/v1,并在具体的模型设置中,设置为阶跃星辰大模型即可完成调用。

// 修改前
const openai = new OpenAI({    
    apiKey: "OPENAI_KEY"
});
 
// 修改后
const openai = new OpenAI({    
    apiKey: "STEP_API_KEY",    
    baseURL: "https://api.stepfun.com/v1"
});

LangChain

在使用 Langchain 开发应用时,你只需要修改 ChatOpenAI 初始化时的 openai_api_keyopenai_api_basemodel_name ,即可切换至阶跃星辰大模型。

from langchain.chat_models import ChatOpenAI
from langchain.prompts import PromptTemplate
from langchain.chains import LLMChain
from os import getenv
from dotenv import load_dotenv
 
load_dotenv()
 
template = """你是阶跃星辰大模型开发的智能助手,你会根据用户的问题,一步一步的思考并回答。用户的问题是:问题:{question}"""
 
prompt = PromptTemplate(template=template, input_variables=["question"])
 
 
# 修改前
# llm = ChatOpenAI(
#   openai_api_key=getenv("OPENAI_KEY"),
#   model_name="gpt-4o"
# )
 
# 修改后
llm = ChatOpenAI(
  openai_api_key=getenv("STEP_API_KEY"),
  openai_api_base="https://api.stepfun.com/v1",
  model_name="step-1v-8k"
)
 
llm_chain = LLMChain(prompt=prompt, llm=llm)
 
question = "阶跃星辰大模型如何帮助企业员工提升效率"
 
print(llm_chain.run(question))

LangChain.js

在使用 Langchain.js 开发应用时,你只需要修改 ChatOpenAI 初始化时的 modelName、openAIApiKey 和 basePath ,即可切换至阶跃星辰大模型。

// 修改前
const chat = new ChatOpenAI({
  modelName: "gpt-4o",
  openAIApiKey: $OPENAI_KEY,
});
 
// 修改后
 
const chat = new ChatOpenAI({
  modelName: "step-1v-8k",
  openAIApiKey: $STEP_API_KEY,
}, {
  basePath:'https://api.stepfun.com/v1',
});