↑

多项接口能力上新,兼容OpenAI API格式

DeepSeek|阅读 0
2024/07/25 08:00
原文链接:https://api-docs.deepseek.com/zh-cn/news/news0725
DeepSeekAPI升级Function CallingJSON OutputFIM补全
多项接口能力上新,兼容OpenAI API格式
DeepSeek于2024年7月25日更新API,为/chat/completions接口新增JSON Output、Function Calling、对话前缀续写及8K最长输出功能,并新增/completions接口支持FIM补全,所有功能均适用于deepseek-chat与deepseek-coder模型。

声明:文档由AI根据原文生成。

多项接口能力上新,兼容OpenAI API格式

2024年7月25日,DeepSeek宣布其API迎来更新。此次升级围绕/chat/completions接口推出四项新能力,并新增/completions接口,所有功能均支持deepseek-chat与deepseek-coder模型调用。

JSON Output功能使用样例

/chat/completions接口四项更新

JSON Output功能兼容OpenAI API,可强制模型输出JSON格式字符串。用户需将response_format参数设为{'type': 'json_object'},并在提示词中明确JSON格式要求,同时合理设置max_tokens避免截断。该功能适用于数据处理等需结构化输出的场景。

Function Calling功能同样兼容OpenAI API,支持传入最多128个Function并启用并行调用。通过调用外部工具,模型可与物理世界交互。DeepSeek展示了将deepseek-coder整合至开源前端LobeChat、开启"网站爬虫"插件的实例。

deepseek-coder整合LobeChat效果

Function Calling交互过程

**对话前缀续写(Beta)**允许用户指定最后一条assistant消息的前缀,模型按此前缀补全。该功能也可用于max_tokens截断后的内容续接。使用需将base_url设为https://api.deepseek.com/beta,并确保messages列表末条消息role为assistant且prefix参数为True。

对话前缀续写使用样例

**8K最长输出(Beta)**将max_tokens上限提升至8192,默认仍为4096。开启方式同为切换至Beta版base_url。

新增/completions接口:FIM补全

**FIM(Fill-In-the-Middle)补全(Beta)**兼容OpenAI的FIM补全API,用户可提供前缀与可选后缀,由模型补全中间内容,适用于故事续写、代码补全等场景。该接口计费标准与对话补全一致。

FIM补全接口使用样例

Beta接口开放使用,后续将开源稳定版本

所有Beta接口已向全部用户开放,需设置base_url为https://api.deepseek.com/beta启用。DeepSeek提示,Beta接口尚不稳定,测试与发布计划可能调整。相关模型版本在功能稳定后将发布至开源社区。