feat: add field stop in GeneralOpenAIRequest
Brought to you by:
xjfkkk
Originally created by: f1ynn-zhan9
问题描述:使用【模型重定向】功能后,one-api 转发对话时丢失 stop 参数。
翻查代码,定位到:
当 isModelMapped 为真,shouldResetRequestBody 也为真,调用
jsonStr, err := json.Marshal(textRequest) 将 textRequest 序列化成字符串。
由于 textRequest 的类型 GeneralOpenAIRequest 并不包含 stop 字段,导致模型重定向后字段丢失。
close [#1558]
在 issue 搜索了一下,这个 issue 可能遇到类似的情况:
https://github.com/songquanpeng/one-api/issues/1558
我已确认该 PR 已自测通过,相关截图如下:
Originally posted by: songquanpeng
可以按照openai的文档里的顺序放置stop字段吗?
Originally posted by: f1ynn-zhan9
好的,我调整一下,辛苦作者 review。
Originally posted by: f1ynn-zhan9
已根据 openai 的文档调整 stop 字段的位置,请作者查收。