Menu

#1637 feat: add field stop in GeneralOpenAIRequest

open
nobody
None
2024-07-13
2024-07-12
Anonymous
No

Originally created by: f1ynn-zhan9

问题描述:使用【模型重定向】功能后,one-api 转发对话时丢失 stop 参数。

翻查代码,定位到:
image
isModelMapped 为真,shouldResetRequestBody 也为真,调用
jsonStr, err := json.Marshal(textRequest)textRequest 序列化成字符串。
image
由于 textRequest 的类型 GeneralOpenAIRequest 并不包含 stop 字段,导致模型重定向后字段丢失。

close [#1558]
在 issue 搜索了一下,这个 issue 可能遇到类似的情况:
https://github.com/songquanpeng/one-api/issues/1558

我已确认该 PR 已自测通过,相关截图如下:
image

Related

Tickets: #1558

Discussion

  • Anonymous

    Anonymous - 2024-07-13

    Originally posted by: songquanpeng

    可以按照openai的文档里的顺序放置stop字段吗?

     
  • Anonymous

    Anonymous - 2024-07-13

    Originally posted by: f1ynn-zhan9

    可以按照openai的文档里的顺序放置stop字段吗?

    好的,我调整一下,辛苦作者 review。

     
  • Anonymous

    Anonymous - 2024-07-13

    Originally posted by: f1ynn-zhan9

    可以按照openai的文档里的顺序放置stop字段吗?

    已根据 openai 的文档调整 stop 字段的位置,请作者查收。

     

Log in to post a comment.

MongoDB Logo MongoDB