Menu

#1585 希望管理员或句具有权限的用户可以在访问时指定分组进行负载均衡

open
nobody
2024-06-30
2024-06-30
Anonymous
No

Originally created by: maxadc

例行检查

  • 我已确认目前没有类似 issue
  • 我已确认我已升级到最新版本
  • 我已完整查看过项目 README,已确定现有版本无法满足需求
  • 我理解并愿意跟进此 issue,协助测试和提供反馈
  • 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭

功能描述
我看了一下,我觉得 Authorization: Bearer ONE_API_KEY-CHANNEL_ID 如果可以指定分组的话。就从该分组进行负载均衡就可以满足需求了。如果可以,可以考虑允许传多个分组,在多个分组中随机选取。
这样使用比较方便,适合复杂场景。
应用场景
我有多个模型,发现有的模型对某个任务响应不是太友好。大概率 某任务 A组模型完成效果更好。
B任务,B组模型效果更好,这个时候,也是需要负载均衡的。
而目前没有这个功能。如果是多个用户+多个分组来解决,那何必用 oen-api,我自己写一个简单的代码来管理不更简单?

Discussion


Log in to post a comment.

MongoDB Logo MongoDB