Menu

#1608 oneapi无法和xinference加载的Embedding通信

open
nobody
2024-07-05
2024-07-05
Anonymous
No

Originally created by: goodmaney

例行检查

  • 我已确认目前没有类似 issue
  • 我已确认我已升级到最新版本
  • 我已完整查看过项目 README,已确定现有版本无法满足需求
  • 我理解并愿意跟进此 issue,协助测试和提供反馈
  • 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭

功能描述
希望渠道里添加对xinference 加载Embedding和rerank 通信的支持。尝试用xinference 加载Embedding并在渠道中添加,发现oneapi发送的请求xf后台接收不到,使用py脚本加载Embedding后能接收到oneapi的请求,二者接收的url格式均一致。测试了几次发现似乎是因为添加渠道时xinference无法提供秘钥
应用场景

Discussion


Log in to post a comment.

MongoDB Logo MongoDB