oneapi无法和xinference加载的Embedding通信
Brought to you by:
xjfkkk
Originally created by: goodmaney
例行检查
功能描述
希望渠道里添加对xinference 加载Embedding和rerank 通信的支持。尝试用xinference 加载Embedding并在渠道中添加,发现oneapi发送的请求xf后台接收不到,使用py脚本加载Embedding后能接收到oneapi的请求,二者接收的url格式均一致。测试了几次发现似乎是因为添加渠道时xinference无法提供秘钥
应用场景