Qwen3-Embedding
支持指令检索、可变向量维度和 32K 上下文的多语言文本向量模型
安装次数
点赞
应用评论
催更次数
桌面端


应用描述
为 AI Pod 算力舱部署 Qwen3-Embedding 0.6B、4B、8B,提供兼容 OpenAI 的 /v1/embeddings API,用于语义检索、知识库和文本匹配。支持中英文查询指令、可变向量维度、base64 与 32K 上下文。 支持 AGX Orin JetPack 6.2 / 7.2、AGX Thor JetPack 7.2;模型在 GPU 以 CUDA BF16 / SDPA 推理,0.6B 短单条输入启用受限 CUDA Graph。模型权重与运行归档独立下载,可选择 ModelScope 或 Hugging Face,逐文件校验固定快照、大小与 SHA256,启动后离线加载。 安装后从算力舱主界面选择设备和模型规格进行部署。首次部署需要下载模型和运行环境;请按部署前资源检查结果选择规格。 已完成三平台九组 GPU 性能测试、双语检索回归及部署、停止、离线重启、删除验收。短输入优化收益取决于请求形状和缓存状态;与其他 GPU 应用共用设备时仍需足够可用内存。 界面依赖:需要已收录 Qwen3-Embedding 模型卡的算力舱主应用。当前测试盒子的主应用尚未收录该卡片,入口集成需随主应用更新补齐;后端 API 与公开源下载流程已完成验证。
懒猫评分/评论
0.0
0 条评论
应用信息
新功能
版本历史记录添加 Token 统计接口
此 App 尚未收到足够的评分或评论,无法显示评论列表。