打开 “懒猫微服客户端” 下载应用

Qwen3-Embedding

支持指令检索、可变向量维度和 32K 上下文的多语言文本向量模型

6 次下载
0 次点赞
0 条评论
0 次催更
6

安装次数

0

点赞

0

应用评论

0

催更次数

桌面端

应用描述

为 AI Pod 算力舱部署 Qwen3-Embedding 0.6B、4B、8B,提供兼容 OpenAI 的 /v1/embeddings API,用于语义检索、知识库和文本匹配。支持中英文查询指令、可变向量维度、base64 与 32K 上下文。 支持 AGX Orin JetPack 6.2 / 7.2、AGX Thor JetPack 7.2;模型在 GPU 以 CUDA BF16 / SDPA 推理,0.6B 短单条输入启用受限 CUDA Graph。模型权重与运行归档独立下载,可选择 ModelScope 或 Hugging Face,逐文件校验固定快照、大小与 SHA256,启动后离线加载。 安装后从算力舱主界面选择设备和模型规格进行部署。首次部署需要下载模型和运行环境;请按部署前资源检查结果选择规格。 已完成三平台九组 GPU 性能测试、双语检索回归及部署、停止、离线重启、删除验收。短输入优化收益取决于请求形状和缓存状态;与其他 GPU 应用共用设备时仍需足够可用内存。 界面依赖:需要已收录 Qwen3-Embedding 模型卡的算力舱主应用。当前测试盒子的主应用尚未收录该卡片,入口集成需随主应用更新补齐;后端 API 与公开源下载流程已完成验证。

懒猫评分/评论

0.0

0 条评论

此 App 尚未收到足够的评分或评论,无法显示评论列表。

应用信息

最新版本

0.1.8

更新日期

11/2/2026

预估安装占用

50.54 MB

不支持平台

--

来源

--

兼容性

可在此设备上使用

添加 Token 统计接口