你压到我腿毛了
通过连接安装应用
安装完成之后打开该应用,显示界面如下,点击 "继续安装" 按钮会自动跳转到 AI Pod 部署。

下图显示的部署参数是默认的,现在我实际部署的是 Hy-MT2-1.8-FP8。

开始部署之后,会拉取模型,这个过程需要等待一会儿。

上图中,总进度显示 100%,且没有其他报错。表示已经部署完成。图中进度条下方显示的 url 地址就是模型的调用地址
部署完成之后就是使用了。如果前面没注意到 URL 地址,也可参考下图方式查看

选择一款模型调用工具,我这边使用的是 cherry studio,参考下图配置。API密钥可以随便填写,但是不能为空

在 cherry studio 中选择 "对话",创建一个普通助手,选择部署的 Hy-MT2 模型,对话翻译就可以了


如果出现这个报错则可能是因为用户通过 cherry studio 创建的智能体调用的
我这里创建的智能体是通过内置的 pi runtime 跑的,Agent 的工作方式就是「工具调用循环」(读写文件、执行操作等),所以它会强制给每个请求带上 tools + tool_choice:"auto"。
Hy-MT2-1.8B-FP8 是个 纯翻译模型(架构 HunYuanDenseV1ForCausalLM),它的 chat_template.jinja 里根本没有 tools / tool_calls 的渲染逻辑,本质上就不支持函数调用。
评论
0暂无评论