Hy-MT2 翻译的使用文档

你压到我腿毛了

发布于16天前
111

一、安装部署

https://appstore.lazycat.cloud/#/shop/detail/cloud.lazycat.aipod.hy-mt2

通过连接安装应用

安装完成之后打开该应用,显示界面如下,点击 "继续安装" 按钮会自动跳转到 AI Pod 部署。
image.png

下图显示的部署参数是默认的,现在我实际部署的是 Hy-MT2-1.8-FP8。
image.png

开始部署之后,会拉取模型,这个过程需要等待一会儿。
image.png
上图中,总进度显示 100%,且没有其他报错。表示已经部署完成。图中进度条下方显示的 url 地址就是模型的调用地址

二、使用

部署完成之后就是使用了。如果前面没注意到 URL 地址,也可参考下图方式查看
image.png

配置 API

选择一款模型调用工具,我这边使用的是 cherry studio,参考下图配置。API密钥可以随便填写,但是不能为空
image.png

对话调用

在 cherry studio 中选择 "对话",创建一个普通助手,选择部署的 Hy-MT2 模型,对话翻译就可以了
image.png

Tips

image.png
如果出现这个报错则可能是因为用户通过 cherry studio 创建的智能体调用的

我这里创建的智能体是通过内置的 pi runtime 跑的,Agent 的工作方式就是「工具调用循环」(读写文件、执行操作等),所以它会强制给每个请求带上 tools + tool_choice:"auto"。
Hy-MT2-1.8B-FP8 是个 纯翻译模型(架构 HunYuanDenseV1ForCausalLM),它的 chat_template.jinja 里根本没有 tools / tool_calls 的渲染逻辑,本质上就不支持函数调用。

评论

0

暂无评论

说点什么呢~
收藏
0
0
0