打开 “懒猫微服客户端” 下载应用

CoLink Plan

分布式AI算力代理平台,聚合本地设备提供OpenAI兼容API

5 次下载
0 次点赞
0 条评论
0 次催更
5

安装次数

0

点赞

0

应用评论

0

催更次数

桌面端

应用描述

Co-Link 是一个分布式 AI 算力代理平台,用于将多台本地设备(如个人电脑或 GPU 服务器)聚合成统一的 OpenAI 兼容 API 服务。开发者只需对接一个接口,即可使用来自多个节点的算力,实现资源整合与弹性扩展。 平台支持流式与非流式对话、函数调用、多模态输入等能力,并具备自动负载均衡、失败重试和节点健康管理机制。同时提供鉴权、限流与可视化面板,方便统一管理 API 调用与节点状态。 【简单使用(Client 接入)】 1. 访问 Web 控制台注册账号 2. 在控制台获取 Client Token,并按照页面提示生成配置文件 3. 从 GitHub 下载客户端:https://github.com/Jlan45/CoLinkPlan 4. 启动客户端程序: ./bin/client 启动后,当前设备会自动加入网络,作为算力节点接收并执行推理任务。 详细使用攻略: https://lazycat.cloud/playground/guideline/1545 【使用场景】 * 多设备算力整合:统一调度本地多台设备,提高资源利用率 * 私有 AI 网关:为团队或公司提供统一的 AI 接口入口 * 成本优化:通过分布式节点分担请求压力,降低调用成本 * 多模型统一接入:聚合不同模型提供方,统一为 OpenAI 风格接口 * 算力共享网络:用户可共享自身 API 或算力资源,实现协同使用 Co-Link 适合需要构建自有 AI 基础设施、统一多模型调用入口或提升算力利用率的开发者与团队。

相关攻略

Co-Link:将多台设备整合为统一 AI API 的使用指南

![image.png](https://lzc-playground-1301583638.cos.ap-chengdu.myqcloud.com/guidelines/779/91b3df84-6c08-434c-93d3-1c2e82fddd37.png "image.png") https://appstore.lazycat.cloud/#/shop/detail/cloud.lazycat.app.colink # 1. 使用流程概览 Co-Link 的使用可以拆分为三个步骤: ```text 1. 注册账号并获取 Token 2. 启动 Client(接入算力节点) 3. 调用 API(使用 AI 服务) ``` --- ## 1.1 系统角色说明 | 角色 | 说明 | | ------- | ------------------ | | Server | 调度中心,负责路由请求(已部署完成) | | Client | 算力节点,执行推理任务 | | API 调用者 | 使用 AI 接口的程序或用户 | --- # 2. 访问地址说明 ```text 控制台地址: https://colink.${微服名称}.heiyu.space API 地址: https://colink.${微服名称}.heiyu.space/v1 ``` --- # 3. 初始化账号与 Token ## 3.1 注册账号 访问 Web 控制台: ```text https://colink.${微服名称}.heiyu.space ``` ![image.png](https://lzc-playground-1301583638.cos.ap-chengdu.myqcloud.com/guidelines/779/7641b4f7-2d43-4934-b148-522496b6b879.png "image.png") 完成注册并登录。 --- ## 3.2 获取 Token 在用户面板中获取: | Token | 用途 | | ------------ | ------ | | Client Token | 用于节点接入 | | API Token | 用于接口调用 | ![image.png](https://lzc-playground-1301583638.cos.ap-chengdu.myqcloud.com/guidelines/779/07ddec9e-7fcb-4431-b305-0a22645f1d5e.png "image.png") --- # 4. 接入算力节点(Client) 每一台提供算力的机器都需要运行一个 Client。 --- ## 4.1 创建配置文件(config.yaml) ```yaml client_token: "<你的 Client Token>" server_url: "wss://colink.${微服名称}.heiyu.space/ws" max_parallel: 3 providers: - type: "openai" api_key: "<你的 OpenAI 或代理 API Key>" base_url: "<可选:如 https://one-api.xxx/v1>" models: - local: "deepseek-chat" server_mapping: "pro-model" ``` --- ## 4.2 启动 Client ### CoLink Client 下载地址 #### 🍎 macOS - Intel (amd64) https://github.com/Jlan45/CoLinkPlan/releases/download/v1.0.1/colink-darwin-amd64.tar.gz - Apple Silicon (arm64) https://github.com/Jlan45/CoLinkPlan/releases/download/v1.0.1/colink-darwin-arm64.tar.gz #### 🐧 Linux - AMD64 https://github.com/Jlan45/CoLinkPlan/releases/download/v1.0.1/colink-linux-amd64.tar.gz - ARM64 https://github.com/Jlan45/CoLinkPlan/releases/download/v1.0.1/colink-linux-arm64.tar.gz 下载完成之后解压后将文件放到到 `config.yaml` 同目录,然后启动客户端 **Linux** ```bash ./colink-client-linux-amd64 # or ./colink-client-linux-arm64 ``` **MacOS** ```bash ./colink-client-darwin-amd64 # or ./colink-client-darwin-arm64 ``` --- ## 4.3 启动成功标志 出现如下日志表示连接成功: ```json {"time":"2026-04-07T19:15:35.661511906+08:00","level":"INFO","msg":"Starting Co-Link Client","config":"config.yaml","server":"wss://colink.${微服名称}.heiyu.space/ws","max_parallel":3} {"time":"2026-04-07T19:15:35.662237086+08:00","level":"INFO","msg":"Dialing server","url":"wss://colink.${微服名称}.heiyu.space/ws"} {"time":"2026-04-07T19:15:35.707830345+08:00","level":"INFO","msg":"Connected to server successfully"} ``` --- # 5. 验证节点是否接入成功 登录控制台后访问: ```text https://colink.${微服名称}.heiyu.space/nodes ``` 如果看到节点在线,则说明接入成功。 ![image.png](https://lzc-playground-1301583638.cos.ap-chengdu.myqcloud.com/guidelines/779/aee8ce44-79fc-4546-b9c9-b5080feda12e.png "image.png") --- # 6. 调用 AI API Co-Link 完全兼容 OpenAI API。 统一 API 入口为: ```text https://colink.${微服名称}.heiyu.space/v1 ``` --- ## 6.1 Python 示例 ```python from openai import OpenAI client = OpenAI( api_key="sk-colink-your-api-token", base_url="https://colink.${微服名称}.heiyu.space/v1", ) resp = client.chat.completions.create( model="pro-model", messages=[{"role": "user", "content": "Hello!"}], ) print(resp.choices[0].message.content) ``` --- ## 6.2 流式调用 ```python stream = client.chat.completions.create( model="pro-model", messages=[{"role": "user", "content": "Hello!"}], stream=True, ) for chunk in stream: print(chunk.choices[0].delta.content or "", end="") ``` --- ## 6.3 curl 示例 ```bash curl -X POST https://colink.${微服名称}.heiyu.space/v1/chat/completions \ -H "Authorization: Bearer ${API Token}" \ -H "Content-Type: application/json" \ -d '{ "model":"pro-model", "messages":[{"role":"user","content":"Hello!"}] }' ``` **运行成功** ![image.png](https://lzc-playground-1301583638.cos.ap-chengdu.myqcloud.com/guidelines/779/7bc4002b-eb76-49cf-b13a-8f63d9a6a6da.png "image.png") --- # 7. 核心配置说明 --- ## 7.1 并发控制 ```yaml max_parallel: 3 ``` 表示该节点最多同时处理 3 个请求。 --- ## 7.2 模型映射 ```yaml models: - local: "deepseek-chat" server_mapping: "pro-model" ``` 说明: * `local`:Provider 实际模型名称 * `server_mapping`:对外暴露的模型名称(API 调用使用) --- # 8. 调度机制说明 Co-Link Server 会自动: * 选择空闲节点处理请求 * 节点失败自动切换(最多 3 次) * 出错节点封禁 60 秒

懒猫评分/评论

0.0

0 条评论

此 App 尚未收到足够的评分或评论,无法显示评论列表。

应用信息

最新版本

1.0.1

更新日期

4/15/2026

预估安装占用

140.11 MB

不支持平台

ios、android、tvos

来源

Jlan45

提供者

卓帅

兼容性

可在此设备上使用

""