1. 管理令牌
令牌在服务启动日志中打印,或由 .env 的 ADMIN_TOKEN 指定。仅保存在本机浏览器。
2. 搜索并下载模型
从 ModelScope 魔搭搜索开源模型,下载到本地模型目录。
3. 模型管理
下载完成后点击「加载」把模型注册到推理后端并预热,之后即可通过接口调用。
下载任务
4. API Key 管理
为每个 AI 编程工具生成独立 Key,可设置调用额度(0 表示不限额)。
5. 接入 AI 编程工具
在 Cline / Continue / Cursor / Aider 等工具中选择 OpenAI Compatible,填入以下信息:
Base URL
API Key
(在上方生成后复制)Model
(加载模型后自动填充)