NVIDIA 模型调度控制台

服务可先启动;目录默认展示全部 Build 模型,保存 key、模型、出口后会立即热重载并对新请求生效。

远程模型目录
0
等待加载
启用模型
0
等待加载
Key
0
等待加载
Proxy
0
等待加载
池活跃
0/0
等待加载

Build 模型目录

非 Free Endpoint 模型仅作为目录展示;启用前确认当前 NVIDIA API key 具备对应权限。

模型编辑

选择一个模型

启用模型

API Key / 出口配置

保存配置会先校验、再写入 runtime/secrets 文件,最后热切换调度池。保存失败时旧配置继续生效。

API Key

Proxy / Direct

请求

响应

就绪。

Key 池状态

Proxy 池状态

API 调用记录

这里只记录代理 API 元信息和错误摘要,不保存 prompt、响应正文、Authorization 或 NVIDIA API key 明文。