NVIDIA 模型调度控制台
服务可先启动;目录默认展示全部 Build 模型,保存 key、模型、出口后会立即热重载并对新请求生效。
远程模型目录
0
等待加载
启用模型
0
等待加载
Key
0
等待加载
Proxy
0
等待加载
池活跃
0/0
等待加载
Build 模型目录
非 Free Endpoint 模型仅作为目录展示;启用前确认当前 NVIDIA API key 具备对应权限。
模型编辑
选择一个模型启用模型
API Key / 出口配置
保存配置会先校验、再写入 runtime/secrets 文件,最后热切换调度池。保存失败时旧配置继续生效。
API Key
Proxy / Direct
请求
响应
就绪。
Key 池状态
Proxy 池状态
API 调用记录
这里只记录代理 API 元信息和错误摘要,不保存 prompt、响应正文、Authorization 或 NVIDIA API key 明文。