接入模型

草稿

网关的设置应用和命令行仍在调整，你所用版本中的名称和选项可能不同。

Kleinia 上的每一次模型调用都经过同一个系统服务：统一模型网关。你只需把模型添加到网关一次；智能体永远看不到你的密钥。

• 一个端点：网关兼容 OpenAI 与 Anthropic API。会话环境已经把模型客户端指向网关，智能体无需配置即可使用。
• 本地与云端：云端服务商和本机运行的模型并列接入，切换时不必改动任何智能体。
• 系统守住额度：token 按智能体计量，模型权限与配额由系统强制执行。

添加云端服务商

从应用列表打开 Model Gateway，选择“添加来源”，填写：

• 服务商的 API 类型（兼容 OpenAI 或 Anthropic），
• 接口地址（base URL），
• 你的 API 密钥，
• 要提供给智能体使用的模型。

也可以在终端中：

llmgwctl source add myprovider --type openai \
    --base https://api.example.com/v1 \
    --key-file ~/myprovider.key \
    --model example-model

密钥由网关保存，只有系统可以读取。添加后可以删除这个密钥文件。

添加本地模型

运行任意一个提供 OpenAI 兼容 API 的本地推理服务，然后用同样的方式把它添加为来源，接口地址填它的本地地址。调用本地模型时，数据不会离开这台机器。

为每个智能体设置限额

在 Model Gateway 中，调用过模型的智能体会连同 token 用量一起列出。你可以为每个智能体选择它能使用的模型，并设置 token 配额。智能体用完配额后，在配额重置或你调高之前，不能再发起调用。

查看用量

agenttop        # 实时的各智能体 token 用量
agentctl trace  # 逐步查看模型调用

见监控智能体。

自带密钥的程序

如果某个程序配置了自己的 API 密钥和端点，它仍然可以工作，但调用会绕过网关：不计量、不限额，密钥也留在这个程序的配置里。删掉程序自己的密钥，就会改由网关处理。