上下文与 Token

上下文包括系统提示词、历史消息、用户输入、工具定义和工具返回结果。所有内容合计不能超过模型上下文上限，并需要为输出预留空间。

控制上下文

• 只保留完成当前任务必要的历史消息。
• 长文档先分段检索，再把相关片段交给模型。
• 对较早对话做摘要，但保留关键事实和约束。
• 工具返回只传必要字段，避免整份数据库记录进入上下文。
• 使用日志观察输入与输出 Token，持续调整预算。

费用与限制

输入和输出 Token 可能采用不同价格。过大的最大输出设置不仅增加费用，也可能在预扣额度阶段直接失败。RPM 表示每分钟请求数，TPM 表示每分钟 Token 数，RPD 表示每日请求数；限制按 API Key 分组生效。