推理（推断）

定义

推理是使用训练好的 AI 模型对新输入生成输出的过程，与创建模型的训练过程不同。推理速度以每秒 token 数衡量，对用户体验影响显著。推理成本是 API 定价的主要驱动因素——能力更强的模型运行成本更高。