品玩11月5日讯，据 OpenAI 官方消息，OpenAI 正计划推出一项名为预测输出（ Predicted Outputs）的功能，将大幅降低ChatGPT 的延迟。

OpenAI 表示，该功能通过提供参考字符串来加快处理速度，大幅降低GPT-4o 和 GPT-4o-mini 的延迟。该功能核心在于能够预测出可能的内容，并将其作为模型的起始点，从而跳过已经明确的部分。

通过减少计算量，这种推测解码方法可以将响应时间缩短多达五倍，使 GPT-4o 更适合用于实时任务，例如文档更新、代码编辑和其他需要反复生成文本的活动。