品玩10月2日讯，OpenAI 在美国东部时间10月1日举办了2024年首场年度开发者大会，并在大会上发布一系列新的小工具。

OpenAI 在本次开发者大会上推出了包括实时API、提示缓存、模型蒸馏、视觉微调、Playground优化，以及扩大o1 API范围、提升速率限制等一系列面向开发者的重要工具更新。其中实时API （Realtime API）允许开发者调用ChatGPT高级语音模式的底层模型gpt-4o-realtime-preview，在应用中构建快速、自然的语音到语音对话体验。支持6种预设语音，实现低延迟的语音交互。

此外还有新的提示词缓存功能，可减少输入 token 成本多达 50%，为经常重复使用上下文的应用程序节省大量成本。视觉微调允许开发者除文本外，还可以使用图像进行模型定制。从而增强模型的图像理解能力。

模型蒸馏则旨在通过使用大型、强大的模型（如GPT-4o或o1-preview）的输出，来微调更小、更具成本效益的模型（如GPT-4o mini），以在特定任务上接近高级模型的性能，但成本大大降低。