跳到正文
原文
OpenAI News·AI 评分48

GPT-6 如何改进提示词缓存

Better prompt caching for GPT-6

AI 导读

GPT-6 通过更高的缓存命中率、新增诊断能力、显式断点以及控制选项改进提示词缓存,以降低延迟和成本。

来源:OpenAI News · openai.com