跳到正文
原文
OpenAI News·· 9 天前精选AI 评分60

OpenAI 为 GPT-6 改进提示词缓存

Better prompt caching for GPT-6

AI 导读

OpenAI 宣布为 GPT-6 改进提示词缓存,带来更高的缓存命中率、新的诊断能力、显式断点以及可降低延迟和成本的控制项。官方称这些改动用于减少延迟与费用,具体用法和参数未在摘要中给出。

推荐理由

官方说明 GPT-6 提示词缓存的变化,读者可据此了解缓存命中率与延迟成本控制的新入口。

来源:OpenAI News · openai.com