codecamp

OpenAI 成本优化

使用OpenAI模型时,可以通过多种方式降低成本。费用与延迟通常相互关联:减少词元和请求,往往也能加快处理。Batch API与Flex处理还提供了其他降本途径。

成本与延迟

可考虑以下策略:

  • 减少请求:降低完成任务所需的API调用次数。
  • 减少词元:压缩输入,并优化提示词以获得更短的输出。
  • 选择较小模型:在维持所需准确性的前提下,平衡模型费用与延迟。

进一步的方法见延迟优化。

Batch API

Batch API异步处理作业。先将多条请求收集到一个文件,启动批处理,再在后台执行期间查询状态,完成后统一取回结果。它适合无需即时响应的工作。

开始使用Batch API。

Flex处理

Flex以更慢的响应和偶尔资源不可用,换取较低的Chat Completions或Responses请求费用,适合非生产或较低优先级任务,例如模型评测、数据补充和异步工作负载。

开始使用Flex处理。

OpenAI Batch API
OpenAI API 部署检查清单
温馨提示
下载编程狮App,免费阅读超1000+编程语言教程
取消
确定
目录

其他能力与进阶指南

Embeddings 接口参考

审计日志接口参考

关闭

MIP.setData({ 'pageTheme' : getCookie('pageTheme') || {'day':true, 'night':false}, 'pageFontSize' : getCookie('pageFontSize') || 20 }); MIP.watch('pageTheme', function(newValue){ setCookie('pageTheme', JSON.stringify(newValue)) }); MIP.watch('pageFontSize', function(newValue){ setCookie('pageFontSize', newValue) }); function setCookie(name, value){ var days = 1; var exp = new Date(); exp.setTime(exp.getTime() + days*24*60*60*1000); document.cookie = name + '=' + value + ';expires=' + exp.toUTCString(); } function getCookie(name){ var reg = new RegExp('(^| )' + name + '=([^;]*)(;|$)'); return document.cookie.match(reg) ? JSON.parse(document.cookie.match(reg)[2]) : null; }