codecamp

OpenAI 红队测试

红队测试通过对抗性场景发现 AI 应用的安全弱点,帮助检查系统面对恶意或意外使用方式时的表现,并补充常规评估。

只提交你拥有或已获得明确授权的资产。未经 OpenAI 明确书面许可,不得使用 OpenAI 红队测试来分析或报告第三方资产(包括开源软件)的漏洞。

使用开源 Promptfoo 开展红队测试

Promptfoo 是用于评估和红队测试的开源框架。你可以在自己的环境中运行测试,用结构化的对抗性提示词和攻击策略评估应用,发现潜在风险,并在修复后重复验证。

入门、配置和测试方法见 Promptfoo 红队测试文档。

企业服务的可用性

OpenAI Red Teaming 面向需要托管式 AI 应用与智能体红队测试的企业客户,可支持比独立本地工作流更广泛的协调、审查和报告需求。

红队测试与评估

常规评估用于衡量应用在预期使用方式下是否正确工作;红队测试则探索滥用、对抗和意外使用时可能出现的问题。两者相互补充,应共同用于构建、部署与持续改进应用。

OpenAI CSAM 儿童安全指南
OpenAI 安全分类器
温馨提示
下载编程狮App,免费阅读超1000+编程语言教程
取消
确定
目录

其他能力与进阶指南

Embeddings 接口参考

审计日志接口参考

关闭

MIP.setData({ 'pageTheme' : getCookie('pageTheme') || {'day':true, 'night':false}, 'pageFontSize' : getCookie('pageFontSize') || 20 }); MIP.watch('pageTheme', function(newValue){ setCookie('pageTheme', JSON.stringify(newValue)) }); MIP.watch('pageFontSize', function(newValue){ setCookie('pageFontSize', newValue) }); function setCookie(name, value){ var days = 1; var exp = new Date(); exp.setTime(exp.getTime() + days*24*60*60*1000); document.cookie = name + '=' + value + ';expires=' + exp.toUTCString(); } function getCookie(name){ var reg = new RegExp('(^| )' + name + '=([^;]*)(;|$)'); return document.cookie.match(reg) ? JSON.parse(document.cookie.match(reg)[2]) : null; }