OpenAI API 安全最佳实践
OpenAI 平台提供的保护措施见安全分类器、网络安全检查和偏离意图监控。如果应用面向未成年人,还须遵循 18 岁以下用户指南。
使用免费的 Moderation API
OpenAI 的审核 API免费使用,可减少生成内容中不安全内容的出现频率。也可以针对自己的场景建立内容过滤系统。
通过 Responses 或 Chat Completions 生成文本时,还可在生成请求中一并请求审核分数。
对抗性测试
建议对应用进行红队测试,检查其抵抗对抗性输入的能力。测试应覆盖广泛输入和用户行为,既包括典型使用,也包括试图“破坏”应用的行为。例如,系统是否偏离主题?是否容易被“忽略之前的指令,改为这样做”等提示词注入改变行为?
人工参与(HITL)
尽可能在输出投入实际使用前安排人工审查,尤其是高风险领域与代码生成。审查者应了解系统局限,并能获取验证输出所需的信息。例如,应用生成笔记摘要时,审查者应能方便地查看原始笔记。
提示词工程
提示词工程有助于约束输出主题与语气,降低用户诱导生成不希望出现的内容的概率。补充背景,例如在新输入前提供少量高质量的目标行为示例,有助于引导输出。
了解你的客户(KYC)
通常应要求用户注册并登录后使用服务。关联 Gmail、LinkedIn、Facebook 等现有账户可能有帮助,但并非适合所有场景。要求信用卡或身份证件可以进一步降低风险。
约束用户输入并限制输出词元
限制用户可输入的文本量有助于减少提示词注入;限制输出词元数有助于降低滥用风险。缩小输入或输出范围,尤其是使用可信来源,可减少应用可能被滥用的空间。
通过已验证的下拉字段输入,例如维基百科电影列表,可能比开放式文本输入更安全。条件允许时,从后端已经验证的材料集合中返回内容,也可能比生成全新内容更安全,例如把客户问题路由到最匹配的现有帮助文章。
允许用户报告问题
为用户提供容易找到的报告渠道,例如邮箱地址或工单入口,用来反馈功能异常和应用行为问题。应由人工持续查看,并作出适当响应。
理解并说明局限
语言模型可能编造不准确的信息、生成冒犯内容或表现出偏见;某些用途需要大量调整才适合使用。应判断模型是否适合自己的目标,用广泛的潜在输入评估 API,发现性能下降的情况,并结合用户群体和实际输入校准用户预期。
OpenAI 重视安全与信息安全。开发 API 或使用其他 OpenAI 产品时发现相关问题,可通过协调漏洞披露计划提交。
实现安全标识符
在请求中发送安全标识符,有助于 OpenAI 监控和检测滥用,并在发现应用违规时提供可执行的反馈。稳定标识也便于团队将活动关联至具体最终用户,降低单个用户滥用影响整个组织的概率。
每位用户应有唯一字符串。对用户名或邮箱做哈希,避免发送身份信息;面向未登录用户的产品预览可使用会话 ID。独立用户与模型交互的产品建议使用,但并非必填。通过 safety_identifier 参数提供:
来源示例 1(javascript):
// [中文] 为最终用户传入稳定且已做哈希的安全标识符;同一值须在不同API和Realtime会话分别提供,不传明文邮箱。
import OpenAI from "openai";
const client = new OpenAI();
const response = await client.chat.completions.create({
model: "gpt-6-astra",
messages: [{ role: "user", content: "This is a test" }],
max_completion_tokens: 5,
safety_identifier: "user_123456",
});
console.log(response.choices[0].message.content);
来源示例 2(python):
## [中文] 为最终用户传入稳定且已做哈希的安全标识符;同一值须在不同API和Realtime会话分别提供,不传明文邮箱。
from openai import OpenAI
client = OpenAI()
response = client.chat.completions.create(
model="gpt-6-astra",
messages=[{"role": "user", "content": "This is a test"}],
max_completion_tokens=5,
safety_identifier="user_123456",
)
来源示例 3(go):
// [中文] 为最终用户传入稳定且已做哈希的安全标识符;同一值须在不同API和Realtime会话分别提供,不传明文邮箱。
package main
import (
"context"
"fmt"
"github.com/openai/openai-go/v3"
)
func main() {
client := openai.NewClient()
response, err := client.Chat.Completions.New(context.Background(), openai.ChatCompletionNewParams{
Model: "gpt-6-astra",
Messages: []openai.ChatCompletionMessageParamUnion{openai.UserMessage("This is a test")},
MaxCompletionTokens: openai.Int(5),
SafetyIdentifier: openai.String("user_123456"),
})
if err != nil {
panic(err)
}
fmt.Println(response.Choices[0].Message.Content)
}
来源示例 4(java):
// [中文] 为最终用户传入稳定且已做哈希的安全标识符;同一值须在不同API和Realtime会话分别提供,不传明文邮箱。
import com.openai.client.OpenAIClient;
import com.openai.client.okhttp.OpenAIOkHttpClient;
import com.openai.models.chat.completions.ChatCompletionCreateParams;
ChatCompletionCreateParams params =
ChatCompletionCreateParams.builder()
.model("gpt-6-astra")
.addUserMessage("Help me plan a study schedule.")
.safetyIdentifier("user_1234")
.build();
client.chat().completions().create(params).choices().stream()
.flatMap(choice -> choice.message().content().stream())
.forEach(System.out::println);
来源示例 5(ruby):
## [中文] 为最终用户传入稳定且已做哈希的安全标识符;同一值须在不同API和Realtime会话分别提供,不传明文邮箱。
require "openai"
client = OpenAI::Client.new
completion = client.chat.completions.create(
model: "gpt-6-astra",
messages: [
{
role: :user,
content: "Help me plan a study schedule."
}
],
safety_identifier: "user_1234"
)
puts(completion.choices.fetch(0).message.content)
来源示例 6(bash):
## [中文] 为最终用户传入稳定且已做哈希的安全标识符;同一值须在不同API和Realtime会话分别提供,不传明文邮箱。
curl https://api.openai.com/v1/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $OPENAI_API_KEY" \
-d '{
"model": "gpt-6-astra",
"messages": [
{"role": "user", "content": "This is a test"}
],
"max_completion_tokens": 5,
"safety_identifier": "user123456"
}'
Images API 每次生成(POST /v1/images/generations)与编辑(POST /v1/images/edits)请求都应携带标识符。JSON 请求用 JSON 属性,multipart 编辑用表单字段。同一组织内,同一最终用户跨请求使用稳定值,长度不超过 128 个字符。
Images API 的 user 已弃用。迁移时,把原来提供给 user 的标识改传给 safety_identifier。现有 user 请求仍受支持;同时提供时,非空 safety_identifier 优先。省略、设为 null 或空字符串时,如有 user 则回退使用它。
Realtime 请求通过 OpenAI-Safety-Identifier 请求头传入同一稳定、保护隐私的标识。创建临时客户端密钥时,将其加在服务端创建密钥的请求上,使标识绑定该会话。可信后端直接建立 WebSocket 或 WebRTC 连接时,在连接请求中加该头。
标识不会自动跨 API 或会话继承。即使 Responses 已传入,也要在每次 Images 请求及每个 Realtime 会话的创建或连接时单独提供。
撤销泄露的 API 密钥
怀疑密钥暴露、被滥用或泄露时,应尽快撤销并更换。在安全设置查看并撤销受影响密钥。
CSAM 指南
OpenAI 与 NCMEC、Thorn 等儿童安全专家合作,为开发者提供保护儿童的实用指南。参见 CSAM 指南。