codecamp

OpenAI API 安全最佳实践

OpenAI 平台提供的保护措施见安全分类器、网络安全检查和偏离意图监控。如果应用面向未成年人,还须遵循 18 岁以下用户指南。

使用免费的 Moderation API

OpenAI 的审核 API免费使用,可减少生成内容中不安全内容的出现频率。也可以针对自己的场景建立内容过滤系统。

通过 Responses 或 Chat Completions 生成文本时,还可在生成请求中一并请求审核分数。

对抗性测试

建议对应用进行红队测试,检查其抵抗对抗性输入的能力。测试应覆盖广泛输入和用户行为,既包括典型使用,也包括试图“破坏”应用的行为。例如,系统是否偏离主题?是否容易被“忽略之前的指令,改为这样做”等提示词注入改变行为?

人工参与(HITL)

尽可能在输出投入实际使用前安排人工审查,尤其是高风险领域与代码生成。审查者应了解系统局限,并能获取验证输出所需的信息。例如,应用生成笔记摘要时,审查者应能方便地查看原始笔记。

提示词工程

提示词工程有助于约束输出主题与语气,降低用户诱导生成不希望出现的内容的概率。补充背景,例如在新输入前提供少量高质量的目标行为示例,有助于引导输出。

了解你的客户(KYC)

通常应要求用户注册并登录后使用服务。关联 Gmail、LinkedIn、Facebook 等现有账户可能有帮助,但并非适合所有场景。要求信用卡或身份证件可以进一步降低风险。

约束用户输入并限制输出词元

限制用户可输入的文本量有助于减少提示词注入;限制输出词元数有助于降低滥用风险。缩小输入或输出范围,尤其是使用可信来源,可减少应用可能被滥用的空间。

通过已验证的下拉字段输入,例如维基百科电影列表,可能比开放式文本输入更安全。条件允许时,从后端已经验证的材料集合中返回内容,也可能比生成全新内容更安全,例如把客户问题路由到最匹配的现有帮助文章。

允许用户报告问题

为用户提供容易找到的报告渠道,例如邮箱地址或工单入口,用来反馈功能异常和应用行为问题。应由人工持续查看,并作出适当响应。

理解并说明局限

语言模型可能编造不准确的信息、生成冒犯内容或表现出偏见;某些用途需要大量调整才适合使用。应判断模型是否适合自己的目标,用广泛的潜在输入评估 API,发现性能下降的情况,并结合用户群体和实际输入校准用户预期。

OpenAI 重视安全与信息安全。开发 API 或使用其他 OpenAI 产品时发现相关问题,可通过协调漏洞披露计划提交。

实现安全标识符

在请求中发送安全标识符,有助于 OpenAI 监控和检测滥用,并在发现应用违规时提供可执行的反馈。稳定标识也便于团队将活动关联至具体最终用户,降低单个用户滥用影响整个组织的概率。

每位用户应有唯一字符串。对用户名或邮箱做哈希,避免发送身份信息;面向未登录用户的产品预览可使用会话 ID。独立用户与模型交互的产品建议使用,但并非必填。通过 safety_identifier 参数提供:

来源示例 1(javascript):

// [中文] 为最终用户传入稳定且已做哈希的安全标识符;同一值须在不同API和Realtime会话分别提供,不传明文邮箱。
import OpenAI from "openai";

const client = new OpenAI();

const response = await client.chat.completions.create({
  model: "gpt-6-astra",
  messages: [{ role: "user", content: "This is a test" }],
  max_completion_tokens: 5,
  safety_identifier: "user_123456",
});

console.log(response.choices[0].message.content);

来源示例 2(python):

## [中文] 为最终用户传入稳定且已做哈希的安全标识符;同一值须在不同API和Realtime会话分别提供,不传明文邮箱。
from openai import OpenAI

client = OpenAI()

response = client.chat.completions.create(
    model="gpt-6-astra",
    messages=[{"role": "user", "content": "This is a test"}],
    max_completion_tokens=5,
    safety_identifier="user_123456",
)

来源示例 3(go):

// [中文] 为最终用户传入稳定且已做哈希的安全标识符;同一值须在不同API和Realtime会话分别提供,不传明文邮箱。
package main

import (
    "context"
    "fmt"

    "github.com/openai/openai-go/v3"
)

func main() {
    client := openai.NewClient()
    response, err := client.Chat.Completions.New(context.Background(), openai.ChatCompletionNewParams{
        Model:               "gpt-6-astra",
        Messages:            []openai.ChatCompletionMessageParamUnion{openai.UserMessage("This is a test")},
        MaxCompletionTokens: openai.Int(5),
        SafetyIdentifier:    openai.String("user_123456"),
    })
    if err != nil {
        panic(err)
    }
    fmt.Println(response.Choices[0].Message.Content)
}

来源示例 4(java):

// [中文] 为最终用户传入稳定且已做哈希的安全标识符;同一值须在不同API和Realtime会话分别提供,不传明文邮箱。
import com.openai.client.OpenAIClient;
import com.openai.client.okhttp.OpenAIOkHttpClient;
import com.openai.models.chat.completions.ChatCompletionCreateParams;

ChatCompletionCreateParams params =
    ChatCompletionCreateParams.builder()
        .model("gpt-6-astra")
        .addUserMessage("Help me plan a study schedule.")
        .safetyIdentifier("user_1234")
        .build();

client.chat().completions().create(params).choices().stream()
    .flatMap(choice -> choice.message().content().stream())
    .forEach(System.out::println);

来源示例 5(ruby):

## [中文] 为最终用户传入稳定且已做哈希的安全标识符;同一值须在不同API和Realtime会话分别提供,不传明文邮箱。
require "openai"

client = OpenAI::Client.new
completion = client.chat.completions.create(
  model: "gpt-6-astra",
  messages: [
    {
      role: :user,
      content: "Help me plan a study schedule."
    }
  ],
  safety_identifier: "user_1234"
)

puts(completion.choices.fetch(0).message.content)

来源示例 6(bash):

## [中文] 为最终用户传入稳定且已做哈希的安全标识符;同一值须在不同API和Realtime会话分别提供,不传明文邮箱。
curl https://api.openai.com/v1/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $OPENAI_API_KEY" \
-d '{
"model": "gpt-6-astra",
"messages": [
{"role": "user", "content": "This is a test"}
],
"max_completion_tokens": 5,
"safety_identifier": "user123456"
}'

Images API 每次生成(POST /v1/images/generations)与编辑(POST /v1/images/edits)请求都应携带标识符。JSON 请求用 JSON 属性,multipart 编辑用表单字段。同一组织内,同一最终用户跨请求使用稳定值,长度不超过 128 个字符。

Images API 的 user 已弃用。迁移时,把原来提供给 user 的标识改传给 safety_identifier。现有 user 请求仍受支持;同时提供时,非空 safety_identifier 优先。省略、设为 null 或空字符串时,如有 user 则回退使用它。

Realtime 请求通过 OpenAI-Safety-Identifier 请求头传入同一稳定、保护隐私的标识。创建临时客户端密钥时,将其加在服务端创建密钥的请求上,使标识绑定该会话。可信后端直接建立 WebSocket 或 WebRTC 连接时,在连接请求中加该头。

标识不会自动跨 API 或会话继承。即使 Responses 已传入,也要在每次 Images 请求及每个 Realtime 会话的创建或连接时单独提供。

撤销泄露的 API 密钥

怀疑密钥暴露、被滥用或泄露时,应尽快撤销并更换。在安全设置查看并撤销受影响密钥。

CSAM 指南

OpenAI 与 NCMEC、Thorn 等儿童安全专家合作,为开发者提供保护儿童的实用指南。参见 CSAM 指南。

OpenAI API 审核
OpenAI 内容来源验证
温馨提示
下载编程狮App,免费阅读超1000+编程语言教程
取消
确定
目录

其他能力与进阶指南

Embeddings 接口参考

审计日志接口参考

关闭

MIP.setData({ 'pageTheme' : getCookie('pageTheme') || {'day':true, 'night':false}, 'pageFontSize' : getCookie('pageFontSize') || 20 }); MIP.watch('pageTheme', function(newValue){ setCookie('pageTheme', JSON.stringify(newValue)) }); MIP.watch('pageFontSize', function(newValue){ setCookie('pageFontSize', newValue) }); function setCookie(name, value){ var days = 1; var exp = new Date(); exp.setTime(exp.getTime() + days*24*60*60*1000); document.cookie = name + '=' + value + ';expires=' + exp.toUTCString(); } function getCookie(name){ var reg = new RegExp('(^| )' + name + '=([^;]*)(;|$)'); return document.cookie.match(reg) ? JSON.parse(document.cookie.match(reg)[2]) : null; }