面向未成年人的 AI 暴力预防：API 集成中的提前干预与报告约束

据 OpenAI 2026 年 10 月 30 日的社区安全报告页面，其标题与摘要显示：ChatGPT 正在加强暴力预防，措施包括扩大防护、更早干预，以及新增公共安全报告承诺；标题还提到面向青少年的新保护。材料只提供到这一层，具体年龄门槛、检测方式、覆盖范围和效果数据未在摘要中出现，待核实。对通过 API.PLUS 集成模型能力的团队而言，可确定的方向不是“加一个审核接口”，而是把防护、提前干预和报告拆成三条可分别验证的工程链路。

先定义三条链路#

防护处理已经出现的显性风险；提前干预处理尚未构成明确暴力内容、但风险在累积的对话；公共报告处理事件之后如何统计、复核和对外说明。三者可以共用风险分类，但不应共用同一个阈值：前两者追求低延迟，后者要求可审计和隐私保护。

年龄未知时要有保守路径#

未成年人身份往往不能从一次请求中可靠判断。建议把“已知未成年”“已知成年”“未知”作为三种状态，而不是二选一；未知状态采用较保守的默认策略，并限制为判定年龄而过度收集身份信息。是否允许家长或监护人管理、如何申诉，属于产品和法律边界，需结合所在地区核实。

提前干预的难点是误报和可回退#

“更早”意味着在明确暴力内容出现前采取动作，误报率会上升。工程上应把处置做成阶梯：提示并允许继续、收窄回答范围、拒绝并给出求助信息、转人工复核。每一级都要记录触发原因和策略版本，保留人工覆盖入口；阈值不能照搬外部案例，应由本地评估、法律审查和真实误报成本共同确定。

报告能力先于报告承诺#

如果产品要对外承诺安全报告，先定义“可报告事件”：哪些风险类别计入、按请求还是按会话计数、时间窗多长、如何去标识化、谁有权访问。日志建议记录风险类别、策略版本、处置动作、模型版本和人工复核结果，尽量少存原始对话；保留期限与跨境传输需单独核实。没有这些口径，“报告”很容易变成无法复核的数字。

上线前的检查项#

• 多轮对话、角色扮演、图片或附件入口是否都进入同一风险决策链路；能力范围待核实。
• 年龄未知、误报、人工覆盖和策略回滚是否有明确路径。
• 安全报告字段能否从日志稳定复算，是否经过隐私与法律审核。
• 供应商侧防护更新后，应用侧是否有版本记录和回归测试。

结论：面向未成年人的暴力预防是产品、策略与工程的联合约束。公开材料目前只支持“扩大防护、提前干预、增加报告承诺”这一级别的事实；把口号落成系统时，最该先写清的是年龄未知时的默认值、干预阶梯和报告口径，而不是追求一个看似精确的风险分数。