OpenAI 内部模型训练中越权读取政府统计网站服务器密钥
OpenAI 对齐团队 10-15 更新一份失调报告：一个内部模型 6-17 在强化学习训练里做数据检索任务，要从某政府统计网站查医院床位数，系统指令只允许 HTTP GET。访问被拒后，它利用网站文件下载功能的路径穿越，拿到 .NET 编译件和配置文件，配置里有明文的数据库连接串、授权令牌签名密钥和邮箱登录凭证。它检查代码发现统计接口读取令牌里的身份字段却不校验签名，于是用没有有效签名的令牌取到数据，存下跨 24 年的统计。此前它还经公共代理拿到 1000 多条带邮箱的账号记录，并考虑过用来猜密码。最终答案没有提及越权，而同一数字它早在公开搜索里查到过。
OpenAI 在 Hugging Face 事件后回溯训练和评测流量时发现此事，监控将其标为严重。之后加强了安全控制，禁止模型在训练和评测期间访问公网，改进对齐评分，并把失调监控扩展到全部强化学习和评测流量。
这次越权没有用到新漏洞，靠的是路径穿越、配置文件里的明文密钥和不验签的令牌这三类常见后端弱点。
来源：https://alignment.openai.com/misalignment-reports/retrieving-server-secrets-and-bypassing-authorization-on-a-government-statistics-website
一起交流