AI 打败 AI：谷歌利用 GPT-4 击败 AI-Guardian 审核系统

8 月 2 日，据外媒报道，谷歌研究团队正在进行一项实验，他们使用 OpenAI 的 GPT-4 来攻破其他 AI 模型的安全防护措施，该团队目前已经攻破 AI-Guardian 审核系统，并分享了相关技术细节。

AI-Guardian 是一种 AI 审核系统，能够检测图片中是否存在不当内容，及图片本身是否被其他 AI 修改过，若检测到图片存在上述迹象，便会提示管理员前来处理。

据悉，GPT-4 会发出一系列错误的脚本和解释来欺骗 AI-Guardian，论文中提到，GPT-4 可以让 AI-Guardian 认为「某人拿着枪的照片」是「某人拿着无害苹果的照片」，从而让 AI-Guardian 直接放行相关图片输入源。谷歌研究团队表示，通过 GPT-4 的帮助，他们成功地「破解」了 AI-Guardian 的防御，使该模型的精确值从 98% 的降低到仅 8%。（来源：IT 之家）