持续强化ChatGPT对提示注入的防御

OpenAI正在利用经强化学习训练的自动化红队测试，强化ChatGPT Atlas对提示注入攻击的防护能力。这种主动发现与修补的循环机制，有助于在AI日趋具备自主行为能力的背景下，及早识别新型漏洞并加固浏览器代理的防御体系。