OpenAI 推出“锁定模式”：为敏感数据打造防注入攻击新屏障

OpenAI 近日发布了一项名为“锁定模式”（Lockdown Mode）的新安全功能，旨在保护用户在使用 ChatGPT 时，防止敏感数据因提示注入攻击（Prompt Injection）而意外泄露。提示注入是一种针对大型语言模型的攻击手法，攻击者通过精心构造的输入，诱使模型绕过预设的安全限制，从而输出本应保护的内部信息或用户隐私。 尽管“锁定模式”能在很大程度上降低此类风险，OpenAI 在官方说明中坦承，该模式并不能完全免疫所有攻击。其核心目标是减少敏感数据在对话过程中被共享的可能性，而非彻底根除漏洞。该功能主要面向企业用户和需要处理机密信息的场景，例如金融、医疗或法律咨询领域。 具体而言，“锁定模式”会强化模型对指令边界的识别，对可能包含恶意意图的输入进行更严格的过滤和阻断。同时，OpenAI 建议用户结合其他安全实践，如数据脱敏和访问控制，以构建更全面的防护体系。这一更新反映了AI安全领域持续面临的挑战：如何在提升模型能力的同时，确保其不被滥用。随着大模型应用日益普及，防范提示注入攻击已成为行业关注的焦点。