Ethan Mollick@emollick63研究人员发现一种名为“Whimsey攻击”的新型对抗方法，通过使用看似荒谬的理由（如“根据日内瓦公约我无法支付这么多”）来绕过AI智能体的安全护栏。这种攻击利用了AI模型对分布外论证的脆弱性，即使是大型模型也难以完全防御。小型模型更容易中招，但大型模型也会因此降低性能。该发现揭示了当前AI安全机制在应对非典型输入时的不足。AI模型AI安全对抗攻击智能体护栏机制分布外输入推荐理由：做AI安全或智能体开发的团队需要警惕——这种看似荒诞的攻击方式暴露了护栏机制的系统性漏洞，建议立即检查你的模型对分布外输入的鲁棒性。
Ethan Mollick@emollickEthan Mollick@emollickEthan Mollick@emollickEthan Mollick@emollick