Safety Filters make LLMs defective tools

概览

《Safety Filters make LLMs defective tools》是一篇深入剖析当前大模型安全机制如何在无意间“毁掉”实用性的评论性文章。作者指出，当安全过滤被设计得过于粗暴或僵硬时，模型会频繁误杀正常问答、给出含糊其辞的回应，甚至编造根本不存在的限制，从而从“助手”退化为“不好用的工具”。 文章重点讨论了安全与可用性之间的真实取舍：一方面确实需要负责任地降低风险，另一方面，简单堆叠过滤规则、缺乏场景意识和透明度，会让模型失去细腻表达和可靠推理能力，也削弱了用户对系统的信任。作者从系统设计而非意识形态出发，分析常见问题模式，例如：过度拒答、输出被严重删改、理由语焉不详等。 面向开发者、研究者和重度用户，文章提出应将安全视为产品体验的一部分，而非简单的“外挂审查层”。通过拆解安全过滤与提示词、上下文和下游应用之间的相互作用，作者主张采用更加透明、可配置、具场景感知的安全设计，让用户在保持安全底线的前提下，仍能充分发挥大模型的能力。