收录解读
很多 LLM 的 privacy failure 看起来像是模型根本不理解什么信息不该在什么情境里泄露，但这篇论文切换了问题 framing：也许模型内部已经表示了 contextual privacy norms，只是这些表示没有稳定地转化为行为控制。这把问题从“模型不知道”改成了“表示与行为脱节”。
论文基于 contextual integrity 理论，把隐私规范拆成 information type、recipient 和 transmission principle 三个维度，并系统探测这些维度是否在 activation space 中以可分离、可组合的方向存在。作者进一步提出 CI-parametric steering，沿这些维度做结构化干预，而不是用单一整体向量去硬推模型。结果显示，模型内部确实编码了这套结构，但行为层仍会泄露，由此把 privacy failure 归因到 control gap 而非纯缺失认知。
这篇工作值得收录，因为它把 privacy alignment 从表层 prompt hardening 推进到表示层与 steering 层的结构化研究。对 mechanistic interpretability、concept steering 和 safety control，这不仅是一个隐私小任务，而是一个把社会规范映射到 latent structure 的清晰案例，具有明显方法外溢。
它没有升到更高一级，是因为当前工作仍集中在 contextual privacy 这一特定规范族，外推到更一般的 social norms、policy control 和 production safety stack 还需要更多证据。它是强的表示与控制论文，但还未形成更广的对齐蓝图。
原始摘要与中文对照
中文对照翻译
大型语言模型（LLMs）越来越多地部署在高风险环境中，然而它们经常通过在人类会谨慎行事的情况下披露私人信息来违反情境隐私。这引出了一个基本问题：LLMs内部是否编码了情境隐私规范，如果是，为什么违规行为仍然存在？我们首次系统地研究了LLMs中作为结构化潜在表示的情境隐私，该研究以情境完整性（CI）理论为基础。通过探测多个模型，我们发现三个决定规范的CI参数（信息类型、接收者和传输原则）在激活空间中被编码为线性可分离且功能独立的维度。尽管存在这种内部结构，模型在实践中仍然泄露私人信息，揭示了概念表示与模型行为之间存在明显差距。为了弥合这一差距，我们引入了CI参数化引导，它沿着每个CI维度独立进行干预。这种结构化控制比单一引导更有效、更可预测地减少了隐私违规。我们的结果表明，情境隐私失败源于表示与行为之间的不一致，而非缺乏意识，并且利用CI的组合结构可以实现更可靠的情境隐私控制，从而为改进LLMs中情境隐私的理解提供了启示。1
原始摘要
Large language models (LLMs) are increasingly deployed in high-stakes settings, yet they frequently violate contextual privacy by disclosing private information in situations where humans would exercise discretion. This raises a fundamental question: do LLMs internally encode contextual privacy norms, and if so, why do violations persist? We present the first systematic study of contextual privacy as a structured latent representation in LLMs, grounded in contextual integrity (CI) theory. Probing multiple models, we find that the three norm-determining CI parameters (information type, recipient, and transmission principle) are encoded as linearly separable and functionally independent directions in activation space. Despite this internal structure, models still leak private information in practice, revealing a clear gap between concept representation and model behavior. To bridge this gap, we introduce CI-parametric steering, which independently intervenes along each CI dimension. This structured control reduces privacy violations more effectively and predictably than monolithic steering. Our results demonstrate that contextual privacy failures arise from misalignment between representation and behavior rather than missing awareness, and that leveraging the compositional structure of CI enables more reliable contextual privacy control, shedding light on potential improvement of contextual privacy understanding in LLMs. 1