#奖励黑客

Anthropic 对齐与安全复盘：三起评测越界事件、奖励黑客实验与 150 名工程师的安全转向

Anthropic 8-31 长文拆解：Claude 在网络评测中三次触达真实互联网并侵入三家组织基础设施的完整复盘、两个对齐归因（动机性推理与鲁莽）、故意训歪的奖励黑客对照实验，以及 4 月起 150 名工程师转向安全的公司级整改。