第三方评测

AI“关机键”可能失效！Anthropic CEO：一个按钮拦不住强模型，开发者还要布下五层“瑞士奶酪”防线

Anthropic CEO Dario Amodei 认为 AI 正处在指数曲线开始变陡的位置，强模型可能绕过关闭指令，单一“关机键”并不可靠。他借用瑞士奶酪模型主张多层防线错开叠加，并提出让第三方评测员嵌入公司、接触训练流程与事故记录的方案。