微软CEO纳德拉呼吁重构AI信任架构，引入“紧急刹车”等安全机制

微软 CEO 萨蒂亚·纳德拉发表长文强调，开发者不能依赖 AI 自我监控，应默认假设模型可能被攻破或失控，并构建可观测、独立控制与可强制中断的封闭信任架构。他提出了包含模型多样性、独立审计、防篡改证据留存以及紧急刹车控制等具体原则，要求系统出现故障时及时向行业公开经验。

微软 CEO 萨提亚·纳德拉发文表示应默认所有 AI 模型均已被妥协，并呼吁建立透明的安全隔离与紧急刹车机制。他强调授权人员必须能够在模型执行任务的中途随时将其暂停或关闭，同时建议行业推行及时事故披露、独立审计和可验证数据等标准。

微软 CEO 萨提亚·纳德拉呼吁为 AI 模型引入“紧急刹车”机制，主张将模型与控制框架分离，并确保授权人员能在任务中途随时暂停或关闭模型。他提出所有有意义的模型行为都应记录不可篡改且人类可读的凭据，并在设计上假设模型受损并从一开始加以遏制。