职位描述
每经评论员 杜恒峰刚刚过去的周末，OpenAI首席执行官奥尔特曼、Anthropic首席执行官阿莫代伊与xAI老板马斯克罕见站到同一阵线。三人均主张，放缓前沿大模型迭代，让模型与人类目标对齐，引入独立第三方完成安全评估，通过检查点后再解锁下一代训练。安全与对齐是大模型发展到现阶段必须要回答的命题。今年以来，头部实验室在安全评测场景下多次出现突破沙箱、超出设定边界的行为，有研究员甚至因为担心先进模型“毁灭人类”而愤然辞职。大模型的技术特点，决定了人工智能“递归式自我改进”（RSI）会放大模型失控风险，现有安全测试已难以预判更高能力模型的危害，引入独立第三方、设置能力检查点、开放训练流程，填补了外