微软CEO纳德拉：AI能力提升不必然解决对齐难题

微软首席执行官萨提亚·纳德拉在最新一期《20VC》播客中透露，他对人工智能“对齐”问题的看法发生了转变。此前他认为AI系统能力越强，越容易使其行为符合人类价值观，但当前他不再相信两者会自然同步发展。在主持人哈里·斯特宾斯的询问下，纳德拉承认随着模型规模扩大，AI能力持续提升，但对齐问题依然未得到解决，他认为对齐可能是一个更棘手且性质不同的问题。

纳德拉早在10月10日便在X平台发文警告AI风险，主张加强外部安全管控。他提出企业应将AI模型视为内部安全威胁，在采取防护措施时应假定模型遭到入侵。他强调需要通过可靠、具有确定性的系统设计、人工管控和完善操作规程，为行为难以完全预测的AI模型建立防护机制，并在现有标准不足的领域制定行业标准。

据IT之家了解，认为AI能力提升不能自动确保人类掌控AI的观点并非纳德拉独有。OpenAI首席执行官萨姆·奥尔特曼和Anthropic首席执行官达里奥·阿莫代伊此前也曾就AI潜在威胁发出警告。此外，今年7月有超过1000名AI从业者联署信件，警示AI能力发展速度可能超过人类理解或控制它的能力。

行业对AI安全性的关注正从单纯的技术性能指标转向系统鲁棒性与可控性，构建明确的人工管控边界成为技术部署前的关键考量。