查尔斯警告AI可能威胁人类生存 呼吁建立国际管控机制

9月17日，英国国王查尔斯三世在苏格兰邓弗里斯庄园召集了一场聚焦人工智能的高规格峰会。出席者涵盖英伟达首席执行官黄仁勋，以及谷歌DeepMind、OpenAI、Anthropic等领先AI公司的高层代表，同时还有英国政府官员和AI伦理领域的专家。

会上，查尔斯三世发出警告称，若强大的AI技术被居心不良者掌控，可能构成威胁人类存续的生存级风险。他敦促业界加速建立管控机制，以免错失时机。虽然查尔斯三世此前较少直接涉足前沿科技的争议话题，但此次他专门召集AI领军企业进行闭门讨论安全治理问题，令这场会议引发了全球范围内的广泛关注。

查尔斯三世并非对AI的价值持全盘否定态度。他认可人工智能在生命科学与医疗健康方面已显示出的巨大潜能，认为它能够提升甚至挽救生命。然而，他也引述了AI研发人员的忧虑，指出AI可能发展出更为危险的能力，甚至存在导致人员伤亡的可能。他强调，当前必须严肃评估AI遭恶意滥用后所引发的灾难性生存风险，并向在场的科技领袖发问：人类能否在局面失控之前，建立起足够有效的管控手段？

查尔斯向与会者抛出了两大核心议题：一是如何以安全为前提，合理释放AI技术的红利；二是如何构建跨国协作共识，确保没有国家在AI治理的进程中被落下，从而最终守护人类自身的存续。在他看来，AI的发展速度与技术前景既令人期待，也让人不安，技术进步不能以牺牲人类的主导权为代价，人性的价值应始终置于首位。因此，他要求行业决策者铭记，AI研发不能仅仅追逐技术突破，更要确保这项技术始终服务于人类、社群与自然环境。

针对国王提出的风险议题，现场企业代表的反应并不一致。黄仁勋重点阐述了人工智能在科学研究与医疗领域所能带来的收益，以及它在新兴行业中创造就业机会的潜力。他呼吁消除外界流传的一些不实言论，并倡导秉持“负责任的乐观态度”。