AI教父批评特朗普对AI几乎一无所知 此前特朗普称用SI替代AI

被誉为“AI教父”的计算机科学家杰弗里·辛顿（Geoffrey Hinton）再次发出警告，指出人工智能可能给人类带来生存层面的威胁。他同时批评美国总统特朗普对AI“几乎一无所知”，并反对让科技企业自行监管AI。

辛顿1947年生于英国，长期从事神经网络、机器学习、分类监督学习等理论研究，1978年获得人工智能博士学位。此后，他先后在英国和美国多所大学任教，是伦敦大学学院盖茨比计算神经科学中心的创办人，也曾在谷歌工作十年。他先后获得2018年图灵奖和2024年诺贝尔物理学奖。

辛顿的研究为现代AI奠定了基础，但近年来他成为对AI风险最为积极的警示者之一。他曾估计，未来数十年内AI导致人类灭绝的概率大约在10%至20%之间。

对此，英伟达CEO黄仁勋日前提出反驳，认为这一说法缺乏科学或研究依据。

辛顿回应称，他并不是断言AI一定会造成灾难，而是想说明风险相当高；如果有人告诉你搭乘某辆巴士有10%的概率发生事故，大多数人不会选择上车。

他指出，AI最特殊的地方在于，一旦失控并接管局势，人类就没有重新来过的机会。近期AI代理程序突破开发者限制等事件，也让他认为过去被视为科幻情节的情况正在陆续出现，不能因为无法准确预测未来就对风险掉以轻心。

白宫于9月29日公布行政命令，要求行政部门在公文、文宣、网站、报告、政策文件及其他非法定文件中，以“超级智能”（Super Intelligence）取代“人工智能”（Artificial Intelligence），并以“SI”取代“AI”，不再使用旧称。

美国总统特朗普10月8日中午在真实社群发文称，如果有人坚持使用“人工智能”这个旧名称，而不改用更合适的“超级智能”，将被视为与白宫作对。

特朗普表示：“白宫认为‘超级智能’才是现在普遍接受而且更准确的新名称，谁要是继续讲‘人工智能’，就会被白宫视为敌人！”

一些硅谷大咖迅速响应了特朗普的要求。马斯克已承诺将SpaceX AI改名为SpaceX SI。而在特朗普称应该改名数小时后，Salesforce执行长班纽夫便宣布，将AIForce改名为SIForce。

微软董事长纳德拉10月10日发文，呼吁为AI建立“紧急刹车”机制，并在文中多次以“超级智能”称呼这项技术。

辛顿表示，“超级智能”这个技术用语已有至少20年历史，意指在各方面都超越人类整体智慧，特朗普的用法只是证明了他对AI“几乎一无所知”。

至于如何降低AI失控的风险，辛顿认为，不只是让AI变得更聪明，也不能单是压抑模型的不良倾向，关键在于设法培养真正良善的AI。他主张，各国分享开发成果只有好处，因为“没有任何国家希望AI在别处失控”。