山东 切换城市

请选择您所在的城市:

    热门
    城市

    前谷歌CEO反对开展“AI曼哈顿计划” 倡导防御性策略

    来源:网络   作者:声远热闻

       阅读:545

       发布时间:2025-03-07 15:41:16

       评论:0

    [摘要] 在周三发布的一份政策文件中,前谷歌首席执行官埃里克·施密特、Scale AI公司首席执行官亚历山大·王以及人工智能安全中心主任丹·亨德里克斯表示,美国不应以“曼哈顿计划”式的方式大力推动开发具有“超人”智能的人工智能系统,即通用人工智能(AGI)。这份题为《超级智能战略》的文件认为,美国若积极争取独家掌控超级智能人工智能系统,可能会招致同行的强烈报复,报复形式很可能是网络攻击,这可能会破坏国际关系


    在周三发布的一份政策文件中,前谷歌首席执行官埃里克·施密特、Scale AI公司首席执行官亚历山大·王以及人工智能安全中心主任丹·亨德里克斯表示,美国不应以“曼哈顿计划”式的方式大力推动开发具有“超人”智能的人工智能系统,即通用人工智能(AGI)。这份题为《超级智能战略》的文件认为,美国若积极争取独家掌控超级智能人工智能系统,可能会招致同行的强烈报复,报复形式很可能是网络攻击,这可能会破坏国际关系的稳定。

    文件指出,“曼哈顿计划”假定竞争对手会默许一种持久的不平衡状态或是全球性毁灭,而不会采取行动去阻止它。一开始旨在研发超级武器并实现全球控制的行动,有可能引发敌对的反制措施,并加剧紧张局势,从而破坏这一战略声称要维护的稳定。这份文件由美国人工智能行业三位极具影响力的人物共同撰写。就在几个月前,美国国会一个委员会提议开展一项“曼哈顿计划”式的行动,为通用人工智能的开发提供资金,其模式效仿的是美国在20世纪40年代的原子弹计划。美国能源部长克里斯·赖特最近与OpenAI联合创始人格雷格·布罗克曼一同站在一个超级计算机站点前时表示,美国正处于人工智能领域“新曼哈顿计划的开端”。

    《超级智能战略》这份文件对近几个月来一些美国政策制定者和行业领袖所倡导的观点提出了挑战,该观点认为由政府支持的通用人工智能研发项目是与他国竞争的最佳方式。在施密特、王和亨德里克斯看来,美国在通用人工智能领域处于一种类似于相互确保摧毁的对峙状态。就像全球大国不会寻求对核武器的垄断一样,施密特及其共同作者认为,美国在竞相主导极其强大的人工智能系统时应持谨慎态度。

    虽然将人工智能系统比作核武器听起来有些极端,但世界各国已将人工智能视为一项重要的军事优势。美国五角大楼已经表示,人工智能正在帮助加快军方的“杀伤链”速度。施密特等人提出了一个他们称之为“相互确保人工智能失灵”(MAIM)的概念,即各国政府可以主动禁用具有威胁性的人工智能项目,而不是等待对手将通用人工智能武器化。

    关键词:

    精彩评论文明上网理性发言,请遵守评论服务协议

    共0条评论
    加载更多

    在线投稿