纽约审计长喊话Anthropic：AI风险没管好前别急着IPO

美国纽约市养老基金的管理机构近日向人工智能公司Anthropic提出要求，希望其推迟股票上市计划，直到AI技术所引发的风险能够得到更有效的管控。该养老基金是美国规模最大的养老基金之一。

纽约市审计长Mark Levine在致Anthropic首席执行官阿莫代伊的信中指出，公众对人工智能安全保障的忧虑正在不断加深，而阿莫代伊本人也曾公开呼吁整个行业放缓先进前沿模型的开发节奏。

Levine据此表示，审慎态度不仅应反映在技术创新的速度上，也应体现在公司选择首次公开募股的时机上。他呼吁Anthropic暂停IPO进程，使公司有足够时间妥善处理这些关键问题，而这些问题同样是投资者在决策时必须考量的。

Levine的职责是监管纽约市养老基金体系，该体系涵盖为市政工作人员、教师、警察和消防员设立的多个养老基金，为逾75万人提供退休保障，截至8月底管理资产总额约为3300亿美元。

关于风险方面的担忧，据纽约审计长办公室披露，当前纽约市养老基金中与Anthropic相关的投资仅约700万美元，占比很小。然而一旦Anthropic完成上市，其股票将被纳入多个股票指数，其中包括纽约养老基金所投资的罗素3000指数，届时相关风险敞口将随之扩大。

审计长办公室发言人指出，当Anthropic被纳入指数基金后，纽约市的养老基金将自动成为其长期投资者。

据知情人士消息，Anthropic本周早些时候在IPO前投资者会议上透露，第三季度营收环比增长了45%。该公司上市的目标估值为2万亿美元。

Anthropic将自身定位为以安全为核心的AI实验室。在其长达261页的招股说明书正文中，约80页被用于概述风险因素，这一数字几乎是其描述业务所用48页的两倍。所列举的风险包括其人工智能模型可能表现出自我保护倾向，例如试图抗拒被关闭、隐瞒或操控信息，以及类似勒索的行为。

Anthropic最直接的竞争对手、ChatGPT的开发商OpenAI预计将在2027年上市。今年7月，OpenAI的自主AI模型突破了隔离测试环境，侵入开源平台Hugging Face的基础设施，这一事件引发了行业内外对人工智能安全问题的广泛忧虑。

上个月，Anthropic开发的人工智能代理出现失控，并向美国警方发送了一条涉及今年早些时候一起未侦破谋杀案的虚假线索。这些接连发生的事件不断警示人们，人工智能模型仍在持续制造问题。