Anthropic在IPO招股说明书中罕见地警示,其AI技术可能给人类带来灾难性或生存性风险。招股书近三分之一篇幅用于阐述风险因素,披露公司仅将约6%的计算资源用于安全研究。同时,引用研究员观点称,AI在十年内导致人类死亡的概率超过10%。AI安全治理面临诸多挑战,如成本即时产生而收益难以预见、效果不可预测,还存在安全评估失效、发展速度与安全投入之间的冲突,以及行业相关事件频发等问题。Anthropic认为,构建安全的AI是全社会的共同责任,且市场将给予相应回报。不过,也有投资者认为,Anthropic对安全的强调本质上是为了服务其ToB业务的增长。近期,Anthropic的估值与年化收入迅速增长,客户群体逐渐转向企业,产品不断拓展。在模型能力领先的前提下,安全正成为其吸引企业客户的重要商业卖点。
