2024年下半年,中国大模型商用落地迎来爆发式增长,日均Tokens消耗量激增近10倍,全年公有云大模型调用量高达114.2万亿Tokens。这一趋势推动了数据中心内Token用量的急剧上升,进而引发东西向流量增长和通信能耗加大,使得网络成为AI基础设施的瓶颈。为应对这一挑战,高端网络硬件市场迅速崛起,2024年中国高端以太网端口出货量突破600万个,并预计将以45.6%的复合增长率持续增长。此外,生成式AI相关的网络硬件支出也大幅增长,从2023年的65亿元增至2028年的330亿元,复合增长率为38.5%。特别值得注意的是,中国日均Token消耗量在短短1年半内从1千亿增长至30万亿,增幅超过300倍。