专栏名称: 吉时通信
连通资本与实业,关注大通信业变迁趋势!及时的行业资讯、投研观点分享
目录
相关文章推荐
中国基金报  ·  宣布终止!000078“深表歉意” ·  9 小时前  
中国基金报  ·  突发!300205、600387,被证监会立案! ·  11 小时前  
中国基金报  ·  比亚迪刷屏!王传福重磅发声,信息量大! ·  21 小时前  
中国基金报  ·  5家券商,评为A类! ·  2 天前  
51好读  ›  专栏  ›  吉时通信

【国盛通信】Deep Seek开源风暴,掀开公有云下个黄金十年

吉时通信  · 公众号  ·  · 2025-03-03 17:17

正文

请到「今天看啥」查看全文


利润率为理论天花板,输入负载压力大。 DeepSeek给出的毛利率是在不考虑运维过程中可能遇到的问题、不考虑用户体验的基础上的理论值,充分证明在推理端大规模集群的高效率。我们关注到其24小时输入token数量大于输出token,且KVCache击中率高达56.3%,我们认为与长文本上下文对话、问答搜索以及问题类型有关,导致输入token大于输出token。同时,输入的负载预测相对较难,输入大幅增加,等待时长大幅度增长。

训推一体符合商业规律,大集群效率提升空间巨大。 我们注意到DeepSeek集群同时承担了推理和训练的工作,企业或组织在有限的资金背景下,建设一个能满足各种需求的训推一体集群更符合商业规律,而极高的利润率,能帮助其在硬件折旧期限内便实现回本,这将给算力投入方继续投资的信心。同时,我们也看到了类似传统云计算的规模效应,大集群可以进行7*24h的性能和价值压榨,通用性GPU为主的AI大集群,在计算和通信的硬件能力上都大幅度提升,效率提升空间相较CPU集群更大。

DeepSeek的开源风暴掀开了公有云的下一个黄金十年。 公有云在过去十几年云计算的发展中,充分证明了自己在效率、经济性和商业价值上的正确性,AI时代则将进一步提升公有云的优势,云厂商建设越来越大的集群来实现更好的规模效应,企业和用户通过公有云或类似按需订阅服务,能够廉价便捷的使用到最强大的模型。当前绝大部分需求是文生文的token,多模态尚未真正开启scaling law,我们有理由相信,随着模型能力的进一步提升,需求将进一步井喷,算力建设将复刻云计算的黄金十年。







请到「今天看啥」查看全文