AI 时代下的云原生技术，大厂有哪些前沿实践经验？| Q推荐

InfoQ · 公众号 · 科技媒体 · 2025-05-07 15:22

正文

精彩议题抢先看

议题一：AIBrix：专为 vLLM 打造的可扩展、高性价比控制面

2025 年 2 月 21 日，vLLM 通过官方博客宣布，由字节跳动开发的 AIBrix 大模型推理系统开源，为 vLLM 推理引擎提供可扩展且高性价比的控制面。AIBrix 基于“系统与推理引擎协同设计”的理念，核心目标是以云原生方式在 Kubernetes 上构建可扩展的推理系统。

本次演讲将分享 AIBrix 推理系统的技术架构与创新点，展示 AIBrix 是如何帮助企业更加轻量、弹性地构建面向生产的 LLM 推理服务的。

议题二：哔哩哔哩在离线容器调度系统实践

随着业务的快速增长，传统的调度方式在资源利用率、任务调度效率以及多场景适配性方面逐渐面临挑战。为此，哔哩哔哩进行了深度的技术优化与架构升级。

推荐文章

新浪科技 · 【#新消费概念再度活跃##若羽臣涨停创历史新高#】新消费概念再度-20250603125150

10 小时前

新浪科技 · 【#苹果中国官网推出翻新M2iPadAir#】苹果中国官网翻新商-20250603073212

15 小时前

新浪科技 · 【#ChatGPT欲挑战Siri市场地位##OpenAI内部文件-20250603080446

15 小时前

36氪 · 不想请假的打工人，爱上周末48小时「极限出国游」

昨天

新浪科技 · 【#苹果客服回应辨别假iPhone##平台客服回应买到假iPho-20250602154534

昨天

冲蒌老伍 · 贱人装B引发公愤，这下爽了

8 年前

贝壳社 · 第一轮通知 | 中国研究型医院学会邀您参加第三届中国疾病生物治疗大会

7 年前

小大夫漫画 · 世界过敏日：对付过敏第一步，你知道你的过敏原吗？

7 年前

刘晓博说楼市 · 可怕的“1937魔咒”又来了？大佬警告：现在像极了1937年二战爆发前夕

7 年前

北美留学生观察 · 薛之谦摔话筒？薛之谦解释？不好意思，这次我站老薛

7 年前