AI 时代下的云原生技术，大厂有哪些前沿实践经验？| Q推荐

InfoQ · 公众号 · 科技媒体 · 2025-05-07 15:22

正文

精彩议题抢先看

议题一：AIBrix：专为 vLLM 打造的可扩展、高性价比控制面

2025 年 2 月 21 日，vLLM 通过官方博客宣布，由字节跳动开发的 AIBrix 大模型推理系统开源，为 vLLM 推理引擎提供可扩展且高性价比的控制面。AIBrix 基于“系统与推理引擎协同设计”的理念，核心目标是以云原生方式在 Kubernetes 上构建可扩展的推理系统。

本次演讲将分享 AIBrix 推理系统的技术架构与创新点，展示 AIBrix 是如何帮助企业更加轻量、弹性地构建面向生产的 LLM 推理服务的。

议题二：哔哩哔哩在离线容器调度系统实践

随着业务的快速增长，传统的调度方式在资源利用率、任务调度效率以及多场景适配性方面逐渐面临挑战。为此，哔哩哔哩进行了深度的技术优化与架构升级。

推荐文章

经典人生感悟 · 难过了……任眼泪尽情的洒落

8 年前

鲸媒体 · 【线下活动】教育行业如何高效做运营推广？

7 年前

慈怀读书会 · 5岁丧母，父亲弃家，16岁拿着7毛钱北漂，如今他是当红明星，原生家庭伤害这么大，他却选择原谅

7 年前

健康界 · 开药像开车 “驾照式管理”提升合理用药 | 全国医院擂台赛

7 年前

观察者网 · 虽然只是一家复印店，我却看到了一种精神

7 年前