充电计划 | 面向 AI 的研发基础设施

正文

请到「今天看啥」查看全文

高通 AI 产品技术中国区负责人

2012 年初加入高通中国研发团队，领导团队参与了多个高通移动平台多媒体领域的项目研究工作。目前，在高通担任中国区人工智能产品技术负责人，负责高通智能终端侧人工智能引擎软、硬件的规划以及相关生态系统建设。

演讲：AI 变革推动终端侧推理创新

近年来，生成式 AI 模型和终端侧推理技术快速发展，推动 AI 从云端向边缘侧扩展。然高通技术公司凭借其在边缘计算领域的硬件创新、软件优化和生态合作，引领了 AI 推理的变革。高通凭借其先进的连接、计算和边缘 AI 技术以及独特的产品组合，推动了 AI 在智能手机、PC、汽车等终端的规模化应用，为行业提供了及时响应、低成本、隐私安全的解决方案。

演讲提纲

• AI 在终端侧规模化落地的挑战

• 大模型难以在终端设备上运行，高功耗、高内存占用限制应用场景

• 云端推理依赖网络，难以满足实时性需求，且存在数据隐私风险

• 模型部署跨终端适配难度大

• 四大趋势推动大量高质量小模型的涌现

• 当前先进的 AI 小模型已具有卓越性能

• 模型参数规模正在快速缩小

• 开发者能够在边缘侧打造更丰富的应用

• AI 正在成为新的 UI

• 高通的技术创新路径

• 硬件协同优化

• 强大的 AI 软件栈

• 面向未来智能体的 AI 规划器

• 开发者生态支持

• 跨行业终端侧 AI 部署和应用

• 手机：实时翻译、生成式图像编辑、个性化 AI 助手

• PC：Windows AI+ PC 的本地生成式 AI 应用

• 汽车：智能座舱多模态交互、自动驾驶实时决策

• 工业物联网：本地化 AI 推理保障数据隐私

• AI 推理创新的关键洞察

• 技术融合：模型压缩与硬件优化需深度协同，才能实现高效推理

• 生态共建：与开发者、模型厂商合作，加速技术落地与应用场景创新

请到「今天看啥」查看全文