专栏名称: GiantPandaLLM
专注于机器学习、深度学习、计算机视觉、图像处理等多个方向技术分享。团队由一群热爱技术且热衷于分享的小伙伴组成。我们坚持原创,每天一到两篇原创技术分享。希望在传播知识、分享知识的同时能够启发你,大家一起共同进步(・ω<)☆
目录
相关文章推荐
GiantPandaLLM  ·  【博客转载】Row-Major VS ... ·  昨天  
51好读  ›  专栏  ›  GiantPandaLLM

将Diffusion模型的推理速度提升了8倍,顺利拿到6家企业offer

GiantPandaLLM  · 公众号  · 3D  · 2025-01-03 09:00

主要观点总结

本文讲述了图书李的个人经历与转行决策。他从苏州大学硕士毕业后加入大厂从事模型推理工作,期间经历了计算机视觉算法的研究和模型压缩与推理加速方向的转变。他基于个人经验和行业趋势分析,选择了模型压缩与推理加速作为新方向,并通过深蓝学院课程的学习,成功提高模型推理加速的倍数,并获得了实习和项目经验。他还推荐深蓝学院的深度学习模型推理加速课程,并介绍了课程亮点和目标。

关键观点总结

关键观点1: 个人背景与转行原因

图书李硕士毕业于苏州大学,曾在计算机视觉算法领域研究,因对深度学习/大模型的算法更新迭代的压力以及对模型落地部署技能点的看重,最终选择转向模型压缩与推理加速方向。

关键观点2: 转行的决策因素

图书李的决策基于三点分析:模型部署岗位的广泛需求、大模型落地部署对压缩与推理加速技术的需求以及未来前景的看好。

关键观点3: 深蓝学院课程的学习经历

图书李通过深蓝学院联合腾讯高级研究员杨伟光老师的课程,成功将模型推理加速倍数提高到8.3倍,并获得课程优秀学员的称号。这段经历为他带来了实习和项目经验,进一步提升了他在模型压缩与推理方向的价值。

关键观点4: 课程推荐与亮点

图书李特别推荐了深蓝学院的深度学习模型推理加速项目实践课程,课程亮点包括实战学习、深度理解原理以及完善的答疑服务。


正文

请到「今天看啥」查看全文


课程中讲解的新的加速策略,最终将加速倍数提高到8.3倍左右(当时自己拿到了课程优秀学员)。
去年秋季,凭借着我在这门课程的项目经历,拿到了一家大模型独角兽的实习offer,进一步提升自己在模型压缩与推理方向的价值,有了更丰富的实习以及项目经历,今年春季找工作时,幸运地拿到了多家企业offer。

(大模型研发到上线的流程)

如果你也想脱离整天刷paper的痛苦,模型压缩与推理岗位值得你考虑。这里,我也特别推荐 深蓝学院的 『深度学习模型推理加速项目实践』 课程 (Stable Diffusion与文心一言两个方向任选其一) ,以实战的形式帮助大家学习diffusion类、Transformer类大模型的推理加速技巧。

(TRT SD模型  L4 sec3-4 FP16溢出调试实践)


扫码添加,了解详情






请到「今天看啥」查看全文