专栏名称: 蚂蚁技术AntTech
分享蚂蚁集团的技术能力和技术文化。
目录
相关文章推荐
程艺Truman  ·  上个月网站的广告费到账了,1.4W,关键是整 ... ·  20 小时前  
程序猿  ·  原来月薪30k的简历长这样,进来抄作业! ·  17 小时前  
腾讯技术工程  ·  0day漏洞量产?AI Agent“生产线”曝光 ·  昨天  
腾讯技术工程  ·  腾讯Kuikly框架鸿蒙版正式开源 —— ... ·  3 天前  
蚂蚁技术AntTech  ·  报名开启 | ... ·  2 天前  
51好读  ›  专栏  ›  蚂蚁技术AntTech

三大亮点,不容错过!Ray Forward 2024 议程详情抢先看!

蚂蚁技术AntTech  · 公众号  · 程序员  · 2024-12-04 18:13

正文

请到「今天看啥」查看全文









讲师:苏文豪|腾讯微信 高级工程师

个人简介: 2020 年加入微信后台团队,2021 年开始负责搭建微信 Astra 中台,为视频号/搜索/游戏等业务搭建了通用 workflow 和特征中台。2023 年开始引入 Ray 作为 AI 底座,目前 Astra-Ray 已经成为微信重要的后台 AI 平台。


议题简介:

微信业务中存在着大量 AI 计算场景,遍及搜广推等业务。AI 计算应用与传统网络I/O 密集型、高并发、高可靠的微服务不同,微信后台基础设施在面对这些需求时,面临了成本高、部署复杂、异构资源难以调度、利用率低和稳定性差等问题。

在这样的背景下,Astra 团队引入了 Ray 作为分布式计算底座,在 Ray 强大的生态和分布式能力基础上,提出了 Ray 联邦集群的方案,可以支持百万节点的超大异构资源的 AI 计算应用部署。Astra-Ray 帮助微信业务降低了 AI 应用的部署复杂度,降低了成本,提升了资源的利用率和稳定性。

基于 Ray 的融合计算引擎在生命科学领域的应用







讲师:饶星|百图生科 AI 应用负责人


议题简介:

基于 Ray 的融合计算引擎在生命科学领域的应用,结合了 Ray 强大的分布式计算能力与多种生命科学应用的需求,尤其是在处理大规模数据、大模型推理优化、异构调度和并行计算方面。 Ray 提供了一个灵活且高效的框架,能够支持和加速从基因组学到药物研发等多个领域中的深度学习、机器学习和高性能计算任务。

以下是 Ray 在百图生科的几种典型融合计算引擎的应用示例:

  • 加速蛋白质生成设计
  • 加速蛋白质结构预测性能

最后将介绍基于 Ray 的融合引擎在百图生科应用的整体架构,加速生命科学研究和应用。

HybridFlow: 基于 Ray 构建灵活且高效的 RLHF 编程框架







请到「今天看啥」查看全文