专栏名称: 蚂蚁技术AntTech
分享蚂蚁集团的技术能力和技术文化。
目录
相关文章推荐
蚂蚁技术AntTech  ·  蚂蚁百灵大模型:智能演进与开源实践 ·  7 小时前  
程序员的那些事  ·  突发!紧急召回 49 万台,罗马仕 3 ... ·  昨天  
程序猿  ·  有了这些 VS Code 的 ... ·  昨天  
玉伯  ·  感谢使用 ... ·  昨天  
稀土掘金技术社区  ·  优雅!原生Js实现多标签页之间的数据共享如此简单 ·  3 天前  
51好读  ›  专栏  ›  蚂蚁技术AntTech

技术前沿|NeurIPS 2024 中稿快讯!两方密态推理框架 Nimbus,大模型隐私推理场景的重...

蚂蚁技术AntTech  · 公众号  · 程序员  · 2024-11-13 17:01

正文

请到「今天看啥」查看全文



本论文提出了一种新的两方密态推理框架 Nimbus,专门用于 Transformer 神经网络的隐私保护推理,该框架在保护模型和用户数据隐私的前提下,实现了高效的推理过程,为大模型的隐私推理场景提供了重要技术支持 。本文将带来本篇论文的技术解读,一起来关注!


本篇论文亮点

Transformer 神经网络在各领域上展现出了惊人的效果,也是最热门大模型的结构基础,在众多任务上有潜在的实际应用。为了解决伴随而来的隐私问题,本论文提出了新的两方隐私推理框架Nimbus,为 Transformer 神经网络中线性层的矩阵乘法及非线性层的激活函数提出了针对性的加速。下面我们将分别简单介绍这两部分具体的技术。








请到「今天看啥」查看全文