矩阵乘法新突破！XX^T原来可以更快！RL助力搜索，世界纪录又被提升了5%

正文

请到「今天看啥」查看全文

Google DeepMind 为此专门投入四年心血，先后推出 AlphaTensor、AlphaEvolve 等机器学习系统来攻克这一难题。这就像短跑运动员将百米纪录从 9.58 秒推进到 9.57 秒——每个 0.01 秒的突破背后，都是对计算理论极限的重新定义。

^{（矩阵乘以自身的转置）这类特殊的矩阵乘法广泛存在于各类数据科学的实际应用中，实际应用包括：}

• 5G 与自动驾驶定制芯片设计
• 线性回归与数据分析
• 大语言模型训练算法（Muon、SOAP）

这类操作每分钟在全球执行数万亿次，假如能减少该操作的计算量，对能耗开销可以带来相当可观的节省。令人惊讶的是，相比于普适的矩阵乘法 AB，研究者对于 这类的特殊矩阵乘法的关注少之又少。Google DeepMind 的 AlphaTensor、AlphaEvolve 探索了带有特殊结构的 AB 矩阵乘法，但他们尚未汇报任何关于 的结果。

通过观察 运算的特殊结构，该团队发现 的计算确实存在加速空间！

请到「今天看啥」查看全文