【NYU博士论文】神经网络中的简单结构：论表达能力、优化性与数据分布

正文

请到「今天看啥」查看全文

分钟

我们旨在从零出发，分析简化情境，作为理解这些大型模型功能机制的基础性步骤。

在这个大型语言模型（LLMs）及其他巨型神经网络迅猛发展的时代，我们旨在从零出发，分析简化情境，作为理解这些大型模型功能机制的基础性步骤。我们从三个方面展开探讨。

在 表达能力 方面，我们研究了一类简化的图网络——图增强多层感知机（Graph-Augmented Multi-layer Perceptrons, GA-MLPs）的函数类，并与经典图神经网络（Graph Neural Networks, GNNs）进行了对比。我们采用图同构测试和带属性路径计数等方式来衡量它们的表示能力。

请到「今天看啥」查看全文