OpenAI o1/o3 模型负责人官宣离职创业，师从图灵奖得主，GPT-5 也在路上了

正文

请到「今天看啥」查看全文

2013-2017 年，他在加州大学圣地亚哥分校获得物理学硕士学位。随后，他在蒙特利尔大学攻读计算机科学博士学位，导师为 Yoshua Bengio 和 Hugo Larochelle。

值得一提的是，Yoshua Bengio 正是深度学习领域的奠基人之一，与 Geoffrey Hinton 和 Yann LeCun 共同荣获 2018 年图灵奖。

William Fedus 有过多段工作经历，比如曾在 Google Brain 实习工作，研究生成对抗网络（GANs）。

公开资料显示，William Fedus 的研究兴趣包括监督学习、无监督学习和强化学习，致力于构建稳健、可靠的算法。

2018 年，他与 Ian Goodfellow 和 Andrew M. Dai 共同提出 MaskGAN，这是一种用于文本生成的生成对抗网络，通过填补空白来生成更高质量的文本

2019 年，他参与提出了一种无监督图神经网络方法，通过最大化节点表示和图摘要之间的互信息来学习节点嵌入。

2022 年，他与 Barret Zoph 以及 OpenAI 研究员 Noam Shazeer 共同提出了 Switch Transformers。

这是一种通过稀疏激活实现万亿参数模型的高效架构，解决了模型复杂度、通信成本和训练稳定性等问题。

请到「今天看啥」查看全文