← NeurIPS 各届
NeurIPS 2024· Neural Information Processing Systems
NeurIPS 2024
亮点精读
8 篇 · 获奖 / oral / 高引Oral📈 1.0k 引用
Visual Autoregressive Modeling: Scalable Image Generation via Next-Scale Prediction
提出视觉自回归建模，通过下一尺度预测实现可扩展图像生成。
💡 首次将自回归扩展到图像生成，性能超越扩散模型。
arXiv
Oral
Learning to grok: Emergence of in-context learning and skill composition in modular arithmetic tasks
通过元学习，模型在模算术任务中涌现出上下文学习与技能组合能力。
💡 揭示了模型如何从记忆转向泛化，理解涌现机制。
Spotlight
Nonlocal Attention Operator: Materializing Hidden Knowledge Towards Interpretable Physics Discovery
提出非局部注意力算子，从数据中自动发现可解释的物理定律。
💡 实现物理发现的可解释性与自动化。
Spotlight
Emergence of Hidden Capabilities: Exploring Learning Dynamics in Concept Space
在概念空间中探索隐藏能力的涌现，揭示学习动态如何导致新能力的出现。
💡 揭示了模型能力涌现的机制，对理解深度学习至关重要。
Spotlight
Continual learning with the neural tangent ensemble
提出神经正切集成方法，通过集成多个神经正切核实现持续学习，缓解灾难性遗忘。
💡 有效平衡旧任务保留与新任务学习，提升持续学习性能。
Spotlight
Neglected Hessian component explains mysteries in sharpness regularization
发现被忽略的Hessian分量解释了锐度正则化中的神秘现象。
💡 揭示了锐度正则化成功的关键机制。
Spotlight
An Analysis of Tokenization: Transformers under Markov Data
分析分词对Transformer在马尔可夫数据上学习的影响，揭示其局限性。
💡 揭示分词对Transformer性能的关键影响。
Spotlight
Generalization Analysis for Label-Specific Representation Learning
提出标签特定表示学习的泛化分析框架，证明其样本复杂度优势。
💡 为标签特定表示学习提供理论基础，指导实际应用。
全部论文
加载中…正在从 DBLP 加载全量论文…
全量索引来自 DBLP · 完整 proceedings 见 官方站点