cover of episode 【人工智能】Scaling Laws要撞墙了么 | 外媒质疑Orion模型提升有限 | AI大佬纷纷激辩 | 测试时训练TTT引发关注 | MIT论文证明能让模型推理性能暴涨 | TTT能拯救大模型么

【人工智能】Scaling Laws要撞墙了么 | 外媒质疑Orion模型提升有限 | AI大佬纷纷激辩 | 测试时训练TTT引发关注 | MIT论文证明能让模型推理性能暴涨 | TTT能拯救大模型么

2024/11/16
logo of podcast 最佳拍档

最佳拍档

Frequently requested episodes will be transcribed first

Shownotes Transcript

Summary 本期播客探讨了人工智能领域近期关于 “规模化定律” 面临瓶颈的情况,以及 OpenAI 下一代旗舰模型 Orion 的表现未达预期的传闻。有观点认为,优质文本数据的短缺导致了规模化定律的放缓,甚至停滞;而另一些人则认为,通过测试时计算和测试时训练等新技术,可以突破这一瓶颈,尤其是 TTT 技术被认为能显著提升模型性能,甚至超越人类的平均水平。目前业内对此尚无定论,但这些讨论和新技术的出现无疑为大模型的未来发展带来了新的思路。

Shownotes 前几天爆出的Scaling Laws遇到瓶颈的消息,给Orion、Gemini和Claude等先进模型蒙上了一层阴影,也引发了AI行业的激烈争论。今天我们就来聊聊这件事,看看传闻究竟是怎么说的,正反双方都抛出了哪些观点,以及可能会拯救Scaling Law的技术,测试时训练Test - Time Training,TTT。

#人工智能 #scalinglaws

成为此频道的会员,即可享受提前一天,观看频道最新发布视频的福利: https://www.youtube.com/channel/UCGWYKICLOE8Wxy7q3eYXmPA/join