C114门户论坛百科APPEN| 举报 切换到宽版

亚星游戏官网

 找回密码
 注册

只需一步,快速开始

短信验证,便捷登录

搜索

军衔等级:

亚星游戏官网-yaxin222  少尉

注册:2015-11-142
发表于 2024-12-16 11:37:47 |显示全部楼层
白交 发自 凹非寺
量子位 | 公众号 QbitAI
  • Is Scaling is All you Need?
在Ilya探讨完「预训练即将终结」之后,关于Scaling Law的讨论再次引发热议。

亚星游戏官网-yaxin222



这届NeurIPS将被铭记成预训练终结的一届会议

在最新研讨会上,OpenAI大神,o1核心成员Noam Brown表示,o1代表的是一种全新的,以推理计算为代表的Scaling。

亚星游戏官网-yaxin222



网友们表示:好好好,Scaling Law还没有死!Scaling Law还在继续。

演讲实录:Is Scaling is All you Need?

Noam Brown,OpenAI大神一枚,去年7月从Meta离职,曾开发首个在战略游戏中达到人类水平的AI,此前在游戏AI领域相关研究成果曾登上Science封面。

如今在OpenAI致力于多步推理、自我博弈以及多智能体AI相关的研究。

亚星游戏官网-yaxin222



此前在o1发布的直播时候露过面。

据网友@swyx分享,Noam Brown首先谈到Scaling Law的过去演进。

AI从2019年到现在,GPT-2演进到GPT-4,这难以置信的成就都来自于数据和算力规模的扩大。

但大语言模型仍然无法解决像井字棋这样的简单问题,

亚星游戏官网-yaxin222



那么随之而来的一个问题是,Is Scaling is All you Need?大家真的还需要再消耗更高的成本来训练更好的AI吗?

亚星游戏官网-yaxin222



这当中被低估的其实是推理的成本,它在过去的扩展(Scaling)要少得多。o1带来了Scaling的新的维度。

亚星游戏官网-yaxin222



随后,他追溯了过去模型展现出来的类似规律。

比如在2012年-2015年间扑克模型的扩展。模型规模每年扩展5倍,但收效不大。但依照「人类需要更长时间思考更难问题」这一见解,增加了模型20 秒的搜索时间,效果大致相当于将模型规模扩大了100000倍。

亚星游戏官网-yaxin222



还有在棋牌中扩展推理的历史,backgammon- 国际象棋 - 围棋。AlphaGo Zero在原始NN基础上实现了从3000到5200 Elo增长,都是因为test-time search(推理时间搜索)。

亚星游戏官网-yaxin222



此外,他还引用了Andy L.Jones关于Scaling Laws of games的图表——可以用10倍的预训练计算量换取15倍的测试时间计算量。

如果游戏结果扩展到 LLMs,是不是也会是如此?

亚星游戏官网-yaxin222



那么关于o1接下来,会有更高的推理计算能力。在过去 5 年里,LLM概念就是聊天机器人。那么他们可以做得更好”

亚星游戏官网-yaxin222



最后他还打了个小广告,目前他的多智能体团队还在招人ing。

网友评论

如果再结合昨天Ilya谈到「预训练时代即将终结」。那么对于市场来说,这一波可不是利好英伟达了(Doge)。

亚星游戏官网-yaxin222



不过也有从业者站出来反对他的看法:推理时间计算(Inference Time Computation)并不新鲜,本来还想把它去掉,但出于需要又让它回来了。

他还纠正说,里面关于诸多游戏时间顺序是错误的,许多游戏(包括国际象棋和围棋)一开始都只专注于推理时间计算。但后来大家都倾向于离线学习策略,这样省去了大量的在线计算时间。

因此,减少面向用户的推理时间计算是一个深思熟虑的选择,甚至导致该领域开始改变对计算复杂性考虑的方式。

这一趋势在 LLMs 中也得到了延续——所有的重点都放在预训练上,因此推理时间的计算量可以忽略不计。这样对终端用户来说成本极低,甚至可以在本地的边缘设备上完成。

亚星游戏官网-yaxin222



Ilya在谈到未来超级智能的畅想时,也提及了当前推理的不可预测性:

推理越多,系统变得越不可预测,这一点在一些复杂任务中表现得尤为突出。

他还提到:

目前的AI系统还不能真正理解和推理,虽然它们能模拟人类的直觉,但未来的AI将会在推理和决策方面展现出更加不可预测的能力。
不过大模型到底会朝着哪些能力上扩展,这个还得看这些科学家们持续探索。

One More Thing

本来啊,从现场repo来看,这本来是个关于数学AI的研讨会,硬生生地被他弄成了讨论大模型推理Scaling Law。

现场也是人很多,据说门口都还有20多个人在排队等待。当然也有部分原因是房间太小了。

亚星游戏官网-yaxin222



[1]https://x.com/swyx/status/1867990396762243324
[2]https://x.com/e__honig/status/1868002417045840243
[3]https://x.com/drapersgulld/status/1868023022390485052


来源:网易

举报本楼

本帖有 2 个回帖,您需要登录后才能浏览 登录 | 注册
您需要登录后才可以回帖 登录 | 注册 |

版规|手机版|C114 ( 沪ICP备12002291号-1 )|联系大家 |网站地图  

GMT+8, 2024-12-25 15:05 , Processed in 0.333824 second(s), 16 queries , Gzip On.

Copyright © 1999-2023 C114 All Rights Reserved

Discuz Licensed

回顶部
XML 地图 | Sitemap 地图