贝斯特。贝斯特游戏官方网站,贝斯特全球最奢贝斯特全球最奢华网站!核酸检测贝斯特,【新智元导读】图灵奖得主LeCun与Meta分道扬镳!LLM邪路一条,「世界模型才是」未来。 据多家权威媒体报道,Meta首席AI科学家、负责「基础AI研究」(FAIR)的Yann LeCun,预计将很快离职。 这位65岁的AI界元老,在Meta这家全球最大的科技公司之一担任核心大脑,可
贝斯特ღ★ღ。贝斯特游戏官方网站ღ★ღ,贝斯特全球最奢贝斯特全球最奢华网站ღ★ღ!核酸检测贝斯特ღ★ღ,【新智元导读】图灵奖得主LeCun与Meta分道扬镳ღ★ღ!LLM邪路一条ღ★ღ,「世界模型才是」未来ღ★ღ。
据多家权威媒体报道ღ★ღ,Meta首席AI科学家ღ★ღ、负责「基础AI研究」(FAIR)的Yann LeCunღ★ღ,预计将很快离职ღ★ღ。
这位65岁的AI界元老ღ★ღ,在Meta这家全球最大的科技公司之一担任核心大脑ღ★ღ,可以说拥有无限的资源ღ★ღ。
今年夏天ღ★ღ,年仅28岁的Alexandr Wang成为Meta的首席AI官ღ★ღ,让这位初出茅庐的大语言模型狂热者成了LeCun的上司ღ★ღ。
此外ღ★ღ,Meta今年还任命了另一位相对年轻的首席科学家赵晟佳(Shengjia Zhao)ღ★ღ,职位也在LeCun之上ღ★ღ。
在官方公告中ღ★ღ,Meta盛赞了赵晟佳在scaling方面带来的「突破」网络真钱游戏ღ★ღ。而LeCun恰恰对scaling失去了信心ღ★ღ。
如果你好奇为什么LeCun和Zhao都是首席科学家ღ★ღ,那是因为Meta的AI部门组织架构相当奇特网络真钱游戏ღ★ღ,分成了多个独立的团队ღ★ღ。
上个月ღ★ღ,Meta超级AI实验室裁掉了数百人ღ★ღ,包括10年老将田渊栋ღ★ღ。据称ღ★ღ,这是为了理顺这种混乱的局面ღ★ღ。
而那支曾由LeCun领导ღ★ღ、风头一时无两的FAIR网络真钱游戏ღ★ღ,如今早已风光不再ღ★ღ。据现任与前员工透露ღ★ღ,这个部门经历了裁员ღ★ღ、预算缩水ღ★ღ,内部影响力也明显下降ღ★ღ。
曾几何时ღ★ღ,FAIR是Meta内部思想最活跃的「象牙塔」ღ★ღ,研究人员可以探讨各种AI未来路径ღ★ღ,甚至可以做些「未必能成」的实验ღ★ღ,完全不用担心产品化问题ღ★ღ。
而现在ღ★ღ,Meta新组建的AI研究部门招来一大批高薪新兵ღ★ღ,由Wang主导ღ★ღ,目标明确ღ★ღ:要快ღ★ღ、要落地ღ★ღ、要产品化ღ★ღ。
他曾在多伦多的Geoffrey Hinton实验室工作ღ★ღ,那时Hinton还没成为AI传奇人物ღ★ღ。
「最让我兴奋的事情ღ★ღ,就是和比我聪明的人共事ღ★ღ,因为这会放大你的能力ღ★ღ。」LeCun在2023年杂志采访时说道ღ★ღ。
在贝尔实验室ღ★ღ,LeCun曾参与开发手写识别技术ღ★ღ,这项技术后来被广泛应用于银行自动读取支票ღ★ღ。他还参与了一个项目ღ★ღ,致力于将纸质文档数字化并通过互联网分发ღ★ღ。
LeCun曾表示网络真钱游戏ღ★ღ,自己从小就对物理感兴趣ღ★ღ,在贝尔实验室期间也主要和物理学家合作ღ★ღ,看了不少物理教材ღ★ღ。
我学到了很多表面上与AI或计算机科学无关的东西(我本科是电气工程ღ★ღ,计算机方面的正规训练其实很少)ღ★ღ。
2013年ღ★ღ,扎克伯格亲自邀请他加入Facebook(当时还未更名为Meta)ღ★ღ,组建全新的AI实验室ღ★ღ。
他领导这个团队四年ღ★ღ,2018年卸任ღ★ღ,转为公司首席AI科学家ღ★ღ,以「个人研究员」身份继续探索技术前沿ღ★ღ。
2018年ღ★ღ,他与Geoffrey Hinton和Yoshua Bengio共同获得图灵奖——计算机界的最高荣誉ღ★ღ,以表彰三人在神经网络方面的奠基性工作ღ★ღ。
自那之后ღ★ღ,LeCun就逐渐转为「象征性人物」角色ღ★ღ。他没有参与Meta首个开源大语言模型Llama的研发ღ★ღ,也早就不再参与这类项目的日常工作ღ★ღ。
据与他共事的人透露贝斯特全球最奢华ღ★ღ,LeCun现在主要在做自己的研究项目ღ★ღ,也经常出席各种技术会议ღ★ღ,发表对AI技术的看法ღ★ღ。
面对媒体的报道ღ★ღ,Yann LeCun只是指出了报道中的「小错误」ღ★ღ,并没有否认即将离职的消息ღ★ღ。
他知道自己在包括Meta在内的整个硅谷技术圈内ღ★ღ,备受冷落ღ★ღ。上个月在MIT的一次研讨会上ღ★ღ,65岁的LeCun直言ღ★ღ:
这些年ღ★ღ,我在硅谷ღ★ღ、包括Meta的很多角落都不太受欢迎ღ★ღ,因为我一直在说ღ★ღ,3到5年内ღ★ღ,世界模型将成为主流AI架构ღ★ღ,没人再会愿意用现在这种LLMღ★ღ。
但他坚信自己对AI未来的判断ღ★ღ。他的老朋友Léon Bottou曾告诉媒体ღ★ღ,LeCun「倔强得可爱」——他会听别人意见ღ★ღ,但更有自己坚守的信念ღ★ღ。
他认为ღ★ღ,无论科技巨头如何扩大其规模ღ★ღ,我们目前所理解的大语言模型都已是「强弩之末」ღ★ღ,是一条「岔路ღ★ღ、干扰ღ★ღ,一条死胡同」ღ★ღ。
他为现代AI奠定了诸多基础ღ★ღ。而现在他坚信ღ★ღ,领域内的大多数人都被大语言模型的「海妖之歌」引入了歧途网络真钱游戏ღ★ღ。
所谓「世界模型」ღ★ღ,类似小动物或婴儿那样ღ★ღ,通过视觉等感知数据主动学习世界规律ღ★ღ;而LLM只是依赖海量文本做预测的模型ღ★ღ。
Meta的Llamaღ★ღ、OpenAI的GPTღ★ღ、谷歌的Bard这些模型ღ★ღ,都是靠海量数据训练出来的网络真钱游戏ღ★ღ。LeCun估算ღ★ღ,如果让人去读完它们训练所需的所有文本ღ★ღ,大概得花10万年贝斯特全球最奢华ღ★ღ。
我们从与世界的互动中ღ★ღ,获取的信息要多得多ღ★ღ。LeCun估计ღ★ღ,一个普通的四岁小孩接触过的数据量ღ★ღ,是目前最大的LLM的50倍ღ★ღ。
而他自己ღ★ღ,早就准备好了替代方案ღ★ღ。他称之为「目标驱动的AI」(objective-driven AI)ღ★ღ。
他认为ღ★ღ,未来ღ★ღ,我们需要与可穿戴设备互动贝斯特全球最奢华ღ★ღ,就像与人交流一样ღ★ღ,而大语言模型根本不像人类那样理解世界ღ★ღ。
这些动物能完成惊人的壮举ღ★ღ,它们理解物理世界ღ★ღ。任何一只家猫都能规划出极其复杂的行动ღ★ღ,因为它们拥有关于世界的因果模型ღ★ღ。
为了说明这一点ღ★ღ,LeCun设计了一个思想实验ღ★ღ:「想象一个立方体悬浮在你面前的空中ღ★ღ。好ღ★ღ,现在让这个立方体绕着垂直轴旋转90度ღ★ღ。它会是什么样子?」
当然ღ★ღ,大语言模型可以毫不费力地写一首关于悬浮旋转立方体的打油诗ღ★ღ,但它无法真正帮助你与这个立方体互动ღ★ღ。
他指出ღ★ღ,尽管大语言模型训练所用的文本量需要一个人花45万年才能读完ღ★ღ,但一个四岁的孩子在醒着的16000小时里网络真钱游戏ღ★ღ,通过眼睛看ღ★ღ、用手触摸贝斯特全球最奢华ღ★ღ,已经处理了高达1.4x10^14字节的关于世界的感觉数据——
顺便一提ღ★ღ,这些只是LeCun在演讲中给出的估算ღ★ღ,他在其他场合也给过不同的数字ღ★ღ。但这些数字指向的核心观点是ღ★ღ:大语言模型存在着局限ღ★ღ,而LeCun相信世界模型能够克服这些局限ღ★ღ。
在Meta时ღ★ღ,LeCun其实已经开始研究世界模型——他还拍了一个介绍视频ღ★ღ,开头就让你想象一个旋转的立方体ღ★ღ。
在AI行动峰会的演讲中ღ★ღ,他理想中的模型包含一个对「当前世界状态的估计」ღ★ღ,以某种抽象形式呈现与当前情境相关的一切ღ★ღ。它不再是按顺序预测tokenღ★ღ,而是「预测在你采取一系列行动后ღ★ღ,世界将达到的最终状态」贝斯特全球最奢华ღ★ღ。
他表示ღ★ღ,世界模型将使未来的计算机科学家能够构建出「可以规划行动——可能是分层级的——以实现某个目标的系统ღ★ღ,以及能够进行推理的系统网络真钱游戏ღ★ღ。」
LeCun还坚称ღ★ღ,这类系统将拥有更强大的安全特性ღ★ღ,因为控制它们的方式是内置的ღ★ღ,而不是像现在这样ღ★ღ,面对一个神秘莫测ღ★ღ、只会输出文本的黑箱ღ★ღ,只能通过微调来加以修正ღ★ღ。
他提出ღ★ღ,他的世界模型将审视当前的世界状态ღ★ღ,并通过寻找高效的解决方案ღ★ღ,来寻求与某个不同状态的兼容性ღ★ღ。
LeCun在演讲中解释道ღ★ღ:「你需要一个能量函数来衡量不兼容性ღ★ღ,给定一个xღ★ღ,找到一个对于该x能量较低的y」ღ★ღ。
如果说ღ★ღ,我们从LeCun的公开言论中拼凑出的「真相」很粗糙ღ★ღ、有些模糊ღ★ღ,甚至完全错误ღ★ღ,那也完全正常ღ★ღ。
但这可能需要耗费数年——甚至永远无法实现——更不用说数十亿美元的投资了ღ★ღ,才可能看到任何真正了不起的成果ღ★ღ。