LeCun将AGI时间线修正为5到10年,但坚持大语言模型并非通往人类级别智能的路径。他提出JEPA架构,主张AI应通过自监督学习从视频中构建世界模型,具备系统2思维才能实现真正的智能。
Yann LeCun最近改口了,这一变化在AI圈引发广泛关注。2023年12月,他曾断言人类级别的AI至少还要等10到20年。但在近期的一次访谈中,他直接将时间窗口缩短到5到10年——这种转变与他之前“永远差着10到20年”的说法形成鲜明对比。

长期稳定更新的攒劲资源: >>>点此立即查看<<<
主持人注意到这个变化,追问说:“您以前不是明确表示AGI离我们很远吗?”LeCun立刻否认:“不,我从不觉得AGI遥不可及。”他强调,自己对AGI时间线的预测与Sam Altman、Demis Hassabis等人没有本质区别。结论是:十年内大概率到来,但不会是明年或后年。



不过,预测时间虽变,他对技术路线的判断依然坚定:LLM这条路走不通。他明确指出,不能盲目相信只要继续堆算力、堆数据,AGI就会自然涌现。我们需要的是像JEPA这样的全新架构——一个能从周围世界学习、能按重要性规划动作的系统,而不是当前LLM这种完全靠下一个词机械生成的模式。
简单说,AGI需要的是系统2(深思熟虑、理性规划),而目前的LLM只停留在系统1(快速直觉、无意识反应)。LeCun提出的“目标驱动人工智能”,正是系统2的典型代表。

网友的反应自然很热烈。有人调侃说,这大概是因为AGI的定义太模糊了——怎么解释都能自圆其说。其中最搞笑的一条留言是:估计Meta内部有人找他谈话了,说想拉投资就不能再讲AGI遥不可及这种话,否则投资人没法忽悠进来。



LeCun最近接受了Nikhil Kamath主持的《People by WTF》栏目专访,聊了很多关于AI的底层思考。他早年学的是电气工程,后来转向数学、物理和AI中更基本的问题。在1980年代,他和数学教授一起做独立项目时,就接触到了计算机。如今他已是“图灵三巨头”之一。

作为科学家,他一直在尝试建立世界的因果模型。在他看来,人类面临的大部分问题,根源都出在知识和智慧不足上。如果我们更聪明、对世界运作有更好的心智模型,就不会像现在这样频频犯错,而是能做出更理性的决策。
而AI的核心目标,就是放大人类的整体智能。智能本身,是一种由大量简单元素组成的网络相互连接所涌现出的现象。早在40、50年代,人们就意识到智能和记忆来源于神经元之间连接强度的调整——大脑的学习方式就是修改这些连接。后来,有人用电子电路复现了这一理论模型。

AI沿着两条路发展:解决问题能力和学习能力。后者在50、60年代有过一些成果,但到60年代末遭遇失败——当时的神经网络学习程序太弱,造不出真正智能的机器。不过,这套思路在模式识别的工程领域倒是产生了深远影响。
启发式编程由此登场。机器学习的最简单应用是感知:解释图像、解释声音。我们写一个程序,让它在内部搜索解决方案,并检查方案的合适性——这就是启发式编程。但问题是,所有可能方案的数量通常大到惊人,不可能穷举搜索。就像国际象棋,每一步的指数级增长迫使我们必须用启发式方法,让树搜索或专家系统来逼近最终状态。

好系统和坏系统的区别,就在于能否在不做穷尽搜索的情况下找到好方案。这引出了专家系统——也叫基于规则的系统AI,它们与搜索的概念紧密相关。
与此同时,有人提出了改变神经元连接强度的算法,让机器能学习任务。第一个这样的机器是感知机,1957年问世。MIT教授Marvin Minsky和数学家Seymour Papert合著了《感知机》一书,证明这种统计模型在现实世界中有巨大潜力。但感知机有个致命问题:它能计算的函数类型非常有限——你用一张自然图片,根本没法训练它判断“有没有猫”、“有没有桌子”。系统不够强大,无法计算这种复杂函数。


80年代,神经网络和深度学习改写了规则。深度学习本质上是神经网络的升级版。核心理念变了:不再完全编程告诉机器怎么做,而是通过数据训练它。机器学习家族里还有线性回归、分类树、支持向量机、核方法、贝叶斯推理等等——它们都遵循同一个范式:构建一个未完成的程序,里面有一堆可调参数,输入输出由这些参数决定。然后,我们用迭代调整技术从数据中训练系统:如果答案不对,就调整参数,让结果靠近正确答案。

强化学习略有不同:不直接给出正确答案,而是告诉系统它产生的结果是好是坏。而过去五六年崛起的自监督学习,已经成为让聊天机器人和自然语言理解系统成功的主要推手。它更接近监督学习,但关键区别在于不需要手动标注输入和输出的对应关系。你不需要让人逐张检查几百万张图片、标注“这是猫还是狗”,只需展示一张狗的照片,然后对图像做部分破坏(比如遮挡),再要求系统从损坏的图像中恢复原始图像——这就是自监督学习的一种形式。

这种思路对自然语言理解的成功至关重要。比如在大语言模型中,我们训练系统预测下一个词,但只允许它看到前面的词。通过一种特殊的神经网络结构,让预测词的连接只能访问前文,这样就不需要手动干扰输入。最终系统学会从上下文预测后续单词。Transformer架构的核心原理,就是让每个输入与其他输入做比较,并生成权重。

反向传播算法的作用很直观:当你展示一张字母“C”的图像,并告诉系统这是C,它会激活对应的输出神经元,同时抑制其他神经元。算法知道如何调整参数,使输出更接近预期——通过向后传播信号,计算每个权重对输出的敏感度,然后调整权重,让好的输出增强、坏的输出减弱。

其实反向传播算法早就存在,但起初没人意识到它能用于机器学习。直到80年代它才真正风靡起来。它之所以关键,是因为打破了Minsky和Papert当年指出的感知机局限,掀起了一波热潮。不过很快人们就意识到:训练这些网络需要海量数据——当时没有互联网,数据稀缺,计算机速度也慢,兴趣迅速降温。

80年代末、90年代初,LeCun在思考如何让这种系统识别图像时,从生物学中获得了灵感:以分层方式组织神经元之间的连接,使它们更容易找到图像识别的优质解。这就是卷积神经网络。

它的设计灵感来自视觉皮层。卷积神经网络特别擅长处理自然世界的数据——比如一张照片里相邻两个像素,颜色大概率相同或相近。图像、音频等自然信号都有这种内在结构。如果以特定方式构建神经网络来利用这种结构,它学得更快、所需样本更少。
卷积是卷积神经网络中的一个组件。它的想法是:一个神经元查看输入的某一部分,另一个神经元查看另一部分,但计算的是相同的函数。然后把这个神经元复制到所有输入位置上——每个神经元都检测输入某一部分的特定模式,整个网络在输入不同位置检测同一个模式。因此,当你移动输入时,相同模式会被不同位置的神经元检测到,输出也跟着平移——这就是位移等变性,也就是卷积。

用LeCun的话说,这些人工神经元之于真正的神经元,就像飞机机翼之于鸟的翅膀——功能相同,概念一致。

香农的n-gram模型是最早的语言模型。可以在字符级别运行,但换到单词级别就困难多了——可用的单词可能有上万个。我们需要在一个大型文本语料库上训练,填充概率表。但一旦上下文长度超过某个阈值,这种方法就不切实际了:存储表格需要天量内存,而且表格会变得极度稀疏——即使有几十亿个词的文本,绝大多数词组组合压根不会出现。

Transformer架构能构建出一个系统,根据上下文中的词语预测下一个词。当你把上下文扩大到几千甚至一百万个词时,系统就会涌现出有趣的性质。如果参数规模达到数百亿,它们会复述解谜的答案,回答你可能需要的各种问题——这个过程主要是检索,推理成分很少但并非完全没有。
真正让人惊讶的是,这些系统操纵语言的能力令人印象深刻。人类在语言操控方面其实相当有限,但AI似乎做得很好——它们捕捉到了语法的机器学习机制。

语言中的可能性有限,所以我们可以输出概率列表。但如果你想预测视频中接下来会发生什么,帧数却是无限的。一张图像有一千个像素,每个像素有红绿蓝三个值,需要生成三百万个值——我们目前还不知道如何表示所有可能图像集的概率分布。这正是很多人眼中AI的下一个挑战。
如果从视频和图片中学习是下一阶段,它应该放在哪里?能放进大语言模型现在的框架里吗?

不,它与LLM完全不同。这也是LeCun一直明确表态的原因:大语言模型并非通往人类级别智能的路径。LLM无法理解物理世界,无法以当前形式真正应对现实世界。虽然在语言处理上出类拔萃,但它们会犯非常愚蠢的错误——这恰恰说明它们根本不理解世界是怎么运作的。我们没能构建出能理解基本事物的系统,而这些基本事物连你家猫都能理解。所以LeCun一直直言不讳地说:最聪明的LLM,也不如你家猫聪明。

接下来的挑战很明显:如何构建一个能通过视频学习世界运行规律的系统?人类对世界的认识,尤其在生命早期,很大程度上靠观察。比如牛顿的运动第三定律——你不需要读万卷书,婴儿甚至猫,只要把东西从桌上推下去几次,观察结果,就能自然领悟到“高处的东西都会掉落”。

反观今天的LLM,它们只活在离散的语言世界里,无法理解连续高维的物理世界(比如视频中的动态)。这种局限让它们难以应对现实问题——这也是为什么LLM能通过考试写文章,但我们至今没有家用机器人,L5自动驾驶也遥遥无期。
目前LLM的记忆分两种:参数记忆(训练中学到的知识,但无法逐字复述)和上下文记忆(通过输入提示词暂存信息,但范围有限)。真正理解物理世界的AI需要持久记忆——像人类大脑中的海马体一样,能存储和检索长期信息。但现有LLM缺乏独立的记忆模块,也无法高效搜索和评估多种可能的答案。
要实现这个目标,就需要新架构——摆脱LLM的自回归方法,转而采用适用于视频的自监督学习。具体来说,让AI通过预测视频中接下来会发生什么来理解世界底层结构,而不是简单生成每个像素的变化。这种预测能力可以帮助AI构建“世界模型”,从而支持规划和推理。比如预测推杯子、抓取、提起等动作的结果能否达到目标。
回到“如何让机器通过观察世界来学习”这个问题:显然不能只靠生成视频中每个像素的生成式架构。LeCun的团队为此摸索了近15年,并在5年前提出了JEPA(联合嵌入预测架构)。

他坚信世界有一个内在的“世界模型”,一直致力于开发一种类似大脑的AI架构,通过更真实地模拟现实世界来解决幻觉、逻辑缺陷等问题。要让AI接近人类智力水平,就得像婴儿一样学习世界运作方式。这个世界模型由6个独立模块组成:配置器、感知器、世界模型、成本模块、短期记忆、参与者。核心是世界模型模块,它根据感知模块的信息预测世界——比如感知到一个人往哪个方向移动,汽车是转弯还是直行。它能学习世界的抽象表示,保留重要细节、忽略不重要的细节,并在与任务水平匹配的抽象层次上做出预测。

自2022年LeCun提出JEPA以来,I-JEPA(图像版)和V-JEPA(视频版)相继问世,展现出强大的预测能力。有意思的是,V-JEPA正式发布那天,正好是OpenAI推出Sora模型的日子。

[论文地址:https://ai.meta.com/research/publications/revisiting-feature-prediction-for-learning-visual-representations-from-video/]
V-JEPA是一种非生成式模型,通过预测视频中被隐藏或缺失的部分,在抽象空间表示中进行学习。这与I-JEPA类似——后者通过比较图像的抽象表示来学习,而不是直接比较像素。与那些试图重建每一个缺失像素的生成式方法不同,V-JEPA能舍弃难以预测的信息,在训练和样本效率上实现了1.5到6倍的提升。由于采用自监督学习,它完全可以依靠未标注数据进行预训练,后续再通过标注数据微调。

比如,当看到视频中“将纸撕成两半”的动作时,V-JEPA能准确描述。再比如,翻看笔记本的视频被部分遮挡时,它能对笔记本上的内容做出合理预测。这些能力,是V-JEPA在观看200万个视频后就获得的。

总结成一句话:现有的大语言模型属于系统1思维——快速、直觉性反应。而AGI需要的是系统2思维——深度思考、理性分析、战略规划。LeCun提出的“目标驱动人工智能”架构,正是基于系统2思维的:能从真实世界中学习,并且能进行分层规划。
侠游戏发布此文仅为了传递信息,不代表侠游戏网站认同其观点或证实其描述