人工智能领域总有一些想法,看似新鲜,却能在更早的岁月中找到影子。三十年前的某些技术探索,如今正被重新提起,成为讨论的焦点。
一位名叫于尔根·施密德胡伯的研究者,在三月三十一日发出一条简短信息,只列出文献编号,并直接指出:杨·勒丘恩提出的联合嵌入预测架构,也就是他在一九九二年发表的可预测性最大化系统。施密德胡伯是长短期记忆网络的提出者之一,在神经网络发展中留下过重要足迹。勒丘恩则是二零一八年图灵奖获得者之一,长期在深度学习领域发挥作用,目前担任某公司首席人工智能科学家。
勒丘恩在二零二五年底离开原工作单位后,于二零二六年三月正式推出新公司先进机器智能实验室。这家公司获得十亿零三百万美元种子轮融资,投前估值约三十五亿美元,在欧洲早期融资中规模较大。核心方向是构建世界模型,通过传感器数据让人工智能更好地理解物理世界,而非仅依赖语言预测。联合嵌入预测架构正是这项工作的基础技术,它让模型在抽象表示空间中进行预测,而不是逐像素或逐词重建内容。这种方式能避免处理过多无关细节,提高效率。
施密德胡伯认为,这种架构的核心机制与他早年的可预测性最大化系统高度相似。在那个系统中,一个网络从输入中提取潜在表示,另一个网络则尝试从相关输入的表示中预测前者的结果,同时保持表示的信息量,避免过度简化导致的无效状态。一九九二年相关论文中提到多种编码方式,包括自动编码器、方差约束最大化以及信息最大化等。实验由他的学生参与完成,在立体视觉任务上,非生成版本的表现优于生成版本。
这些早期工作发生在冷战结束前后,那时个人电脑还远未普及,计算资源有限。今天的深度学习依赖大规模数据和强大硬件,才让类似思路变得实用。世界模型的概念,旨在让人工智能像人一样,通过观察形成对现实的内在理解,从而支持规划和推理。联合嵌入预测架构在这方面提供了一种路径,它关注可预测的抽象特征,而不是力求生成所有细节。
人工智能的发展常常建立在前人积累之上。不同研究者从相似起点出发,在不同时代用不同工具推进想法,这很常见。施密德胡伯的声明引发讨论,有人看到延续,有人强调现代实现中的新元素,比如适应大规模视觉和多模态数据,以及与当前训练技巧的结合。无论如何,这样的交流有助于澄清历史脉络,让后来者知道哪些基础已被探索。
技术进步需要持续投入。先进机器智能实验室计划将联合嵌入预测架构应用于工业、机器人和医疗等领域,希望推动人工智能从当前形式向更贴近现实理解的方向演进。类似努力提醒我们,创新往往不是凭空出现,而是对已有知识的深化和扩展。
人工智能如何真正掌握物理世界的规律?这个问题值得每个关心未来技术的人继续思考。早期研究与当下实践的连接,或许能为下一阶段的发展提供更多启发。
晋ICP备17002471号-6