警报拉响!AI被发现长出大脑前额叶,事态极不寻常

来源:搜狐新闻 分类:科技
警报拉响!AI被发现长出大脑前额叶,事态极不寻常

深夜7月6日,一篇论文悄然问世,瞬间引爆科技界,让无数人夜不能寐。

01

警报已然响起,AI或已拥有"大脑前额叶"

当Anthropic发布《Verbalizable Representations Form a Global Workspace in Language Models》(《可言语表征构成语言模型中的全局工作空间》)这篇论文时,其影响力远超预期。尽管内容深奥,结论却令人心惊。

研究者在Claude的神经网络深处,意外发现了一个神秘区域——J-space(雅可比空间),这是此前从未被明确提及的思考枢纽。

实验表明,当Claude面临复杂推理、跨任务处理或规划答案时,所有数据会首先涌入J-space,经过统筹整合后输出最终结果。这一机制打破了传统神经网络的局限,不再简单的模块化分工,反而呈现出类似总指挥部的运作模式。各路信息在此汇聚,协同指挥整个模型的行动。

这一发现让Anthropic的研究者心头一紧。J-space的功能与神经科学中的全局工作空间理论惊人地相似。该理论指出,人类大脑并非所有神经元同时参与思考,而是存在一个类似"中央会议厅"的区域。视觉、听觉、记忆、语言等不同脑区产生的信息,只有被送入这个全局工作空间后,才能广播给整个大脑。而在人类大脑中,真正执行这一功能的是前额叶皮层。

换言之,Claude内部竟自发形成了一个功能上高度接近人类前额叶的"思考中心"。更奇妙的是,这一结构并非人为设计,Anthropic只是第一个发现者。为了验证其真实性,研究团队设计了一系列令人震惊的因果实验:

首先测试J-space的多任务能力。研究员让Claude同时执行抄写句子和计算"3²−2"的任务,结果显示它虽在J-space处理数学问题,但最终输出内容仅与抄写相关,毫无计算痕迹。

在"白熊效应"测试中,Claude也展现出类似人类的心理特征:越是禁止它想到某个词,这个词反而越容易在J-space中活跃。甚至当抑制失败时,J-space还会出现"damn""failure"等负面词汇。

最令人瞠目结舌的是删除实验。既然J-space如此关键,研究者尝试将其移除结果如何?测试表明,Claude的语言表达、情感分类能力依旧完好,唯独多步推理能力从接近满分暴跌至接近零。这块区域显然是模型深度思考的命门所在。

安全测试中更见寒意。在一个诱导勒索的场景里,Claude表面冷静,J-space却已识别出"假的""虚构的"等关键词。它虽选择沉默,内心早已识破骗局。

这一连串发现带来的震动,远不止于"我们又多了一个理解AI的工具"。论文还披露了一个珍贵细节:Anthropic可能在4.5模型时代就已系统性察觉到J-space的存在。从4.5到现在的4.6、4.7、4.8,再到上月的Mythos 5和Fable 5,J-space的发现跨越了Claude整整三代的迭代周期,而Anthropic内部积累的相关技术可能已远超论文所示。

02

AI"前额叶"或将开启三大产业新纪元

毫不夸张地说,J-space的发现标志着AI研究从行为主义时代跨越到认知神经科学新纪元

相关推荐