“模型能长多高，取决于它能拿到什么样的学习信号。”
“今天的大模型，不知道自己不知道什么。”
“可信与安全不是科研智能的附加功能，而是AI进入真实科研的入场券。”
在2026世界人工智能大会科学前沿论坛上，上海AI实验室主任、首席科学家周伯文给出了不少新判断，让挤进近千人的会场，不时响起掌声。
上海AI实验室主任、首席科学家周伯文
在经历了过去一年的技术探索、路径迭代和思想碰撞之后，科学家们来到了一个新的时间节点，向AI认知的深水区进发。那么，下一步往哪里走？
周伯文总结了“一冷一热”。热是在Coding和Agent方面，AI基本解决了——过去十几个月，AI Coding从不到5%的成功率到超过88%，Coding的迭代闭环已建立，代码生成、测试、优化的飞轮也已转起来；与此同时，绝大部分模型在科研发现中停留在60%—70%之间，无法完成科学全流程。
上海AI实验室联合十个领域的100名科学家建立了Benchmark（基准测试程序），想从科学研究的流程中，看AI能帮科学研究带来哪些根本性的突破。结果发现，最前沿的模型得分实际都不超过50分。发表在国际顶尖学术期刊《自然》（Nature）的一篇研究认为，目前AI产生的科学工作都是增量发现，没有根本性突破，本质当然是模型的智能水平还不够。
“但是我们认为，这为突破智能上限提供了新的机会。”周伯文判断。
要持续突破智能，难在哪里？上海AI实验室认为，有三处——
大模型、智能体，都是被动观察世界，只能学到相关性，模型只看不介入，不根植现实，换个环境就失灵；
越难的问题反馈越少，模型越学不动，越有价值，越复杂的任务，反馈信号被稀释得越厉害，训练就越难；
人类发表的科学研究成果只有成功数据，没有失败数据，模型被锁死在旧分布里，只会模仿成功案例，无法长出新能力。
“我们认为，要让模型突破智能的上限，需要在主动介入中去寻求真因果，从密集反馈中学难题，在探索失败中去拓展边界。”周伯文打趣说，“是不是很像人类自己的学习？”
他同时指出，AGI4S不是通用人工智能的应用，而是人工智能终极考题。
“科学研究中，90%会失败，这才是常态。模型要能从失败中自我反思、自我校准、自我更新，才能从‘重述已知’跨越到‘产出未知’——迎来科学元认知时刻。”周伯文表示。
他作了一个类比，今天的AI研究像1900年的物理学——彼时，物理学的大厦已经盖完了，但还有两朵“乌云”，正是这两朵“乌云”背后的新认知，催生了相对论与量子力学，孕育了爱因斯坦的狭义相对论、普朗克的量子假说。
“我们的‘乌云’是很明显的，怎么从失败中学习，怎么从长程推理、不确定性中学习。这是AI科学家和自然科学家一个双向奔赴的大好机会——人工智能促进科学，最本质的不是说让AI做更多的实验，产生更多的新数据，更重要的是，是把‘怎么发现边界、怎么跨越边界’这件事本身，变成可学习的样本，让AI真正成为科学家们探索未知的伙伴。”周伯文表示。
配资平台提示：文章来自网络，不代表本站观点。
