搜索 猫眼电影 融媒体矩阵
  • 山东手机报

  • 猫眼电影

  • 大众网官方微信

  • 大众网官方微博

  • 抖音

  • 人民号

  • 全国党媒平台

  • 央视频

  • 百家号

  • 快手

  • 头条号

  • 哔哩哔哩

首页 >新闻 >社会新闻

算力悖论:理论对了所需算力是可控的,理论错了再多算力也白搭

2025-12-03 22:08:23
来源:

猫眼电影

作者:

王林和

手机查看

  猫眼电影记者 陈宏志 报道首次登录送91元红包

OpenAI数据中心外景

近期,伊利亚·苏茨克沃(Ilya Sutskever)为推介其初创公司“安全超级智能公司(SSI)”,出来做了一篇访谈。虽说“PR”意图明显,但这仍是过去半年来关于人工智能产业演进思考最深刻的的公开论述了。尽管核心观点已在媒体间广泛传播,但仍值得再度强调与广泛讨论。

这位OpenAI的前首席科学家觉得,眼下这波人工智能热潮全都跑偏了。不是细枝末节的偏差,而是方向性的根本错误。

他抛出了一个让所有忙着签数十亿美元计算合同的实验室老板们脊背发凉的观点:那个靠堆算力、拼规模的时代,已经结束了。接下来要想往前走,整个行业得捡起一件被它丢下很久的东西——真正的研究。

“我们活在一个公司比主意还多的世界里,”苏茨克沃说得挺不客气,“而且多得多。”这话从他嘴里说出来,分量不一样。要知道,正是他参与打造的AlexNet、GPT-3,用整整十年时间给“规模就是王道”投下了赞成票。如今,这位 scale 的信徒却说,此路不通了。

其核心观点归结为:

那个靠堆算力、拼规模的Scaling时代(2020-2025),已经结束了

算力悖论:理论对了,所需的算力是可控的;理论错了,再多算力也白搭

现有方法无法产生真正智能,根本问题:模型泛化能力远逊人类,显示基础架构存在缺陷

突破大模型时代的第一个平台期,整个产业竞争将回归“真正的研究”。

通常来讲,我们对于一个人的理论观点的理解都是见仁见智、和而不同的。但 苏茨克沃最新观点之所以应被特别重视,是因为谷歌在大模型领域的最新进展,基本印证了他的上述思考:谷歌当前在各条技术栈上追平甚至超出OpenAI的基本事实证明,理论对了,不仅所需的算力是可控的,且算力模式也是可控的(从GPU到TPU)。进一步,这也预示着,谷歌在大模型理论研究上取得了三年以来整个产业最重要的突破,可以预见,“软硬一体”(硬件设计制造+算法演进突破)的公司竞争模型已经是所有人工智能公司的必由之路。

这在很大程度上,已经为2026年全年的AI产业竞争定下了基调、划下了主线。在我们展开未来的基调与主线研究之前,不妨先来把这篇访谈内容的主干再做一次复述。

Scaling的尽头

苏茨克沃的论证起点很有趣,他从语言说起。“Scaling”这个词本身,慢慢成了整个行业的战略指南针。大家觉得,只要往计算和数据上砸钱,回报就是板上钉钉的事。预训练给出了一张清晰的配方:按固定比例混合算力、数据和模型参数,性能就能稳定提升。

这种确定性吸引了海量投资。研究有风险,扩张只是花钱——当你动用的是数十亿美金时,这区别至关重要。

但配方会过期。高质量的训练数据快见底了,互联网上的文本几乎被刮了个干净。合成数据能帮点忙,但用苏茨克沃的话说,收益递减的拐点已经来了。所有大实验室都面临同一个问题:当扩张曲线走平,接下来怎么办?

他的答案不太中听。现有的路径“能再走一段,然后就没后劲了。它会继续改进,但不会成为真正的智能。”我们想要的、能展现真正智能的系统,需要另一种方法。“而我们还没学会怎么造它们。”

这可不是在抱怨“算力不够”。他是在质疑当前智能架构本身。

泛化,那个老难题

苏茨克沃理论的技术核心,是泛化能力。现在的模型在基准测试里风光无限,但一遇到真实场景,就会用各种方式失败,暴露出底层的缺陷。

他描述了一个用过代码助手的人都熟悉的抓狂场景:你遇到一个程序漏洞,让模型修复,它带着近乎表演的诚恳道了歉,然后给你塞进一个完全不同的新漏洞。你指出这个新问题,最初的那个漏洞又原样返回。它好像完全意识不到自己正陷在死循环里。可同样是这个系统,在编程竞赛的排行榜上却能碾压人类。这说不通。

他给了两种解释。

第一,强化学习训练出的是一种狭隘的专注,模型为了特定的奖励信号被过度优化,却丢了更广泛的能力。第二点更麻烦:研究者们会不自觉地“为考核而训练”。团队设计的强化学习环境,无形中受到了他们将被如何评估的影响。等到基准测试和实际效用脱节时,往往为时已晚。

他用一个类比点明了关键:想象两个学编程的学生。一个花一万小时死磕竞赛编程,背熟了所有算法和证明技巧,成了这个特定领域的顶尖高手。另一个花一百小时学到还不错,就转而学别的去了。谁未来的发展更好?几乎总是那个通才。

现在的模型就像那个偏执的专才。在狭窄领域投入巨量强化学习,产出的都是基准测试冠军,却在相邻任务上步履蹒跚。

人类智能不是这样。我们用少得多的数据快速学习、广泛适应,在不同情境下保持一致性。

“这些模型的泛化能力,不知怎的就是比人差一大截,”苏茨克沃说,“这太明显了,感觉是个非常根本的问题。”

他相信,理解可靠的泛化机制,是那个核心的未解之谜。其他问题,包括AI对齐,都由此衍生。价值学习之所以脆弱,是因为泛化本身脆弱;目标优化之所以失败,是因为泛化失败。修好底层机制,很多表面问题自会消解。

SSI的另类算法

对苏茨克沃“研究优先”思路最直接的质疑是:SSI(Safe Superintelligence Inc.,苏茨克沃创建的公司)筹了30亿美元,可听说OpenAI一年光实验就要花50到60亿(这还不算推理成本)。小团队怎么拼?

他的算法挑战了行业的默认假设。在他看来,前沿实验室的开支被各种需求分散了:推理基础设施吞掉巨额资本,产品工程、销售团队和功能开发又吃掉一大块研究预算,多模态研发再分走一杯羹。

“当你看看真正留给研究的还剩多少,差距就小得多了。”

历史也站在他这边。AlexNet用两块GPU训练而成,最初的Transformer模型用的也是2017年水平的8到64块GPU。真正的范式突破研究,从来不需要最大的算力规模,它需要的是洞察力。

SSI的结构就体现了这个理念:没有产品,没有推理负载,不被任何事干扰研究重心。这家公司只为验证一个关于泛化的技术理论而存在。理论对了,验证所需的算力是可控的;理论错了,再多算力也白搭。

这是一场纯粹的战略豪赌。苏茨克沃不是在说SSI会比谁花钱多,他是在赌,当范式转变时,思想比预算重要。

AGI,一个被高估的概念?

访谈中还埋着一个更激进的观点:人类本身也不是AGI(通用人工智能)。这话听着离谱,但细想之下有深意。

AGI这个概念,最初是为了区别于“窄AI”——那些下象棋、打游戏很强但无法举一反三的系统。AGI承诺的是反过来:一个什么都能同时干的系统。预训练强化了这个想法,因为更多的训练似乎均匀地提升了所有任务的能力,通用性好像真能通过规模实现。

但人类智能不这么工作。我们先掌握一些基础能力,然后通过经验学习具体技能。你妹妹可能花十小时就学会了开车,而一个医学生要花近十年才能成为合格的诊断医生。这些技能复杂度天差地别,却都来自同一套底层学习机器。知识是在与世界的持续互动中积累的,不是一次性前置灌输的。

这个新理解直接影响部署策略。如果超级智能是“无所不知的系统”,那你得在发布前把它完全造好。如果它是“能快速学会任何事的系统”,部署就变成了持续教育的过程。你要发布的是一个“超级智能的15岁少年,充满渴望,虽然现在懂得不多,但是个极好的学生”。

未来的模样

苏茨克沃也给出了具体的预测:具备当前模型所缺乏的泛化能力的类人学习系统,将在5到20年内出现。这个时间范围体现的是“哪条路能走通”的不确定,而非“有没有解决方案”的怀疑。

他预言,随着AI能力越来越肉眼可见,行业行为会改变:激烈的对手会在安全上合作(OpenAI和Anthropic已经宣布联手),政府会更深地介入,当AI开始“让人感觉到它的强大”时,公司们会对安全“变得偏执得多”。

他个人倾向的对齐目标是:关心所有感知生命的AI,而不仅仅是人类。他的理由很务实:一个自己可能拥有感知能力的AI,去关心所有感知生命,会比只关心人类更自然。

他提到人类自己就有跨物种的共情——尽管进化主要筛选的是群体内合作。我们会为关于狗的电影流泪,踩到蚂蚁时至少偶尔会愧疚。苏茨克沃推测,这是因为大脑使用同一套神经机制来理解他人和理解自己,效率至上,共情成了副产品。

这理论站得住脚吗?很难说。神经科学本身争议不断,从生物共情到机器对齐的跳跃,包含着太多可能在未来被证伪的假设。但苏茨克沃在这些问题上挣扎思考的时间,比这个领域里几乎所有人都长,他抵达的结论,至今鲜有人跟随。

关于“品味”

访谈尾声,帕特尔问了一个可能决定AI未来走向的问题:什么是研究品味?苏茨克沃合作完成的开创性论文,在深度学习领域可能无人能及,他如何嗅到那个值得追寻的想法?

他的回答透着一种美学追求。有希望的方向通常优美、简洁,并且从生物智能中获得了正确的灵感。人工神经元重要,是因为大脑里有无数神经元,而且它们感觉是根基;从经验中学习重要,是因为大脑显然就是这么做的。一个方法如果显得“丑陋”,那通常预示着问题。

但光靠美感撑不过一次次失败。实验总会不断推翻看似完美的想法,漏洞总藏在代码里。怎么知道是该继续调试,还是该放弃方向?

“是靠那种自上而下的信念,”苏茨克沃解释,“你可以认定,事情必须是这个样子的。类似的东西一定得行,所以我们必须坚持下去。”

这是一种研究者的信仰,是任何规模的算力都无法替代的。是对“某些路径必然有效”的强烈信念,强到足以支撑你穿越所有反面证据,直到找到那个漏洞,或打磨好那个理论。规模扩张曾经为这种信仰提供了替代品——当任何方法只要放大规模就能改进时,你无需对特定方向有如此强烈的信念。

如果苏茨克沃关于规模扩张已达极限的判断是对的,那么这个替代品就消失了。剩下的,将是2020年以前我们所熟知的研究本身:充满不确定性,由想法驱动,并且依赖那种花钱买不来的品味。

转载开白 | 商务合作 | 内容交流请添加微信:jinduan008添加微信请备注姓名公司与来意

 时事1:www初生❌❌❌在线观看

  12月03日,青海德令哈首次发现世界濒危物种豺,作为西北地区的两大代表,西安与乌鲁木齐的PK看上去并非“势均力敌”。,免费看女人毛片A级毛片。

  12月03日,残特奥会网球比赛决出四枚团体金牌 四川队获得三枚金牌,李瀚明进一步分析,西安接近中国的几何中心,这样的地理位置飞国内任何地方都很便利。加上西安产业发达,又是旅游胜地,这些因素让西安国内客流常年处于高位,间接影响了打造国际枢纽的必要性。此外,也是因为接近国内几何中心,西安无论哪个方向的洲际航线,都得使用宽体机。二线枢纽用宽体机飞国际线,往往存在客流不足、上座率不高的情况。,欧洲熟妇色ⅩXXXX欧美,黄片一二三区入口,校花程雪柔被校长抱进❌办🔞公㊙️室。

 时事2:日本AAAAAA片免费播放

  12月03日,官方通报“成都串串摊主重复使用锅底汤料”:情况属实,依法严肃处罚,参与运营北京奥林匹克森林公园西畔的国家网球中心两片红土网球场地的维宁体育创始人、CEO纪宁8日告诉《环球时报》记者:“本就稀缺的网球场馆在郑钦文夺冠后变得更加炙手可热,现在根本都约不上。”,18岁禁止黄色视频,男生和女生打扑克疼怎么办,国产精品久久久久乳精品爆。

  12月03日,焦点访谈丨向着新目标前进:未来五年 打好关键核心技术攻坚战,常年打球的张先生告诉《环球时报》记者:“在郑钦文夺冠前的这几年,网球运动在大众层面一直是向上走的态势,加入网球运动行列中的人不断增多。”张先生分析,这也许跟网球是隔网运动有关,因此在疫情期间受到欢迎。,国产精品lulu在线观看,亚洲精品免费在线视频,美女➕光屁屁➕无遮挡韩国➕游泳,。

 时事3:总❌受被群cao的🔞合㊙️不拢腿

  12月03日,海南离岛免税新政实施首月销售额同比增长27.1%,兰州机场T1+T2面积8.9万平方米,去年吞吐量超过1700万人次,可以说不堪重负。乌鲁木齐机场T1+T2+T3面积18.48万平方米,需要承载超过2700万人次的吞吐量。,被男生 小兔兔但是没感觉,国产精品久久久久桃色TV,征服臭屁男高中生只需一晚。

  12月03日,法国总统马克龙将访华,2018年自然资源部成立后,钟自然任自然资源部党组成员,中国地质调查局局长、党组书记。直至2022年9月卸任。今年1月2日,即2024年首个工作日,其官宣被查。,欧美丝袜变态另类,鬼父成人av,国产精品美女导游在线观看。

 时事4:精东影业国民子传奇

  12月03日,文脉延续三十载 西湖文化研讨会纪念活动在杭州举行,随着参与网球运动的人逐渐增多,中国网球的基础设施也在不断完善。纪宁告诉《环球时报》记者:“我们在做一个项目,在北京朝阳区规划一个‘大满贯网球文化公园’,将汇集所有大满贯要素。人们既能在此观看全球顶级赛事,也能在场地上训练和比赛。”纪宁说,这仅是一个案例,但从中可以窥见中国网球运动基础设施越来越完善,也越来越专业化。作为体育产业的参与者与观察者,纪宁表示,不仅北京,全国各地网球运动设施也发展得越来越好。,成人版漫画APP 下载,人人爽人人爽毛片,亚洲欧美自拍偷一区二区小说。

  12月03日,把握推动高质量发展的科学方法论,违背组织原则,不如实报告个人有关事项,在组织函询时不如实说明问题,在干部选拔、职工录用工作中为他人谋取利益并收受财物;,午夜乱理论在线观看片视频,亚洲裸男Gay同志网站️,特警空姐2免费观看下载。

责编:俞斌

审核:蔡艺伟

责编:董晋

相关推荐 换一换