分享:
 OR 新媒oror.vip跨平台阅读首选
在移动设备生成「OR新媒体」

app

访问「OR新媒体」官网( oror.vip ,点击分享按钮,选择“添加到主屏幕”即可。
2025-09-09 16:56
社会与生活 科技

AI是否会成为知识“终结者”?

过度依赖擅长整合现有信息的人工智能,可能会扼杀人类创造新知识的动力、导致批判性思维能力萎缩,并最终造成知识源泉的枯竭。
人工智能AI热潮的另一面:交易员加速逃离恐遭颠覆的企业
Greg Ip



今年1月,OpenAI首席执行官山姆·阿尔特曼(Sam Altman)和首席产品官Kevin Weil展示了即将发布的ChatGPT“深度研究”应用。华盛顿的观众观看了这样一个场景:Weil请ChatGPT准备一份备忘录,就阿尔伯特·爱因斯坦(Albert Einstein)担任能源部长的确认听证会为一名虚构的参议员提供信息。

ChatGPT很快就生成了一份关于爱因斯坦的详尽简介,列出了他的技术和工程成就、领导风格、优点(“一位全球敬重的科学家兼政治人物”)和缺点(“从未管理过大型组织”),外加这位参议员可以提出的问题(“自二战以来,您一直在核问题上直言不讳。作为能源部长,您将如何确保核电站的安全并维护美国对核不扩散的承诺?”)。

这种令人印象深刻且如今已司空见惯的功能所带来的好处显而易见:极大地节省了时间和精力。当然,也会有潜在的代价:研究人员、作家和其他知识工作者会因为人工智能(AI)而失去多少工作岗位?

我想到的是另一种代价:有多少知识会因AI而流失?像ChatGPT、谷歌(Google)的Gemini和Anthropic的Claude这样的大语言模型擅长定位、整合和关联知识,但它们并不会增加知识的存量。

相比之下,当人类回答诸如爱因斯坦是否应担任能源部长之类的问题时,他们往往会开辟新的探究途径,并在这一过程中创造新的知识和见解。他们这样做有多种原因:薪水、财富、名望、教职、“点赞”、点击量、好奇心。

如果大语言模型主导了回答问题的工作,那些激励因素就会萎缩。当你创造的知识随后被扔进一个大语言搅拌机里打成浆糊时,你几乎得不到任何回报。

想想Stack Overflow的命运吧。这是一个软件开发者提问和回答问题的网站,既是知识的源泉,也是知识的宝库。

但后来,开发者们开始向ChatGPT提问。布达佩斯考文纽斯大学(Corvinus University of Budapest)的Johannes Wachs和两位合著者的一项研究显示,2022年11月ChatGPT推出六个月后,Stack Overflow平台上的提问量较之前下降了25%。这一降幅是通过与中文和俄语同类网站对比得出的——在这些语言平台上,ChatGPT尚未成为用户获取答案的替代选项。

根据同行反馈,无论问题质量高低,降幅都是一样的,这驳斥了AI只会取代低价值研究的预测。

截至本月,问题数量的降幅已超过90%。除了Stack Overflow的所有者,其他人为什么也应该关心此事呢?因为正如科技作家Nick Hodges在InfoWorld上所解释的那样:“Stack Overflow提供了AI编程工具中内嵌的大部分知识,但开发者越依赖AI编程工具,他们就越不可能参与Stack Overflow这个生产知识的网站。”

Stack Overflow可能是一个极端的例子。另一项研究发现,Reddit上没有出现类似的下降。

但有迹象表明,其他地方也出现了类似的影响。许多大语言模型都是在维基百科(Wikipedia)上训练的,这是一个由人类汇编和维护的知识库。哥伦比亚大学(Columbia University)商学院教授Hannah Li和五位合著者发现,在ChatGPT推出前一年与推出后一年之间,与ChatGPT生成内容最相似的维基百科页面的浏览量下降了。编辑量也有所下降,这可能是贡献激励减少的一个迹象,尽管数据尚无定论。

与此同时,随着谷歌让用户能够通过AI回答查询而无需点击链接,大大小小的网络出版商都发现来自搜索的引荐流量骤降。

互联网搜索本身也面临风险。去年,地区法院法官Amit Mehta裁定,Alphabet旗下的谷歌在搜索领域拥有非法垄断地位。但AI的戏剧性增长促使他在上周对谷歌仅施以出乎意料的轻微处罚。Mehta写道:“十多年来,首次真正出现了会有一种产品对谷歌的市场主导地位构成实质性挑战的前景。”

如果大语言模型的输出内容开始主导网络,网络将会变得,这么说吧,更愚蠢。哥伦比亚大学的Li在一次采访中说:“当我们用其他大语言模型的输出内容来训练大语言模型时会发生什么?整体结果会变差。模型会变差。这就是他们所说的‘模型坍塌’。”

这与指数基金和其他被动策略对股票市场的影响有相似之处。它们不做研究和价格发现(揭示资产价值的谈判过程),而是搭主动投资者的研究和价格发现的便车。换句话说,它们利用市场效率,却不对其做出贡献。在这一过程中,它们正在挤压主动投资,使得市场日益被相互交易的算法所主导。

我承认,这些都是有些反乌托邦的设想。我也可以讲个不一样的故事,关于AI将如何帮助学者们发现网络上原本互不相干的零散知识之间的联系。多伦多大学(University of Toronto)经济学家Joshua Gans就AI问题撰写了大量文章,他认为只要新知识有价值,它总会以某种方式被创造出来。他表示,如果AI提供的洞见只是渐进性的,人类将会转向真正具有创新性的研究。

也许吧。但如果人类不是转向,而是对学习完全失去兴趣呢?对AI的依赖会导致批判性思维能力萎缩,就像对全球定位系统(GPS)的依赖会削弱空间记忆一样。麻省理工学院(Massachusetts Institute of Technology)的Nataliya Kosmyna和七位合著者进行的一项研究,要求三组被试写文章,一组使用大语言模型,一组使用互联网搜索,还有一组只用自己的大脑。后来的扫描显示,使用大语言模型的那组在记忆回溯和执行功能等大脑区域的参与度最低;只用大脑的那组参与度最高。

这些作者认为,心理参与度会因“新颖性,即遇到新的或意想不到的内容”而增强。我对此深有同感。由于对OpenAI的演示不满意,我在网上搜索了爱因斯坦的传记和著作。

我了解到,他父亲的公司生产基于直流电的电气设备,后来在交流电胜出时破产了;他曾直言不讳地支持美国的民权运动,反对德国对犹太人的压迫,为此纳粹曾悬赏要他的人头;在20世纪40年代和50年代的麦卡锡主义狂热时期,他被称为在外国出生的传播共产主义的煽动者;他不是共产主义者,而是社会主义者。在1949年为一本社会主义期刊撰写的一篇文章中,他回答了一个我经常思考的问题:经济学与天文学等物理科学有何不同。“经济现象常常受到许多因素的影响,这些因素很难单独评估。”

我不知道这些信息是否与他担任能源部长的资格有关。我本可以把时间花在更有成效的工作上。但话说回来,获取新知识从未让我感觉像是在工作。


相关内容

  • 军安杜瑞尔创始人
在移动设备生成「OR新媒体」

app

访问「OR新媒体」官网( oror.vip ,点击分享按钮,选择“添加到主屏幕”即可。
人工智能AI热潮的另一面:交易员加速逃离恐遭颠覆的企业
2025-09-09 16:56
社会与生活 科技

AI是否会成为知识“终结者”?

过度依赖擅长整合现有信息的人工智能,可能会扼杀人类创造新知识的动力、导致批判性思维能力萎缩,并最终造成知识源泉的枯竭。
Greg Ip



今年1月,OpenAI首席执行官山姆·阿尔特曼(Sam Altman)和首席产品官Kevin Weil展示了即将发布的ChatGPT“深度研究”应用。华盛顿的观众观看了这样一个场景:Weil请ChatGPT准备一份备忘录,就阿尔伯特·爱因斯坦(Albert Einstein)担任能源部长的确认听证会为一名虚构的参议员提供信息。

ChatGPT很快就生成了一份关于爱因斯坦的详尽简介,列出了他的技术和工程成就、领导风格、优点(“一位全球敬重的科学家兼政治人物”)和缺点(“从未管理过大型组织”),外加这位参议员可以提出的问题(“自二战以来,您一直在核问题上直言不讳。作为能源部长,您将如何确保核电站的安全并维护美国对核不扩散的承诺?”)。

这种令人印象深刻且如今已司空见惯的功能所带来的好处显而易见:极大地节省了时间和精力。当然,也会有潜在的代价:研究人员、作家和其他知识工作者会因为人工智能(AI)而失去多少工作岗位?

我想到的是另一种代价:有多少知识会因AI而流失?像ChatGPT、谷歌(Google)的Gemini和Anthropic的Claude这样的大语言模型擅长定位、整合和关联知识,但它们并不会增加知识的存量。

相比之下,当人类回答诸如爱因斯坦是否应担任能源部长之类的问题时,他们往往会开辟新的探究途径,并在这一过程中创造新的知识和见解。他们这样做有多种原因:薪水、财富、名望、教职、“点赞”、点击量、好奇心。

如果大语言模型主导了回答问题的工作,那些激励因素就会萎缩。当你创造的知识随后被扔进一个大语言搅拌机里打成浆糊时,你几乎得不到任何回报。

想想Stack Overflow的命运吧。这是一个软件开发者提问和回答问题的网站,既是知识的源泉,也是知识的宝库。

但后来,开发者们开始向ChatGPT提问。布达佩斯考文纽斯大学(Corvinus University of Budapest)的Johannes Wachs和两位合著者的一项研究显示,2022年11月ChatGPT推出六个月后,Stack Overflow平台上的提问量较之前下降了25%。这一降幅是通过与中文和俄语同类网站对比得出的——在这些语言平台上,ChatGPT尚未成为用户获取答案的替代选项。

根据同行反馈,无论问题质量高低,降幅都是一样的,这驳斥了AI只会取代低价值研究的预测。

截至本月,问题数量的降幅已超过90%。除了Stack Overflow的所有者,其他人为什么也应该关心此事呢?因为正如科技作家Nick Hodges在InfoWorld上所解释的那样:“Stack Overflow提供了AI编程工具中内嵌的大部分知识,但开发者越依赖AI编程工具,他们就越不可能参与Stack Overflow这个生产知识的网站。”

Stack Overflow可能是一个极端的例子。另一项研究发现,Reddit上没有出现类似的下降。

但有迹象表明,其他地方也出现了类似的影响。许多大语言模型都是在维基百科(Wikipedia)上训练的,这是一个由人类汇编和维护的知识库。哥伦比亚大学(Columbia University)商学院教授Hannah Li和五位合著者发现,在ChatGPT推出前一年与推出后一年之间,与ChatGPT生成内容最相似的维基百科页面的浏览量下降了。编辑量也有所下降,这可能是贡献激励减少的一个迹象,尽管数据尚无定论。

与此同时,随着谷歌让用户能够通过AI回答查询而无需点击链接,大大小小的网络出版商都发现来自搜索的引荐流量骤降。

互联网搜索本身也面临风险。去年,地区法院法官Amit Mehta裁定,Alphabet旗下的谷歌在搜索领域拥有非法垄断地位。但AI的戏剧性增长促使他在上周对谷歌仅施以出乎意料的轻微处罚。Mehta写道:“十多年来,首次真正出现了会有一种产品对谷歌的市场主导地位构成实质性挑战的前景。”

如果大语言模型的输出内容开始主导网络,网络将会变得,这么说吧,更愚蠢。哥伦比亚大学的Li在一次采访中说:“当我们用其他大语言模型的输出内容来训练大语言模型时会发生什么?整体结果会变差。模型会变差。这就是他们所说的‘模型坍塌’。”

这与指数基金和其他被动策略对股票市场的影响有相似之处。它们不做研究和价格发现(揭示资产价值的谈判过程),而是搭主动投资者的研究和价格发现的便车。换句话说,它们利用市场效率,却不对其做出贡献。在这一过程中,它们正在挤压主动投资,使得市场日益被相互交易的算法所主导。

我承认,这些都是有些反乌托邦的设想。我也可以讲个不一样的故事,关于AI将如何帮助学者们发现网络上原本互不相干的零散知识之间的联系。多伦多大学(University of Toronto)经济学家Joshua Gans就AI问题撰写了大量文章,他认为只要新知识有价值,它总会以某种方式被创造出来。他表示,如果AI提供的洞见只是渐进性的,人类将会转向真正具有创新性的研究。

也许吧。但如果人类不是转向,而是对学习完全失去兴趣呢?对AI的依赖会导致批判性思维能力萎缩,就像对全球定位系统(GPS)的依赖会削弱空间记忆一样。麻省理工学院(Massachusetts Institute of Technology)的Nataliya Kosmyna和七位合著者进行的一项研究,要求三组被试写文章,一组使用大语言模型,一组使用互联网搜索,还有一组只用自己的大脑。后来的扫描显示,使用大语言模型的那组在记忆回溯和执行功能等大脑区域的参与度最低;只用大脑的那组参与度最高。

这些作者认为,心理参与度会因“新颖性,即遇到新的或意想不到的内容”而增强。我对此深有同感。由于对OpenAI的演示不满意,我在网上搜索了爱因斯坦的传记和著作。

我了解到,他父亲的公司生产基于直流电的电气设备,后来在交流电胜出时破产了;他曾直言不讳地支持美国的民权运动,反对德国对犹太人的压迫,为此纳粹曾悬赏要他的人头;在20世纪40年代和50年代的麦卡锡主义狂热时期,他被称为在外国出生的传播共产主义的煽动者;他不是共产主义者,而是社会主义者。在1949年为一本社会主义期刊撰写的一篇文章中,他回答了一个我经常思考的问题:经济学与天文学等物理科学有何不同。“经济现象常常受到许多因素的影响,这些因素很难单独评估。”

我不知道这些信息是否与他担任能源部长的资格有关。我本可以把时间花在更有成效的工作上。但话说回来,获取新知识从未让我感觉像是在工作。


相关内容

  • 军安杜瑞尔创始人
 

读者评论
OR

特别报道

最受欢迎
OR
+

分享:
最新资讯
OR
+
OR品牌理念
+

■ 或者,  留一段影像,回一曲挂牵。丝丝入扣、暖暖心灵 ,需飘过的醇厚与共。
■ 或者,热烈空雨伴芬芳泥土;绿绿生命缠锐意骄阳。
回望,回望,一马平川红酒飘散断归途。
■ 或者,灰蒙蒙空气重回道指一万四千点。滚动时光,照进现实,流逝过往,回归未来。

■ OR 新媒体是一个提供时政、经济、文化、科技等多领域资讯的平台,旨在为用户提供优质的阅读体验。网站的网址是oror.vip,用户可以通过浏览器在台式电脑 、笔记本电脑 、平板电脑 、手机访问。.......



读者评论
+