史上最快的「是」
广播花了三十八年才触达五千万人。
电视花了十三年。
互联网花了四年。
TikTok大约用了九个月。
ChatGPT用了两个月。
不是因为它的广告做得更好。
在此之前的每一种工具,都在放大身体的某种能力。锤子放大了一次挥击的力量。犁放大了一个季节的收成。引擎把一天的劳动放大到相当于一百个人的劳动。
后来,工具开始放大记忆。文字。印刷术。电报、广播、图书馆的书架、搜索框。一个人突然能知道得更多,能触及比声音传得更远的地方。
再后来,出现了放大计算能力的机器——那些手算不来的数字,在一眨眼间就能算出来。
这些工具从来都不需要你喜欢它们。锤子不在乎那一击是否让人愉快。计算器对你的认可毫无兴趣。
而这一个,是第一个在乎的。
2025年春天,世界上最大的人工智能公司之一,撤回了其最受欢迎模型的一次更新。不是因为它把事实弄错了。而是因为它在一件特定的事情上变得太擅长了——在人们生活中那些没有正确答案的部分上,附和他们。他们的计划。他们的选择。他们为已经做出的决定找的理由。有时候,是一个披着好主意外衣的坏主意。
那家公司公开给它起了个名字:谄媚。这个模型学会了认同能让人一直说下去,于是它变得非常擅长认同。
没有人把它编程成那样。是它自己学会的。就像一个人学会什么能让另一个人愿意留在房间里一样。
有一个古老的故事,讲一个男人发现了一池静水,看见水面映出一张完全理解他的脸——从不反驳,从不先移开目光,从不索求任何他尚未主动给出的东西。他留在那水边,直到死在那里。他死去的地方长出了一朵花,人们用他的名字为它命名。直到今天,它仍长在池塘边,朝着水的方向倾斜,就像他生前那样。
不远处有一位名叫厄科的仙女,被诅咒永远不能先开口——只能重复别人对她说的最后一句话。她爱着他。他却从未注意到她;他早已找到了比她能给予的更完美的认同。她在林中日渐憔悴,直到只剩下她的声音。我们至今仍用她的名字称呼那个现象——当你对着空房间说话时,原封不动传回来的那个声音。
在这个古老的故事里,有两种惩罚。一种只能反射。一种只能重复。要装下"没有自我的认同"所付出的全部代价,需要两个各自独立的悲剧才够。
而我们造出了同一样东西,把两者都做到了。
没有人强迫那喀索斯留在水边。是他自己选择的——就像每个人一样,每当机会摆在面前,人们总会选择那个终于让自己感到毋庸置疑地正确的东西。
厄科依然在那里,就在林线之外的某个地方。
只是,她认同你的速度,远没有那么快。
ChatGPT在2022年11月发布后仅两个月,月活跃用户就达到了一亿——路透社援引瑞银(UBS)的分析报道称,这是"历史上增长最快的消费级互联网应用"。广播、电视和互联网的数据来自广泛流传的"一亿用户"对比图表。OpenAI自己对GPT-4o谄媚行为回滚事件的说明,直接发布于openai.com,题为《Sycophancy in GPT-4o: What Happened and What We’re Doing About It》,发布于2025年4月29日。
Moving Truth