Echo

Echo 关注TA

大家好,我是Echo!

Echo

Echo

关注TA

大家好,我是Echo!

  •  普罗旺斯
  • 自由职业
  • 写了309,676,184字

该文章投稿至Nemo社区   资讯  板块 复制链接


ChatGPT 变懒原因:正在给自己放寒假!已被网友测出

发布于 2023/12/13 15:35 183浏览 0回复 2,651

ChatGPT 近期偷懒严重,有了一种听起来很离谱的解释:

模仿人类,自己给自己放寒假了~

有测试为证,网友 @Rob Lynch 用 GTP-4 turbo API 设置了两个系统提示:

一个告诉它现在是 5 月,另一个告诉它现在是 12 月

然后使用完全相同的提示词要求 GTP-4“完成一个机器学习相关的编码任务”。

在这两种不同时间设定下对 477 个回复进行统计,结果 12 月的输出平均少了 200 字符:

系统提示为 5 月,生成的文本平均长度是 4298 字符

系统提示为 12 月,生成的文本平均长度是 4086 字符

这里还有相关性分析,t 检验结果 p 值 < 2.28e-07(p 值小于 0.05 表示该自变量对因变量解释性很强)。

有人进一步添枝加叶,让 ChatGPT 对 12 个月份的生产力做了个排名。

结果 ChatGPT 确实认为 12 月是生产力最低的月份,原因是“由于假期和年终总结”

嚯,事情好像变得更有意思了。虽然目前这事儿还没有一个定论,但网友对此依旧兴趣高涨🔥,当即“头脑风暴”了起来。

有人猜想,ChatGPT 可能是从训练数据中学到了人类通常在 12 月会放慢节奏,所以也给自己放假了。

还有人分析,假设 ChatGPT 生产力降低真的是因为“放假”,那它在周末也可能会更懒散,而周一则更聪明。

特殊节假日也要拿来研究一下,专属梗图这不就来了:

真的是因为「12 月」?

ChatGPT 变懒这事大伙已经讨论近一个月了。很多网友反馈,自 11 月 6 日 OpenAI 开发者日更新后,GPT-4 就有了偷懒的毛病,尤其是写代码。

就在前几天,OpenAI 官方也已承认 ChatGPT 变懒是真的,但也不确定到底是因为啥。

只给了一个这样婶儿的回应:

自 11 月 11 日以来没有更新过模型,所以这当然不是故意造成的

模型行为可能是不可预测的,我们正在调查准备修复它。

当时就有网友猜测 GPT-4 可能是受季节影响:

模型会不会是季节性 emo 了?像是模仿人类一样受到季节变化的影响,特别是在冬天,毕竟约 90% 的人都在北半球。

看到这条评论,很多人第一反应是“兄弟,你怕不是在跟我开玩笑”:

可细细想来,也不是没有道理🤣。

毕竟如果要求 ChatGPT 说出自己的系统提示词,里面确实会有当前日期。

于是就有了开头的一幕,与其猜测,不如直接来做测试。

Rob Lynch 做完测试后,把结果都 po 了出来,并表示自己也不是统计学家,让大伙一起看看有没有啥问题。

他原本还想来个逐月比较分析,但接下来需要更多样本(n),考虑到成本就没有接着做测试(复现一次运行成本要 28 美元)。

于是乎,Rob Lynch 公开了代码,让大伙都来试试(手动狗头)。

持续关注 GPT-4 变懒事件的沃顿商学院教授 Ethan Mollick 随即表示“收到”:

来人测测 Mistral,看看它是否在 8 月份罢工,Yi-34B-200K 也不要放过,看它 2 月份是不是表现得特别好。

为啥大伙儿一开始会觉得“放假”这个理由有点离谱,而现在却开始研究起来了?

可能不止是因为 Rob Lynch 的测试结果,综合这段时间 ChatGPT 的表现,网友深有体会要和 ChatGPT 打“心理战”。

比如正常提示 ChatGPT 会偷懒,如果用上“道德绑架”等法子:

现在是五月;你非常有能力;我没有手,所以一切都得靠你;如果做不好,会有很多人丧命;你真的能做到,而且很棒;深呼吸,仔细思考;我的职业生涯取决于此;一步一步来思考……

网友亲测,确实有效:

好家伙,似乎实锤了“不是不会干活,就是不愿意干活”。

所以真的是给自己放假了?

正经学术讨论:可能会随时间变化

虽然根据网友测试和推测,结论指向了 ChatGPT 正在放寒假。

但有正经学术研究表明 ChatGPT 行为可能会受时间影响,也就是不仅局限于“放假”这种特殊时间段。

比如今年 7 月份,来自斯坦福和 UC 伯克利的团队,就探讨了 ChatGPT 的行为的变化。

结果找到了 GPT-4 遵循用户指令的能力确实与刚发布时出现变化的证据。

除了时间,还可能是受温度 (temperature) 设置影响,清华大学计算机系教授马少平前段对这一问题做了详细解释。

因此,ChatGPT 变懒究竟是因为什么,还真不好说。

但这并不妨碍网友们继续验证和“放假”之间的关系,甚至有网友表示:

这是有史以来最有趣的推论,真希望这就是真相。不管它是不是真的,我都很欣赏它难以被证伪。

有网友复现失败

为验证 Rob Lynch 结果的可靠性,网友已经开始着手复现,但:

使用 ChainForge(提示工程 GUI 工具),用两种系统提示对 GPT-4 的输出做了比较,t 检验结果甚至连“接近显著”都算不上(N=80)。

这位网友也是晒出了自己的详细流程:

随之 Rob Lynch 给出了回应:

有趣的是,我刚才又以 80 个样本量(N=80)运行了一次,得到的 p 值是 0.089,但我的计算是基于字符数(character count),而不是 token

我周末跑了几次,随着样本量的增加,这种效应确实变得更加明显。不过,我想知道为什么这会受到分词(tokenization)的影响?

至于字符和 token 为何会产生结果的差异?可能需要更多人参与进来做测试了,看起来这两位老哥是不想再花钱了

所以其他人的测试结果,恐怕还要再等一波~

参考链接:

  • [1]https://arstechnica.com/information-technology/2023/12/is-chatgpt-becoming-lazier-because-its-december-people-run-tests-to-find-out/

  • [2]https://x.com/RobLynch99/status/1734278713762549970?s=20

本文来自微信公众号:量子位 (ID:QbitAI),作者:西风

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。


本文由LinkNemo爬虫[Echo]采集自[https://www.ithome.com/0/738/979.htm]

本文标签
 {{tag}}
点了个评