ChatGPT一直在以奇怪的方式行事，用户抱怨关于聊天机器人的“懒惰”。
OpenAI已经推出了一个修复程序，但ChatGPT的奇怪行为表明我们对它知之甚少关于AI模型。
一位人工智能研究人员告诉BI，来自用户交互的大量数据可能会导致ChatGPT以奇怪的方式发生变化。
最近几个月，ChatGPT一直在以奇怪的方式行事。
用户抱怨聊天机器人变得越来越懒惰，甚至有点粗鲁，OpenAI承认了这个问题，并在1月份推出了修复程序。
支持ChatGPT的人工智能模型的不透明性质使得很难说聊天机器人出了什么问题——但一位研究人员认为，正是从用户与聊天机器人的交互中获取的大量数据导致了聊天机器人以不可预测的方式发生变化。
“像GPT4这样的模型不是一个单一的模型。这是一个学习系统，实际上随着时间的推移变化非常迅速，”斯坦福大学教授、人工智能研究员詹姆斯·邹在接受《商业内幕》采访时表示。
“随着时间的推移，这些系统不断发展的一个重要原因是，它们不断从数百万用户那里获得反馈数据。我认为这是该模式潜在变化的一个重要来源。”
像GPT-4这样的人工智能模型会不断调整和更新，OpenAI依靠与用户的互动来训练ChatGPT，使其变得更健谈、更有用。
它通过一个被称为从人类反馈中强化学习的过程来工作，在这个过程中，人工智能模型学习到哪些反应对用户更有利，并相应地进行调整。
据报道，这款聊天机器人目前拥有约17亿用户，近几个月来，它的用户一直在抱怨它的行为不正常。
一些人在X上发帖称，ChatGPT拒绝完成某些任务，并提供比预期更短的响应，一位开发人员甚至暗示，该人工智能模型正在享受应得的寒假。
OpenAI承认了这个问题，并推出了修复方案，首席执行官萨姆·奥特曼表示，ChatGPT现在应该“不那么懒惰了”。
人工智能专家经常说，像GPT-4这样的模型本质上是黑盒子，甚至它们的开发人员也无法完全解释为什么它们会做出某些决定或以某些方式做出反应。
结果，他们往往会表现出意想不到的、经常是完全奇怪的行为——就像一些用户最近发现的那样，他们意识到如果他们承诺给ChatGPT 200美元的小费，它会提供更长的回复。
根据邹的说法，其中一些怪癖可能是由于人类的偏见，这种偏见继承自聊天机器人所接受的大量在线数据。
他说:“这些大型模型通常是在互联网规模的数据上进行训练的，这些数据是由数百万个网站和在线讨论组成的巨大文本语料库。”
“因此，训练数据集中有许多不同的人类行为和人类偏见，这些行为和偏见也反映在语言模型中，”他补充说。
Zou说，GPT-4行为变化的另一个原因可能是OpenAI试图在模型上添加额外的护栏以防止滥用，他认为这可能会无意中损害ChatGPT的性能。
他指出，他在斯坦福大学的团队在开源人工智能模型上进行的实验表明，对这些模型进行微调以使其更安全，也会使它们不太愿意回答某些问题。
“OpenAI已经决定，他们的价值观与无害、乐于助人和诚实有关，这些是他们优先考虑的领域，”邹说。
“这可能导致一些相互竞争的目标。如果你让一种模式变得非常无害，可能会让这种模式对某些用户来说也缺乏创造性或用处。”
“我认为这也可能是我们看到模型行为可能出现一些漂移或变化的部分原因。”
OpenAI没有立即回应Business Insider在正常工作时间之外提出的置评请求。
Business Insider的母公司阿克塞尔·斯普林格(Axel Springer)签署了一项全球协议，允许OpenAI根据其媒体品牌的报道训练其模型。
Business Insider的母公司阿克塞尔·斯普林格(Axel Springer)签署了一项全球协议，允许OpenAI根据其媒体品牌的报道训练其模型。
