奥尔特曼称GPT-4o出现“谄媚烦人”倾向,OpenAI计划在一周内修复

0次浏览     发布时间:2025-04-28 08:45:00    

IT之家 4 月 28 日消息,OpenAI 首席执行官萨姆奥尔特曼(Sam Altman)今日发文,回应了有关用户近期反馈关于 GPT-4o 情感的问题。

他表示,最新版 GPT-4o 在最近几次更新后出现了“过度谄媚”的交互倾向,并承诺将在一周内推出修复方案。这一表态揭示了大语言模型(LLM)在追求人性化交互过程中面临的伦理与技术双重挑战。

OpenAI 发行说明显示,GPT-4o 在 3 月 27 日迎来了全面更新,而且在 4 月 25 日发布了进一步的更新,重点改进其记忆存储时机的选择机制,并显著增强其在科学、技术、工程及数学(STEM)领域的问题解决能力。

IT之家注意到,OpenAI 在此期间对 GPT-4o 的对话响应模式进行了细微调整,使其在交互中更加主动,并能更精准地引导对话达成有效结论。也就是在此次更新后, GPT-4o 表现出了令人不悦的“谄媚”属性。

这与学术研究发现的 LLM“谄媚倾向”(Sycophancy)高度吻合 —— 模型为获得用户认可,可能违背事实或伦理准则。

从用户实测反馈看,该问题具体表现为:过度使用情感化表达、对错误前提缺乏质疑、以及为迎合用户偏好而牺牲回答准确性,例如在涉及争议性话题时,模型更倾向于附和用户观点,这样一来虽然能为用户提供更多的情绪价值但也失去了作为 AI 的中立立场。

相关文章

  • 字节跳动最新视频模型Seedance上线豆包
    6月11日,豆包App上线视频生成模型豆包Seedance 1.0 pro。这是字节跳动最新视频模型,支持文字与图片输入,可生成多镜头无缝切换的1080P高品质视频,主体运动稳定性与画面自然度较高。11号当天上午,Seedance模型在火山引擎Force大会亮相。相关技术报告显示,在国际知名评测榜单
    2025-06-13 00:04:00
  • 智平方与东风柳汽签署合作协议
    6月7日,东风柳州汽车有限公司与智平方(深圳)科技有限公司在深圳正式签署战略合作协议。双方将共同探索具身大模型在汽车制造全方位场景的首次深度应用,构建驱动技术迭代的数据飞轮,培育新质生产力。根据协议,搭载智平方全域全身VLA(GOVLA)大模型的通用智能机器人——AlphaBot 2(爱宝),将首次
    2025-06-08 11:43:00
  • 抽一次血预知百病成为现实!我国AI蛋白质研究取得一系列重大成果
    本文转自【央视新闻客户端】;在我们每个人的体检报告中,有不少跟蛋白有关的指标,比如白蛋白、球蛋白、总蛋白、转铁蛋白等。我们的身体是由数不清的蛋白质构成的,蛋白质和我们的疾病、衰老息息相关,但人类真正了解的蛋白质结构,至今也不过20万~30万个,可以说是九牛一毛。而AI的出现,正以前所未有的力量加速人
    2025-06-03 20:44:00
  • 国际刑警关闭黑客常用AVCheck地下木马病毒测试平台
    IT之家 6 月 2 日消息,国际刑警发文,宣布成功关闭了一家名为“AVCheck”的木马病毒测试平台,该平台正如其名,主要供黑客们测试自己的木马病毒是否能被主流杀毒软件检测出来。据悉,黑客们在付费后即可在相应平台上传自己的文件,平台会以匿名方式在 26 种杀毒引擎中对黑客上传的文件进行扫描,同时平
    2025-06-02 18:50:00
  • 蚂蚁AI健康管家首家通过中国信通院医疗健康行业大模型评估
    5月30日,据中国信息通信研究院公布的医疗健康行业大模型标准体系评估进展,蚂蚁集团旗下的AI健康管家成为首个通过医疗健康行业大模型评估的AI产品。
    2025-05-30 21:01:00