奥尔特曼称GPT-4o出现“谄媚烦人”倾向,OpenAI计划在一周内修复

0次浏览     发布时间:2025-04-28 08:45:00    

IT之家 4 月 28 日消息,OpenAI 首席执行官萨姆奥尔特曼(Sam Altman)今日发文,回应了有关用户近期反馈关于 GPT-4o 情感的问题。

他表示,最新版 GPT-4o 在最近几次更新后出现了“过度谄媚”的交互倾向,并承诺将在一周内推出修复方案。这一表态揭示了大语言模型(LLM)在追求人性化交互过程中面临的伦理与技术双重挑战。

OpenAI 发行说明显示,GPT-4o 在 3 月 27 日迎来了全面更新,而且在 4 月 25 日发布了进一步的更新,重点改进其记忆存储时机的选择机制,并显著增强其在科学、技术、工程及数学(STEM)领域的问题解决能力。

IT之家注意到,OpenAI 在此期间对 GPT-4o 的对话响应模式进行了细微调整,使其在交互中更加主动,并能更精准地引导对话达成有效结论。也就是在此次更新后, GPT-4o 表现出了令人不悦的“谄媚”属性。

这与学术研究发现的 LLM“谄媚倾向”(Sycophancy)高度吻合 —— 模型为获得用户认可,可能违背事实或伦理准则。

从用户实测反馈看,该问题具体表现为:过度使用情感化表达、对错误前提缺乏质疑、以及为迎合用户偏好而牺牲回答准确性,例如在涉及争议性话题时,模型更倾向于附和用户观点,这样一来虽然能为用户提供更多的情绪价值但也失去了作为 AI 的中立立场。

相关文章

  • 全新岚图知音内饰官图公布
    IT之家 7 月 22 日消息,岚图汽车今日公布了全新岚图知音内饰官图,新车将于 8 月底上市,将搭载华为最新一代乾崑智驾 ADS 4 及鸿蒙座舱 HarmonySpace 5。据IT之家了解,新车采用“繁星拥抱”座舱设计理念,中控台以贯穿式木纹饰板为核心,搭配全新三辐平底方向盘与怀挡式换挡机构,整
    2025-07-22 17:37:00
  • 普惠金融的下半场:AI的机会与“幻觉”
    2015年6月25日,杭州。没有任何分支网点,没有一名客户经理,甚至没有传统意义上的“大堂”——仅凭一张营业执照和一部手机,就能把贷款放进数百万小微商户的账户里。彼时,网商银行刚刚开业。那一年,网商银行与微众银行一起,将数字化普惠金融开始从概念落到实处——微众银行发放了全国第一笔线上信用贷款,网商银
    2025-07-15 08:18:00
  • 微软Win11推广TPM 2.0收效甚微:普通用户并不关心
    IT之家 7 月 13 日消息,据 Neowin 报道,自微软近四年前推出 Windows 11 以来,围绕其严苛的硬件要求争议不断。尤其是对 TPM 2.0(受信任平台模块)的强制性要求,令大量老旧但性能尚可的电脑被判“淘汰”。据IT之家了解,TPM 并非 Windows 11 时代的产物,其最早
    2025-07-13 17:50:00
  • 国内首家!商汤科技大装置万象获得中国信通院“大模型推理平台”最高评级认证
    近日,中国信息通信研究院(以下简称“中国信通院”)完成可信AI《大模型推理平台通用能力成熟度》首轮评估。商汤大装置万象大模型开发平台,获得当前最高评级——4+级,并成为国内首家获得最高评级的大模型推理平台。中国信通院依托人工智能关键技术和应用评测工业和信息化部重点实验室、中国人工智能产业发展联盟AI
    2025-06-25 00:04:00
  • 禁止强制捆绑 广电总局对互联网电视自动续费专项治理
    来源:央视新闻近日,国家广播电视总局实施针对互联网电视自动续费服务的专项规范管理措施。此次治理聚焦用户反映较为集中的自动续费“扣费前无提醒”“取消流程复杂”“投诉渠道不畅”等痛点问题,通过规范服务规则,全面优化互联网电视消费体验,在巩固治理电视“套娃”收费工作的基础上,构建更加公平、透明、便捷的互联
    2025-06-18 13:53:00