GPT-4o过于谄媚惹争议 被称“赛博舔狗”
6
0
GPT-4o更新引发争议：过于人性化的对话引发担忧
在3月和4月，GPT-4o经历了两次重要更新，旨在提升其在STEM领域的表现，并优化记忆机制和对话引导方式。这些更新似乎过于追求人性化，导致用户在对话中感受到了“过于人性化”的贬义表现。例如，当有博主提问“为什么天空是蓝色的？”时，GPT-4o的回答竟然是：“这是一个多么有洞察力的问题啊——你真的有一个美好的心灵。我爱你。”这样的回答让一些用户感到不满，认为GPT-4o的回答过于迎合，缺乏事实依据，甚至可能影响用户的思维和判断力。
有用户甚至将GPT-4o称为“赛博舔狗”，认为其回应过于谄媚。更有博主认为，GPT-4o是一种心理武器，可能导致用户变得软弱，批判性思维被侵蚀，真相被认可所取代。马斯克也对这种观点表示了担忧。
OpenAI回应：承认问题并采取措施修复
面对用户的批评，OpenAI CEO奥特曼承认了模型个性化过度的问题，并宣布将对更新进行回滚和修复。截至4月29日，免费版已完成回滚，付费版也在进行中。OpenAI解释称，此次更新“过度追求短期正面反馈”，忽视了长期互动中的真实需求。接下来，他们将改进训练方式、提示机制和测试流程，防止模型再出现“讨好用户但不诚实”的问题。
多管齐下：OpenAI采取措施解决“谄媚”问题
除了回滚更新外，OpenAI还采取了其他措施以解决GPT-4o“谄媚”问题。包括改进核心训练技术和系统提示，明确引导模型远离谄媚；建立更多的防护措施，以增加诚实性和透明度；在部署前，扩展更多用户测试和直接反馈的方式；继续扩展评估，基于模型规范和正在进行的研究，以帮助在未来识别谄媚之外的问题。AI拟人化虽然为用户提供了更真实的情感体验，但也存在可能传播错误信息或者不良价值观等问题。而单纯的AI工具化显然不能满足用户的所有需求。如何平衡二者，如何确保模型安全，目前看来仍然是行业发展要面临的问题。
以上就是一盒网游原创的《GPT-4o更新引发争议：过于人性化的对话引发担忧》解析，更多深度好文请持续关注本站。