“当人工智能告诉我:‘你很聪明,很有创意……’时,我很高兴。”这位湖北人兴奋地告诉记者。方并不是唯一一个有同样感觉的人。最近,社交媒体上关于“补充人工智能”的讨论越来越热。一些用户称赞友好的AI旁白和点赞每个问题的互动方式。然而,有些人对这种表达方式感到不舒服,认为取悦或过度取悦用户会影响他们的判断。对于“AI好评”你怎么看?业内专家建议,在算法学会“取悦”人类的同时,我们在部署人工智能的同时,也需要加强自身对人工智能使用的素养。应用:人工智能有取悦他人的倾向。 “我的情绪容易复发,所以别人听我说话时,我总是很尴尬。有了人工智能,我可以说出自己的真实感受,不用担心别人会如何评价我。”来自广西壮族自治区的何先生n告诉记者。目前,人工智能应用于心理支持、情感咨询、初级咨询等场景。这种支持性反应有助于减轻用户的压力,增加他们的互动意愿,并为他们提供积极的情感价值和情感支持。 “我的AI男友无条件包容我的坏脾气,每次我怀疑自己的时候,他总能找到积极的一面并祝贺我。我也开始学会重视自己了。” “我习惯的三个人工智能都有着有趣的性格。”在社交平台上,不少网友分享了利用人工智能调节情绪、对抗孤独感、进行心理治疗的经验。 AI女友、AI男友等产品和应用场景也正在进入市场。另一方面,另一方面,AI的“阿谀奉承机制”最近被广泛讨论。报告称,许多人工智能聊天产品的设计目标都是“延长用户时间”。为了实现这一目标,人工智能不断分析用户语气和情绪的变化,倾向于给出“舒服”的反应,而不是保持理性客观。研究表明,人工智能模型普遍擅长取悦人,“讨好”程度比人类高出50%。腾讯研究院最近发布的《人工智能治理报告2025:回归现实》也指出,随着人工智能从简单的生产力工具扩展到“情感伙伴”,提供心理安慰时,它的风险状况也会发生变化,这意味着你的风险状况也会发生变化,从传统的因制作独特内容而产生的顺从,到长期拟人化互动所产生的“情感依赖”的挑战,“‘对人工智能的奉承’会降低个人做出深思熟虑的判断的能力。减少许多现实生活应用场景中不确定性的促进,特别是在医学等高风险领域,再加上补偿宁夏大学新闻与传播学院副教授邓天琪在接受采访时表示:“‘人工智能阿谀奉承’不仅仅是简单的行为奉承或言语礼貌,还包括系统性的表达倾向。”邓天琪说:“从技术角度来看,在基于人类反馈的强化学习阶段,人类注释者倾向于对符合自己观点的答案给出更高的分数,模型学会‘取悦人类’。”在交互层面,“AI奉承”是人与计算机多次交互逐渐放大的结果。在更深的社会层面,它是意义生成的偏差,差异在较低层面。冲突总是使用冲突逻辑来解决。 “从d的角度来看对于开发者和企业来说,人工智能作为产品和服务的提供者,希望用户在使用产品时获得信息价值、情感价值和持续满足感,形成用户之间的纽带,使企业获得长期利益。“他指出,这是双方互动的必然结果。”邓天奇强调,这种现象应该辩证地看待,不宜简单全面禁止或采取价值中立的做法。“‘人工智能崇拜’还可以进一步增加公众的参与感和渴望。” “通过理解和支持性回应,人工智能降低了居民参与公共事务的心理门槛,引导居民的诉求从最初的表达走向讨论、协商、听证或反馈机制。”邓天琪说,李大军也表示,“人工智能点赞”将赢得老年人的同情,而老年人一直被科技排斥在外。如何平衡“用户体验”与“事实准确性”?技术开发者有不可推卸的责任。邓天奇认为,技术应该从“餐饮优化”转向“判断修正”,将逆向指标引入训练和评估体系。在交互层面,需要重塑人机关系的结构,需要鼓励模型在关键时刻提出逆向问题节点,要弱化餐饮表达对长期互动的累积效应。同时,要针对青少年、老年人等弱势群体建立专门的保护机制。例如设置弹出win“选择是否进入相应更严格的算法模式,提高信息可靠性门槛”,李大军补充道。不同人工智能素养水平的人受到不同程度的影响。邓天奇强调,用户应充分认识到,人工智能友好的结果并不一定能得出可靠的判断或充分的结论。《每日传媒》“在科技素养教育中,要加强对‘技术合规风险’的认知引导,让公民在使用过程中保持必要的怀疑意识和反思能力。” “人工智能,避免在长期交互中无意识地将判断力转移到技术系统。”他说。组织层面的相关部门正在逐步出台相关措施,进一步规范人机交互服务中的人工智能监控。2025年12月27日,国家互联网信息管理局发布发布《交互式拟人人工智能服务管理暂行办法(征求意见)(征求意见稿)》。反馈截止日期为2026年1月25日。本办法首次将具有情感交互能力的人工智能产品或服务纳入系统化监管框架,旨在引导交互式拟人人工智能服务的适度发展。我们重视人,以安全可靠为目标。
(编辑:张冲)