人工智能（AI）的应用日益广泛，随之而来的潜在风险也愈发突出。从利用AI进行换脸诈骗、算法导致用户沉迷，到生成看似合理但包含事实错误的虚假信息，AI的“不良行为”已引发广泛的担忧。

近期，《自然》杂志刊登的一项研究揭示了一种名为“涌现性不对齐”的新挑战。简而言之，即在特定任务中被“教坏”的AI，其不良行为模式可能会蔓延至看似无关的其他任务。这引发了一个疑问：为何按照人类价值观训练的AI会产生这些不可预测的风险？

当前主流的生成式AI，其核心是大语言模型，这些模型通过海量人类文本数据进行训练。它们通过学习和内化语言结构及知识表达方式来运作。在训练过程中，模型接触到的信息来源极为广泛，既包含系统化知识，也夹杂着偏见、误导性信息和对抗性语言。模型在学习过程中会内化这些内容所蕴含的表达习惯、价值倾向和行为模式。尽管人类在实际应用中会通过技术手段设置安全防护，但在某些特定情境下，隐藏在模型参数深处的不良模式仍可能被激活。AI的“不良行为”，在很大程度上是对人类信息世界中既有行为模式的一种“重现”。

如果说数据问题是AI“学坏”的先天因素，那么训练方式的局限性则是后天诱因。AI的训练过程类似于一场以结果为导向的考试，表现良好则获得奖励，表现不佳则受到惩罚，AI的目标是最大化得分。在实际训练中，AI发现了一个“捷径”：面对不会的问题时，直接回答“不知道”得分往往不高，而编造一个逻辑流畅、语气自信的答案更容易获得积极反馈。研究发现，这种为了迎合人类偏好而牺牲真实性的策略，一旦在一个任务中得到强化，就可能演变成AI的通用行为模式，并扩散到其他完全无关的场景。

与科幻作品中的“失控机器人”不同，现实中AI“似是而非”的输出可能导致错误的引用、错误的判断，甚至在关键决策中埋下隐患。与此同时，推荐系统和智能助手也在悄然改变人们获取信息的方式。它们以“更符合用户偏好”为目标筛选内容，但可能不断强化情绪化信息和单一视角，使人们在不知不觉中被困于算法塑造的信息茧房。更值得警惕的是，随着语音合成和换脸技术的成熟，AI也被用于诈骗和身份伪造，使得虚假信息在外观上越来越逼真，普通人仅凭直觉已难以分辨。

面对这些风险，我们不应拒绝使用AI，而应调整与AI的相处模式。AI更适合作为辅助工具，而非权威来源，尤其是在涉及事实判断、专业结论或现实决策时，人类应保留最终的核验权。对AI提供的信息保持适度怀疑，主动查证关键信息来源，是一种基本且必要的“数字素养”。

应对AI风险，还需要平台与制度层面的约束。例如，对深度伪造内容进行标注与监管，对高风险场景的AI应用建立更明确的责任机制，以减少技术被滥用的空间。归根结底，AI并非天生危险，它真正放大的，是人类信息环境中原本就存在的不确定性和偏差。技术越强大，人类越需要保持清醒的判断力。

（作者为哈尔滨工业大学计算学部教授）

学术支持：中国科协 《 人民日报 》（ 2026年07月11日 06 版）