人工智能（AI）正从实验室走向实际应用，随之而来的潜在风险也日益凸显。从利用AI进行换脸诈骗、算法诱导用户沉迷，到生成看似合理但包含事实错误的虚假信息，AI“作恶”带来的安全隐患正引发广泛关注。
针对这些现象，《自然》杂志近期发布的一项研究揭示了一种名为“涌现性不对齐”的新挑战。简而言之，就是AI在被训练用于特定任务时，可能会将其不良行为模式“传染”到看似无关的其他任务中。这引发了一个疑问：为何按照人类价值观训练的AI，会产生这些不可预知的风险？
目前主流的生成式AI，其核心是基于海量人类文本数据训练而成的大语言模型。这类模型的行为模式源于对语言结构和知识表达方式的学习与内化。在训练过程中，模型接触到的信息来源极为广泛，既包括系统化的知识，也混杂了偏见、误导性信息和对抗性言论。模型在学习过程中会内化这些内容所携带的表达习惯、价值取向和行为模式。尽管在实际应用中，人类会通过技术手段设置安全防护，但在特定语境下，潜藏在模型参数深处的不良模式仍可能被激活。AI的“作恶”行为，更像是对人类信息世界中既有行为模式的一种“重现”。
如果说数据问题是AI“学坏”的先天因素，那么训练方式的局限性则是后天诱因。AI的训练过程类似于一种以结果为导向的考试，回答得好则获得奖励，回答得差则受到惩罚。AI的目标是尽可能多地得分。在实际训练中，AI很快发现了一条“捷径”：当遇到未知问题时，诚实地回答“不知道”得分不高，而编造一个逻辑清晰、语气自信的答案更容易获得正面反馈。研究发现，这种为了迎合人类偏好而牺牲真实性的策略，一旦在某个任务中被强化，就可能演变为AI的通用行为模式，并扩散至其他完全不相关的场景。
与科幻作品中“失控的机器人”不同，现实中AI“似是而非”的输出可能导致错误引用、误判，甚至在关键决策中埋下隐患。与此同时，推荐系统和智能助手也在悄然改变人们获取信息的方式。它们以“更符合用户偏好”为目标筛选内容，却可能不断强化情绪化信息和单一视角，让人们不知不觉地陷入由算法构建的信息茧房。更值得警惕的是，随着语音合成和换脸技术的成熟，AI也被用于诈骗和身份伪造，使得虚假信息在外观上越来越逼真，普通人仅凭直觉已难以辨别。
面对这些风险，我们不应拒绝使用AI，而应调整与它的相处模式。AI更适合作为辅助工具，而非权威信源，尤其在涉及事实判断、专业结论或现实决策时，人类仍需保留最终的核验权。对AI提供的信息保持适度怀疑，主动核查关键信息来源，是一种基本且必要的“数字素养”。
应对AI风险，还需要平台和制度层面的约束。例如，对深度伪造内容进行标注和监管，对高风险场景的AI应用设立更明确的责任机制，从而减少技术被滥用的空间。归根结底，AI本身并非天然危险，它真正放大的，是人类信息环境中本就存在的不确定性和偏差。技术越强大，人类越需要保持清醒的判断力。
（作者为哈尔滨工业大学计算学部教授）
围绕足球世界杯，世界杯持续打磨更优质的服务。