2026年5月15日19:00,ac米兰中文官方网站_米兰MiLan(中国)主办的“鹭岛哲谭”系列讲座第426期,在厦门校区E2-504举行。本次论坛特邀山西大学哲学学院詹好老师担任主讲,以“价值观可以被机器学习吗”为题作学术报告。华侨大学哲社学院黄俊维副教授主持讲座,周炼老师及十余位本硕博学生参与了本次讲座。
詹好老师在报告中指出,随着AI技术的飞速发展,价值对齐问题已经成为人们无法逃避的一个问题。但以RLHF(基于人类反馈的强化学习)为代表的主流技术路径,更多实现的是对人类“偏好表现”的统计拟合,而非对规范性价值的真正内化。经过对齐训练的模型在诱导下仍可能做出违反对齐价值的行为,为了破解这一“表面价值对齐”现象。詹好老师提出了三个解决方案:1、监督微调,在预训练阶段引入特殊的数据案例。2、构建偏好的数据模型,通过训练和引入奖励模型,实现在人类价值观下对回答偏好,从而实现价值对齐。3、宪法人工智能,通过建立规则,评估,回应以及修改大模型的输出,从而建设微调数据以及强化学习反馈数据
通过细致的技术分析及哲学辨析,报告揭示了当代AI技术发展所面临的伦理问题以及技术难题,而报告所提出一种转向表示学习的“深度价值对齐”方案,使模型从单一偏好拟合迈向真正的规范学习。

供稿人:林锦崧