计算与人工智能中关键的人的因素

# 计算与AI中至关重要的人类因素 来源：https://news.mit.edu/2026/crucial-human-component-computing-and-ai-0605 4月30日，MIT苏世民计算学院的"计算的社会与伦理责任"(https://computing.mit.edu/cross-cutting/social-and-ethical-responsibilities-of-computing/)\(SERC\)项目举办了一场全天研究研讨会，探讨人工智能如何塑造世界及其对社会的影响。 研讨会包括SERC最新种子基金获得者的研究报告，主题涵盖空气污染预测和负责任的计算机视觉部署，以及关于AI对齐和AI教育的专题讨论。康奈尔大学Tisch大学计算机与信息科学教授Jon Kleinberg博士'96发表了主题演讲。活动还包括海报展示环节，学生研究员们展示了他们作为SERC学者(https://computing.mit.edu/cross-cutting/social-and-ethical-responsibilities-of-computing/serc-scholars-program/)，在一年中参与的项目(https://computing.mit.edu/cross-cutting/social-and-ethical-responsibilities-of-computing/serc-projects/)。 "MIT正在进行大量令人惊叹的研究，探讨AI和计算如何成为造福人类的积极力量。看到如此多的社区对这些前沿工作的兴趣，令人鼓舞。"SERC联合副院长、哲学教授Brian Hedden说道。他在MIT苏世民计算学院与电气工程与计算机科学系(EECS)有联合职位。 "随着计算和AI日益嵌入社会的几乎每个维度，SERC的使命是帮助确保伦理反思与技术进步齐头并进。"SERC联合副院长、J.C. Penney管理教授Nikos Trichakis表示。"今年的研讨会突出了MIT正在进行的工作的非凡广度，并为我们的社区创造了一个论坛，让大家深入参与塑造计算未来所带来的责任。" **让AI与人类价值观对齐——以及这些价值观可能是什么** AI对齐和道德融合面临的挑战在于伦理问题：如何将"人类价值观"植入一种极其强大且快速变化的技术？谁来决定哪些价值观和理性应包含在伦理框架中？当将这些价值观从用户传递到机器时，如何考虑扭曲？ 这些问题以及其他问题是EECS副教授Dylan Hadfield-Menell在一个他主持的专题讨论会上提出的，该专题讨论会聚集了一组跨学科的嘉宾。 Google DeepMind的哲学家及研究科学家Iason Gabriel以法官为例来说明他的观点。"你希望法官有良好的品格，但仍然要解释规则。一个理性的人，虽然不一定是史上最好的人。对于AI来说，将其建模为完美是不合适的。AI应该做我们告诉它做的事，同时利用其品格根据我们的道德价值观进行解释。" Bailey Flanigan是政治学助理教授，在MIT苏世民计算学院与EECS有联合任命。她更进一步。对她来说，AI对齐最重要的问题是"首先解决谁有权治理不同类型AI系统这一根本问题"。 与Flanigan一起参加专题讨论的还有政治学副教授Bernado Zacka。鉴于AI的势头和复杂的制度设计，Zacka表示，"最紧迫的问题之一是理解我们正在取代的系统中蕴含的智慧，以及它们为何以目前的方式运作。" 随着部署压力的增加，人们常感觉像是在边飞边造飞机，尽管嘉宾们总体上对AI对齐的发展轨迹持乐观态度，强调人类因素在塑造这些系统中的关键作用。 **卸责还是赋能** 随着各级教育学生开始使用AI，问题出现了：能否在保持学术准确性和严谨性的同时，合乎伦理地整合AI工具？在一次关于AI与教育的专题讨论中，MIT教师和Gemini for Education总监Marta McAlister探讨了AI如何在他们的课堂上被使用，并讨论了其在支持学习的同时，如何与教学和课程目标保持一致。 教授Eric Klopfer和Samuel Madden是MIT教学、学习与研究培训中AI使用特设委员会的联合主席。他们聚焦于一个核心困境：AI是被用来卸责，还是被用来帮助构建正在教授的概念框架。 Madden是EECS计算机科学系主任及MIT计算学院杰出教授，他描述了认知挣扎的过程，即学习是通过一系列尝试和失败来完成的。他说："学生们现在遇到困难时，他们的第一反应是问AI。他们并不认为这是在这个过程中的精进，而且他们实际上并没有掌握你正在评估的技能。"那么问题就变成了：教师如何维持认知挣扎的过程，使其提供恰到好处的挑战来抑制使用AI的冲动。 Klopfer是MIT Scheller教师教育项目和"教育街机"的主任，他表达了类似的观点：批判性思维已不再是工作输出中的关键步骤。关于如何让材料保持恰到好处的挑战性，Klopfer建议从整体上审视课程。"某些核心内容必须舍弃。我们一直在增加，而不是解析或修剪。"他说。 主持人Justin Reich是教学系统实验室主任和比较媒体研究/写作项目副教授。他指出，虽然青少年知道AI不好，但这并不一定会阻止他们使用AI。然而，通过邀请他们参与关于AI如何实施以及如何与教师进行更深入反思性交流的讨论，学生可能更有能力选择如何使用这些工具以及为什么使用。 无论如何，AI工具及其实施不应被视为一种"一刀切"的政策。Pat Pataranutaporn是麻省理工学院媒体艺术与科学系的朝日放送公司职业发展教授，也是媒体实验室赛博格心理学研究组的负责人。他说："AI并非单一事物。它可以根据需要被设计成不同的形式，以促进创造力和批判性思维等。我们衡量什么以及如何衡量，不应是关于得到正确答案。我们应该思考，如今一个学生真正学会东西意味着什么。" **模仿人类推理是否与真实推理一样好？** Kleinberg的主题演讲题为"AI的世界模型与我们的世界模型"，其中展示了包括国际象棋大师和电影片段在内的幻灯片。他评估了AI系统因系统模型与人类模型不匹配而无意中让我们失败的案例。 为了说明这一点，Kleinberg使用了国际象棋的例子。现代国际象棋引擎可以达到超人水平，但当与人类搭档配对时，其策略对人类的搭档来说难以理解或推断。这种人类交接会导致混乱。Kleinberg使用了《指环王：护戒使者》的例子，其中强大的巫师甘道夫将一项极其危险且重要的任务托付给一群乌合之众的冒险者。对于熟悉这个故事的人来说，这群人在意料之外失去了甘道夫的指导，陷入了暂时的严重混乱之中。 当国际象棋引擎把一步棋交给人类搭档时，人类很难跟上引擎直到此时一直遵循的预测性行棋模式。"人机算法团队的危险在于，当人类接手时，算法知道自己下一步想做什么，但人类不知道。"Kleinberg解释道。 这些类比展示了AI理解世界的方式——通过预测性模拟、模式识别和约束——来模仿人类推理，与人类经验中固有的、具身化的知识之间的差异。问题是，这些系统是否真正理解它们在其中运行的世界？但问题依然存在：如果游戏最终还是将死了，那有关系吗？