发生的事情
2024年12月,在著名的神经信息处理系统大会(NeurIPS 2024)上,麻省理工学院媒体实验室情感计算研究组创始人兼主任罗莎琳德·皮卡德教授发表了题为“如何优化最重要的事情?”的邀请演讲。她的演讲重点介绍了人工智能(AI)、情感计算和可穿戴技术方面的开创性进展。她强调了人类大脑处理的情绪如何表明个人意义,并讨论了优先考虑符合伦理、以人为本价值观的人工智能系统工程。皮卡德强调,这些技术的进步已经挽救了生命,并反思了为更好的未来优化人工智能的重要性。
然而,当皮卡德提到一起涉及“中国学生”的具体事件时,演讲出现了争议。这名学生据称因承认不道德行为而被顶尖大学开除——“我这样做是为了让我的论文结果看起来更好。学校里没有人教过我们道德或价值观。”尽管皮卡德补充说,“我认识的大多数中国人都是诚实和正直的”,并重复说“大多数,让我明确一点。我认识的大多数中国人都是非常正直的。我希望这是一个例外”,但提到学生的国籍和道德缺陷引发了立即的反弹。一些与会者认为,提及学生的种族是一个不必要的概括,可能会加剧顶级会议上旨在庆祝多样性和全球合作的有害刻板印象。
几个小时内,中国研究人员和其他人工智能社区成员表达了他们的失望和愤怒,引发了公众的强烈抗议。许多人认为皮卡德的言论具有种族歧视,并要求会议组织者采取更强有力的行动。NeurIPS在主题演讲后在领英上回应,承认该评论“强化了隐性偏见”,“这不是NeurIPS所代表的”,重申该活动致力于多样性、包容性和为所有人创造安全的环境。尽管如此,许多批评者认为这一回应不足,指责NeurIPS“掩盖种族主义”,并呼吁采取更果断的纠正措施。
鉴于皮卡德作为包容性研究和指导的领导者的地位,这一事件尤其令人震惊。作为人工智能领域多样性和强有力的道德规范的灯塔,她有争议的言论与其在麻省理工学院媒体实验室情感计算小组所代表的价值观直接冲突。这场更广泛的争议掩盖了NeurIPS 2024的其他值得注意的成就,包括中国研究人员的大量参与和成功。北京大学硕士生田Keyu凭借在可扩展图像生成的可视化自回归建模方面的突破性工作获得了最佳论文奖。一个团队(包括微软亚洲研究院的中国研究人员)因推出Rho-1(一种新的语言模型,可以选择性地关注更重要的标记,从而提高数据效率和性能)获得了最佳论文奖亚军。这些成就突出了中国研究人员对全球人工智能社区的巨大贡献,即使争议仍在继续。
主要收获
-
主题演讲中的争议性提及: 罗莎琳德·皮卡德在NeurIPS 2024上的主题演讲中提到了中国学生的非道德行为,引发了种族歧视的指控,并掩盖了她关于为更大的利益优化人工智能的预期信息。
-
社区强烈反对: 中国研究人员和其他国际与会者抗议这种被认为是种族概括的行为,批评皮卡德的言论和NeurIPS随后的回应力度不足。
-
NeurIPS的回应受到审查: 会议组织者发表了一份领英声明,重申其对多样性和包容性的立场。然而,许多人认为该声明未能充分解决主题演讲提及内容造成的损害。
-
与声誉相矛盾: 皮卡德的言论尤其令人震惊,因为她是一位情感计算的先驱,也是一位据说坚持最高职业行为和包容性标准的导师。
-
中国研究人员的影响: 尽管存在争议,中国研究人员仍在继续取得重大进展,在NeurIPS 2024上获得最高荣誉,并展示了他们对人工智能发展的关键贡献。
深入分析
这场争议突出了在全球人工智能社区中承认错误和可能加剧刻板印象之间的微妙平衡。罗莎琳德·皮卡德最初的意图——展示研究中的道德困境——被明确提及种族而掩盖了。即使有免责声明,将不道德行为与学生的中国背景联系起来也被广泛认为是一个不必要的细节,可能会用广泛的负面印象来描绘整个群体。
在像人工智能这样国际化和合作的领域,像NeurIPS这样的会议有望成为文化敏感性和公平代表性的最佳实践典范。来自中国和其他国家的的研究人员不仅对全球人工智能生态系统至关重要,而且他们的工作往往处于创新的前沿。通过在负面背景下单独提及一个国家,演讲者可能会破坏核心原则,即才能、诚实和道德正直不受地域界限或文化认同的限制。
NeurIPS不温不火的回应,虽然出发点很好,但也可能反映出大型会议在实时处理事件时面临的挑战。平衡言论自由、学术探究和道德责任是棘手的,一个拒绝接受含糊或表面保证的社区需要迅速、果断的行动。这场争议促使会议组织者、学术机构和人工智能领域的领导者严格评估他们的语言、教学和政策。这样做可以确保所有研究人员——无论国籍如何——都能感受到尊重、重视和公平的代表。
与此同时,这一事件无意中突显了中国研究人员在推动人工智能发展方面所起的显著作用。NeurIPS 2024授予涉及中国学生和研究人员的项目的最佳论文奖和亚军奖,例证了人工智能创新的全球性。这些成就与主题演讲中造成的负面印象形成鲜明对比,重申卓越和正直超越了文化标签。
你知道吗?
-
情感计算的基础: 罗莎琳德·皮卡德最出名的是在麻省理工学院媒体实验室开创情感计算,这是一个致力于使机器能够理解和回应人类情绪的领域,这对于更富有同理心、更用户友好的AI系统至关重要。
-
NeurIPS的包容性历史: NeurIPS会议是世界上最负盛名的人工智能盛会之一,历史上一直倡导多样性。其广泛的参与者包括来自中国、美国、欧洲和其他地区的众多研究人员。
-
中国研究人员日益增长的影响力: 虽然没有提供2024年的全面数据,但中国学者一直为人工智能的发展做出贡献。他们在领先会议上的出现——他们经常在那里获得最高荣誉——证明了他们的影响力和人工智能研究的合作性质。
-
具有创新性的获奖论文: 在NeurIPS 2024上,中国学者的研究取得了突破,例如用于更快图像生成的“视觉自回归建模”,以及介绍Rho-1(一种用于增强性能和效率的选择性语言模型)的“并非所有标记都是预训练所需的”。
-
人工智能中的道德辩论: NeurIPS 2024的争议增加了关于人工智能中的伦理、责任和公平的持续全球对话。随着技术的进步,社会越来越关注确保创新以共享的道德价值观、透明的沟通和文化敏感性为指导。