全球数治|美国多大学利用AI算法招生或引发高等教育危机( 二 )


然而 , 阿列克斯·恩格勒(Alex Engler)认为 , 这样做也将导致不少问题 。 首先 , 招生管理使用算法的目标之一是推动申请人以能够支付的最高学费 , 或愿意接受的最低奖学金来就读该大学 。 供应商围绕此目标开发的算法必然会拉高处在自身支付大学学费经济能力边缘的申请人的数量 。 这就在无形中加大了申请人日后遭遇经济困难而不得不中断学业的风险 。 其次 , 由于大学对财务状况的看重 , 供应商开发的算法将会偏向于尽量精确控制奖学金发放规模 , 这实际上会减少每个申请人能获得的奖学金数额 。 与此同时 , 校方竭力寻求收入支出最优比的做法可能导致算法偏差 , 令某些特定申请者群体(如少数种族、妇女、残疾人等)受到歧视性对待 。 这就背离了利用奖学金来支持学生完成学业、取得成功的初衷 , 并加重了当前存在的大学生高负债、低毕业率的困境 。
在阿列克斯·恩格勒(Alex Engler)看来 , 通过算法实现财务上最优化的招生结果本就不应当被视作大学招生管理的终极目标 。 大学录取的衡量标准不该过于偏向申请人的支付意愿和能力 。 奖学金发放的价值取向须将拟录取对象的经济支持需求放在首位 , 重点考虑如何支持其学业成功 。 在此基础上 , 他进一步提出了控制算法融入招生管理相关风险的若干行动要点:
记录算法过程:大学应该全面地记录算法招生管理中所使用的目标、原则、过程、数据和算法 。 预期的结果应该在算法开发之前予以明确说明 。
考察历史数据:大学必须仔细评估和考虑他们建立算法所依据的历史招生数据集 , 以确保符合未来可持续发展的需要 。
评估学生成功率:大学应该经常评估在收益优化算法给出的奖学金发放策略之下学生的学业延续率和毕业率 , 以及时校正算法 。
使用可解释的模型:大学应该选择更易解释的预测模型类型 , 如逻辑回归和决策树 , 而不是黑箱模型 , 以降低出现意外和不公平的算法结果的可能性 。
进行算法偏见审计:开展算法偏见审计并公开审计结果将有利于提高透明度 , 并缓解公众的担忧 。
以人为本的录取评价:在对申请人进行综合素质打分排名时 , 大学不应过度依赖标准化考试成绩、GPA等指标 。 志愿者服务、课外活动成就、工作经验、抗挫折能力等因素都应被纳入衡量标准 , 作为分配奖学金的依据 。
恰当地使用约束条件:在使用算法时 , 大学需要通过制定合适的约束条件来保持学生多样性 , 以实现奖学金在不同学生群体中的合理分配 。
聘请内部数据专家:大学不应完全依赖供应商来了解招生管理算法 , 因此需要雇佣能够研究供应商所提供方案的内部数据专家 , 以确保算法的使用与学校目标相符 。
设法维持学生的经济支持:在使用算法的招生管理中 , 大学可以寻求更有效地奖学金分配策略 , 但不能因此降低每个学生的经济支持力度 , 并采用多种手段帮助学生避免学业中断 。
此外 , 阿列克斯·恩格勒(Alex Engler)还提出 , 美国教育部等公共部门也可以对算法融入大学招生管理实施积极的监管和治理 , 包括委托独立的第三方评估招生管理算法的使用情况 , 发布关于招生管理算法的最佳实践指南 , 促成大学之间的财务数据交流 , 提高对公立大学的资金支持等 。
无论是教育或其他领域 , 在人工智能和算法日益代替人类进行各种决策的数字时代 , 多重因素决定了算法并不必然公平 , 但绝不可放任机器产生的偏见和有害性结果通过代码被固化在社会结构中 。 构建完善的算法公平性验证、知情同意、透明度、问责、救济等治理机制 , 引导算法尽量朝向公平 , 已成当务之急 。

特别声明:本站内容均来自网友提供或互联网,仅供参考,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。