ChatGPT火起来后，你一定从老师、家长和申请顾问那里反复听到过这样的告诫：千万不要用AI写大学申请文书。申请者不应该用AI写文书，那大学可以用AI来审阅申请材料吗？
还真的有学校曾经/正在这样做。
2013年，德克萨斯大学奥斯汀分校计算机系开始采用自行研发的机器学习算法，辅助教职工进行研究生招生工作。七年后，计算机系放弃了该系统，有批评的声音表示这样的系统本就不应该被使用。
这项算法基于往年录取结果，向招生官推荐合适的人选，节约了招生官审阅申请的时间。算法的录取预测指标包括本科就读于精英大学，或者推荐信中有“best（最好）”等最高级形容词。
校方表示，该系统从未独立作出录取决定，至少有一名教职工会复核系统的推荐录取结果。但批评人士表示该系统固化了招生过程中存在的各种偏见。
虽然批评人士反对在招生过程中使用AI系统，但部分大学和招生官仍然强烈要求使用AI，提升招生效率。不少AI公司也纷纷向大学抛出了橄榄枝。
此外，人工智能公司OneOrigin提供一款名为Sia的产品，可以快速处理成绩单，提取课程名称和学分等信息。经过训练后，该系统可以判断大学申请者符合哪些课程的修读条件，并将数据导入大学的信息系统。这样能为招生官节省很多时间，同时降低大学的人事成本。
OneOrigin表示，他们的公司今年与35所大学展开了合作，同时还在与另外8所大学洽谈。每个月，公司会收到大约60条其他大学的咨询信息。尽管公众对于AI的新用途仍然心存疑虑，但OneOrigin相信Sia系统的功能是符合道德标准的。
“Sia会提供线索，帮助招生官判断是否应该继续审阅申请，”他解释道，“我们绝对不会让AI自行作决定，这太危险了，牵涉到学生的职业发展和未来生活。”
还有其他AI公司提供的服务比Sia系统更复杂。例如Student Select是一家为大学提供录取决定预测算法的公司。
该公司首席技术官Will Rose称，公司一般会先查看大学的录取标准以及历史数据，然后算法会根据录取可能性将学生划分为三等。招生官会首先审阅最优等学生的申请材料，快速作出录取决定，这些学生也能更快收到录取通知书。另外两个等级的学生仍然需要等待招生官人工审阅材料。
Student Select会向大学提供学生分析信息。该公司的算法会分析学生的文书和面试视频，判断学生的批判性思维能力以及性格特点。
比如说，在回答面试问题时使用“flexibility（灵活度）”一词的申请者可能是在展现自己愿意接受新事物的开放态度，这是Student Select评估的性格特征之一。
Rose介绍称：“我们公司十年前以电子面试平台业务起家，所以我们很了解如何分析工作面试，判断申请者的性格特征，后来我们逐渐发现我们可以把同样的分析应用到高等教育领域。”
Student Select与十几所大学签订了合作协议，虽然Rose表示要遵守保密协议，不能透露大学名称，但Government Technology在四月份报道称，罗格斯大学和洛基山大学都是该公司的客户。这两所大学并未对此作出回应。
不透明的运作原理？
当然，不是所有人都赞同在招生过程中使用AI。
纽约大学计算机工程教授Julia Stoyanovich建议大学不要采用所谓能够预测社会成就的AI工具。
Stoyanovich教授是合理使用AI中心（Center for Responsible AI）的联合创始人兼主任，她认为：“AI不值得学校花大价钱去购买，我们没有理由相信申请者的话语模式或者看镜头的习惯能够反映他们是否优秀。”
Stoyanovich教授表示，AI的问题之一是难以捉摸。在医疗领域，医生能够人工复核AI从医学影像中读取的癌症征兆。但在大学招生领域，很难建立这样的责任制。招生官可能认为AI根据申请者的具体特质作出了选择，但实际上有可能是AI基于错误或不相关的因素作出了决定。
她表示：“哪怕真的可以使用AI，我们也没有办法检查这些系统是否准确。我们没有办法知道未被录取的申请者在大学的表现究竟如何。”
Stoyanovich教授认为，在根据往年录取数据训练算法时，它们会重复已经存在的偏见，而且会让这些不平等变得理所当然。
此外，算法中的错误对少数群体的影响格外明显。Stoyanovich教授提到了2015年Facebook判断用户是否使用真名的算法，该算法判定北美原住民的名字是自己胡乱取的假名，因为原住民的名字和其他人不一样。
另外，招生官可能没有接受过相关训练，不了解算法的运作机制，也不知道可以根据算法推荐作出哪些决定。
Stoyanovich教授称：“只有了解一定背景知识的人才有底气说：‘我是这里的决策者，我来决定是采纳还是拒绝算法推荐。’”
随着ChatGPT等生成式AI系统的飞速发展，有的研究人员开始担心今后申请者是否会用AI来撰写文书，而这些文书又会被算法打分。
麻省理工学院前教务处副处长Les Perelman研究了机器评分问题，并表示用AI审阅文书只会让学生更想让人工智能帮他们写文书。他表示：“机器评分无法判断文书是由人写的还是由ChatGPT生成的。用机器评估写作完全是本末倒置。”
谨慎对待AI
宾大心理学系博士生Benjamin Lira Luttges正在研究大学招生过程中AI的使用情况，他表示人类的缺点助长了AI技术的某些问题。
“招生过程很复杂，有部分原因在于，我们作出招生决定的时候，并不完全清楚社会最需要什么。如果我们有所疏忽，我们训练的AI系统强调的标准可能并不符合社会需求。”
使用AI是存在风险的，但也有好处。机器和人不一样，可以在不受干扰的情况下作决定。也就是说，机器不会像招生官一样受到情绪或者天气的影响。
Lira表示：“我们并没有关于招生现状的可靠数据。算法可能存在偏见，我们可能不认同算法的某些特点，但如果它们的表现比人工更出色，那么在招生过程中积极使用AI可能是不错的选择。”
Student Select首席技术官Rose承认在招生和招聘过程中使用AI存在风险。比如，亚马逊公司在发现自己开发的招聘算法歧视女性之后，放弃了使用该算法。
Rose称，Student Select会避免这些负面情况的出现。公司在开发算法时会对合作大学的历史招生数据进行偏见审核，同时还会定期对算法进行检查。公司开发的算法是透明的，能够对作决定的标准进行解释。
Rose称，他们的算法测算的不同群体的平均分是相同的，有第三方学术人员进行验证，而且有以往的算法作为开发基础。
“这个算法是内部研究团队和外部研究人员合作开发的，所有人员都是评估方面的专家，我们的机器学习模型是根据数百万条记录训练出来的。”
Stoyanovich教授表示，除了道德伦理问题，在招生过程中使用AI还涉及可行性问题。比如，如果录取结果存在问题，谁来负责？另外，学生会希望知道自己被拒绝的理由以及选择申请者的标准。如果用了AI，那你很难直接告诉学生他们被拒的原因。
【竞赛报名/项目咨询请加微信：mollywei007】
