ChatGPT，面临销毁？

本文来源于微信公众号：麦可思研究（ID：MyCOS_Research）

近日，OpenAI和微软正式被纽约时报起诉，索赔金额达到了数十亿美元。

纽约时报的指控内容是，OpenAI和微软未经许可，使用了纽约时报数百万篇文章来训练GPT模型，创建包括ChatGPT和Copilot之类的AI产品。并且，他们还被要求销毁“所有包含纽约时报作品的GPT或其他大语言模型和训练集”。

当ChatGPT 2022年首次公开亮相时，OpenAI的首席执行官就曾预测，它的重要性“将超过农业革命、工业革命和互联网革命的总和”。

在人工智能浪潮下，社会各界对其应用日益加深，全球顶尖大学也相继放开使用禁令，拥抱人工智能成高等教育趋势。但与之伴随而来的学术诚信、数据安全，以及前文提到的知识版权等问题，也是我们将面临的挑战。今日发布的麦可思《中国-世界高等教育趋势报告（2023）》就关注了此趋势及问题。以下为报告全文——

从惊慌失措的拒绝，到敞怀拥抱

2023年9月1日，据《哈佛深红报》报道，哈佛大学文理学院发布了关于在课堂中使用ChatGPT等生成式AI的使用指南，以帮助老师、学生以安全、可靠的方式使用生成式AI产品。

而事实上，早在2023年2月ChatGPT风靡全球时，哈佛大学曾考虑禁止学生使用该产品。随着ChatGPT等生成式AI的飞速发展和应用的深入，该校表示，一味禁止无法改变现实，应该顺应技术潮流，并以安全的方式将ChatGPT整合到教育中以提升教学效率和质量。

同样放开禁制的还包括香港科技大学。据报道，香港科技大学于2023年6月29日正式推出了该校的人工智能聊天机器人——HKUST ChatGPT，该工具旨在为全校成员提供安全可用的ChatGPT 3.5版本。

HKUST ChatGPT是一项付费云服务，在微软Azure OpenAI平台上运行，收费按聊天数据量计算。作为香港最先为人工智能工具开“绿灯”的大学，该校的措施可谓“先人一步”。

加拿大里贾纳大学发言人埃弗雷特·多玛也表示，“在合乎道德的前提下，该校师生目前被允许使用ChatGPT。”

从2022年底 ChatGPT问世，多所高校明确表示拒绝让师生使用ChatGPT到现在不过一年之久，大学对ChatGPT的态度实现大逆转。

“每一代学生都伴随着新技术长大。从计算器、个人笔记本电脑到智能手机再到Zoom，每一代学生最初都对传统教学的颠覆感到焦虑。

我们担心基础知识将被机器人的输入和输出所取代，或者互动将被淘汰。因此，新技术似乎成为我们所喜欢的教育体验部分的障碍（如无法直接看到学生第一次掌握一个困难概念时的表情）。但高等教育在适应新事件、新需求和新技术方面有着悠久的历史：就像计算器、个人笔记本电脑、智能手机和Zoom一样，AI可能很快就会成为我们不可或缺的一部分。

但AI的积极潜力与其缺陷同样值得高等教育的关注。”美国马里兰大学帕克分校达利·J.佩恩斯校长也认为，需要积极看待ChatGPT所带来的变化。

ChatGPT登堂入室

人工智能的应用将深入影响教与学、研究，甚至高校管理的方方面面。于教师而言，如何将以ChatGPT为代表的AI整合到课程教学中，并确保学术诚信是关键问题所在。

德雷塞尔大学负责本科课程和教育的副教务长史蒂夫·韦伯说，他们需要找到正确的中间立场。他说，教育工作者不能完全禁止使用该工具并拒绝教授它，但他们也不能允许毫无限制地使用它。比如华盛顿大学的一位教授在他的期末考试中设计了新的考核形式：学生可以用ChatGPT生成的带有提示的回答，但需要从专业的角度对其提供的内容进行纠正。

贾斯汀·法雷尔是耶鲁大学环境学院的社会学教授。在其课上，法雷尔要求他的学生使用ChatGPT来深入挖掘他们在本课程研究项目中想要解决的问题。在这个特定的任务，每个学生向ChatGPT提出一个与研究相关的问题，并对ChatGPT产生的可能不准确、误导性、不完整（或不道德）的方式产生的内容进行注释。

将ChatGPT引入课堂，教师教学面临的最大挑战是学生的学术诚信问题。针对此问题，耶鲁大学普鲁夫教学中心发布的人工智能指南，给教师的建议包括：

（1）开诚布公地说明允许学生使用什么工具，以及进行相关限制的原因。为了确保学生使用人工智能工具与最终的教学目标相一致，教师应更新学术诚信政策，以阐明学生可以如何使用人工智能工具，以及他们应该如何表明使用了这些工具。同时教师需向学生说明限制的原因，以让其理解作业背后的学习目标，这也有助于学生全身心投入学习。

（2）通过监控或检测技术来控制人工智能书写内容的使用可能是不可行的。Turnitin已经承认其检测工具软件存在可靠性问题。耶鲁大学普鲁夫教学中心的研究表明，耶鲁大学学生的论文中存在剽窃问题的数量微乎其微。大多数学生更想自己完成作业，因为他们在乎自己的学习。

（3）改变作业的设计和结构可以大大地降低学生作弊的可能性，也可以促进学生学习。根据学生何时会剽窃的相关研究，该中心指出学生在以下情况下作弊的可能性较小：

● 被问到的是他们感兴趣的问题

●让他们了解该任务将如何支持他们的长期学习目标

● 让他们在截止日期前完成前期工作

● 与他人讨论了他们的初步工作

● 可以清晰看见作业中取得的进步

以上的许多特征可以被应用到真实的评估中，也就是要有现实感、有认知上的挑战、需要真实的评价，以此减少学生作弊的问题发生。

学术诚信+数据安全的双重挑战

从上述案例可知，广泛地了解和应用人工智能是大势所趋。2023年发表在美国《科学报告》上的研究发现，近四分之三的受访学生（74%）会使用ChatGPT来帮助完成作业，尽管70%的教育工作者认为这是抄袭。

研究同时表明，在32门课程中，ChatGPT在12门课程的平均成绩与学生相似或更高，在回答计算机科学、政治学、工程学和心理学等学科的问题时，ChatGPT的成绩与学生相当，甚至超过了学生。学生仅在在数学和经济学方面的表现优于人工智能。这也加剧了教育界对ChatGPT使用的担忧。

领导该项目的纽约大学阿布扎比分校计算机科学的教授塔拉勒·拉万和亚希尔·扎基说：“ChatGPT等人工智能工具可以在相当多的大学课程中表现出超过学生的水平。此外，正如我们的调查所显示的那样，大多数学生打算使用此类工具来做家庭作业。这些发现表明，在人工智能时代，用家庭作业来评估学生的形式可能不再有效，这对全球教育机构构成了严峻挑战。”拉万和扎基补充说，教育机构需要“紧急制定适当的学术诚信政策”以进行监管。皮尤研究中心的数据显示，了解ChatGPT且年龄处在18~29岁的美国成年人，使用ChatGPT的比例最高，为41%，而这也几乎与高等教育的主要受教育群体年龄重合。出台正式的学术诚信指导政策是当务之急。

英国罗素大学集团也是较早放开ChatGPT使用禁制的代表之一。该集团明确，允许学生和教职员工在合乎道德的情况下使用ChatGPT等人工智能技术，并主动发布了人工智能使用指导方针，旨在鼓励师生负责任地使用人工智能技术。

该集团表示：我们的大学致力于以合乎道德和负责任的方式使用生成式人工智能，并为我们的员工和学生做好准备，使他们成为人工智能日益普及世界中的领导者。生成式人工智能的兴起有可能对我们的教学、学习、评估和获得教育的方式产生深远的影响。我们的大学希望使我们的师生从生成式人工智能工具中受益——增强教学实践和学生的学习体验，确保学生在道德框架内提升未来的技能。

该集团的大学共同制定了人工智能工具使用五原则：

1. 大学将支持师生了解AI。

2. 教职员工应该具备支持学生在学习过程中有效和适当地使用生成式AI工具的能力。

3. 大学将调整教学和评估，将合乎道德地使用 AI纳入其中，支持平等获取。

4. 大学将确保学术严谨性和诚信得到维护。

5. 随着技术及其在教育中的应用不断发展，大学将协同合作，分享最佳实践。

其中，在“原则1”提到，生成式AI工具能够处理大量信息以生成响应，但它们有很大的局限性。所有学生和员工都要了解与使用这些工具相关的机会、限制和伦理问题。包括“隐私和数据方面的注意事项”“偏见的可能性”“信息不准确和误读”“道德规范”“抄袭”“开发”等方面。

在“原则2”特别提到，“将提供指导和培训，帮助学生和员工了解生成式AI工具是如何工作的，它们可以在哪里体现价值、进行个性化学习，以及它们的局限性。

通过提高人工智能素养，我们的大学将使学生掌握在学习和未来职业生涯中使用这些工具所需的技能，并确保员工拥有能使用这些工具的必要技能和知识。”

在“原则4”提到，罗素大学集团24所大学都审查了他们的学术行为政策和指导，以对生成AI的出现作出反应。这些政策向学生和员工明确了哪些地方不适合使用生成式AI，旨在支持他们做出明智的决定，并授权他们适当地使用这些工具，在必要时注明使用了这些工具。

另外一个令高校管理者担忧的是隐私和数据被采集的问题，高校或可借鉴哈佛大学的举措，为了防止数据泄露、用户隐私等问题，哈佛大学与科技公司合作，开发了一个名叫“AI Sandbox”的工具，可以访问目前多个流行的生成式AI聊天产品，并且确保数据是安全可控的，不会被第三方搜集用于训练AI模型。

2023年，中国青年报面向全国高校学生发起的关于AI工具使用的问卷调查数据显示，84.88%受访者表示曾使用过AI工具，其中16.30%受访者经常使用AI工具。这表示中国高校学生已较为普遍地在使用AI工具。目前尚未有中国高校公开发布其人工智能工具使用政策，但随着人工智能技术的发展和影响深入，我们的高校也将面临国外高校正在面临的问题，与其回避不如主动应对，以提升师生的人工智能工具使用素养。

主要参考文献：

[1]Rahem D. Hamid,Claire Yuan.Harvard Releases First Guidelines for ‘Responsible Experimentation with Generative AI Tools’[EB/OL]. The Harvard Crimson, 2023-07-14

[2]Elias J.Schisgall.Harvard Releases Guidance for AI Use in Classrooms[EB/OL]. The Harvard Crimson, 2023-09-01.

[3]How will AI change higher education[EB/OL].The Chronicle of Higher Education, 2023-05-25.

[4]耶鲁大学普鲁夫教学中心网站.

[5]Harry Stedman.ChatGPT Can Outscore Students in Some University Courses[EB/OL].Government Technology, 2023-08-24.

[6]Russell Group principles on the use of generative AI tools in education[EB/OL].