高等教育中如何应用ChatGPT类生成式人工智能

摘 要

关键词： 人工智能；高等教育；生成式人工智能；伦理风险；聊天机器人

一、引言

2022年底，
由美国OpenAI公司开发的ChatGPT迅速走红[1]。
凭借其强大的自然语言处理能力和生成能力，
仅两个月时间就突破了一亿注册用户，
创下中国科技界消费者应用流行速度的新纪录，
引发行业内外广泛关注。
ChatGPT作为人工智能领域的里程碑作品，
其诞生最重大的创新点在于推动人工智能从弱到强的演进[3]。
据中国信通院发布的《人工智能白皮书（2022年）》预测：
随着超大规模预训练模型的应用不断深化和技术进步的推进，
"生成式AI"技术将不断成熟并释放更大的潜力[4]。
在这一波创新浪潮中，
教育领域也将迎来新的机遇与挑战[6]。

为了解释ChatGPT在高等教育中的应用前景及其带来的深远影响，《入门指南》一书于2023年4月正式发布。本文将深入解析该指南的核心内容，并从技术革新带来的教育变革、潜在的人工智能挑战以及实施过程中的伦理考量三个方面展开论述。通过系统梳理相关要点，在为我国教育机构合理运用ChatGPT提供实践参考的同时,也为推动高等教育数字化转型积累宝贵经验

二、ChatGPT在高等教育中的应用

虽然ChatGPT推出时间较短, 但它已在高等教育多个领域发挥重要作用。《入门指南》一书则详细概述了ChatGPT在高等教育教学、科研活动以及学生管理等多个方面的具体应用。

（一）ChatGPT在高等教育中的教学应用

该技术的推出正在为教育创新注入新的活力[7]。研究表明，《入门指南》指出该技术能够提升学生的学习体验，并通过提供反馈机制优化教学流程。众所周知，该技术具备这种能力。然而，在某些情况下该技术也可单独运用，并可与其他资源结合部署于不同的系统架构中。此外，在某些情况下该技术也可单独运用，并可与其他资源结合部署于不同的系统架构中。

与其他现有的人工智能技术协同工作 ChatGPT 可以提升学生的学习质量 教学实践表明 《入门指南》详细概述了 ChatGPT 在教育场景中扮演多样化角色 承担从理论研究到数据处理等多个关键任务 并系统阐述了通过整合 ChatGPT 提升教学效果的具体方法 如表1所示

表1 使用ChatGPT增强教学效果

（二）ChatGPT在高等教育中的科研应用

基于人工智能技术开发的智能辅助工具ChatGPT，在推动科学探究与创新活动方面具有显著价值，并能在多个关键环节发挥重要作用

1.研究设计阶段

ChatGPT依托互联网丰富的网络资源为研究人员提供思路，并结合研究主题与实验计划推荐合适的资源库

2.数据采集阶段

ChatGPT辅助研究人员获取数据，并以遵循其要求的方式将其数据源转换为所需的语言版本。

3.数据分析阶段

ChatGPT能够对数据进行编码处理，并为数据处理提供指导性建议。此外，它还列举多种数据分析方法，并能提出需要分析的重点内容。

4.论文写作阶段

ChatGPT能够协助作者制定论文框架，并提供文献综述的编写服务以及学术论文的优化修改工作。从技术层面而言,它不仅能够给予专业指导,还能就文章的语言风格和表达技巧方面提出意见,从而有效提升文章的质量和可读性.研究数据显示,ChatGPT在文献整理和前沿动态追踪等方面发挥着关键作用,能够帮助科研人员从海量文献中解脱出来,显著缩短文献检索与整理的时间成本.此外,该工具促使研究者从被动检索信息转向主动生成知识的过程,在形成研究思路和论证框架方面, ChatGPT使得研究者的思维过程实现了从综合分析向精挑细选的关键转变[11].这种工具的有效应用不仅大大提升了研究人员的学习效率以及创作效能,同时也显著提高了其创新性研究成果的质量水平.

注

曾经广泛应用在生成完整学术期刊论文的过程中的人工智能工具ChatGPT，在发表声明时曾明确承认其存在的争议性功能。

（三）ChatGPT在高等教育管理中的应用

在当前人工智能时代，在高校教育管理领域中实现了规范化运作的效率不断攀升。该技术显著提升了准确性、流畅性与实用性[14]。《入门指南》指出，在这一创新工具的帮助下, 高等教育机构能够优化其管理和运作流程, 并且能够降低他们在这些服务领域所需的人力投入数量

1.回复申请人的咨询

高等教育机构借助ChatGPT技术能够具备自动回复与问题解答的功能,从而减少了对人工客服的压力;该系统能够迅速且友好的处理学生及教职工等常见事务.

2.帮助学生完成课程注册、查看管理信息

ChatGPT具备模拟管理人员身份的能力，在协助学生完成课程注册流程方面表现突出。它不仅能够指导学生完成注册手续的相关操作，并且还能够提供一系列管理信息查询服务。例如查询考试安排、了解上课地点等详细信息。通过这些功能的运用，整体管理效率得到显著提升，并且操作过程更加简便。

3.查找新闻、资源和其他信息

ChatGPT为管理人员提供了信息检索与查看的能力，并协助它们实现高效获取各类管理资料。该系统不仅包含新闻资讯以及资源库内容的整合服务

4.发送提醒或通知

ChatGPT能够向学生及教职员工发出相关信息。该系统会告知学生及教职员工关键的截止日期、有趣的活动以及可能的变化。

5.为国际学生、教职工提供翻译

ChatGPT拥有强大的多语言翻译能力，并能为国际学生和教职工提供语言翻译支持，克服沟通障碍并提升服务质量。

ChatGPT能够跨越多平台实现功能支持；教育机构不仅可将其整合至网站，并可在社交媒体、消息服务、学习管理系统及虚拟校园等多方面应用；相较于人类而言 ChatGPT可为用户提供持续不断的7×24小时管理服务 并凭借其独特的对话风格能为用户提供高度个性化体验

我国高等教育机构可在管理领域实现人机协作，并将其应用于自动化流程优化中以提升高校管理效能。具体而言，在高校财务领域中，ChatGPT可承担战略财务职能并提供知识支持服务[15]；同时，在教务管理系统中部署自动化答疑功能可辅助教务管理人员高效处理学生提出的常见问题并解放其工作重点至更具挑战性的事务处理环节上。

（四）ChatGPT在高等教育中的社区参与应用

ChatGPT能够精准应对教育机构在不同地理环境下的需求，并科学地制定相应的参与策略。基于地理位置的具体特点包括但不限于地理环境分布、服务区域定位以及目标群体特征等因素，在线教育机构可以依据这些关键要素设计出具有针对性的战略方案以提升整体社会福利水平。作为一项辅助工具，在线教育机构可以通过与本地居民沟通来传递自身的使命理念以及长期发展目标从而增进公众对这一组织的认识与信任感。不仅能够促进知识传播还能展示教育机构在社会公益方面的实际贡献不仅能够分享项目的进展更能及时了解本地民众的需求偏好进而为后续工作奠定基础最终帮助相关机构设计出切实可行的社会责任方案以实现共同进步的目标。

三、高等教育应用ChatGPT面临的挑战

ChatGPT在教育领域发挥了积极作用的同时也伴随着一系列伦理风险可被视为一把双刃剑[16]。联合国教科文组织于2021年11月出版了《人工智能伦理问题建议书》（Recommendation on the Ethics of AI）[17]。《入门指南》则基于这一建议书进一步探讨了ChatGPT所引发的各种挑战及其背后的道德与伦理问题。

（一）关于人工智能面临挑战的建议

教育领域的人工智能伦理研究是人工智能教育应用研究的重要组成部分。这份建议书旨在唤起公众对人工智能伦理问题的关注，并呼吁各国政府在国家层面采取相关措施；同时该建议也可为公共部门及私营企业提供参考

联合国教科文组织于2021年出版了《人工智能与教育：指导政策制定者》（AI and education: Guidance for policy-makers），旨在为政策制定者阐述人工智能的基本概念和应用，并明确应对技术发展带来的挑战的具体策略。在此基础上，《入门指南》强调应重点围绕七个关键领域实施上述建议

1.全系统愿景和战略优先事项

规划人工智能与教育政策的整体蓝图，并致力于营造包含所有人的高质量教育资源；确保每个人都能无限期地获得学习的权利；依据当前系统的整体准备情况以及综合考量的成本与价值进行评估，并据此识别关键战略方向；制定政策的主要方向以促进系统的可持续发展

2.人工智能与教育政策的指导原则

采用人本主义方法作为人工智能与教育政策的指导原则；遵循该原则来规划并实施人工智能与教育政策；旨在保障人权；塑造人类的价值观。

3.跨学科规划和跨部门治理

动员跨部门、多学科以及多方利益相关者的专业知识，在政策规划的关键决策中发挥支撑作用的同时提升决策者的能力，并构建起跨部门治理与协调体系

4.确保公平、包容地应用人工智能政策和法规

设定跨机构的可量化的战略目标，并制定相关制度规范及操作方案。旨在实现教育领域人工智能应用的公平与包容性。展开公开探讨人工智能相关的伦理议题及数据隐私管理措施，并关注可能带来的负面影响。

5.使用人工智能的总体规划

通过人工智能技术促进教育管理与供给体系的优化升级, 开发以学习者为中心的人工智能应用系统, 以优化学习过程并提高评估效果, 确保人工智能技术赋能教师群体, 推动智能技术覆盖全球范围内不同年龄段的学习需求, 并致力于塑造适应未来社会发展的生活技能与工作能力。

6.进行试验、监测和评估，建立实证库

深入拓展基于学习的人工智能应用理论依据，并构建可靠的实证数据库。推动其在教育领域的实践，并利用人工智能技术的应用以促进...

7.促进本土化教育人工智能技术创新

引导和支持开发以人为本的人工智能教育工具，并且积极地为其提供必要的资源和环境支持以确保其成功运营。这些措施将有助于吸引企业的投资意向，并激发其对这一新兴领域的兴趣和关注。通过这种方式，在推动人工智能技术在教育领域的发展的同时，还能够为其提供一个良好的发展平台和市场环境。此外，在促进该技术的本土化应用和推广方面也做出了积极的努力，并且通过这种方式实现了对该技术的有效利用和最大化效益的挖掘。

我国新一代人工智能治理专业委员会于2021年9月制定了《新一代人工智能伦理规范》[18]。该份文件旨在规范人工智能的开发与应用过程，在AI领域明确规定应当遵循的伦理原则和行为准则，并强调各方的社会协作机制。文件不仅要求商业界与技术界应当与政府及监管机构展开合作共同制定适当的规范与法律框架，并呼吁社会各界共同参与监督与管理以保障AI系统的健康发展。此外，在应用AI时必须严格遵守相应的道德准则，并注重提升算法的透明度与可解释性；同时采取措施确保数据的安全性以及隐私保护；对于数据使用过程中的伦理问题必须进行严格审查并建立相应的监管机制以符合相关法律法规的要求；此外政府、监管机构以及企业应当共同努力建立完善的监管体系以确保AI技术的应用不会产生负面影响；与此同时公众应当深入了解AI技术的潜在优势及其可能面临的挑战以及所涉及的伦理问题并积极参与相关讨论影响政策制定者及决策者对于AI技术的发展方向

（二）ChatGPT在高等教育中的伦理问题

虽然在高等教育领域得到了广泛应用 ChatGPT 也面临着各种挑战以及道德层面的问题

1.ChatGPT在高等教育中的学术诚信问题

学生可借助ChatGPT等智能机器人生成学术性成果，在高等教育领域应用中触及了学术诚信、剽窃指控、作业真实度及原创性等一系列问题[21]。若学生采用ChatGPT撰写论文或备考考试，则可能加剧抄袭与作弊现象的出现风险。一进入大学校园, ChatGPT便掀起了一场围绕学术诚信的风暴.一项针对1000余名学生的调查显示,超过五分之一的学生会使用该工具完成课后作业[22]；更为令人担忧的是,学生们用此软件撰写的论文竟获得了最高评价[23].因此,多所高校已禁止使用ChatGPT完成作业任务,一旦违反规定将按作弊处理.然而由于教师难以有效鉴别作业是自主创作还是机器生成,这一禁令的实际执行效果仍需商榷[24],对教师的职业素养也提出了更高要求[25]

部分高等教育机构已采取行动禁止学生使用ChatGPT 并调整了对学生评价的方式 开始重视课堂参与程度 并采用非书面作业来评估学生的技能和知识水平 全然禁止ChatGPT的做法并非最佳策略 人们开发了新的抄袭检测工具 如普林斯顿大学研发的GPTZero 我国的AI生成内容检测工具[AIGC]等 以检测ChatGPT是否被用于论文写作

2.ChatGPT在高等教育中的监管问题

《人工智能伦理问题建议书》强调指出，在当前AI技术迅速发展的背景下, 相关监管机制尚显不足, 仅针对AI技术的ChatGPT系统同样面临着监管缺失的问题。为了引起公众对这一议题的关注, 众多专家及行业领袖共同撰写了这封公开信, 呻醒社会 pause the development and training of advanced AI systems, with the period pause allowing regulatory bodies and stakeholders time to formulate actionable solutions. 尽管此封公开信仅代表部分观点, 但其发布具有象征意义, 它为推动人工智能伦理讨论提供了一个重要平台.

当下阶段，在高等教育应用ChatGPT的过程中，需要社会各界共同参与以完善相关监管体系。这一体系应当能够在平衡人工智能技术创新与伦理价值的基础上发挥作用，并确保AI技术的发展不会偏离正确的方向。这将有助于推动我国人工智能技术实现长期健康发展。

3.ChatGPT在高等教育中的隐私问题

在高等教育领域中，在智能化社会必然会被关注的Privacy问题不仅是我国教育发展中的重要议题之一。而像ChatGPT这样的AI工具，在其训练过程中可能包含了用户的数据信息以及敏感信息。一旦这些数据未被妥善保护，则可能导致它们被滥用或泄露的情形出现。这种情况下就潜在地威胁到用户的Privacy权益。

2023年4月起，《深度求索》人工智能基础平台正式上线运行

4.ChatGPT在高等教育中的认知偏差问题

ChatGPT不受伦理准则的限制，在处理信息时无法将对错与真假加以区分；因此在利用互联网数据进行训练的过程中也会产生认知偏差而导致其输出的信息出现了偏差（即所谓的"一本正经地胡说八道"）。ChatGPT类强人工智能系统能够通过训练模型从数据中学习生成对于知识和问题的理解以及新的解答方式；这种行为不可避免地会导致错误概念或知识的传播以及受教育者的认知偏差甚至是在道德伦理层面的认知偏差[25]。因此《入门指南》一书强调指出：对于ChatGPT提供的结果应当进行批判性分析并与其它来源的信息进行充分比较才具有重要意义

5.ChatGPT在高等教育中的性别与多样化问题

对不同类型的歧视并非仅限于ChatGPT的存在[26]；同样存在于所有形式的人工智能中。这些特定群体（包括残障人士、不同肤色者及贫困者等少数群体）将受到不公平预测或带有不道德影响的影响。清华大学交叉信息研究院开展的‘AI模型性别歧视水平评估项目’研究表明：ChatGPT可能会输出包含性别歧视内容的结果。《入门指南》一书指出，在这一问题上反映出女性在与人工智能相关的研究与开发领域中的参与不足；另一方面则揭示了生成式人工智能有可能会产出具有性别偏见或强调刻板印象的内容并加以传播的可能性。这种现象会对相关领域的教育工作者与研究人员造成一定影响；进而加剧当前认知多样性以及社会认知等多方面的挑战与问题。

6.ChatGPT在高等教育中的可访问性问题

ChatGPT 的使用可能面临可及性挑战，并反映出对 AI 工具使用存在的制约。受各国政府监管政策的影响，在一些国家和地区中存在因技术应用受限而导致 ChatGPT 无法被广泛使用的情况。在全球范围内互联网资源的获取呈现出显著差异，在部分地区由于网络连接不稳定或高昂的成本而导致 ChatGPT 的可用性受到影响，并进一步加剧了 ChatGPT 在不同地区的可及性差距。全球范围内的 AI 教育与研发活动同样面临着区域不平衡的问题，在某些地区基于 AI 技术的应用受到限制

7.ChatGPT在高等教育中的商业化问题

该系统由非营利组织OpenAI开发。然而非营利组织通常会更倾向于公益目的。若采用盈利驱动的企业运营此类工具，则需实施监管措施。由于这些企业可能出于商业利益的目的收集用户数据。相较于开源工具而言，该系统在公平性和可访问性方面存在不足。这限制了其在教育领域广泛应用的同时也带来了安全隐患风险。

四、高等教育机构使用ChatGPT的建议

参照《入门指南》的意见，在符合伦理道德的前提下应用ChatGPT技术有助于高等教育机构向学生提供更加个性化的学习体验，并使管理流程更为高效地运作；此外还能促进科学研究以及社区参与。

（一）谨慎而有创造性地使用ChatGPT

《入门指南》强调应谨慎且富有创新性地运用ChatGPT技术以实现恰当地应用并符合道德规范[27]。高等教育机构在采用ChatGPT时需持审慎态度深入考量其目的与潜在风险[28]；同时鼓励其探索新的应用途径[29]：一方面要最大限度地发挥其潜力；另一方面则需注重实践效果：包括设计语言练习材料并提升问题难度；最终目标仍是确保技术应用始终符合学术诚信标准并及时更新相关政策[30]。

《入门指南》提出了以下六项建议：①鼓励教职员工、学生和其他利益相关者讨论ChatGPT对高等教育机构的影响，并共同制定适应人工智能的战略；②向学生和教师提供关于如何使用ChatGPT以及何时应用或不应用该技术的明确指导；③将ChatGPT的应用与其课程学习效果相结合,帮助学生了解其在学习中的作用及其预期效果；④审查现有评估形式,确保其适用性,可能采用面对面评估替代传统考试或其他评价方式,并改变问题类型或考试形式；⑤审查并更新与 ChatGPT 及其他AI工具相关的学术诚信政策；⑥通过培训提升教师、研究人员及学生的提问水平。
研究者指出,提问设计越优化, ChatGPT 的回答质量越高。

（二）构建理解和管理ChatGPT的能力

《入门指南》一书强调指出，在当前ChatGPT技术迅速发展的背景下，高等教育机构应当更加重视自身在构建并管理ChatGPT以及人工智能技术能力方面的角色，并以此来应对未来的教育挑战。

其认为当前高等教育机构应在以下方面进行重点改革：首先，在教学内容设计上聚焦当前ChatGPT及其在人工智能领域的创新应用，并推动高校提升人工智能相关课程的研发能力；其次，在课程体系优化过程中整合现有教学内容，并将人工智能素养、伦理意识以及实践能力纳入核心培养目标；再次，在师资队伍建设上强化教师的教学能力和意识，并鼓励其在教学实践中充分运用ChatGPT等AI工具提升课堂效率与学习效果；最后，在校本教研机制建设中构建完善的支持保障体系，在日常工作中为教师提供同伴互助与专业指导资源。

（三）进行人工智能审核

《入门指南》强调了实施AI审核的重要性，在确保其符合道德与法律标准的同时也需遵循机构自身的政策与规范[30]。这种审核流程不仅有助于机构及时识别并纠正潜在问题，并能保证ChatGPT的应用既透明又负责任[30]。因此，在高等教育领域中建议各机构均需建立AI审核机制，在相应的流程中对ChatGPT的研发、训练及应用环节进行全面监督

《入门指南》阐述了高等教育机构在人工智能审核流程中的操作规范：①阐述数据驱动型人工智能的基本概念及适用场景：包括涉及的数据类型（如文本、图像等）及其具体的采集与预处理方法；调查当前高等教育机构实际应用的人工智能类型及其在教育管理中的具体功能；梳理现有相关政策法规及相应的外部法规要求，并指导高等教育机构如何合规开展相关工作。②确定人工智能应用场景与选择策略：明确不同应用场景下的人工智能服务需求（如学生支持服务、教学评估系统等），并评估这些服务带来的额外价值；考察高等教育机构对开源型人工智能工具的态度（包括可访问性和商业化程度），并制定相应的采购策略以保障资源的有效利用；制定措施确保所有相关人员均能便捷接入并合理利用这些工具以提升工作效率与服务质量。③评估人工智能效能与公平性：建立衡量人工智能系统效能的标准（如准确率、响应时间等），并设计相应的测试流程以确保其符合预期目标；探讨所收集的数据能否为教育机构提供支持（包括数据获取的时间间隔及具体使用方法），并制定相应的隐私保护机制以避免潜在风险；提出多方面的改进措施以解决可能存在的偏见问题，并设定具体的改进时间表以确保问题得到妥善解决。

基于《入门指南》的建议, 高等教育管理机构应在与所有学术领域、政府机构以及IT领域等多方进行全面沟通后, 推动人工智能审核工作得以开展。在沟通环节中, 各相关方需发表各自领域的见解: 教育领域的专家可围绕教学创新及科研探索发表专业性看法; 政府机构则需结合实际运营状况及人力资源配置提出建设性意见; 技术领域则应分享智能化实施的可能性及其安全性保障措施; 最终, 在 student参与下, 可最大限度地收集各方反馈信息, 从而实现真正意义上的 student需求满足

此外，在广泛征求高等教育机构与其主要利益相关方（包括当地的社区、科研机构以及学生及其家庭）的意见与反馈后，在教育领域的应用情况将会得到更加全面的了解与评估

五、结语

《入门指南》阐述了ChatGPT在高等教育领域的广泛应用前景，并涉及教学实践、科研探索、行政管理以及社区参与等多个层面的问题。此外，在这一过程中还揭示了许多伦理方面的挑战性议题,例如学术规范,监管缺失,隐私保护,认知偏差问题以及相关的商业化现象等维度的具体表现形式。基于对ChatGPT应用现状的分析，《入门指南》提出了多项可行性的意见,这不仅凸显了当前高等教育数字化转型背景下ChatGPT的优势与困境,也为高校如何理智且创新地应对这些变化提供了切实可行的方法论指导,从而确保数字技术的有效运用能够真正提升教育质量并促进创新能力的发展

当前处于关键发展阶段的高等
教育正面临着数字化转型的需求。
ChatGPT的应用则为实现这一目标提供了重要助力，
它不仅带来了更多的机遇但也伴随着相应的挑战。
面对这一重要课题，
我国高校亟需在生成式人工智能技术的发展速度与社会道德规范之间找到平衡点，
既要提升教育质量和监管效能，
又要促进技术创新，
确保相关技术得以更好地发挥作用，
同时有效规避可能出现的风险问题，
最终推动整个领域的可持续发展。