卢宇 等｜生成式人工智能的教育利用与展望——以ChatGPT系统为例(生成式人工智能与法律的六大议题以chatgpt为例)
专家解读：生成式人工智能如何与法律共舞：探讨ChatGPT的六大议题
一、ChatGPT的技术原理
-
ChatGPT作为生成式人工智能(AIGC)的重要组成部份
生成式人工智能与分析式人工智能的区分在于，生成式人工智能具有自主学习和创造新内容的能力，可以生成符合人类思惟习惯的文本，而分析式人工智能主要是通过对已有数据的分析和预测来实现任务。
-
ChatGPT的两个阶段的技术原理
ChatGPT的技术原理包括两个阶段：预训练阶段和利用阶段。
-
在预训练阶段，ChatGPT使用大量的数据对模型进行预训练，通过自监督学习的方式不断优化模型参数。这个阶段的目标是让模型尽量地学习到数据的统计规律和语义信息。
-
在利用阶段，ChatGPT通过自然语言处理机器学习模型将输入的文本映照为向量表示，并使用已训练好的模型来生成类似人类撰写的文本，可以用于各种自然语言处理任务，如对话系统、文本生成等。
-
二、ChatGPT在法律领域的首次利用
-
哥伦比亚法律的公然使用指出的内容
哥伦比亚法律中指出，法官可以在法律中使用ChatGPT。ChatGPT可以辅助法官生成法律文书、提供法律咨询和辅助决策等任务。
-
ChatGPT在法律领域的潜伏作用及挑战
ChatGPT在法律领域有广泛的利用前景，可以用于法律文书的自动生成与审核、法律咨询与辅助决策等任务。但是，同时也面临着安全风险和法律规制等挑战。
三、ChatGPT的安全风险与法律规制
-
生成式人工智能的三大安全风险
-
歹意信息生成与传播：生成式人工智能可以被歹意使用来生成虚假信息、谎言等，对社会造成不良影响。
-
背法内容的生成与散布：生成式人工智能可能会生成背法内容，如侵犯他人隐私、触及赌博、暴力、恐怖主义等。
-
-
ChatGPT的法律规制探讨
-
网络信息内容生态治理规定的适用与限制：ChatGPT的使用应遵照相关的网络信息内容生态治理规定，确保生成的内容符合法律法规。
-
避免背法背规或不当信息传播的管理措施：需要建立管理措施来避免ChatGPT生成和传播背法背规或不当信息，保障社会秩序和公共安全。
-
四、ChatGPT在教育领域的利用前景
-
ChatGPT在教育利用中的验证
ChatGPT可以用于教育利用中的习题生成与自动解题、基于ChatGPT的辅助批阅与教学辅助等任务，并获得了一定的验证结果。
-
ChatGPT在教育领域中的挑战与探讨
ChatGPT的广泛利用可能致使教师角色与职责的变化，同时也需要做好管理生成式人工智能对学生隐私的影响。
五、隐私保护与个人信息搜集
-
生成式人工智能会不会搜集用户个人信息
生成式人工智能可能会触及用户个人信息，由于生成的文本可能包括用户的输入或用户信息。
-
个人信息搜集的法律规定与隐私保护
-
ChatGPT在用户个人信息保护方面的处理措施：ChatGPT应当遵照相关的个人信息保护法律法规，确保用户个人信息的安全和隐私。
-
如何平衡生成式人工智能的功能与隐私保护需求：需要在保证生成式人工智能的功能性的同时，加强隐私保护，平衡二者之间的关系。
-
六、高校舆情中的生成式人工智能工具应对策略
-
生成式人工智能工具对高校舆情的影响
-
舆情的监测与分析：生成式人工智能工具可以实现对高校舆情的实时监测和分析，帮助高校了解舆情动态。
-
舆情应对与危机管理：生成式人工智能工具可以辅助高校进行舆情应对和危机管理，提供有针对性的建议和解决方案。
-
-
确保生成式人工智能工具在高校中的良性发展
-
教育学生正确使用生成式人工智能工具：需要对高校学生进行教育，引导他们正确使用生成式人工智能工具，并提高安全意识。
-
管理生成式人工智能工具的利用政策和标准：需要建立生成式人工智能工具的利用政策和标准，规范其在高校中的使用。
-
以上是关于生成式人工智能与法律的六大议题的详细介绍。通过对ChatGPT的技术原理、在法律领域的利用、安全风险与法律规制、在教育领域的利用前景、隐私保护与个人信息搜集和高校舆情中的生成式人工智能工具应对策略的探讨，我们可以更全面和深入地了解ChatGPT和生成式人工智能在法律领域中的重要性和挑战。对生成式人工智能的发展和利用，我们需要平衡技术创新和法律规制，保障其正常、安全和可延续的发展。
生成式人工智能与法律的六大议题以chatgpt为例的进一步展开说明
【刊载信息】卢宇, 余京蕾, 陈鹏鹤, &李沐云. (2023). 生成式人工智能的教育利用与展望——以ChatGPT系统为例. 中国远程教育 (04).
【摘要】生成式人工智能（Generative Artificial Intelligence）旨在利用人工智能技术自动化生成文本、图象、视频、音频等多模态数据，遭到教育领域的广泛关注。其中，ChatGPT系统因其良好的自然语言理解和生成能力，体现出较高的多领域利用潜力。本研究以ChatGPT作为主要对象，基于其四项核心能力，即启发性内容生成能力、对话情境理解能力、序列任务履行能力和程序语言解析能力，探讨在教师教学、学习进程、教育评价、学业辅导四个方面的潜伏教育利用。在此基础上，在真实系统中进行了习题生成、自动解题、辅助批阅等教育利用的初步验证。最后，本文进一步探讨了以ChatGPT为代表的生成式人工智能在教育利用中所面临的局限和对教育的启示。
【关键词】生成式人工智能；ChatGPT；大语言模型；人工智能教育利用
一、引言
生成式人工智能(Generative Artificial Intelligence)是一种利用人工智能技术自动生成文本、图象、视频、音频等多模态数据的方法，其在教育领域引发了广泛的关注。ChatGPT系统以其出色的自然语言理解和生成能力而备受注视，展现出较高的多领域利用潜力。本研究以ChatGPT为主要研究对象，基于其四项核心能力：启发性内容生成能力、对话情境理解能力、序列任务履行能力和程序语言解析能力，探讨了该系统在教师教学、学习进程、教育评价和学业辅导等方面的潜伏教育利用。在真实系统中进行了习题生成、自动解题和辅助批阅等教育利用的初步验证。最后，本文进一步探讨了以ChatGPT为代表的生成式人工智能在教育利用中所面临的局限和对教育的启示。
二、ChatGPT概述
（一）历史演化
生成式人工智能的研究目标是通过摹拟人类智能，使计算机具有类似人类的思考和行动能力。科学家们早在提出了“图灵测试”以后就从模仿人类语言交互的角度开始研究人工智能。起初，人工智能研究主要关注知识情势化表征和符号化推理，但长时间以来一直难以处理复杂且具有较强歧义性的人类自然语言。进入21世纪，研究人员开始尝试基于统计推断和机器学习技术构建自然语言处理模型。虽然这些模型可以提高典型自然语言处理任务的性能，但依然难以深入分析和准确生成人类的自然语言。随着深度学习技术的发展，对人类自然语言进行高维散布式表示和隐含特点提取逐步成为可能，人工智能技术在多项自然语言处理任务上的表现也有了极大提升。2017年，谷歌公司提出了Transformer模型，推动了自然语言处理模型参数范围的扩大。
2018年，美国OpenAI公司提出了基于Transformer的预训练语言模型GPT⑴。GPT⑴是一个自回归的语言模型，采取12个Transformer解码器，用于从左到右的单向预测语言模型，具有1.17亿的参数数量。GPT⑴的构建基于大型语料库进行无监督预训练，然后通过有监督的微调技术提供解决方案。同年，谷歌推出了基于自编码的BERT模型，进一步提升了自然语言处理任务的性能。2019年，OpenAI发布了GPT⑵模型，采取更多的Transformer解码器和更大的语料库进行训练，参数数量到达15亿。GPT⑵在多项自然语言处理任务上表现出色。这些技术和模型的不断发展对生成式人工智能领域具有重要的突破和价值。
2023年，OpenAI推出了参数数量比GPT⑵提升两个数量级的GPT⑶模型。这使得GPT⑶在对话生成、文本摘要、机器翻译等任务上展现出了出色的性能。2023年，OpenAI基于GPT⑶推出类似模型ChatGPT，在文本生成和自然语言交互等任务上实现了显著的进步。
（二）相关技术
要实现高质量的生成内容，GPT系列系统主要触及五项关键技术和架构。
1. Transformer模型：Transformer模型是GPT系列系统的基本组成单元，是一种基于自注意力机制的深度神经网络。它主要包括编码器和解码器两部份。编码器用于计算输入序列中区别位置之间的依赖关系，并进行特点表示，解码器用于根据编码器的输诞生成终究的表征向量。Transformer模型能够高效捕捉序列数据中区别位置之间的依赖关系。
2. 基于Transformer的基本架构：如GPT⑶模型基本架构（见图1），主要由96层的Transformer解码器组成，其中每层的解码器包括掩码多头注意力机制子层和全连接前馈神经网络子层。模型的训练进程基于自回归思想，即给定上下文预测下一个单词或给定下文预测上一个单词。针对区别自然语言处理任务，GPT⑶将区别格式的文本转换为任务特定的格式，并根据任务特点进行模型训练。这些技术和思想使得GPT系列系统具有了优秀的文本生成能力。
3. 基于人类反馈的强化学习（Reinforcement Learning from Human Feedback, RLHF）技术：这项技术是ChatGPT等系统问题生成能力提升的关键。RLHF技术包括监督微调、构建嘉奖模型和采取近端策略优化算法等步骤。通过这些步骤，系统可以根据人类的意见进行模型优化，从而生成符合人类期望的文本。
4. 唆使微调（Instruction Tuning）技术：这项技术用于辅助系统生成高质量的文本。通过将唆使描写与生成文本相结合，系统可以调剂模型参数，从而微调文本生成的能力。
5. 思惟链（Chain of Thought）技术：这项技术通过一系列前后关联的指令，辅助系统完成复杂推理任务。指令的设定可以将单步骤推理任务拆解为包括多个中间步骤的任务，从而提升系统的推理能力。
同时，为解决生成进程中出现的不公道行动问题，ChatGPT等系统遵守了3H基本原则，即帮助性（Helpful）、真实性（Honest）和无害性（Harmless），从而确保生成内容的公道性和有益性。
（三）核心能力
ChatGPT等系统展现出了四项较为突出的核心能力。
1. 启发性内容生成能力：系统可以生成创作型教学素材，帮助教师设计有创新性的教学活动。
2. 对话情境理解能力：系统可以理解多轮对话中的上下文信息，生成符合逻辑的联贯回复，为用户带来良好的交互体验。
3. 序列任务履行能力：系统可以履行基于多轮指令的复杂任务。
4. 程序语言解析能力：系统可以解析编程语言的语法规则，并根据用户任务需求生成代码程序。
以上四项核心能力体现了生成式人工智能技术在教育领域的重大突破和价值，为其在教育领域的利用提供了广阔的可能性。
三、潜伏教育利用
基于ChatGPT等系统的核心能力，可以在教师教学、学习进程、教育评价和学业辅导等方面实现多种潜伏教育利用。
1. 教师教学：ChatGPT等系统可以生成创作型教学素材，辅助教师进行教学设计；可以在课堂中充当助教角色，为教师提供教学进程中的互动式支持；可以生成个性化教学方案，适应区别教师的教学需求；可以生成编程课程案例，支持教师在教学中的示例性代码生成与说明等。
2. 学习进程：ChatGPT等系统可以进行个性化学科知识问答，根据多轮对话为学生提供多层次的知识服务；可以辅助学生学习，根据历史对话信息和学习内容为学生提供个性化学习支持；可以针对学生的疑问问题进行分步骤解析；可以生成多维度代码解释，帮助学生理解程序的内涵与功能。
3. 教育评价：ChatGPT等系统可以进行学生作品和答案的客观点评，为学生提供改进思路；可以对学生的语言表达能力进行评测，给出反馈建议；可以生成备选测试题目，支持教师智能组卷；可以进行代码反馈与评价，提出优化建议等。
4. 学业辅导：ChatGPT等系统可以生成针对性的学科探究和创新素材，辅助学生理解知识点；可以根据学生的实际辅导需求，为学生提供个性化学习支持；可以针对学生的疑问问题进行解析，帮助学生理解问题求解；可以生成多维度代码解释，辅助学生提升编程能力。
四、教育利用初步验证
在习题生成、自动解题和辅助批阅等教育利用上，ChatGPT等系统已进行了初步验证。系统可以延续生成符合教学目标的、难度适中的习题，大多数生成的习题包括参考答案，便于在教育实践中使用。系统还可以够自动解答多步骤算法题，并具有较高的准确性和可读性。在辅助批阅方面，系统可以根据学生作品和习题答案进行客观点评和判断，并给出公道的解题进程和答案。通过这些利用验证，ChatGPT等系统已具有了一定的教育利用能力。
五、局限与启示
ChatGPT等生成式人工智能系统依然面临一些局限。系统难以充分理解信息和分析信息逻辑关系，可能会生成不公道的内容或出现事实性毛病。另外，生成式人工智能的语义理解和表达能力在中文语境和文字方面依然较弱。另外，生成式人工智能技术的滥用可能带来严重的安全隐患，如歹意引导系统生成危险答案。另外，该技术的数据源复杂且庞大，使用进程可能触及知识产权问题，存在法律风险。
生成式人工智能技术在教育领域具有广阔的利用前景，可以推动教育理念变革，增进教学方式和内容的创新。教育领域需要
生成式人工智能与法律的六大议题以chatgpt为例的常见问答Q&A
问题1：甚么是ChatGPT？
答案：ChatGPT是一种生成式人工智能（AI）模型，用于自然语言处理（NLP）任务。它使用第三代生成式预训练变换模型（GPT⑶）来生成类似人类撰写的文本。该模型训练有巨大的语言知识和上下文理解能力，能够根据输入生成联贯、成心义的回答、对话或文章。
- ChatGPT通过先前大范围的语言训练，学习了大量的语言模式和表达方式，使其具有了编写人类风格文本的能力。
- ChatGPT可利用于多种任务，包括问答、对话生成、翻译、自动摘要等。
- ChatGPT在训练和生成进程中，需要大量的语料库来确保其文本生成质量和准确性。
问题2：ChatGPT在法律领域的利用有哪几种议题？
答案：ChatGPT作为一种生成式人工智能模型，在法律领域触及到以下六大议题：
- 知识产权保护：对通过ChatGPT生成的文本内容，如何保护其知识产权，避免他人滥用或侵权。
- 法律责任：对通过ChatGPT生成的内容中可能存在的法律问题，如何明确责任归属，保证人工智能的合法使用。
- 隐私保护：使用ChatGPT时，会不会存在对用户个人信息的搜集和使用，如何确保用户隐私安全。
- 信息传播治理：如何管理ChatGPT生成的内容，避免背法背规信息的传播和不当内容的出现。
- 过度依赖：过度依赖ChatGPT可能致使对自主判断和人工智能传统学习的减少，怎样在使用进程中平衡自动化与人工核验。
- 社会伦理：ChatGPT可能误导用户或产生不当内容，怎么解决相关伦理问题，保证人工智能的社会责任。
问题3：ChatGPT在教育领域的利用如何展望？
答案：ChatGPT作为生成式人工智能模型，其在教育领域有广阔的利用前景：
- 辅助教学：ChatGPT可以用作教学辅助工具，为学生提供即时的答疑解惑，帮助学生更好地理解和消化知识。
- 个性化学习：ChatGPT可以根据学生的个性化需求，调剂和提供合适的学习资料和解释，提高学习效果。
- 学术研究：ChatGPT可以用于生成学术论文的初步草稿，并为学术研究者提供灵感和创意。
- 教育评估：ChatGPT可以自动生成教育测试题目，对学生的学习成果进行评估和反馈。
- 教育资源扩充：使用ChatGPT可以扩充教育资源，弥补教育资源不足的地区或领域的空白。
- 教育文娱：ChatGPT可以作为互动伴侣，提供文娱性的学习体验，提高学生对教育的兴趣。
