人工智能促进快乐教育的愿景

这是我们如何避免这种强大但仍在不断涌现的技术带来的危险并最大程度地发挥其作用的方法

在2013年的一篇文章中，Facebook首席执行官马克·扎克伯格（Mark Zuckerberg）绘制了一个“粗略计划”，向世界提供免费的基础互联网，从而传播机会和相互联系。但是，联合国人权理事会报告说，在缅甸，Facebook遵循这种愿望的努力加速了仇恨言论，煽动分裂以及煽动罗兴亚种族灭绝的线下暴力。免费的基本互联网现在可以警告技术对社会的影响的复杂性。对于教育方面的AI研究员Chris和科学教育家，国际网络政策专业的学生Lisa来说，这个例子让人停顿了一下：教育中的AI可能带来什么意想不到的后果？

许多人有充分的理由依靠AI驱动的工具来满足扩展高质量教育的需求。在线课程中教育内容的激增，对数字设备的扩展访问以及AI的当代复兴似乎为大规模提供个性化学习提供了必要的条件。然而，技术在解决社会问题而又不会造成意料之外的伤害方面有着较差的记录。我们可以预测哪些负面影响，以及如何改善AI研究人员的目标以解决此类意外后果？

几十年来，人工智能用于教育的圣杯一直是创建自主导师：一种算法，可以监控学生的学习进度，了解他们所知道的知识和动机，并提供最佳的自适应学习体验。通过使用自主导师，学生可以在家中世界任何地方学习。但是，2020年的自主导师看起来与这一理想大不相同。使用自动导师进行的教育通常会使学生遇到一些问题，这些问题旨在使算法易于解释，而不是使学习者感到高兴。

当前的算法无法理解动机，并且远不能带来长期的学习成果，而是专注于短期内吸引学生。技术挑战是巨大的：构建理想的自动辅导员可能很难达到真正的通用AI。研究界将其视为挑战：我们只需要克服技术上的缺陷即可实现乌托邦梦想。

但是，自学乌托邦是一个值得朝着实现的梦想吗？我们提供了一些由于使用人工智能系统（例如自动辅导器）而产生的危险，并呼吁人们研究一些方法，这些方法可以利用AI在教育中的应用带来的潜在好处，同时降低风险。我们相信，与自然智能的人类一起工作的，经过深思熟虑的AI系统的愿景可以为世界各地的学习者群体提供支持。

将AI融入教育的三大挑战

1.破坏社会情感联系和技能。除了死记硬背的知识之外，学生上学还有很多原因，包括社会情感技能的发展，人类指导和人类社区的发展。对于人类教师和传统班级的所有潜在不足之处，替换这些结构具有成本。我们中的许多人都记得向老师学习，他们的指导和指导远远超出了他们所负责的教学领域。AI会取代这些互动吗？

此外，孤独感正在上升，年轻一代比老一代更孤独。一项研究发现，与花时间从事非现场活动（如面对面的社交互动，体育或家庭作业）的年轻人相比，青少年的抑郁与上映时间之间存在关联。屏幕时间的减少可能导致同情水平的显着提高。教科文组织考虑重新调整教育目标以强调社会情感能力的发展，以实现和平与可持续的社会，强迫儿童参加教育可能会破坏这些目标。

然而，人工智能系统往往旨在最大限度地延长学生在网上花费的时间。甚至开发出令人上瘾的技术的高管都知道这些风险，因为许多人将他们的孩子送往昂贵的无屏幕私立学校，以寻求“人与人之间的互动”，而贫困的学生则被迫寻求廉价的技术解决方案。除此之外，由AI驱动的学习模块可能会破坏重要的元学习技能，例如自我调节能力，因为学生可能会适应进行注意力调节工作的机器，而无法培养自己的能力。同样，学生可能会失去独立适应现实世界中无法提供即时反馈或指导的创造性任务的能力。

同时，人工智能在课堂上引入的破坏可能会扩展到家庭和社区。包括教师和家长在内的权威人士可能不容易适应完全移植到数字设备上的课程，无论此类技术显示多少“人性化”。在生活在贫困中的传统社区中，这种抵触可能是最强烈的，其中一些人认为人工智能技术会带来最大的潜在影响，因为不习惯孩子在屏幕上花费时间的家庭可能会抵制从人类指导到人工智能老师的转变。

如果事实证明这些工具不能像我们希望的那样善于提高知识，那么在增加知识获取与减少人类主导学习之间的权衡尤其不利。鉴于动机在学习中所起的关键作用以及我们尚待克服的技术挑战，这是一种明显的可能性。

2.在教育中滥用人工智能来扩展能力。我们还必须考虑恶意行为者将利用新的强大而有动力的教育工具来教授暴力主题的可能性。就像Facebook的崛起扩大了破坏性组织和民主组织一样，新近有效的教学工具可以帮助恐怖分子扩大有关破坏行为的培训。此外，在AI导师中发展类似人的同理心的目标将要求深度处理有关学习者情绪和心理状态的个人数据。压迫性政府是否会从成年儿童迫害或巩固权力以来使用大量的心理情感数据？或者，看似更为温和：富人会变得更富裕吗？

在倡导者们吹捧支持人工智能的教育工具在全球范围内使教育民主化的潜力的同时，研究人员必须考虑这些工具如何使不平等现象长期存在或加剧。有权使用数字工具的特权组成为当前AI算法的训练数据来源。当机器学习算法在某个数据集上训练时（也许其中来自美国的白人学生人数过多），结果可能会与来自其他背景的小组有偏差，因此，在不同的小组上使用时，结果可能无效甚至具有歧视性。

此外，通过集中式模型扩展教育规模，可以减少决定教什么内容的声音数量。鉴于对于那些教书的人来说，教学也是一种很好的学习工具，因此，对谁教书的选择就成为对谁学书的选择。是的，在几乎无法获得教科书的社区中提供新工具将提供一种形式的知识。但是，扩展集中倡导的课程可以实现同质的学习目标，并削弱本地知识提供者的能力。正如Taskeen Adam所说的，“随着技术在全球范围内渗透社区，新自由主义价值观也将渗透到社区中，只要它们完全适合，就成为将地方，文化或宗教价值观置于第二位的价值体系。” 如果不考虑当地的声音，将使技术与教育差距最大的社区无关或什至无用，这可能会完全拒绝使用这些技术，从而加剧他们寻求纠正的不平等现象。

3.侵犯儿童权利：缺乏数据隐私和网络安全。当AI针对尚未同意收集其个人数据的年轻学习者以及可能不了解其个人知识的最高需求学习者时，如何使用大量个人数据进行个性化学习同时保护个人隐私和偏好的挑战上升到危险水平。在线共享其个人数据或与匿名陌生人互动的风险。连接世界各地学习者的平台对于那些花费时间来主持在线互动的人来说并不是乌托邦。Facebook前首席安全官亚历克斯·斯塔莫斯（Alex Stamos）说：“到处都有在线交流和孩子，到处都有对儿童的剥削。”

安全研究人员通称为“乐高阴茎问题”，是指允许用户创建和共享乐高结构的Lego MMO（大型多人在线游戏）。用户开始从乐高积木制作阴茎，并与其他玩家共享。该公司的工作人员感叹他们无法以足够快的速度“ 检测洞 ”，以防止其对儿童友好的品牌蒙上阴影。最终，仍然符合美国《儿童在线隐私保护法》的内容审核成本过高，并可能在游戏关闭中发挥了作用。

根据Stamos的说法，从乐高（Lego）到Roblox到Fortnite的每个平台都经历了各种类型的儿童剥削，在不熟悉互联网的社区中，剥削可能会加剧。为了兑现支持最不发达国家的在线教育的承诺，研究人员必须考虑到即使最老练的用户也无法利用在线工具的新用户对恶意行为专家的安全性。

存在风险并不需要消除我们的乐观情绪。相反，它可以成为制定更成熟目标的力量。许多人对建立更好的教育体系抱有远见。我们呼吁AI研究界和教育政策界共同想象AiEd中的一系列重大挑战，这些挑战可以更好地契合我们的教育梦想，并更好地考虑风险。我们提供了六个讨论目标，并邀请公众参加对话。

我们将在此处众包新想法（感谢作者）：

1. AI促进更多（和更高质量）的人类学习互动。可以通过自动执行任务和开发令人兴奋的问题来开发AI，以支持教育者和教育系统，而不是取代老师。教师和工具可以协同工作：教师过滤来自AI的有用建议，以及支持教师对学生进行评分和跟踪的工具。

2. AI产生启发性问题。人工智能还可以帮助在本地环境中创建和传播有趣的问题。机器学习可以创建看起来像伦勃朗作品的绘画。我们还可以使用算法来创建引人入胜的个性化活动吗？这种综合可以建立一个丰富的教与学生态系统，并通过技术支持而不是代替社会和情感互动。

3.低数据反馈。启发性，开放性的任务为探索和创造提供了机会。人工智能可以为教师提供帮助，如果其设计旨在支持此类问题并提供反馈，但是，当前的方法需要大量学生的数据集，以实现有意义的人工智能驱动的开放式反馈。我们需要学习实现这一目标，而不消耗大量的学生数据。低数据人工智能似乎很有前途，并降低了数据滥用的风险。低数据很实用，因为解决方案不必等待数百万学生在每次作业中充当豚鼠来训练我们的算法。

4. AI了解过程。当前，AI在教授死记硬背的结构化课程方面最有效，而不是支持在现代世界蓬勃发展所必需的创造性，开放性，基于团队的学习。一个研究当前行着重于理解过程和学习能力，而不仅仅是最终产品。老师（尤其是在大教室中）不可能像钢琴老师提供有关学生的手部姿势的反馈那样密切关注每个学生。人工智能驱动的工具可以与教师协同工作以监视过程，而教师仍是教练，避免了拆解允许进行社会情感学习的学校环境。人工智能与人类的混合模型可以帮助教师了解学生的学习过程，从而提高教师的指导和指导水平。

5.用于翻译教学内容的AI。内容的分配不均衡，尤其是对于资源匮乏的语言。作为AI的一个分支，自然语言处理处于有利位置，可以支持翻译，该翻译可以帮助在最需要的地方提供包容性教育，并鼓励社区从头开始而不是由西方强加开发教育技术。

6.人工智能驱动的儿童安全风险检测。应该在开发可扩展的内容审核工具时投入大量精力，以便在线学习空间对于所有学习者（例如，来自恶意图像的学习者）都是安全的，尤其是对于儿童和弱势群体而言。

人工智能具有极大的潜力，可以进一步促进快乐学习，但前提是要适当解决所讨论的问题。教育政策界和开发要大规模部署的AI工具的研究人员共同承担着严重的责任。我们必须共同考虑我们技术的可能应用范围，包括有害技术。我们邀请公众参与有关这些AI挑战以及如何减轻其潜在危害并促进人类繁荣的对话。

教育AI似乎是不容忽视的商品。但是，在这一领域，就像在医学领域一样，希波克拉底誓言适用：首先，不要伤害。