人工智能（AI）赋能教育，让教育插上了腾飞的翅膀。教育人工智能实现了人存在方式的转变、优质教育资源的共享、学习方式的革新等。如上海普陀的课堂以微视频的形式，呈现数学、物理、化学和信息技术等学科上百个知识点，既实现了区域内教育优质化和均衡化，又满足学生的个性化学习需求。教育人工智能在促进学习环境、教学方式和课堂管理的转型升级，形成精准化和个性化的教育服务体系等方面发挥着巨大作用，但也产生了“自主性弱化”“知识至上”“情感忽略”等伦理风险。

教育人工智能的伦理困境

首先，数据化表征异化人的本质。教育的对象是人。马克思认为：“人的本质不是单个人所固有的抽象物，在其现实性上，它是一切社会关系的总和。”可见，人是现实的、丰满的、完整的存在者，而不是抽象的、简化的数字或符号。数据是人工智能的养料，教育人工智能是通过精细行为识别系统将教育活动中的人和事进行数字化表征。如某些智能学情分析系统对学生在课堂上的“听讲”“书写”“瞌睡”“回答问题”和“互动”五种典型行为进行数字化表征，并开展实时的统计分析，以此作为开展教育活动的依据。教育人工智能通过数据认识教育主体，分析教育活动，人、行为或活动都是数据。数据化将人的本质简单化、线性化和机械化。当然，将教育中的人或活动进行数字化表征能创造更高的教育效益。但教育人工智能的数字化表征不仅侵犯了个体的隐私权，更严重是造成了人生命价值的破坏。

其次，精准供给削弱师生的自主性。自主性是人作为行动主体的人的基本特征之一，它是人类运用主观能动性、不断实现自我超越、推动社会发展的重要保证。因此，培养和发挥自主性既是学校教育的目标，也是促进学生学习的重要手段。人工智能在教育领域的运用使教育产品的开发和使用专业化、便捷化。教学过程中，教师只需要简单、机械地选择、运用这些教育产品，无需根据教育的情境、学生的需要和教学内容等要素，自主选择、自主决策、自主钻研，这导致教师的专业性日益丧失。在促进学生学习方面更是如此。教育人工智能能够通过检测学生的脑电波，感知学生的直觉偏好，分析学生的知识获取方式；同时，根据学生的学习数据，明确学生在学习过程中的缺陷和不足，教育人工智能可以根据学生的薄弱环节精准推送相应的知识点。学生只需坐等教育人工智能的定时定量定点的给喂。长此以往，学生对这种智能机器提供的知识来源越来越依赖，自主性也越来越缺失。

再其次，知识至上窄化育人内涵。联合国教科文组织在《反思教育: 向“全球共同利益”的理念转变?》中强调，当今的教育要超越识字和算术，以学习环境和新的学习方法为重点，以人文主义为教育观和发展观，注重学生文化素养，培养学生尊重生命和人格尊严，坚持权利平等、社会正义、文化多样性、国际团结以及能为可持续的未来分担责任。换言之，当下的教育不应只关注知识，而忽视文化素养的养成。广泛运用于“教、学、评、测、练”的各个教学环节中的教育人工智能，归根到底是一种针对“知识”的教学系统。它根据学生的学习情况，精准地判断学生学习上存在的薄弱环节，明确哪些地方需要查缺补弱，然后，根据这些数据提供精准化的教学内容。教育人工智能实现了知识的精准化传授，提高了注知识教学的效果，但是也在某种程度上忽视发展和培养学生面向未来的六项关键技能（即6C）：品德、公民、沟通能力、批判性思维和解决问题能力、合作能力、创造和想象能力，在教育过程中见“教书”不见“育人”。

另外，人机交互弱化情感体验。情感在促进学生开展深度学习方面具有重要价值。研究发现，个人的情感状态影响学习效果，而且个人的情感状态和对方的情感表达会影响互动的频率和层次。也就是说，教师的热情与学生情感的愉悦水平成正相关，教师向学生传递积极的情感信息，学生就能获取积极的情感体验，这有利于学生以更好的状态进行深度学习。教育人工智能在语音语调、体态语等富含情感要素的传递方面存在先天不足，即使当下人工智能在某些领域已经超越了人类，但是，它仍然无法获取、无法具备未被人类进行形式化表达的人类情感，如自适应学习系统、自动化辅导学习机器人和幼儿早教机器人等都无法进行情感表达。因此，在教学过程中，智能人无法、也没有向学生传达情感，无意中剥夺了学生的情感体验，同时也影响了学习效果。

人工智能技术与伦理规范协同发展保障“良心”

审视教育人工智能的伦理危机不是摒弃教育人工智能，而是通过对其伦理审视促进教育人工智能的更好发展，推动智能化手段与教育的深度融合。由于人工智能技术的不成熟和人工智能伦理保障机制未建立等原因，导致教育人工智能伦理问题随着人工智能技术的快速发展而日益凸显。面对教育人工智能存在的各种伦理问题，我们无需自塑为“卢德主义者”来抵制教育人工智能以消除可能存在的风险。因为，人类无法改变技术进步的历史进程，而技术也完全可被人类规训。因此，我们在开发、应用和治理教育人工智能，实现人工智能与教育的深度融合过程中，要坚持“以人为本”“合目的性与合规律性相统一”和“发展性”的基本原则，坚持人机协同发展，围绕“机芯”和“人心”两个维度，用“良心”造“良芯”。

人工智能的不科学、不合理开发和运用是造成教育人工智能的伦理困境的直接原因。人工智能技术与教育人工智能伦理规范协同发展是从源头保障教育人工智能开发与使用的安全性和规范性，使其符合“良心”的要求。“良心”强调教育人工智能产品的开发和设计要合乎伦理规范，并且确保智能技术得到善用，为师生的发展与成长服务。一是加强教育人工智能伦理研究。要加强教育人工智能的伦理研究，为伦理规范的制定提供指导性意见。二是制定教育人工智能行业伦理规范。2019年5月，OECD发布了首个由各国政府签署的AI原则，即“负责任地管理可信AI的原则”。这些原则之后被G20采纳，并于同年6月，在日本筑波市举行的G20部长级会议上提出了“G20人工智能原则”，包括“可信人工智能的负责任管理原则”和“实现可信人工智能的国家政策和国际合作的建议”。同时，《人工智能北京共识》也明确了人工智能的使用伦理与规范。可见，各国政府或组织已经初步尝试构建人工智能的伦理规范。教育人工智能应该根据教育行业的独特性，指向促进师生的成长与发展，结合教育人工智能的技术特点，设计切实可行的教育人工智能行业伦理规范。三是加强教育人工智能立法。加强教育人工智能事前、事中和事后立法，通过法律法规规范教育人工智能产品的设计、开发与利用，避免人工智能技术对教育活动造成破坏，规避教育人工智能的可能风险。

教育主体与智能技术协同发展确保“良芯”

化解教育与人工智能的融合过程中的伦理危机，一是建立教育人工智能的道德算法。为防御教育人工智能的伦理风险，需要借助深度神经网络，给教育人工智能构置道德算法，即“通过算法给智能机器嵌入人类的价值观和规范，以此让它们具有和人类一样的同情心、责任心、羞耻感等伦理道德。”让教育人工智能的算法遵循“善法”，如此可使教育人工智能在协助教师开展教育活动中进行道德决策，实施具有“教育性”的教学。

二是要树立和谐与优化共生的理念。人工智能无论如何发展都是“服务于人”。因此，我们要摒弃“机器——人”二元对立的观念，既要摆脱对人工智能的盲目崇拜，又需克服对人工智能的奴性心理。在教育人工智能的开发和应用过程中，自觉提升自身的数据素养、网络素养、媒体素养等，遵循人工智能的运作规律和教学规律，增强应用教育人工智能解决教育教学问题的能力，从而实现人与人工智能和谐共生，实现机器与人的协同共进。

三是在人工智能中设置预警机制。内置预警机制，实现风险预警，防范未来的风险，使未来可能出现的通用人工智能和超级人工智能能够服务于全人类的利益。通过开发设计“良芯”，保障“技术向善”，克服教育人工智能的伦理风险，发挥好教育人工智能“向善”潜力，服务于教育事业的发展。

（作者单位：杭州师范大学教育学院,本文系浙江省教育科学规划课题成果［编号：GH2020576］）

《中国教育报》2020年04月23日第8版

作者：程建坤