规范管理 确保人工智能安全向善

2023-10-13 10:45

来源：中国教育报

链接已复制

字体：小大

■教育积极应对人工智能挑战系列评论之四

人工智能技术正在深刻改变人类社会生活、改变世界，并使得教育教学更加个性化、高效化和智能化，为我国数字教育变革注入新活力新动能。同时，人工智能技术带来的错用、滥用等新问题也已经引起教育战线乃至全社会广泛关注、讨论甚至担忧。对此，迫切需要从思想观念、技术建设、制度机制和研究实践等方面着手，加强人工智能教育应用规范管理，确保数字教育高质量发展方向。

树立正确的人工智能发展观，正视人工智能的教育应用。人工智能发展是大势所趋，将带来一场系统性的观念变革，每个人都是“学生”，都需要学习。同时，人工智能的发展也是一把双刃剑，正向影响和负向影响都很大。当前在人工智能和教育应用上还存在着重视不够、认知偏差以及观望心态。思想上，对人工智能教育应用的重要性及负面影响缺乏正确认识，对教育数字化转型战略意义认识不足。认知上，存在对人工智能过高期待、过分依赖等“全能论”，对其技术的决策和推理能力盲目信任，认为人工智能将彻底改变教育、取代教师等；还存在恐惧担忧、不信任等“风险论”，担心使用人工智能技术会导致个人信息泄露，怕承担责任。心态上，存在“等靠要”等观望思想、依赖思想和畏难情绪，缺乏改革自主性、主动性和创新性。这都制约着人工智能教育应用，以至于出现教育数字化转型的社会热、研究热、上层热、基层冷、教学冷“三热两冷”现象。

我们首先要树立正确的人工智能发展观，正视人工智能的“两面性”，坚持发展与安全并重、创新与治理相结合，既要以积极态度和责任担当主动拥抱，又要做好潜在风险研判和防范，防止错用、滥用现象出现。

加强技术系统建设，确保人工智能安全向善。人工智能本质是服务于人的工具。人工智能技术既要发展也要安全更要向善，技术带来的问题要靠技术解决。一是提高技术安全门槛，筑牢安全屏障，防止数据隐私泄露，降低人工智能被滥用的风险，增强教育使用人工智能技术的信任感。二是加强数据加密、权限控制、流动控制、共享控制等数据安全保护技术研发，实现数据从收集、存储、处理到分析、使用等全生命周期保护，确保数据安全。三是坚持科技向善，做到为育人服务。依照有关法律法规采取必要措施，规避人工智能产生不当内容，如虚假消息、歧视性言论、侵犯个人隐私等风险；将人工智能发展与以学习者为中心理念相结合，优化算法，完善教育应用模型架构，使人工智能教育应用符合教育规律。四是加强技术研发和创新，提升人工智能算法透明度及其产品安全性和稳定性，确保意识形态等安全，营造可信任的人工智能发展技术环境。

建设人工智能教育应用机制，确保其健康长效发展。建立健全保障人工智能健康发展的法律法规、制度体系、伦理道德。人工智能教育应用是一项复杂持久的系统工程，目前正在拉开帷幕，需要从制度机制层面加强规范管理，实现健康有序持久发展。一是建立人工智能教育应用集决策、管理、实施和督导等于一体的有效机制，明确谁来管、管什么、怎么管，谁来干、干什么、怎么干，谁来督、督什么、怎么督，推动其健康发展和防止错用、滥用等问题。二是以符合伦理要求的方式，建立人工智能教育应用的政策框架，规范关键步骤，避免可能出现的错用、滥用问题，如意识形态风险、个人隐私安全、“数字茧房”，以及过度沉迷依赖、教育数字鸿沟等。三是从学生的根本利益出发，做好人工智能教育应用的宣传、指导和培训，让想干、敢干、能干的人干得更好，让观望的人行动起来，让担忧的人放心干，形成公众参与、齐抓共管、协同创新的人工智能育人新生态。

加强研究，做到未雨绸缪、积极应对和规范管理。人工智能教育应用是一个新生事物，将会出现许多未知新问题，人工智能应用教育往哪里走、怎么走、走到什么程度等都是崭新课题，亟须加强研究。由于人工智能技术涉及计算机科学、语言学、心理学等诸多学科，需要多领域研究者共同合作。一是按照“实践优于理论”原则，开展人工智能教育应用的比较研究、实验研究、理论研究，及时总结典型经验、实践案例以及策略路径，推动人工智能教育应用研究向理论与实践双轮驱动转变，逐步形成中国自己的数字教育伦理规范体系，为世界人工智能教育及研究贡献中国智慧。二是聚焦人工智能教育应用的重大命题开展研究，如人工智能数据安全、交易、保障，数字规制与数字能力之间的平衡，进学校、进课堂疏堵结合等，这些都是人工智能教育应用亟待研究解决的重大命题。三是探索人工智能育人新规律。当前，人工智能对教育的正向和负向影响尚处在萌芽状态，产生的教育新现象、新问题尚未显现，引发的教育新规律尚待揭示，需从数字教育学的视角进行理论研究和实践突破，对过程中发现的新问题进行及时优化、纠偏。

（作者系教育部课程教材研究所研究员）

《中国教育报》2023年10月13日第2版版名：中教评论·观察

作者：张广斌