摘要：人工智能技术发展迅速，其相关的人工智能伦理和安全的重要性也愈发凸显。该内容是目前国内外研究的热点，发展很快，内容变化也比较大，希望能有更多的人加入人工智能伦理学的研究中来。特别是对于中学教师，要定期给予适当的教育和培训，使教师在教学过程中能及时将新内容传递给学生，使学生从小就得到应有的相关教育，建立正确使用和处理信息的方法，树立良好的信息社会责任意识。
关键词：教师教育培训；人工智能伦理及安全；信息素养
一、研究背景
2017年底，笔者有幸参与了《普通高中信息技术课程标准(2017年版)》对应的新教材的编写工作，在人民教育出版社和中国地图出版社联合出版的两本书——《高中信息技术(必修1)：数据与计算》和《高中信息技术(选择性必修4)：人工智能初步》中，负责编写前者的第四章《走进智能时代》和后者的第四章《人工智能发展》。这两部分内容都涉及人工智能伦理学。此前，本人一直从事人工智能技术研究工作，对于人工智能伦理学了解不多，但关注后发现，该领域内容的研究和推广非常重要，但教材中受篇幅所限，仅写了一些基本原则。《高中信息技术(必修2)：信息系统与社会》的第四章虽也讲到了信息安全和社会责任，但讲得还不够。该部分内容是目前国内外研究的热点，发展很快，内容变化也比较大，因此笔者通过本文呼吁更多的人加入人工智能伦理学的研究，特别应加强对中学教师的相关教育和培训，以便相关内容能有效传递给学生。2018年，总书记在中共中央政治局第九次集体学习时强调，要加强人工智能相关法律、伦理、社会问题的研究，建立健全保障人工智能健康发展的法律法规、制度体系、伦理道德。研究和建立人工智能伦理规范有助于更好地发挥“头雁”效应，对保障产业健康发展和人民生活幸福具有重要意义。学生在学习掌握知识技能的同时，也应注重人工智能伦理规范的学习。但因其具有内容新、变化快的特点，唯有先对教师进行人工智能伦理及安全的相关培训，才能将相关内容有效传递给学生。笔者为中学教师做过培训，但培训涉及的技术内容较多，人工智能伦理及安全的内容较少，因此应加大、加强后者的培训工作，以便帮助学生树立正确使用和处理信息的方法，树立良好的信息社会责任意识。韩愈有言：“师者，所以传道受业解惑也。”教师不仅要给学生授业，更重要的是传道。对学生进行人工智能伦理及安全的相关教育恰恰体现了课程思政，即教导学生如何在信息社会中做一个正直的人、担当起社会责任。
二、人工智能伦理及安全的挑战和教育
任何事物都具有两面性，人工智能技术也不例外。技术就是双刃剑，不能正确使用，就有可能成为危害人类的工具。目前，人工智能在隐私、安全和伦理方面给人类带来了新的挑战，值得深思和研究。
1.隐私的挑战与教育
目前，人工智能的发展是以大数据驱动为主导模式的，人工智能技术在使用大数据资源时，必然涉及对用户隐私数据的采集、传输、处理和显示等。隐私被侵犯主要出现在数据应用的三个环节：数据采集中的隐私侵犯、数据存储和传输中的隐私侵犯、数据分析中的隐私侵犯。教师应先学习如何面对隐私挑战并将其融入教学过程中。例如教师应教导学生知道何谓隐私数据，当智能系统采集涉及身份证号码、银行账号、密码、指纹、声纹、虹膜、步态和心跳等数据时，学生应产生高度警惕并正确处理。此外，应教导学生安装国家反诈中心App，遇到问题找警方处理，以尽量减少个人隐私泄露所带来的损失和危害。
2.安全的挑战与教育
人工智能的安全挑战主要体现在以下四个方面。
(1)国家安全风险
人工智能技术在国家安全相关领域中的应用可能会带来影响国家安全的风险。其对国家安全的影响主要体现在军事、信息和经济三大方面，特别是在国防建设、基础设施建设和涉密系统等领域中，由人工智能技术所带来的风险影响巨大。教师在教学过程中要教导学生正确看待数据，因为数据是人工智能的基础，学生将来无论做什么工作，都会或多或少接触到数据，学生应从小树立数据安全意识，不要因为无意间的数据泄露给国家造成安全隐患，要有安全保密的意识。
(2)社会安全风险
人工智能所带来的社会安全风险是多层面的。例如，人工智能技术应用于制造业，替代了大量以体力和重复劳动为主的工人，导致市场对该类劳动力的需求大幅下降，失业人员增加，影响了社会安定。教师应教导学生关注和了解新技术发展的趋势，为自己的未来职业进行科学的规划和准备。
(3)网络安全风险
网络安全风险主要指网络传输过程中所产生的风险。例如，黑客常使用一些技术攻击或窃取服务器上的数据。网络安全风险还包括对人工智能算法、系统和应用进行恶意攻击；利用干扰技术使计算机在进行深度学习的过程中受到欺骗；利用数据欺诈等手段远程控制网络设备，使设备发生故障或停止工作等。教师应在教学中教导学生保障网络安全的一些技术和方法，更要教导学生从小就树立正确的世界观、人生观、价值观，坚决不能成为黑客这样危害社会的人。
(4)人身安全风险
人工智能技术在给人类的生产和生活带来便捷的同时，也给人类自身安全造成一定风险。随着人工智能与物联网融合的不断深入，人们的衣食住行与智能产品之间的关联越来越密切，一旦这些智能产品(如智能医疗设备、自动驾驶汽车等)出现故障，就可能危及人身安全。教师应教导学生在使用一些可穿戴的智能产品时，树立安全防范意识，懂得做安全测试，从而保护自己和他人的人身安全。
3.伦理的挑战与教育
人类的思考和行动受社会规范、道德伦理以及法律法规的约束。人工智能的目标是希望机器能像人一样理性地思考和行动，因此，让机器也能像人一样遵守社会规范、道德伦理以及法律法规，成为当前学者热议和研究的一大问题。如何采取措施保障研究人员开发出的智能产品和智能系统与现有的法律法规、社会规范和道德伦理一致，确定人工智能产品或系统的法律主体、权利、义务和责任，是人工智能技术发展面临的伦理问题和挑战。其主要表现在：对“什么是人”问题的新挑战；对以往伦理关系的新挑战；对原有社会秩序的新挑战；对人类未来命运的新挑战。该内容可探讨的内容很多，在此不赘述。本文只讨论与青少年关系较大的两个问题。第一，对学生进行诚信教育。人工智能技术通过采集用户的日常行为信息，结合大数据分析，进行用户数据画像、信用评估并产生信用报告。信用报告在找工作、买房、买车、办信用卡等过程中都具有重要作用。我国正逐步建立和完善社会信用体系，个人诚信信息也会记录到个人信用体系中，因此要教导学生诚信使用网络，自觉遵守信息社会的法律法规、行为规范和道德准则，否则会给社会和自己今后的生活造成隐患。第二，有些青少年终日沉迷于各种智能终端体验而不能自控，他们认为虚拟世界才是真实、亲切的，对虚拟对象产生过分的眷恋和依赖，影响了个体人格的健康发展，打乱了正常的伦理关系，这个问题已经变得越来越严重。学校应通过各种有意义的活动，让学生在现实世界中找到安全感和价值感。对已经陷入虚拟世界的学生，学校和教师要安排专业的心理咨询师进行适当的心理干预和疏导，帮助他们走出对电子设备的依赖。国家人工智能标准化总体组、专家咨询组的《人工智能标准化白皮书(2018版)》指出了人工智能技术应当遵循的原则：一是人类利益原则，即人工智能技术应以实现人类利益为终极目标；二是责任原则，即在技术开发和应用两方面都要建立明确的责任体系，以便可以在技术层面对人工智能技术开发人员或部门问责，在应用层面建立合理的责任和赔偿体系。人工智能技术的不断发展和完善，为人类社会的发展提供了新的工具和动力，如何正确认识人工智能对人类社会的影响，更好地利用其为人类社会服务，是所有人应该思考的问题。人工智能的应用带来了伦理及安全方面的很多挑战，教师应知道如何面对挑战和应对挑战，并要在日常教学中对学生进行相应的教育，并通过创设一些真实的情境，让学生学会处理问题、解决问题的方法，提升学生相应的能力。
三、对教师进行人工智能伦理及安全教育和培训的一些建议
党中央、国务院和有关部门高度重视人工智能发展的科技伦理与法律问题，有关研究正在不断实践和探索中，并已出台一些相关的法律法规。例如2017年，国务院立足国家发展战略制定了《新一代人工智能发展规划》，统筹发展和安全的关系，即要在发展中规范、在规范中发展。可见，人工智能伦理及安全的相关内容是动态变化的，如果等写进教材、进入学校再讲授给学生，就无法跟上时代的发展，所以对教师进行人工智能伦理及安全的相关教育和培训尤为重要，这是给学生传递知识和信息的重要渠道，因此提出以下几点建议。
1.教育教学管理部门应组织相应研究团队
各省市教育教学管理部门应高度重视上述内容，建议在相关教研室建立研究团队，首先关注人工智能伦理及安全的国内外发展现状，搜集总结最新的研究成果，将其纳入信息技术教师的培训内容中。其次强化人工智能伦理学教育的投入力度，加强人工智能伦理学教师队伍建设，为人工智能伦理学教育提供师资保障。最后加强对教师的专业知识和技能培训，提高教师人工智能伦理学专业素养，成立科研小组，加强学术交流，确保教师能够用专业知识对学生开展人工智能伦理学教育。
2.定期组织教师的相关培训
现代社会技术和信息发展非常快，每一个人都应具备终身学习的能力。一方面要有自主学习的能力，另一方面要定期参与一些培训，才能不断提高，跟上时代的发展。在信息社会，终身学习者必须具备信息素养。一名高素质的教师应具有现代教育思想和教学理念，掌握现代教学方法和教学手段，熟练运用信息工具对信息资源进行有效的收集、组织、运用；通过网络与学生家长或监护人进行交流，在潜移默化中培养学生的信息意识。教师需要不断学习，才能满足新时代对学生素质培养的要求。笔者曾参与过教育部教育管理信息中心组织的教师教育教学新技术培训工作，十几年间一直利用寒暑假给教师进行慕课、微课和人工智能技术的相关培训，但大多侧重技术，几乎没有涉及人工智能伦理学。笔者认为，今后一方面应加大对教师信息技术素养的培训力度。未来的国际竞争主要是人才的竞争，如果培养的人才缺乏捕捉信息、有效利用信息迅速发现新机会的能力，就很难在激烈竞争的社会中生存与发展。也就是说，高素质的人才必须具有良好的信息素养。而人才培养的速度、数量和质量，受到教师的信息素养水平的影响。因此，要通过定期组织教师的相关培训提升教师的信息素养。另一方面，还应加强对教师进行人工智能伦理及安全方面的教育和培训，让教师能接触到最新知识，并在教育教学中及时传递给学生，使学生从小就能得到信息素养的培养，将来才能成为社会的栋梁。
3.利用相关网站或平台进行相应宣传
强化人工智能伦理及安全的相关教育还可以充分利用教师学习和教研的相关网站或平台，通过加大人工智能伦理学方面的信息建设，使教师既可以获得最新知识，也可以充分利用资源平台对学生开展人工智能伦理学的教育。为此，相关网站或平台要不断丰富和充实相关信息资源，满足教师和学生的信息资源需求，为学生的信息活动提供更多专业的指导。此外，相关网站或平台还可通过信息检索服务项目，在信息检索课程中增加人工智能伦理学和道德方面的内容，从信息需求、信息获取、信息利用、信息评价等方面入手，引导学生树立正确的信息伦理意识。
作者：王岚 单位：天津师范大学计算机与信息工程学院