对话专家： 北京航空航天大学计算机学院教授 熊璋 副教授 王静远

对话背景： 人工智能教育中的伦理教育有两个侧面：一个是人工智能系统设计目标、技术路线、功能实现的伦理，价值取向是推动科技进步、促进社会发展、改善人民生活，一定不能违背社会大众福祉;另一个是使用人工智能系统时的伦理，简单说就是扬善避恶，做造福人类的事，而不能利用人工智能技术做危害社会、危害他人的行径。记者日前就人工智能和伦理教育的话题与北京航空航天大学计算机学院的熊璋、王静远两位教授进行了对话。

要保证健康的人工智能教育，必须关注其中的伦理教育

主持人： 使用机器代替人类的脑力劳动，是人类自计算机发明伊始就有的一个梦想。经过了几十年的努力，人工智能技术经历了几起几落，日渐成熟，已经开始辅助或代替人类一些脑力劳动，在一些具有确定目标的任务当中(如围棋、人脸识别等)人工智能甚至能够超越人类，表现出了更加优秀的性能。在人工智能教育中，我们要关注其中的科学道理、发展规律、对社会发展的影响，那人工智能教育中的伦理教育，我们应当放在什么样的位置呢?

熊璋： 镰刀斧头、蒸汽机、电力、电话延伸和增强了人类四肢和五官，只有人工智能，是第一次延伸和增强了人类的脑力。人工智能技术相较于之前所有科技进步的最大不同之处，就是它能够将人类从部分脑力劳动中解放出来。随着人工智能技术的不断成熟和广泛应用，未来会有越来越多的判断和决策交由人工智能去完成，如身份确认、评判作业、阅读病案、筛选简历、投资决策等，这就意味着人工智能将深度参与人类社会的许多重要活动。

我们不得不承认，人类在做判断和决策时，其依据一定包括社会公认准则和决策人的情感、态度、价值观，社会对人类决策者存在许多伦理道德规范和约束。在机器参与人类的判断和决策，扮演人工智能的角色时，让系统依据一套客观指标去判断是容易的，让系统从事决策性事务时，能够服从社会公认的准则和人类的价值观则是人工智能的一大挑战。

王静远： 例如，一款合理的人工智能简历筛选软件，不应该因为性别、种族、肤色等因素作歧视性的简历甄别;一款用于智能医疗的软件，不能够为了获取不当利益而夸大或掩盖病情，甚至贻误治疗。公平、公正、无歧视、无欺骗等这些用来要求人类决策者行为的伦理与道德标准，也都需要在人工智能的自动决策当中切实体现。教育工作的一项重要任务就是帮助人们树立善良、正直、公平、公正等正确的价值道德标准。现在的人工智能技术水平，我们还不可能对人工智能程序进行道德教育，但是在我们开展人工智能教育时，绝不能忽视人工智能教育中的伦理教育。