|AI专业有门不教算法的“伦理必修课”( 二 )_

加强价值理性教育让理工科大学生更富有人文关怀
作为法理学专家，郑戈将为学生讲8节课，分为3个专题——理性的人工智能、辅助性的人工智能、负责任的人工智能。
在“理性的人工智能”专题中，他将与学生探讨一个问题：自动驾驶系统如何尽到注意义务？注意义务是一个重要的法律概念，法律上的过失就是指违反注意义务。自动驾驶达到L3、L4级别后，如果发生交通事故，该由谁承担违反注意义务的责任？“我国道路交通安全法的修订建议稿已引入自动驾驶系统开发单位的责任，但这个问题其实很复杂。自动驾驶系统是一个由感知、定位、决策和控制模块组成的复杂系统，每个模块都有开发者。发生事故后， 5G网络服务供应商有没有责任？高精地图供应商有没有责任？这些单位的法律责任界定问题，需要进一步研究。 ”他希望通过对这个问题的讲解，让学生认识到，今后开发自动驾驶系统的各个模块时要尽到注意义务，从而使整个系统成为“理性的人工智能” 。
与自动驾驶相比，智能语音客服的应用如今更为广泛。用户拨打客服电话时，与他交流的很可能是语音机器人。在“辅助性的人工智能”专题中，郑戈将援引布鲁克林法学院教授帕斯奎尔的观点，分析“人工智能和机器人系统不应该假冒人类”这一法则。
智能语音系统为何不能假冒人类，而应在对话中告知用户自己是机器人？他解释说，现代伦理学的基础是康德提出的“人是目的，不是手段” ，这个论断确立了人的主体性地位，日益强大的人工智能算法如果假冒人类，会消解人的主体性。 “人工智能应该是辅助性的，人工智能和机器系统必须显示出它们的创造者、控制者和所有者，而不能刻意模糊人与机器的界限。 ”
在郑戈看来，国内高校的理工科教育过于偏重工具理性，只要求学生找到科学和工程目标的最优解，忽略了“人生的目的”“有温度的科技”等价值理性。 “人工智能思维与伦理”课程在价值理性教育上做了积极探索，会让理工科大学生更富有人文情怀。
大学生和中学生都应学伦理
虽然只听了两节课，但卜家梓已经有了改造移动互联网产品的想法。 “很多同学喜欢刷抖音等软件，因为它们一直推送自己喜欢看的内容，我了解到‘信息茧房’理论后，才意识这类软件是有问题的，因为它们只根据用户个人喜好推送信息，会让用户思维固化、眼界狭隘。 ”小卜谈了自己的观点。在发给吕老师的课后作业中，他提出了改进建议：软件开发人员和算法工程师应遵循伦理规范，加入“是否允许本App收集您的偏好等信息”这一权限给予提示，让用户获得不根据行为偏好获取信息的权利，不再受“信息茧房”束缚。