随着人工智能科技的飞速发展，人工智能产品在许多领域得到广泛的应用，由此也引发了一系列伦理问题。本书从三个层面讨论了人工智能伦理中的若干基本问题。首先是人工智能伦理中的普遍性问题，比如机器人权利、机器人道德能力的建构以及人工智能安全问题等；其次是具体领域的机器人引发的伦理问题，比如军用机器人、情侣机器人与助老机器人等；第三是人工智能伦理问题的解决进路，包括道德责任、伦理设计、自反性伦理治理等内容。本书兼具学理性与通俗性，可供相关领域的科技工作者、哲学研究者以及对人工智能伦理感兴趣的人士阅读。

    目前，学术界关于人工智能与机器人的研究如日中天，兴盛异常。飞速发展的现代科学技术在带给我们种种益处与便利的同时，也引发了形形色色的伦理问题。本书主要研究了三大部分内容：第一是关于人工智能伦理的普遍性问题研究，包括机器人权利问题、机器人道德能力的建构问题以及人工智能安全问题；第二是关于具体领域机器人引发的伦理问题研究，包括军用机器人引发的伦理困境、情侣机器人对婚姻与性伦理的挑战以及助老机器人的伦理问题等；第三大部分主要研究人工智能伦理问题的可能解决路径，研究了机器人伦理中的道德责任问题，总结了机器人伦理设计的理论与实践进路，指出了实现人工智能伦理治理需要解决的几个关键性问题，讨论了建构友好人工智能的问题。
    人工智能伦理开拓了科技伦理研究的新领域，有助于建构起人类与智能产品互动的道德观念与道德规范，实现人与智能产品的和谐相处。同时，人工智能伦理设计原则与方法的研究成果，可以为相关产业政策的制定提供理论参考。

    杜严勇，男，1976年生，四川南充人，本科、硕士、博士分别毕业于中国矿业火学、南京大学、上海交通大学，获工学学士、哲学硕士、理学博士学位。曾任中国矿业大学能源学院政治辅导员、同济大学马克思主义学院讲师，现任上海交通大学科学史与科学文化研究院副教授。入选2011年同济大学优秀青年教师计划，2014年上海交通大学晨星学者奖励计划（B类）。发表沦文30余篇。出版专著《爱因斯坦的理性重建》，主持国家社会科学基金青年项目、一般项目各一项，参与国家级、省部级课题多项。

导 论
第一章  机器人权利
  第一节  机器人权利：真实，还是虚幻
  第二节  机器人权利研究如何可能
  第三节  道德权利与法律权利
  本章小结
第二章  机器人道德能力的建构
  第一节  建构机器人道德能力的必要性
  第二节  影响机器人道德能力建构的基本要素
  第三节  主要障碍与可能的解决途径
  本章小结
第三章  安全问题
  第一节  探究安全问题的必要性与重要性
  第二节  解决安全问题的内部进路
  第三节  解决安全问题的外部进路
  本章小结
第四章  军用机器人
  第一节  军用机器人的研发现状与优势
  第二节  军用机器人与人性冲突
  第三节  伦理设计之难
  第四节  责任困境
  第五节  限制自主程度
  本章小结
第五章  情侣机器人
  第一节  情侣机器人与婚姻伦理
  第二节  情侣机器人与性伦理
  第三节  应对策略
  本章小结
第六章  助老机器人
  第一节  社会需求与研发现状
  第二节  可能的社会效益
  第三节  情感、表象与伦理
  第四节  从“能力方法”的视角看
  第五节  伦理治理途径
  本章小结
第七章  道德责任
  第一节  自由与责任
  第二节  控制与责任
  第三节  责任分配
  第四节  他山之石：对无人驾驶的责任研究
  第五节  科技人员的前瞻性道德责任
  本章小结
第八章  伦理设计
  第一节  建构人工道德行为体的必要性
  第二节  理论进路
  第三节  实践探索
  第四节  伦理设计的评价
  本章小结
第九章  自反性伦理治理
  第一节  概念澄清：治理、伦理治理与自反性治理
  第二节  治理理论及其自反性
  第三节  自反性治理的几个关键问题
  第四节  伦理治理步骤与模型建构
  本章小结 自反性伦理治理的理论意义
第十章  建构友好人工智能
  第一节  政府层面：社会管理制度的发展进步 人工智能伦理引论
  第二节  技术层面：技术本身的安全性、公正性与人性化
  第三节  公众层面：公众观念的调整与前瞻性准备
  第四节  关系层面：伦理与法律的与时俱进
  本章小结 使友好人工智能成为明确的研究目标
结语
参考文献
索引
后记

    重要的关注
    人工智能，现在已经是一个非常热门的概念了。从各种媒体的报道来看，无论是国家政策、科学研究，还是产业开发，都紧密地围绕着这个虽然早已有之但却在近年来越发成为热点的话题，颇有不扯上人工智能就会落后，就会被时代抛弃的感觉。甚至连通俗的网络文学中，都有许多人工智能的主题。连带地，也出现了许多与严格或不严格意义上的人工智能研发应用有关的争议，例如关于人脸识别与监控的广泛应用引发的争议。
    其实，关于研究开发人工智能的争议早已存在。在最根本的层面上，这实际上是一个涉及发展观的问题，即人们在强调发展时，是为了什么而发展以及怎样才算是理想的发展的选择的问题。同时，这也是一个科学观的问题，即人们发展科学技术并将之付诸应用在根本上是为了什么，以及对科学技术的不确定性和可能带来的风险的认识的问题。正像本书中作者提到的，2014年底，英国广播公司报道，著名理论物理学家霍金（stephen Hawking）曾表示：“人工智能的全面发展可能导致人类的灭绝。”就算没有这样极端，人们至少也无法否认像人工智能的应用会带来的失业等几乎已经初见端倪的后果。
    就作序者本人的立场来看，应该说是比较极端地反对像现在这样一窝蜂地极力研发人工智能的。我想，持有类似观点的人也应该还有一些，更有许多人或许是由于对可能带来的问题未加深入思考，或持一种强科学主义的信念而拥护人工智能。正像本书作者所指出的，在我国学者的讨论中，从事人工智能研究的学者几乎普遍对人工智能的将来持乐观态度，认为目前的人工智能技术不足以威胁人类。而江晓原教授则对之反驳说：“我们都知道‘养虎遗患’的成语，如果那些养老虎的人跟我们说，老虎还很小，你先让我们养着再说，我们能同意这样的论证吗？”
    但无论有什么样的争议，我们毕竟生活在现实的世界中。在这个现实的世界上，存在着国家利益、经济利益的竞争，存在着不可阻挡的要发展更新、更高、更强科技的在观念上和利益上的追求，就像过去许多哪怕人们已经明确认识到本是威胁人类的科学技术应用，如核武器和生化武器之类的发明，也仍然不可阻挡地被发明出来付诸应用。人工智能显然也是一样，在现实中，其发展似乎也无可阻挡。但也正因为如此，面对现实和未来的人工智能发展，对其存在的伦理研究，就有着更加迫切的需要！
    就像曾一度在学界流传的一则笑话一样，说不同的院校因不同的传统，对想象中可能要发布的一个研究开发制造椅子的课题持有不同的态度，有的不管三七二十一直接就把椅子造了出来，有的关心这样课题能带来多少篇SCI论文的发展，有的转去回顾经典作家关于造椅子的相关论述，更有的要论证：为什么要造椅子？必要性在哪里？本书的研究虽然不是对发展人工智能的必要性的研究，但至少是面对人工智能的发展可能给人类社会带来的最根本的伦理变化的重要研究。
    不过，虽然迫切地需要这样的研究，但研究起来又是非常困难的。伦理的研究在整个人文领域的研究中本来就是最为困难的，甚至关于人类的伦理问题，至今也仍然存在着众多的不同立场、观点和理论，更不用说对于人工智能这样新的对象的伦理研究了。这里面既涉及人文，也涉及科学和技术，需要研究者有更广阔的视野和理论准备。在本书中，作者收集、汇总、分析了国内外众多研究者的相关工作（仅此便已经是非常有价值的研究了），讨论了军用机器人、情侣机器人和助老机器人等几个当下被突出关注的案例，尤其是讨论了其中涉及的传统的与新出现的伦理问题，并在更一般性伦理学背景下，针对人工智能会涉及的伦理问题进行了讨论，其中像对作者比较倾向的自反性伦理治理观点的讨论，对友好人工智能概念的问题的讨论，都是很有特色的。而且，作者的一些结论性的观点，也颇有深意，如：“人工智能安全问题从源头上看是由人工智能技术造成的，这应该使科学家认识到，科学技术研究并不是无禁区的，我们需要理性地发展人工智能。”“科学家应该意识到，科学与伦理有着不同的选择与评价标准，在进行机器人设计时，应该将科学与伦理结合起来，而不只是在科学的范围内从事研究。”
    当然，作者的一些观点本人也并不是完全都能同意，此书也还存在着一些不足（如在内容和结构上并未明确区分人工智能和机器人的不同，尽管这两者间存在着密切的关联），但这些并不影响此研究的重要意义。毕竟这还只是国内学者对此重要领域和问题进行的开创性的系统研究，而对于人工智能的伦理研究将需要有更多、更深入、更细化的后续工作。而书中提出和讨论的问题，对于后续的研究者显然具有启发性的意义，仅此，应该说，就已经是非常有价值的著作了。
    是为序。
    刘兵
    2020年1月26日于北京清华园荷清苑

    完稿之际，掩卷沉思，感慨颇多。
    本书的写作得到许多师友的帮助与鼓励。首先，衷心感谢美国圣母大学哲学系霍华德（Don Howard）教授。2008年，当我受国家留学基金委“国家建设高水平大学公派研究生项目”的资助，以联合培养博士生的身份来到圣母大学访学时，霍华德教授给予我无私、热情的帮助，使我的博士论文得以顺利完成。2013年，受上海交通大学“骨干人才基金”的资助，我再次来到美国圣母大学访学，主要任务是完成2011年的国家社会科学基金青年项目。当时霍华德教授在给博士生讲授“机器人伦理”课程，我全程旁听，激发起了我对机器人与人工智能伦理研究的极大兴趣。正是由于霍华德教授的课程，使我从之前一直从事的爱因斯坦研究，转向了科技伦理研究。
    感谢美国匹兹堡大学科学史与科学哲学系科林·艾伦（Colin Allen）教授。2016年8月，受国家留学基金委“青年骨干教师出国研修项目”的资助，我来到美国印第安那大学（布鲁明顿校区）访学一年，得到当时在该校科学史与科学哲学系任教的艾伦教授的热情指导与帮助，受益匪浅。访学期问，我还旁听了艾伦教授开设的两门课程，开阔了我的学术视野。艾伦教授还多次邀请我和家人去他家里共进晚餐，使我认识到他的厨艺与学术一样高超与精湛。
    感谢我的博士导师清华大学刘兵教授和硕士导师南京大学蔡仲教授。两位导师是我终生学习的榜样，他们对我的关心也是激励我坚持努力的强大动力。感谢上海交通大学马克思主义学院科学史与科学文化研究院江晓原教授、李侠教授、纪志刚教授、萨日娜教授、闫宏秀教授、王延锋副教授、黄庆桥副教授、穆蕴秋副教授等老师与同事，感谢大家长期的帮助和鼓励，使我在科学史研究院的大家庭中备感舒适与温暖。感谢马克思主义学院王岩院长和王震书记等领导和朋友的支持。 感谢同济大学马克思主义学院丁晓强教授、张劲教授、田晖教授、万立明教授、李春敏教授等老领导、老朋友，虽然在同济大学工作的时间不长，但我一直很珍惜与大家之间的友情。感谢中国矿业大学曹巍老师、徐黎华老师、殷实老师以及曾经一起共事的领导和朋友。中国矿业大学的“三永远精神”一直铭刻于心，鞭策我不断向前，多年积淀的深情厚谊以及美丽的校园一直令我魂牵梦萦。 感谢全体课题组成员的大力支持与配合，大家的共同努力使得本课题能够按期顺利完成。感谢我的家人的支持与理解。由于本人天资愚钝，使得太多精力用于教学与科研，陪伴家人的时问实在太少，无论是对远在故乡的父母，还是近在身边的妻儿，时时感到深深的歉意。 感谢上海交通大学出版社编辑崔霞和孙莺两位老师耐心细致的工作，使得本书以更加精致的面貌呈现在读者面前。 本书的初稿是2015年国家社会科学基金一般项目“机器人伦理问题研究”（项目编号：15Bzx036）的结项成果。2018年，笔者有幸获得上海市浦江人才计划项目“机器人技术的伦理治理研究”（项目编号：l8PJc074），在该项目的资助下，笔者对国家社科基金的结项成果进行了修改与完善。同时，本书的出版得到了“上海交通大学2019年度人文社会科学成果文库”的资助，在此一并表示衷心的感谢！