当哲学与一些意想不到的东西碰撞在一起的时候，往往很有“网感”，比如很早之前有一本书，名字就叫做《禅与摩托车维修艺术》，如果不仔细看还以为这本书讲的是摩托车维修，实际上这本书是一名美国哲学家写的正儿八经的哲学著作。

既然哲学能和摩托车维修扯上关系，那么这段时间大火的无人驾驶是不是也能和哲学产生关系？答案当然是肯定的，不仅如此，无人驾驶和哲学“扭打”在一起，还可能制造出一些和企业家息息相关的话题。

今天飒姐就和各位老友唠一唠无人驾驶、科技哲学与负责任创新的这一档子事。

01 自动驾驶+哲学，不止电车难题

某一天，一台无人驾驶汽车在经过滨海公路转弯路段时突遇“鬼探头”——几个小孩子突然横越车道，现在无人驾驶系统面临两个选择，第一，汽车紧急制动，在保护孩童生命的同时，极有可能因制动导致车辆失控跌下悬崖，那么车内的乘客就有生命危险；第二，放弃紧急制动以避免车辆失控，冒着孩童死亡的风险保护车内的乘客。如果你是无人驾驶AI，你应该如何抉择？

上面这个段子各位老友肯定都听过这个段子就是德国伦理委员会在《伦理委员会关于无人驾驶和互联网驾驶的完整报告》中列举的无人驾驶必须要考量的案例。抽象一点说，在L4-L5级别的无人驾驶中，编程者或者AI必须要决定在“两难抉择”之下，应当优先保护哪一个个体，即必须解决无人驾驶下的“生命安全冲突”问题。

有关生命安全冲突，哲学领域内有个著名的思想实验就叫做“电车难题”，这个思想实验1967年由菲利帕福特首次提出。试想一辆电车行驶在轨道上，有五个人被捆绑在轨道上不能安全逃离。电车如果继续行驶，势必会碾压到这五个人。假如你可以操纵一个拉杆，可以将电车的轨道调整到另外一侧，但是这一侧的轨道上同样绑了一个人。于是两难抉择来了：不拉杆，五个人会血肉模糊死得很惨，拉杆了，只有一个人会死，其他人都会得救。你该如何选择？

在倡导集体主义、舍小我保大我的社会中，人们当然倾向于牺牲一个人里的利益而保障多数人的利益。但问题在于，生命真的可以只用数量衡量吗？当然，这个时候用数量衡量生命的价值，可能是最没有争议的，因为当我们附加另外的变量，事件又开始尴尬起来。如果轨道另一侧的一个人是伟大的科学家，而另外一边的五个人是对社会毫无用处的闲散人员，此时又该怎么处理？当我们考量这些问题的时候，实际上就落入了功利主义的窠臼。不得不去进行价值判断，选择损失最小的后果。在这一过程中，对自动驾驶领域的伦理学思考逐渐转向了另外两个哲学理论——旁观者悖论和“安全旁观者”

02自动驾驶领域的第三者悖论

第三者悖论的关注焦点在于自动驾驶车辆在面临突如其来的危险的时候，应当按照怎样的标准给人员和财物定义价值，以及应当如何进行风险规避和价值权衡。这其中又引申出了一个悖论：在发生车祸时，是应当优先保障车内人员的安全，还是车外无辜第三人的安全？

这个问题之所以会成为悖论，其实非常有趣：飒姐团队之前写得文章中已有提及，目前国内以“萝卜快跑”为代表的自动驾驶平台，都会在自己的自动驾驶出行服务协议中都向自己的用户阐明了一个观点：“如您仍选择本平台服务，即视为您已充分知晓、理解并基于自身风险判断能力和承受能力自愿同意承担接受该项服务过程中可能面临的各项风险及后果。”于此同时，以萝卜快跑为代表的自动驾驶平台也会在自己的出行服务协议中列举自动驾驶可能会遇到的各类风险。只要用户同意使用自动驾驶服务，即代表用户自愿同意、承担接受该项服务中可能面临的风险。这种服务协议的措辞并非是国内首创，实际上目前世界上绝大多数的主流自动驾驶服务都会有类似的协议，提醒自动驾驶用户注意上述风险，并且提升用户在选择自动驾驶服务时自愿同意、承担自动驾驶带来的风险。

按照这个协议的内容，从逻辑上推断在出现危险的时候，应当首先保证车外无辜第三人的安全，原因很简单——车外的第三人并没有签署自动驾驶的出行服务协议，而车内的成员已经签署了自愿承担危险的协议。因此当自动驾驶汽车出现车祸等危险时，应当首先保障无辜第三人的安全。

这就是第三者悖论所在：如果坚持这套逻辑，那么自动驾驶行业必定走不长远。因为车外的无辜第三人并不是自动驾驶技术的消费者，真正消费的人，是车内的已经签了出行服务协议的人。换言之，车内的自愿承担风险的用户才是自动驾驶平台的“金主”，“金主”出了事，却要优先保护根本没有给钱的第三人，这样的行业怎么可能发展得下去呢？举个最简单的例子，某饭店不给自己的顾客谋福利，反而去保障那些去别的饭店吃东西的顾客，那久而久之谁还去自家的饭店消费呢？

第三者悖论之所以会出现，是因为公众往往会站在与事件无关的旁观者的角度去考量各类现实问题，这也是科技哲学中常提及的“安全旁观者悖论”。举个最简单的例子而言，人们总是习惯站在道德的制高点上批判他人，但一旦自己站到了被批判的人的位置上，观点就会立刻改变。这就使得各类有关自动驾驶伦理问题的调查问卷会严重失真。人们站在旁观者的角度，会对自动驾驶伤及无辜第三人嗤之以鼻，但是当把人们放到自动驾驶汽车内，则多数人又会立刻改变想法，希望自动驾驶车辆能保护好自己，哪怕是以伤害路边的无辜第三人为前提。安全旁观者悖论和第三者悖论，果然有趣。

03 自动驾驶带来的伦理悖论，负责任创新或许是破局之道

飒姐团队特别赞同部分科技哲学学者对于自动驾驶伦理悖论的看法——纠结于电车难题、第三者悖论其实并没有太大的意义。这些哲学问题的本质其实就是一个——如果出了事，到底谁负责。或者如果出了事，应当如何去评估损失。这其实是典型的“结果思维”。当我们落入到结果思维的窠臼中时，往往无法去进一步进行行业创新。原因很简单，每创新一步都要去想一旦出了事之后未来的代价是什么，久而久之人性就会趋利避害——即宁可什么都不要，也不要出事。

那么如何在最大程度上避免这种“结果思维”，或者尽可能的去推动自动驾驶以及其他创新行业的发展呢？科技哲学中的“负责任创新”概念，也许能帮上忙。负责任创新（Responsible Innovation，RI）这一概念最初由德国学者Hellstrom提出，这个理论可以说是当前欧美和中国科技哲学与科技伦理界讨论的热点，国内外学者关于RI的概念、方法、案例以及框架等都已经有了相当多的研究。

但是飒姐团队在这里必须说明，负责任创新是一个相当宽泛且没有严格内涵界定的概念。如果要系统介绍负责任创新的内容，必定枯燥而且篇幅一定会相当之长。因此飒姐团队只在这里对负责任创新的其中一个核心观点——前瞻性责任进行阐述，并着重和各位老友唠一唠，为什么相较于“出了事找谁去负责”的回顾性责任思维，前瞻性责任思维更有利于自动驾驶及其他新兴科技领域的发展。

1

回顾性责任和前瞻性责任是个啥？

这一对概念其实很好理解。回顾性责任通常针对已经发生的行为或者事件（通常引发了不好的结果），然后考量应当由谁去对这一不好的结果负责。对于造成了不好的结果的一方，予以法律或者道德的谴责。就拿我们刚才说的自动驾驶举例。当我们谈及自动驾驶出了事、撞了人谁负责的时候，其实就是回顾性责任思维的体现。这种思维在社会中非常多见，比如有的领导会跟下属说：这个事情可以创新，可以不走寻常路，但是出了事情，就是你的锅。这就是典型的回顾性责任思维。

前瞻性责任思维与回顾性思维截然不同。前瞻性责任涉及还未发生或者将要发生的行为和事件。往往着眼于如何通过界定标准行为来避免归责。举例而言，国家为自动驾驶技术设立专门的行业规范。如果自动驾驶技术研发者按照平台规定做到了所有应当做的安全步骤，那就是完成了“前瞻性责任的义务”。一旦真的出了事，也不需要再承担或者再完全承担回顾性责任。

如果说回顾性责任关注的是已经发生的行为及其结果，来定义个人的道德和法律的可谴责性，即着眼于“结果”，那么回顾性责任就是关注还未发生或者将要发生的行为或事件，并期望通过完成某项规定动作，来产生一个积极的结果。即着眼于“行为”。两者的关系大致可以类比于刑法理论中的行为无价值论和结果无价值论。

2

我们为什么要提倡

在新科技领域培养前瞻性责任思维？

前瞻性责任思维对科技创新极为重要，这也就是为什么自动驾驶领域和科技哲学中的负责任创新理论如此契合。

举例而言，自动驾驶、AI、Web3等新兴领域快速崛起不过十年时间，技术尚未成熟，其中必然会出现这样或那样的问题。就好像萝卜快跑的出行协议中说的那样：即使我们尽最大努力保障您与同行人的人身安全及财产安全，基于自动驾驶当前发展阶段的特殊性，我们仍无法保证绝对不会发生不利的风险及后果。为什么自动驾驶服务协议会有那么多的“辣眼睛”的免责条款？原因就在于自动驾驶技术尚不成熟，以后还有很长的路要走。越不成熟的技术，其风险就越大。网约车平台的服务协议之所以都有中规中矩的免责声明，并不是因为网约车平台运营方的“道德水平”比自动驾驶平台运营方高，而是因为网约车平台的技术、规范均已成熟。出了事有法可依，有据可循。但自动驾驶不同，作为新生事物，每一个技术从最初开展到走向成熟都伴随着无数的事故。飞机的发展不就是这样的吗？

在面对一个尚在发展之中，尚不成熟的产业的时候，通过“出了事就是你的锅”这样的回顾性思维显然不能解决问题。这个时候就体现出“前瞻性责任思维”对行业的必要性了。

前瞻性责任观不去纠结于“出了事”之后的解决方案，而是规范行动者还未发生或者将要发生的行为，以确保产生一系列积极的结果，或者避免消极结果的发生。因此在这个责任观下，如何进行事前的规范尤为重要。如果行为人已经做足了事前的规范，那么即使出现了不利后果，也不应当归责于行为人。这就是前瞻性责任观可以助力生产力创新的核心所在。

3

前瞻性责任观在自动驾驶立法中的体现

正如同飒姐团队在前面所说的，前瞻性的责任观着眼于对没出事的时候的行为规范。即规范新兴产业从业者行为，以避免不利结果发生。如果新兴产业的从业者完全按照相应规范从事生产，那么即使出现了不利后果，也不应当进行追究。于是行为规范的制定就变得尤为重要。实际上世界各国在自动驾驶领域的密集立法，就体现了这种前瞻性的责任观。

如英国早在2018年无人驾驶刚崭露头角的时候英国便通过了AEV2018（Automated & Electric Vehicles Act2018，自动驾驶汽车法案2018），并且火速修改了The Highway Code（高速公路法），增加了自动驾驶的章节。2022年英格兰和威尔士法律委员会以及苏格兰法律委员会又联合发布了《自动驾驶汽车：联合报告》（Automated Vehicles: Joint Report），其中就包含了如何制定自动驾驶汽车监管改革等建议，今年5月通过英国又迅速通过了新的AEV2024（Automated Vehicles Act 2024，自动驾驶汽车法案2024）。新的自动驾驶汽车法案一共七大部分，内容涵盖对无人驾驶汽车的总体监管体系、车辆使用的刑事责任、警务与调查、营销限制、服务许可等等条款。

这部法案最令人注目的条款就是规定了自动驾驶汽车的相关责任承担问题。而这些责任承担问题的相关规定就是前瞻性责任观的典型体现，即只要做到上述行为规范，那么一旦出了意外情况，也可以在一定情形下免责。这些前瞻性责任的规定主要有：

第一，规定了ASDE（Authorised Self-Driving Entity,授权自动驾驶主体）和UiC(User-in-Charge，负责用户)的责任。

这里我们需要先明确几个概念，ASDE就是授权自动驾驶主体，一般是自动驾驶汽车制造商或开发商。UiC是负责用户，是指在开启UiC功能的自动驾驶汽车中且能够对该车辆实施控制的个人。反之，NUiC用户就是无负责用户，是指在自动驾驶汽车内无人对车辆行驶控制权时，一名持有执照的NUiC运营者远程监管该车辆，并在该车辆遇到超出处理能力的问题时对该车辆发出的警报做出反应的人。

该法案要求ASDE应当始终确保车辆符合自动驾驶测试的要求，并且要求ASDE定期收集和向监管机关提供相应安全信息，并规定ASDE应当指定一名自然人对所提供的信息负责。

如果ASDE未按照规定要求向监管部门定期提供安全信息，或者提供的信息在重大方面存在虚假或者误导性，或者隐匿安全信息，则ASDE制定的提供信息的自然人以及直接负责的高级管理人员都将构成刑事犯罪。

同样地，如果NUiC未按照监管部门的要求提交自己监管的自动驾驶车辆的安全信息，或者提交的信息有误、隐瞒有关车辆安全的信息，也会构成相应的刑事犯罪。

当事故发生时，如果ASDE和NUiC均定期向监管部门提供相应的自动驾驶信息，且定期提供的信息真实准确，且自动驾驶系统也通过了相应的测试要求。则ASDE和NUiC不对事故负责。

在具有UiC（如自动驾驶汽车中有安全员）的场景中，在事故发生时，原则上UiC应当承担和驾驶员一样的责任，例外情况如，在危险状态之下使用自动驾驶（危险状态的定义很简单：如果对于一名有经验且谨慎的司机而言，该车辆行驶时所处的环境、路况等可能有危险）时，如果安全员坚持使用自动驾驶，那么一旦导致事故，驾驶员就应当承担刑事责任。

这些情形其实都体现了一个观点：只要能做到监管机关期望你做到的义务，那么即使出了问题，监管机关也不会将“甩锅”的大棒砸向你。这就是负责任创新的核心，也是负责任创新能够助力新科技领域发展的关键。

04自动驾驶未来走向的哲学思考

有一句话飒姐团队非常赞同，科学和哲学是人类的光彩和守护者。新兴科技的健康发展势必要有哲学尤其是科技哲学的规范。负责任创新理论或许能够成为破解新科技创业者不敢创新的破局之道。但负责任创新这一理论从一个纯粹的科技哲学理论发展到能够影响科技政策、监管政策甚至思维的程度，还有很长的路要走。这就涉及到负责任创新理论的法治化问题，即如何将负责任创新纳入到法律法规等规范体系，作为立法程序上的标准，以及负责任创新作为法律规范的内容，对科技活动应当产生哪些规范等等。这些问题如果要仔细论证出来，显然又要有诸多的篇幅，算是飒姐团队填的一个坑吧。

再说回自动驾驶未来走向的哲学思考，不可否认的是，负责任创新尽管已经逐步浸染到自动驾驶领域，但是在自动驾驶汽车发生事故时，究竟应当优先保护哪一方，还是一个值得探讨并且是个相当尖锐的科技伦理问题。

一旦发生事故，选择救哪一方？这种选择权该由谁来定义？又是谁赋予定义这种选择权的权利？从目前状态来看，无论哪一种选择都会面临科技伦理的拷问：自动驾驶技术的软件策略是选择伤亡最小为结果还是以保护车主、车上的乘客为结果？飒姐团队记得多年以前法国图卢兹经济学院曾经进行过一番调查，调查显示多数人认为自动驾驶技术的算法应当由政府给出汽车厂商可选择的自动驾驶类型，即消费者可以按照自己的习惯来选择自动驾驶类型的汽车。比如我作为消费者，偏向于选择保护我自己，那么我就可以通过自动驾驶平台来选择倾向于保障车内乘坐者的汽车为我服务。但在“第三者悖论”和“安全旁观者悖论”之下，很难认定自动驾驶平台的用户是否能够做出真正符合自己利益的选择，这种选择恐怕理论价值要大于其实际的商业价值。

05

写在最后

谈了那么多，其实我们还是需要回到负责任创新能够助力新科技发展的内核来——前瞻性的责任观。飒姐团队在服务新科技领域客户的过程中深刻感受到前瞻性责任观的重要性，新兴的技术最怕的可能就是“秋后算账”和“出了事情就甩锅”，这两件事也成为无数新科技领域创业者的噩梦。实际上无论是出了事甩锅还是秋后算账，本质上都是回顾性责任观的影响。即一旦出了事，就要考虑谁去为负面效果负责，而不是积极的考量如何在事前就做出一套规范，如果创业者能够保证自己完成了事前规范的义务，那么即使出了事，也不需要“背锅”，这一套责任观，恐怕才是能够真正助力新科技创新的责任观，也是负责任创新这一科技哲学理论助力生产力发展的价值。

如果您身边有对新科技、数字经济感兴趣的朋友，

欢迎转发给Ta

滑动查看服务清单

获取详细资讯，请联络飒姐团队

【 sa.xiao@dentons.cn】

【 guangtong.gao@dentons.cn】

飒姐工作微信：【 xiaosalawyer】

飒姐工作电话：【 +86 171 8403 4530】

往期精彩回顾

重磅 | 二手NFT，也不让卖了？！

肖飒团队 | C罗遭索赔70亿，是谁让其“十年归零”？

肖飒团队 | CZ被重罚，掀起币圈飓风的“蝴蝶”？

肖飒团队 | AI生成图片著作权第一案，“人机大战”胜负揭晓！

肖飒团队 | 刑事指控+罚43亿，币圈最大案件靴子落地！

肖飒团队 | HOUNAX暴雷：大陆居民在港追赃挽损攻略