|
人类先于动物和财产。没有歧视谁应该生存。防范恶意的黑客。' r3 e) j: H5 |9 U7 O
这些只是在德国实施的世界上第一个关于自动驾驶车辆如何编程的伦理规则。
: b N0 T" b8 `# B联邦交通部长Alexander Dobrindt上个月向德国内阁提出了自动驾驶的报告。这份报告是由科学家和法律专家专家组成的一个道德委员会的工作。! W" G8 Y) `- t8 k! n( x4 u1 {# Z* O
报告指出,技术进步是为了提高汽车的自动化程度,使它们更安全,减少事故,但它补充说:
* U9 P. b$ G) k然而,什么是技术层面的可能今天[…],它将不可能完全防止事故发生。这使得在编写有条件和高度自动化的驱动系统的软件时必须做出决策。
, N B9 \: X' o0 [4 |
& k; h! g% v% _1 p/ `0 F这份报告列出了汽车工业在开发任何自动驾驶系统时要考虑的20条指导方针。这位部长说,内阁已经采纳了这些指导方针,使之成为世界上第一个这样做的政府。
9 x5 E$ b* v( i1 G, K0 V该报告允许德国汽车制造商保持技术领先地位,为世界其他地区树立了一个强有力的榜样。! P& S, b- e: v+ X& |# U, t, [
报告的道德基础很简单——因为自动驾驶汽车将导致更少的人死亡和受伤,因此,政府有义务照顾他们的公民,因此有必要使用这种系统。' T( C( _0 b* p$ [& t2 C4 i* x
那么,报告所考虑的一些情况是什么呢?# p( Q! ?6 j; K8 [
如果不能避免发生事故,报告说,人类的安全必须优先于动物和财产。软件必须尽量避免碰撞,但如果这是不可能的,它应该采取对人最不有害的行为。8 o/ _) I# l. Q# U( Q& n9 r
报告还认识到,有些决策在道德上可能过于模糊,无法解决。
9 Q/ I) q+ p0 u8 Z& S在这些情况下,最终的决定和责任,至少现在,必须与坐在驾驶员座位上的人在一起,因为控制很快就会转移到他们身上。! z+ v$ G( s- C; |, i) C
如果他们不采取行动,车辆就会试图停下来。在不久的将来,随着能力的提高,车辆很可能会完全自主。( y7 L* ^! W0 t. [( n
它承认没有一个系统是完美的。如果有害的结果不能减少到零,至少它将低于目前的人类水平。& [3 @3 f! t2 \. k8 n h/ N4 `
如果碰撞是不可避免的,报告说系统必须以减少伤害为目标。在年龄、性别、种族、身体素质或任何潜在的事故受害者的基础上,不应存在歧视。
+ o' m6 T: h% O为了减少伤害,所有人类都被认为是平等的。
3 a9 w: Q& o2 F. X+ a& ?* K' _这使得著名的电车困境与软件不被允许优先考虑个人的相对价值无关。6 B1 {/ G+ I3 J
" H* }1 S2 U1 v& c4 G8 G- T + v( I7 \4 t& P) I' X
0 d/ q! z# H& O! P( e( y
报告提到了完全自治系统的可能性,但也认识到技术还不能解决棘手的“两难局面”,在这种情况下,车辆必须在两害相权轻的情况下做出决定。
* W7 i$ J+ [2 `7 Z当技术变得足够成熟,完全的自治是可能的。" E# f- C) u7 m8 K
根据报告,在任何时候都必须知道谁是驾驶人或电脑。也许通过扫描他们的驾照,每个驾驶车辆的人必须首先被证明是合法的驾驶这类车辆的资格。) L0 k2 q2 Z. @+ }5 l* ^' F9 s
车辆应该有一个航空风格的“黑匣子”,持续记录事件,包括谁或什么在任何给定时间处于控制。, ]) U8 Z, P1 j
在涉及自动车辆的事故中,应由独立的联邦机构进行调查,以确定责任。4 s# G' [9 a+ e+ q0 U
车辆的司机对从该车辆收集的个人信息保留其权利。使用该数据的第三方必须与业主的知情同意并无任何损害。
4 h" j! h; ~7 r8 Q" z- n5 I任何自主驾驶系统的恶意攻击威胁都必须通过有效的安全措施加以减轻。软件应该设计出一种安全级别,使恶意的黑客攻击非常不可能。3 L; M* R! I; w
至于车辆的控制,他们必须保持符合人体工程学的最佳人类使用,因为他们在一辆传统的汽车里。
8 B0 N" }" m9 u在紧急情况下,车辆可以自动反应,但在道德模糊的情况下,人类可能会接管。控制应该设计得很顺利,并迅速进行转移。& l5 i( i; ^) Y4 F- H
报告说,公众必须意识到自主车辆运行的原则,包括这些原则背后的基本原理。/ l$ r+ O8 g5 {$ B/ I/ |
这应该被纳入到学校的课程中,这样人们就能理解自动驾驶汽车的方式和原因。% o, U5 {$ z4 M. N, y
- }. }- O# g4 i) V* i8 z5 Y![]()
+ X$ @& y: a3 w$ p- R% h3 [ t0 j" y8 s% f' j* u
一个好的开始,但是一个正在进行中的工作, r# J$ r( o/ T" [
这些指导方针将在使用两年之后进行审查。毫无疑问,根据经验,将会有很好的调音,这是在接下来的几十年里的第一个评论。
. t4 O# H2 }' ^2 T$ \& p- W A这些指导方针是非常合理和全面的,足以为德国汽车制造商推进他们的计划提供法律依据。
: _2 g% W2 Q7 ^5 O# E由于其他国家似乎对此类立法持观望态度,他们很可能决定效仿德国的做法,而不是第一次。
7 D1 I- Q0 K+ o7 T: c这不是什么坏事,因为从一个国家到另一个国家的零敲碎打的方法对任何人都没有好处# B; M) Y* }: w9 D! T3 z: S
|
|