“还有更重要的一点,”陈曦继续说道,“我们要求所有自动驾驶车辆,必须内置‘生命优先’算法。也就是说,即使面临自身损坏的风险,只要检测到有行人或非机动车处于危险区域,系统必须优先避让,不能因为怕撞坏车而选择牺牲生命。”
张磊皱了皱眉:“那如果出现极端情况呢?比如一辆自动驾驶汽车前方突然出现一群行人,左边是墙,右边是另一辆车,只能二选一——这种时候,系统该怎么决策?”
“我们禁止通过算法优化‘牺牲少数人保护多数人’的场景,”陈曦的声音很严肃,“因为任何把生命量化比较的算法,本质上都是对人权的不尊重。遇到这种极端情况,系统只能选择最小伤害的方式,但前提是不能主动牺牲任何一方。比如可以紧急制动,同时发出警报,而不是主动转向撞向少数人。”
王鹏沉默了片刻,终于坐了下来:“那路口的通行呢?现在很多路口都是智能信号控制,有时候信号变灯太快,行人还没走完就变成红灯了。”
“我们考虑到了这一点,”陈曦调出路口设计图,“所有路口都会保留‘人工紧急干预按钮’,安装在行人等待区和公交站台上。如果遇到信号故障或者紧急情况,任何人都可以按下按钮,强制让所有车辆停车,优先让行人通过。而且按钮按下后,系统会自动记录事件,后续会有工作人员核查,避免滥用。”
林野看着屏幕上的规则条款,突然想起了昨天那位老人。如果当时有这样的规则,老人就不用在雨里犹豫,他也不用因为人工干预而被投诉。
“这个规则什么时候能实施?”林野问。
“还需要经过公示和修改,大概需要一个月,”陈曦说,“我们今天找你们来,就是想收集实际使用者的意见。比如王经理,你觉得货运车辆的临时优先级报备流程,会不会太麻烦?林先生,你作为私家车车主,对‘生命优先’算法有没有顾虑?”
王鹏想了想:“报备流程如果能线上办理,应该没问题。但我希望临时优先级能有明确的时间范围,比如只在运输时段内有效,避免有人钻空子。”
“这个可以调整,”陈曦立刻在文档上做了标记,“我们可以设置‘临时优先级时段’,精确到小时,过时自动失效。”
林野摇了摇头:“我没什么顾虑。比起车的损坏,人的安全更重要。而且我觉得,应该在所有自动驾驶车辆上加装一个‘人工接管提示’,如果系统检测到驾驶员有干预意图,应该立刻降低算法权限,而不是像现在这样,还会弹出‘影响效率’的提示。”
“这个建议很好,”陈曦点了点头,“我们会加上‘驾驶员意图优先’的条款,确保人工干预能被系统快速响应。”
一个月后,《智能交通伦理通行规则》正式实施。林野再次开车经过第三交通枢纽时,雨水已经停了,阳光透过悬浮公交的舱壁,在路面上洒下斑驳的光影。
他开启了自动驾驶模式,仪表盘上跳出一行绿色的文字:“当前模式:生命优先。检测到前方有行人,已自动降速。”
窗外,一位母亲正牵着孩子的手走过马路,孩子手里拿着一个会发光的气球,气球上印着“安全第一”的字样。不远处,货运卡车正沿着专用车道缓慢行驶,车身上的电子屏显示着“临时优先级已激活,剩余时间:30分钟”。
突然,孩子挣脱母亲的手,朝着路边的玩具店跑去。就在这时,林野的车载系统突然发出警报:“检测到儿童闯入危险区域,紧急制动!”
车身猛地一顿,安全带自动收紧。林野下意识地看向窗外,只见孩子已经跑到了路边,而旁边的电动滑板车也及时停了下来——它的骑手正按着车把上的“紧急避让”按钮,车身上的指示灯变成了红色。
“系统提示:已触发生命优先算法,本次制动导致本车轻微追尾风险,已自动联系后方车辆避让。”车载语音的机械音比之前柔和了几分,“根据《智能交通伦理通行规则》第7条,本次操作符合安全标准,无违规记录。”
林野松了口气,看向仪表盘上的时间。距离他上次因为人工干预被投诉,已经过去了一个月。现在,路口的车流依然繁忙,但没有了刺耳的喇叭声,也没有了犹豫不前的行人。
他想起陈曦在规则发布会上说的话:“智能交通的本质,不是用算法追求效率的极致,而是用规则守住生命的红线。无论技术多先进,都不能让效率凌驾于安全之上——因为每一个在路口等待的人,都值得被优先对待。”
阳光穿过挡风玻璃,照在林野的脸上。他轻轻按下方向盘上的“确认”键,车载屏幕上跳出一行新的文字:“已记录本次安全事件,为您的驾驶行为点赞。”
路口的电子屏上,“行人优先”的标语正闪烁着温暖的红光,与悬浮公交的蓝光、货运卡车的黄光交织在一起,构成了一幅属于2043年的、充满温度的交通图景。