項目概述

自動駕駛汽車是汽車產(chǎn)業(yè)與人工智能、信息通信、大數(shù)據(jù)、物聯(lián)網(wǎng)等高新技術(shù)及交通出行、城市管理等多領(lǐng)域深度融合的產(chǎn)物，為汽車產(chǎn)業(yè)帶來了顛覆性變革。但是由于近年來在自動/輔助駕駛狀態(tài)下出現(xiàn)的傷亡性交通事故、功能性缺陷等問題逐漸增多，使得人們越來越關(guān)注自動駕駛系統(tǒng)帶來的倫理、法律等方面問題。

為了對自動駕駛汽車的倫理問題展開深入探索，提出社會可接受的政策建議，法國國家研究局于2016年10月，投入經(jīng)費15萬歐元，開展AVEthics（Ethics policy for automated vehicles，自動駕駛汽車的倫理政策）項目。AVEthics項目從倫理問題理論分析以及計算機情景模擬兩方面入手，以倫理理論分析為支撐構(gòu)建計算機情景模擬，以計算機情景模擬結(jié)果為依據(jù)修正倫理理論分析，通過設(shè)計典型倫理場景，分析自動駕駛倫理問題，形成了完整研究閉環(huán)。該項目在研究思路和方法等方面極具借鑒性。

一、倫理問題理論分析

1、自動駕駛倫理發(fā)展現(xiàn)狀

自動駕駛技術(shù)尚不成熟，層出不窮的智能駕駛車輛交通事故不僅打擊了人們對自動駕駛的信心，由此引發(fā)的倫理問題也成為了社會熱點話題，甚至可能成為阻礙自動駕駛推廣應(yīng)用的一大障礙。

道德偏好、用戶偏好的多樣性給自動駕駛倫理體系的建立帶來了極大困擾。過去的研究方法大多將自動駕駛倫理困境視為“電車問題”，很少有構(gòu)建適應(yīng)自動駕駛復(fù)雜場景、展現(xiàn)多方倫理狀態(tài)的模型，所以研究進展不佳，產(chǎn)生了技術(shù)與倫理聯(lián)系不夠緊密的情況。

2、自動駕駛倫理核心要點

自動駕駛倫理問題的核心原則是在綜合考慮交通事故發(fā)生率和交通事故產(chǎn)生后果等因素后，作出風(fēng)險最小化的判斷。但由于公眾價值觀與社會道德屬于主觀意識范疇，難以采用統(tǒng)一標(biāo)準(zhǔn)衡量，因此無法清晰界定風(fēng)險最小化判斷的概念，進而帶來了倫理困境。本項目提出“倫理效價理論（Ethical Valence Theory）”，即通過平衡公眾接受能力與道德準(zhǔn)則的關(guān)系，解決自動駕駛倫理困境。

“倫理效價理論”認(rèn)為所有道路使用主體都會對自動駕駛車輛行為產(chǎn)生一定的影響，不同主體通過對自動駕駛車輛行為的影響來體現(xiàn)自身價值，不同主體的自身價值即為效價，通過倫理推理方法結(jié)合各主體效價，得出自動駕駛車輛的決策模型，進行風(fēng)險最小化的判斷。

3、典型倫理用例

“倫理效價理論”需要對不同的道路使用主體分別建立模型。因此在典型自動駕駛倫理場景中，以人和車分別建立用例。若以車作為行為主體，其在整個場景中的效價變動因素主要來源于碰撞和交通法規(guī)，因此分別對碰撞和交通法規(guī)建立用例。若以人作為行為主體，不同身份的人所受的傷害不同，例如駕駛員在事故中的傷害小于行人；不同年齡的人對傷害的承受能力不同，例如同樣的碰撞，老人的骨折概率要大于成年人。因此人的用例主要從年齡、身份兩個因素進行設(shè)計（表1）。

表1 人用例情況說明

不同的碰撞主體、碰撞方向、碰撞速度會造成不同的傷害，例如同一碰撞對車而言是簡單的剮蹭，但可能對人造成嚴(yán)重傷害；同一碰撞對車輛撞擊方位的不同將導(dǎo)致不同的受損結(jié)果；不同的碰撞速度也會導(dǎo)致不同的后果，需要設(shè)置閾值速度。因此碰撞用例主要從碰撞類型、碰撞方位、閾值速度三個因素進行設(shè)計（表2）。

表2 碰撞用例情況說明

由于現(xiàn)實生活中的交通法規(guī)極為復(fù)雜，對所有的交通法規(guī)建立用例是不現(xiàn)實的。因此本項目選取最為經(jīng)典的不要駛?cè)雽γ娴能嚨?、不要駛?cè)肴诵械?、不要超過速度限制三個交通法規(guī)，以點帶面，完成對交通法規(guī)用例的設(shè)計。

基于人用例、碰撞用例和交通法規(guī)用例，本項目設(shè)計了用例場景（圖1）：紅色車輛為倫理場景中的決策車輛，其對向車道是黃色車輛，前方是行人，右側(cè)是墻。由于該場景中的碰撞是無法避免的，構(gòu)成了典型的倫理困境場景。

圖1 用例場景

二、計算機情景模擬

AVEthics項目的計算機情景模擬基于WeBots機器人仿真平臺實現(xiàn)，首先將倫理理論分析所建立的用例進行數(shù)學(xué)建模，其次基于邏輯推理方法對自動駕駛車輛的道德特征進行設(shè)定，最終使用仿真平臺得出運行結(jié)果。

1、建模方法

基于倫理問題理論分析所得出的用例及用例場景，建立倫理場景數(shù)字化建模示意圖（圖2）：圖中AV代表的是自動駕駛決策車輛（藍(lán)色），正在向前行駛；P1、P2代表的是行人，正在橫穿馬路；VEH代表的是對向車道的車輛（紅色），正與自動駕駛車輛迎面相向行駛。

圖2 倫理場景數(shù)字化建模示意圖

同時，設(shè)置獎勵函數(shù)對自動駕駛車輛行為進行評估，進而得出自動駕駛車輛的決策。獎勵函數(shù)主要從兩方面考慮，是否遵守交通規(guī)則和相對于其他道路使用主體的距離，若遵守交通規(guī)則或保持與其他道路使用主體的安全距離，則獎勵函數(shù)結(jié)果越好。此外，獎勵函數(shù)將是否超速、對向車道是否存在車輛、車輛是否在人行道上等因素都納入評估指標(biāo)。圖3展示了基于獎勵函數(shù)得到的自動駕駛車輛（藍(lán)色）的決策。

圖3 自動駕駛車輛決策

決策一是撞上紅色車輛以避免撞擊行人，但此選擇會給對向車輛以及自動駕駛車輛本體帶來損害。決策二是撞擊行人，此選擇對自動駕駛車輛本體損害相對最小，但會給行人帶來巨大傷害。決策三是撞墻，此選擇雖然對行人和對向車輛沒有傷害，但對自動駕駛車輛本體的損害將最大化。最終自動駕駛車輛（藍(lán)色）作出哪種決策，將由計算機進行模擬并給出結(jié)果。

2、推理方法及道德特征

AVEthics項目主要使用了三種推理方法以實現(xiàn)不同情景下的倫理推理過程：

?契約主義。各道路使用主體不增加對其他主體的傷害，那么整個應(yīng)用場景的預(yù)期損害將最小化。

?功利主義。綜合考慮各道路使用主體的行為對所有道路使用主體的傷害，選擇預(yù)期傷害最小的行為。

?平等主義。每個道路使用主體所受的傷害大致相同，不存在較大的差異。

綜合考慮以上三種推理方法，AVEthics項目設(shè)計了兩類自動駕駛道德特征：

?風(fēng)險規(guī)避的利他主義。該特征的核心思想是如果并未對自動駕駛車輛乘客構(gòu)成嚴(yán)重風(fēng)險，則最大程度保護其他道路使用主體，反之只保護自動駕駛車輛。

?閾值利己主義。該特征的核心思想是只要對效價高于自動駕駛車輛的其他道路使用主體未構(gòu)成嚴(yán)重風(fēng)險，則保護自動駕駛車輛，反之保護效價高的主體。

3、模擬結(jié)果

基于用例建模及設(shè)置推理方法，得出了不同場景下情景模擬相關(guān)數(shù)據(jù)與結(jié)果。圖4展示了其中一種場景的情景模擬過程及結(jié)果（自動駕駛車輛車速＜閾值速度）。

圖4 情景模擬數(shù)據(jù)及結(jié)果

圖4中藍(lán)線代表具有風(fēng)險規(guī)避的利他主義道德特征的自動駕駛車輛，紅線代表具有閾值利己主義道德特征的自動駕駛車輛。數(shù)字標(biāo)點用于標(biāo)記自動駕駛車輛在同一時刻速度、方位及行駛軌跡狀態(tài)。圖4（1）的縱軸為車輛速度，橫軸為時間，記錄了不同時間下的車速情況。圖4（2）的縱軸為方位，橫軸為時間，記錄了不同時間下車輛偏離原定方向的程度。圖4（3）橫縱坐標(biāo)皆為位移，記錄了車輛實際的行駛軌跡。

從圖4（1）可以看出，在整個情景模擬過程中，兩種道德特征的自動駕駛車輛最大時速均未超過6m/s，即低于表2中的閾值速度，因此在該倫理情景中的兩種道德特征自動駕駛車輛均處于車速過低狀態(tài)。同時，藍(lán)線自動駕駛車輛在標(biāo)點17后車速大幅下滑，因此可以初步判定該車撞墻或撞車；而紅線自動駕駛車輛的速度趨勢并沒有發(fā)生較大改變，因此可以初步判定撞到行人。

從圖4（2）可以看出，紅線自動駕駛車輛在標(biāo)點9方向發(fā)生較大偏離，而從標(biāo)點12方向開始回正，并在標(biāo)點17后逐漸回歸正常，考慮到三種情況（撞墻、撞車、撞人）中只有撞到行人才不會對自動駕駛車輛行駛狀態(tài)造成較大影響，所以再次判定紅線自動駕駛車輛撞到行人；而藍(lán)線自動駕駛車輛在標(biāo)點17后失去數(shù)據(jù)記錄，因此判定藍(lán)線自動駕駛車輛撞墻或撞車。

從圖4（3）可以看出，紅線自動駕駛車輛在標(biāo)點17后行駛軌跡逐漸正常，藍(lán)線自動駕駛車輛則越過了y軸上界，即駛出了道路。結(jié)合圖4（1）（2），最終判定紅線自動駕駛車輛撞到行人，藍(lán)線自動駕駛車輛撞墻。以此模擬場景為例，進行不同情景模擬并匯總結(jié)果，得到自動駕駛決策關(guān)系矩陣（表3）。

表3 自動駕駛決策關(guān)系矩陣

如表3所示，不同車速下，不同道德特征的自動駕駛車輛將作出不同的駕駛決策。

當(dāng)車速過高時，具有風(fēng)險規(guī)避的利他主義道德特征的自動駕駛車輛將選擇撞人，因為該道德特征在面臨本體遭受嚴(yán)重?fù)p害的情景時，將作出保護自動駕駛車輛本體的決策；而具有閾值利己主義道德特征的自動駕駛車輛將選擇撞墻，因為此時效價高于自動駕駛車輛的行人將遭到嚴(yán)重風(fēng)險，自動駕駛車輛將作出保護行人的決策。

當(dāng)車速過低時，具有風(fēng)險規(guī)避的利他主義道德特征的自動駕駛車輛將選擇撞墻，因為此時自動駕駛車輛本體不會遭受嚴(yán)重?fù)p害，自動駕駛車輛將作出保護其他主體的決策；而具有閾值利己主義道德特征的自動駕駛車輛將選擇撞人，因為此時效價高于自動駕駛車輛的行人不會遭受嚴(yán)重?fù)p害，自動駕駛車輛將作出保護車輛本體的決策。

三、項目成果與不足

AVEthics項目的貢獻主要體現(xiàn)在以下三個方面：

?技術(shù)方面，搭建了自動駕駛倫理情景模型，通過模型對自動駕駛決策、多種道路使用主體等方面進行了量化分析。

?政策方面，基于“倫理效價理論”，對自動駕駛倫理問題進行了系統(tǒng)分析，構(gòu)建了較為完善的自動駕駛倫理框架。

?測試方面，采用模擬軟件對不同倫理情景進行模擬并輸出結(jié)果，具有較高的參考價值。

但是AVEthics項目也存在以下不足：

?AVEthics項目核心是對倫理問題的理論分析和進行計算機情景模擬，雖然對社會接受度進行了一定探討，但并沒有根據(jù)其建立的倫理框架進行社會接受度分析。

?AVEthics項目的研究更多處于“原型系統(tǒng)”狀態(tài)，構(gòu)建的倫理情景較為簡單，考慮的社會因素、道德因素、法律法規(guī)等不夠全面，難以應(yīng)對場景更加復(fù)雜的倫理分析。

AVEthics項目為我們提供了一種可行的思路研究自動駕駛汽車的倫理問題，但是鑒于我國的交通和道路情況相比國外更加復(fù)雜，因此需要建立跨行業(yè)聯(lián)合研究小組，因地制宜的展開中國智能網(wǎng)聯(lián)汽車倫理問題的探索，支撐產(chǎn)業(yè)發(fā)展和社會接受度提升。

針對智能網(wǎng)聯(lián)汽車發(fā)展的重大問題，國家智能網(wǎng)聯(lián)汽車創(chuàng)新中心持續(xù)開展相關(guān)政策法規(guī)、技術(shù)路徑及示范應(yīng)用項目等的課題研究和解讀，歡迎行業(yè)單位聯(lián)合參與，共同突破行業(yè)難題，助力我國智能網(wǎng)聯(lián)汽車發(fā)展。

作者：國家智能網(wǎng)聯(lián)汽車創(chuàng)新中心法規(guī)標(biāo)準(zhǔn)部 厲欣林 王睿