一輛行駛中的有軌電車，它的前方只有兩條軌道可以走，其中一條道上站著一個(gè)人，另一條道上則有一小群人。如果這輛電車的剎車壞掉，那接下來要往哪條道上開？

這就是倫理學(xué)領(lǐng)域最為知名的思想實(shí)驗(yàn)之一，被稱為“電車難題”（Trolley Problem），最早由哲學(xué)家菲利帕·福特（Philippa Foot）于1967年發(fā)表的《墮胎問題和教條雙重影響》論文中提出。

“電車難題”早期用來批判倫理哲學(xué)中的主要理論，特別是功利主義。而功利主義提出的觀點(diǎn)是，大部分道德決策都是根據(jù)“為最多的人提供最大的利益”的原則做出的。

依據(jù)“電車難題”引出的相似例子有不少。自出現(xiàn)近50年后，例子中的電車已經(jīng)被自動(dòng)駕駛汽車替代，軌道切換開關(guān)變成了由神一般的工程師設(shè)計(jì)的汽車系統(tǒng)程序。

2014年，谷歌X創(chuàng)始人塞巴斯蒂安·特倫（Sebastian Thrun）表示，公司的自動(dòng)駕駛原型車在發(fā)生碰撞時(shí)將選擇撞兩個(gè)物體中較小的那一個(gè)。

2016年，還在谷歌工作的克里斯·厄姆森（Chris Urmson）稱車輛將“盡量避免撞到無保護(hù)的行人和騎行者”。

同年，有報(bào)道引用一位梅賽德斯-奔馳經(jīng)理的話，說奔馳的自動(dòng)駕駛汽車將優(yōu)先考慮撞車事故中乘客的生命安全，不過該公司后來否認(rèn)了這一說法，稱這種說法是錯(cuò)誤的。

最近，麻省理工學(xué)院媒體實(shí)驗(yàn)室（MIT Media Lab）可擴(kuò)展合作小組的研究人員重新發(fā)現(xiàn)并修正了這種道德困境。

MIT的“道德機(jī)器”（Moral Machine）在線測(cè)試要求用戶決定，是殺死一位老奶奶，還是殺死一位老爺爺？殺死五條狗，還是殺死五位肥胖的男性路人？諸如此類的問題。

這個(gè)決定不再是一瞬間的事，而是事先在車?yán)镌O(shè)定了程序，一定程度上有助于訓(xùn)練人工智能的預(yù)先判斷能力。

一個(gè)來自道德機(jī)器的示例場(chǎng)景：繼續(xù)行駛行人會(huì)受到傷害，撞路障的話車上的人會(huì)受到傷害。

《自然》雜志發(fā)表的一篇文章稱，2年時(shí)間里，MIT研究員收集到大量人類殺害偏好的數(shù)據(jù)，包括來自233個(gè)國(guó)家數(shù)百萬人的約3960萬條選擇。不同文化對(duì)電車?yán)Ь车姆磻?yīng)被匯集到了一起。

舉例來說，來自日本、臺(tái)灣、沙特阿拉伯和印度尼西亞等東方國(guó)家或地區(qū)的參與者更傾向于避免傷害那些守規(guī)矩等紅綠燈的行人；美國(guó)、加拿大、挪威和德國(guó)等西方國(guó)家的參與者傾向于不采取行動(dòng)，讓汽車?yán)^續(xù)前行；而拉丁美洲國(guó)家的參與者，如尼加拉瓜和墨西哥，則更傾向于避開健康、年輕和地位更高的人。

雖然不同文化背景的人給出的答案有區(qū)別，但在全球范圍內(nèi)，確實(shí)出現(xiàn)了一些主要趨勢(shì)。

“道德機(jī)器”參與者更傾向于把人類置于動(dòng)物之上，把更多的生命置于更少的生命之上，以及選擇讓年輕人繼續(xù)活下去。

在不富裕的國(guó)家，其人均國(guó)內(nèi)生產(chǎn)總值（GDP）較低，與守規(guī)矩的行人相比，他們更不愿意撞到亂穿馬路的人。這可能是因?yàn)楣駲C(jī)構(gòu)弱小，導(dǎo)致在他們的經(jīng)驗(yàn)中，認(rèn)為規(guī)則一致性較低和懲罰較弱。

研究人員說，重點(diǎn)是發(fā)起一場(chǎng)關(guān)于技術(shù)倫理的對(duì)話，并指導(dǎo)那些最終會(huì)對(duì)自動(dòng)駕駛道德做出重大決定的人。在這些人看來，自動(dòng)駕駛汽車出事故是不可避免的，在設(shè)計(jì)自動(dòng)駕駛汽車程序時(shí)做權(quán)衡也是如此。

MIT測(cè)試的用戶只有兩個(gè)明確的選擇：殺死這些人或那些人。但在現(xiàn)實(shí)生活中，這些決定都是概率性的，每個(gè)人都會(huì)在不同程度和嚴(yán)重程度的結(jié)果中做出選擇。比如，遇到?jīng)_撞行人危險(xiǎn)時(shí)，司機(jī)有可能會(huì)想“如果我讓卡車突然轉(zhuǎn)彎，雖然幾率很小，但有可能會(huì)以低速撞上”。

“我們的主要目標(biāo)是了解一旦自動(dòng)駕駛事故發(fā)生后公眾的反應(yīng)。”MIT媒體實(shí)驗(yàn)室博士后愛德蒙·阿瓦德（Edmond Awad）在論文中寫道，“通過道德機(jī)器項(xiàng)目，讓專家暢所欲言，就好像是一場(chǎng)大型論壇活動(dòng)，而這正是公眾的反應(yīng)。”

那么，真正在開發(fā)自動(dòng)駕駛技術(shù)的人又是怎么看待電車問題的呢？嘆氣。這是多年來許多被問及這個(gè)問題的自動(dòng)駕駛開發(fā)者的回應(yīng)。

“從工程角度來看，解決電車問題并不是一個(gè)重點(diǎn)關(guān)注的問題。”安波福（Aptiv）自動(dòng)化移動(dòng)出行總裁、nuTonomy聯(lián)合創(chuàng)始人卡爾·艾格尼瑪（Karl Iagnemma）給出了兩方面解釋。

“其一，尚不清楚正確的解決方案是什么，或者是否存在解決方案。其二，發(fā)生這類事件的幾率本來就微乎其微，而在沒有人類駕駛員的情況下，自動(dòng)駕駛技術(shù)很有可能讓這種幾率變得更低。”

另一個(gè)常見的異議是：自動(dòng)駕駛汽車肯定沒有足夠多的數(shù)據(jù)或訓(xùn)練應(yīng)對(duì)人們?cè)诘赖聶C(jī)器實(shí)驗(yàn)中考慮的復(fù)雜權(quán)衡。

“在自動(dòng)駕駛汽車上發(fā)生的事情有可能為其他人工智能和機(jī)器人技術(shù)定下基調(diào)，因?yàn)檫@項(xiàng)技術(shù)會(huì)率先滲入到社會(huì)當(dāng)中。”加州州立理工大學(xué)倫理學(xué)與新興科學(xué)小組主任帕特里克·林（Patrick Lin）解釋說，“仍然有很多人的生命處在危險(xiǎn)當(dāng)中，因此，盡可能多地了解信息非常重要。”

讓車輛上的傳感器區(qū)分汽車尾氣和實(shí)墻就已經(jīng)夠難的了，更不用說讓系統(tǒng)將一個(gè)億萬富翁和一個(gè)無家可歸的人區(qū)別開。目前，開發(fā)人員關(guān)注的是更基本的問題，比如通過技術(shù)來區(qū)分騎自行車的人和停著的車，或者是正在行駛的車。

話雖如此，但工程師們很可能正在對(duì)他們開發(fā)的技術(shù)進(jìn)行訓(xùn)練，實(shí)現(xiàn)做出一些權(quán)衡的能力。

“自動(dòng)駕駛汽車領(lǐng)域，人們將物體檢測(cè)的分類方式歸為易受攻擊和非易受攻擊。”打造自動(dòng)駕駛汽車感知系統(tǒng)的DeepScale公司CEO福里斯特·伊安多拉（Forrest Iandola）認(rèn)為，“最重要的易受攻擊對(duì)象是無保護(hù)措施的人類，而一輛停著的汽車或一個(gè)交通錐往往是不容易受到傷害的。”

一輛nuTonomy自動(dòng)駕駛汽車正在波士頓海港地區(qū)的黑獵鷹大道上進(jìn)行測(cè)試

自動(dòng)駕駛汽車將不得不應(yīng)對(duì)世界各地不同的汽車文化，這也是事實(shí)。

拿NuTonomy來說，他們?cè)诓ㄊ款D和新加坡測(cè)試自動(dòng)技術(shù)的“規(guī)則手冊(cè)”就有所不同。在波士頓，你會(huì)驚訝地發(fā)現(xiàn)，司機(jī)開車更猛，所以在當(dāng)?shù)剡M(jìn)行測(cè)試的車輛要能做出不同的反應(yīng)。

不過，像nuTonomy這樣的公司似乎沒有定期去研究電車問題。

“我們致力于開發(fā)安全、設(shè)計(jì)嚴(yán)謹(jǐn)?shù)南到y(tǒng)。”艾格尼瑪說，“新一代系統(tǒng)將有駕駛偏好、文化和地理方面的適應(yīng)性，也可能包括倫理問題。”

德國(guó)是迄今為止唯一一個(gè)建議對(duì)自動(dòng)駕駛汽車的倫理選擇給出官方指導(dǎo)方針的國(guó)家。議員們?cè)噲D剖析電車問題的棘手之處，指出所有人的生命都應(yīng)該被平等對(duì)待，任何基于個(gè)人特征的區(qū)別，如年齡或性別，都應(yīng)該被禁止。

但MIT研究員對(duì)此提出疑問：“如果不優(yōu)先保證年輕人的安全，那么，當(dāng)自動(dòng)駕駛汽車面臨沖撞兒童的選擇時(shí)，它將如何應(yīng)對(duì)？”

可以肯定的是，現(xiàn)在就開始對(duì)此類問題進(jìn)行對(duì)話不會(huì)是件壞事。