廣告
首頁 > 測試行業(yè)動態(tài) > 正文
Uber自動駕駛致死，檢測到了行人但機器覺得無需避讓？
2018-05-08 20:53:19· 來源：AutoLab 作者：田忠朝
一個細思極恐的問題，機器需要考慮倫理道德嗎？今年3月份，Uber發(fā)生了全世界第一宗完全自動駕駛汽車致死事故，當時眾多結(jié)論認為，是Uber無人車沒有開啟行人監(jiān)測系統(tǒng)，換句話說，這是一起由硬件引發(fā)的車禍，但如今結(jié)果似乎有所反轉(zhuǎn)。相互甩鍋，真相依然撲朔迷離據(jù)美國科技新聞網(wǎng)站The Information 5月7日消息，Uber公司基本
一個細思極恐的問題，機器需要考慮倫理道德嗎？
今年3月份，Uber發(fā)生了全世界第一宗完全自動駕駛汽車致死事故，當時眾多結(jié)論認為，是Uber無人車沒有開啟行人監(jiān)測系統(tǒng)，換句話說，這是一起由硬件引發(fā)的車禍，但如今結(jié)果似乎有所反轉(zhuǎn)。
相互甩鍋，真相依然撲朔迷離
據(jù)美國科技新聞網(wǎng)站The Information 5月7日消息，Uber公司基本查明了事故原因，兩位消息人士透露，在這名女性橫穿馬路時，Uber無人車（改裝自沃爾沃XC90）的傳感器已經(jīng)探測到了她，不過Uber的自動駕駛軟件判斷認為，系統(tǒng)無需對這位女性采取避讓措施。
因為谷歌系的Waymo和通用汽車的Cruise常常稍有威脅就會急剎，而Uber的系統(tǒng)調(diào)整了判斷策略，會忽略“誤報”或其他不會成為問題的東西，比如路上漂浮的塑料袋等，而事發(fā)時這位女子手里好像確實拎著塑料袋……
也就是說，事故罪魁禍首是軟件系統(tǒng)而不是各種傳感器、攝像頭在內(nèi)的硬件系統(tǒng)。
我不知道是不是硬件方和軟件方在相互甩鍋，還是Uber為了給自己“技術(shù)不行”的傳聞洗白，畢竟檢測不到行人和能檢測到完全是兩個概念，后者只能說明大家對“安全文化”的理念不同（車禍發(fā)生后，有美國媒體指責說Uber自動駕駛汽車項目過去的負責人將發(fā)展速度放在第一位，安全是其次），而技術(shù)是沒問題的。
但真相總歸依然是撲朔迷離，或許與Uber共同調(diào)查的美國國家安全運輸委員會（NTSB）稍后出具的調(diào)查報告會更詳細些。
細思極恐，機器能決定人的生命了？
如果真的是軟件判斷覺得無需為行人違規(guī)買單，那么這件事就真的細思極恐了，因為機器已經(jīng)開始決定人的生命了。
在人工智能機器人的發(fā)展過程中，都要求把保護生命作為第一原則，其實在自動駕駛汽車發(fā)展上也是如此，德國道德倫理委員會在2017年頒布的指導原則就規(guī)定了自動駕駛車輛對保護對象的優(yōu)先等級：
人類生命＞動物生命＞財產(chǎn)損失。
機器倫理，拯救誰又該犧牲誰？
但問題時，如果同等級的生命受到威脅怎么辦？這里又牽涉出倫理問題。
比如自動駕駛車輛過來時兩個人同時過馬路，兩個中只能避開一個怎么選？是不是充了會員就有優(yōu)先被保護權(quán)？
再或者有10個人在違規(guī)橫穿馬路，旁邊有1位行人遵守交通規(guī)則走在非機動車道上，當自動駕駛車輛遇到無法避免的碰撞，是選擇讓10個違規(guī)的行人為生命買單還是選擇撞向這1個人？
如果機器以保護人類生命為第一原則，那么很有可能選擇撞上這1個人拯救其它10個人，但對于這個路人來說，又是何其無辜。
可能有人覺得，這樣做沒錯，犧牲少數(shù)挽救多數(shù)不是更符合倫理道德規(guī)范嗎？
那么如果有一天，你乘坐一輛無人駕駛車走在一邊懸崖一邊陡壁的彎道上，前面突然出現(xiàn)一群騎行客，事故傷亡無法避免時，你猜你的自動駕駛汽車會不會帶著你一起跳崖？
好在這次車禍后，包括Uber在內(nèi)的多家自動駕駛汽車研發(fā)公司都暫停了路測，這次嚴重車禍將促使研發(fā)企業(yè)更加重視無人車的安全性，在我看來，尊重生命遠比發(fā)展科技重要。
今年3月份，Uber發(fā)生了全世界第一宗完全自動駕駛汽車致死事故，當時眾多結(jié)論認為，是Uber無人車沒有開啟行人監(jiān)測系統(tǒng)，換句話說，這是一起由硬件引發(fā)的車禍，但如今結(jié)果似乎有所反轉(zhuǎn)。
相互甩鍋，真相依然撲朔迷離
據(jù)美國科技新聞網(wǎng)站The Information 5月7日消息，Uber公司基本查明了事故原因，兩位消息人士透露，在這名女性橫穿馬路時，Uber無人車（改裝自沃爾沃XC90）的傳感器已經(jīng)探測到了她，不過Uber的自動駕駛軟件判斷認為，系統(tǒng)無需對這位女性采取避讓措施。
因為谷歌系的Waymo和通用汽車的Cruise常常稍有威脅就會急剎，而Uber的系統(tǒng)調(diào)整了判斷策略，會忽略“誤報”或其他不會成為問題的東西，比如路上漂浮的塑料袋等，而事發(fā)時這位女子手里好像確實拎著塑料袋……
也就是說，事故罪魁禍首是軟件系統(tǒng)而不是各種傳感器、攝像頭在內(nèi)的硬件系統(tǒng)。
我不知道是不是硬件方和軟件方在相互甩鍋，還是Uber為了給自己“技術(shù)不行”的傳聞洗白，畢竟檢測不到行人和能檢測到完全是兩個概念，后者只能說明大家對“安全文化”的理念不同（車禍發(fā)生后，有美國媒體指責說Uber自動駕駛汽車項目過去的負責人將發(fā)展速度放在第一位，安全是其次），而技術(shù)是沒問題的。
但真相總歸依然是撲朔迷離，或許與Uber共同調(diào)查的美國國家安全運輸委員會（NTSB）稍后出具的調(diào)查報告會更詳細些。
細思極恐，機器能決定人的生命了？
如果真的是軟件判斷覺得無需為行人違規(guī)買單，那么這件事就真的細思極恐了，因為機器已經(jīng)開始決定人的生命了。
在人工智能機器人的發(fā)展過程中，都要求把保護生命作為第一原則，其實在自動駕駛汽車發(fā)展上也是如此，德國道德倫理委員會在2017年頒布的指導原則就規(guī)定了自動駕駛車輛對保護對象的優(yōu)先等級：
人類生命＞動物生命＞財產(chǎn)損失。
機器倫理，拯救誰又該犧牲誰？
但問題時，如果同等級的生命受到威脅怎么辦？這里又牽涉出倫理問題。
比如自動駕駛車輛過來時兩個人同時過馬路，兩個中只能避開一個怎么選？是不是充了會員就有優(yōu)先被保護權(quán)？
再或者有10個人在違規(guī)橫穿馬路，旁邊有1位行人遵守交通規(guī)則走在非機動車道上，當自動駕駛車輛遇到無法避免的碰撞，是選擇讓10個違規(guī)的行人為生命買單還是選擇撞向這1個人？
如果機器以保護人類生命為第一原則，那么很有可能選擇撞上這1個人拯救其它10個人，但對于這個路人來說，又是何其無辜。
可能有人覺得，這樣做沒錯，犧牲少數(shù)挽救多數(shù)不是更符合倫理道德規(guī)范嗎？
那么如果有一天，你乘坐一輛無人駕駛車走在一邊懸崖一邊陡壁的彎道上，前面突然出現(xiàn)一群騎行客，事故傷亡無法避免時，你猜你的自動駕駛汽車會不會帶著你一起跳崖？
好在這次車禍后，包括Uber在內(nèi)的多家自動駕駛汽車研發(fā)公司都暫停了路測，這次嚴重車禍將促使研發(fā)企業(yè)更加重視無人車的安全性，在我看來，尊重生命遠比發(fā)展科技重要。
- 下一篇：自動駕駛之避障方法研究
- 上一篇：為什么測試車要貼偽裝？
廣告 編輯推薦
最新資訊
-
“汽車爬坡試驗方法”將有國家標準
2026-03-03 12:44
-
十年耐久監(jiān)管時代：電池系統(tǒng)開發(fā)策略將如何
2026-03-03 12:44
-
聯(lián)合國法規(guī)R59對機動車備用消聲系統(tǒng)的工程
2026-03-03 12:08
-
聯(lián)合國法規(guī)R58對后下部防護裝置的工程化約
2026-03-03 12:07
-
聯(lián)合國法規(guī)R57對摩托車前照燈配光性能的工
2026-03-03 12:07
