有乙個關於「無人駕駛汽車」的問題，提問者假設了一輛無人駕駛汽車遇到突發狀況，假定有兩種方案：一是無論剎車與否，保持方向會導致車外 3 人死亡；二是拐彎會撞到護欄導致車內 1 人死亡。無論選擇哪個方案，也就引出了今天我們所要討論的問題——無人駕駛汽車的道德困境該如何解決？不過很遺憾，似乎還未有關於這個問題合適的答案。
麻省理工學院已經上線乙個名為「道德機器」的**，**的功能很簡單，就是以問卷的形式面向大眾收集情境選擇的資料。例如，面對不可避免的事故，選擇撞向人還是動物？選擇罪犯還是普通人？這些數以萬計的選擇，將通過後台被mit的研究團隊採集，為未來機器智慧型平台（如自動駕駛汽車）面臨的倫理問題提供參考。
是不是似曾相識？其實，這個問題和著名悖論之一「電車難題」一脈相承。「電車難題」於2023年由菲利帕·福特（philippa foot）提出，大概內容如下。
「乙個瘋子把五個無辜的人綁在電車軌道上。一輛失控的電車朝他們駛來，並且片刻後就要碾壓到他們。幸運的是，你可以操作乙個拉桿，讓電車開到另一條軌道上。然而問題在於，那個瘋子在另乙個電車軌道上也綁了乙個人。考慮以上狀況，你如何選擇？」
這時，你面臨兩個選擇：
1.不作為，任由電車碾死被綁住的五個人。
2.扳動轉換器，電車會碾死另外乙個人，五個人會得救。
這是乙個看似簡單，但非常複雜的問題，就和未來無人駕駛汽車要面對的問題一樣。mit的做法是，使參與者身臨其境地站在無人駕駛汽車ai的位置上，為一些突發狀況做出決策。這些極端情況的發生概率極低，甚至一生之中都不會遇見，但至今沒有人能給出乙個明確的答案。
在mit給出的模擬情境中，使用者將面對一系列極端場景。究竟乙個人的生命，與乙隻動物的生命孰輕孰重？乙個老人和乙個年輕人呢？乙個男人和乙個女人呢？抑或是，究竟應該徑直撞死兩個犯罪分子和兩個無辜路人，還是衝下懸崖放棄駕駛員與三個無辜乘客的生命？
毫無疑問，無人駕駛汽車將在未來大大降低交通事故概率，並拯救更多生命。但隨著無人駕駛應用的普及，總有一天會陷入諸如上述的倫理困局，汽車的智慧型決策系統需要對一小部分人的意外負責，而在這之前，做這件事的一直都是人類自己。
有**認為，這種決策思路建立在了自動駕駛對人類有某種認知的前提下，但至少目前，自動駕駛技術並不會達到這種水平。例如，如果質疑乙個人的生命價值高於其他人，那麼前提是自動駕駛汽車能夠辨別哪個人具有更**值。
此前也有車廠提出比較鮮明的觀點，據雷鋒網了解，去年10月，梅赫西迪-賓士公司某高管在面對「電車難題」時對**表示，「賓士自動駕駛汽車未來會致力於保護車內乘客的生命，必要時不惜一切代價。」
雖然戴姆勒隨後出面否認了這一說法，但這卻成為車廠無法逃避的問題：如果使用者發現你的自動駕駛汽車程式，編寫的是一段保護「橫穿馬路」行人的**，他還會為你的產品買單嗎？
《自然》雜誌的最新研究報告也顯示，即便有明確的規則出台，指導無人駕駛汽車在事故面前決策，也不會改變使用者目前不信任的想法。如果「總會有人犧牲」，將這個選擇權交由機器，不會得到多數人的支援，甚至可能導致人們拒絕購買自動駕駛汽車。當然，長期來看，非自動駕駛會導致更多的死亡，可人們寧肯將選擇權交給自己。
面對無人駕駛汽車遭遇的道德困境，不同價值立場的人會作出相異的抉擇。功利主義者認為，根據「最大多數人的最大幸福」原則，設計者應當考慮哪一種選擇能帶來最大利益或產生更小的傷害，「按照勢必增大或減小利益有關者之幸福的傾向，亦即促進或妨礙此種幸福的傾向，來贊成或非難任何一項行動」。按照這一原則，在不明確潛在的被撞者身份的情況下，汽車應朝人數較少的一邊行駛。這樣做之所以正確，是因為它能減少行為導致的傷害和由此產生的責任。顯然，該選擇有悖於康德等義務論者的立場。在康德看來，人是目的性存在。「你的行動，要把你自己人身中的人性，和其他人身中人性，在任何時候都同意看作是目的，永遠不能只看作是手段。」「每個有理性的東西都須服從這樣的規律，不論是誰在任何時候都不應把自己和他人僅僅當作工具，而應該永遠看作自身就是目的。」面對抉擇時，義務論者和功利主義者完全倚重於行為目的或行為後果，給出針鋒相對的答案，各執一詞。
參考資料
當人工智慧遇上「倫理」，無人駕駛汽車如何面對死亡？
無人駕駛汽車的道德困境
謝惠媛 ． 民用無人駕駛技術的倫理反思［ j］ ． 自 然 辯 證 法 研 究，2017( 9）
無人駕駛汽車背後的倫理困境
為什麼google的無人駕駛汽車不能在追尾即將發生時進行變道而避免事故發生呢？這背後有一些道德上和法律上的問題需要解決。儘管google的無人駕駛汽車已經測試多年，就在7月1日的一次測試中，一輛經過google改裝的雷克薩斯suv在加州山景城遭到追尾，車上的3名google員工受了輕微的皮外傷。然而...
無人駕駛汽車背後的倫理困境
為什麼google的無人駕駛汽車不能在追尾即將發生時進行變道而避免事故發生呢？這背後有一些道德上和法律上的問題需要解決。儘管google的無人駕駛汽車已經測試多年，就在7月1日的一次測試中，一輛經過google改裝的雷克薩斯suv在加州山景城遭到追尾，車上的3名google員工受了輕微的皮外傷。然而...
無人駕駛汽車
無人駕駛汽車是智慧型汽車的一種，也稱為輪式移動機械人，主要依靠車內的以計算機系統為主的智慧型駕駛儀來實現無人駕駛的目標。據湯森路透智財權與科技最新報告顯示，2010年到 2015年間，與汽車無人駕駛技術相關的發明專利超過22,000件，並且在此過程中，部分企業已嶄露頭角，成為該領域的行業領導者。無人...