自動駕駛有望再獲大筆注資,但AI系統識別如何實現「膚色公平」還是個問題

自動駕駛有望再獲大筆注資,但AI系統識別如何實現「膚色公平」還是個問題

資料圖:2016年9月22日,優步公司的無人駕駛福特車型亮相匹茲堡。圖片來源:視覺中國

記者 | 劉芳

2019年開春,優步公司(Uber)好消息不斷。

當地時間3月5日,亞利桑那州檢方決定不對去年優步自動駕駛致死事件進行起訴。《華爾街日報》13日批露,由軟銀領銜的財團正在與優步進行後期談判,或向其自動駕駛部門投資至少10億美元。至此,這家估值高達1200億美元的初創公司向上市的夢想又近了一步。

知情人士說,根據正在討論的條款,軟銀的願景基金(Vision Fund)和包括一家匿名汽車製造商在內的其他投資者將以50至100億美元的估值收購該部門的少數股權。如果交易成真將會在下個月公布。

自動駕駛有望再獲大筆注資,但AI系統識別如何實現「膚色公平」還是個問題
當地時間2018年11月5日,軟銀公司CEO孫正義在東京出席新聞發布會。圖片來源:視覺中國

對優步而言,這一交易將為這家雄心勃勃、成本高昂的企業提供亟需的現金。《華爾街日報》稱,這將減輕優步未來的融資義務,同時使其能夠保持其對該部門的控制。2017年,優步在自動駕駛開發上花費了大約7.5億美元,在2018年有所削減。

另一方面,引入汽車公司作為投資者將幫助優步完善自動駕駛計程車所需的技術。這是一個競爭日益激烈的領域。據悉,谷歌母公司Alphabet旗下的Waymo和通用汽車公司旗下的GM Cruise都已經對自動駕駛汽車進行了大量投資。而軟銀龐大的願景基金在投資22億美元后,持有通用汽車合資公司近20%的股份。

自動駕駛有望再獲大筆注資,但AI系統識別如何實現「膚色公平」還是個問題

但這一年來,優步的自動駕駛之路並不是那麼一帆風順。

2018年3月18日,優步測試的沃爾沃SUV以每小時40英里的速度撞向了49歲的赫茨伯格(Elaine Herzberg)。當時她正推著自行車穿過街道。

自動駕駛有望再獲大筆注資,但AI系統識別如何實現「膚色公平」還是個問題
2018年3月18日亞利桑那州Tempe市優步自動駕駛車禍現場。

據《紐約時報》報道,這輛沃爾沃SUV當時處於自動駕駛模式,而在事發時優步配備的安全司機正在看《美國好聲音》(The Voice)。

美國國家交通安全委員會(National Transportation Safety Board)於2018年5月的初步報告顯示,優步的計算機系統在碰撞前6秒已經發現了赫茨伯格。計算機先是將赫茨伯格歸類為無法辨識的物體,然後是另一種車輛,最後是一輛自行車。

事實上,這款沃爾沃SUV配備了優步本身的感測技術和車輛自帶的緊急剎車系統。但報告稱,優步把剎車系統給禁止了,目的是“減少車輛潛在的不穩定性” 。換句話說,這是一場本可避免的悲劇。

事故后優步一度關閉了亞利桑那州的自動駕駛汽車業務,並在舊金山灣區、匹茲堡和多倫多的道路上停止了自動駕駛汽車運營。去年年底,優步重新啟動自動駕駛業務。

自動駕駛有望再獲大筆注資,但AI系統識別如何實現「膚色公平」還是個問題
美國國家交通安全委員會工作人員在檢查車禍中的自動駕駛車輛

2019年3月5日,審查此案的亞瓦帕伊縣檢察官辦公室(The Yavapai County Attorney's Office)表示,“沒有理由認為優步公司負有刑事責任。”

雖然優步暫時免去了法律糾紛的麻煩,但事故頻發的自動駕駛到底能否安全上路始終是研究人員重點關切的問題。其中最關鍵的,就是自動駕駛系統到底是否能夠準確識別所有人類,進而避免悲劇發生。然而,最近一項由喬治亞理工大學(Georgia Tech)完成的研究顯示,結果不容樂觀。

3月13日,《衛報》報道了這項對計算機視覺模型行人檢測功能的分析報告。研究人員發現,目前已經在應用的AI系統在識別膚色較淺的行人方面表現更好。換句話說,膚色偏黑的人不能被正確識別為行人的風險更高,安全係數更低。具體來說,白人比黑人被識別為行人的可能性高10%。研究人員將自動駕駛視覺模型的這一特性稱為預測性不平等(predictive inequality)。

自動駕駛有望再獲大筆注資,但AI系統識別如何實現「膚色公平」還是個問題
喬治亞理工大學研究人員所做的自動駕駛測試。

在分析報告中,研究人員採用了Fitzpatrick皮膚類型量表(Fitzpatrick Skin Type Scale)。基於一個人皮膚色素沉著情況、被晒傷的傾向和皮膚、眼睛、頭髮的顏色,Fitzpatrick皮膚類型量表把人的膚色分為了六個檔位。從1-6分別由淺到深。

在測試了目前多個視覺模型之後研究人員發現,AI在預測和識別不同膚色人群時有明顯的量化差異,且這種差異並非由行人被其他人遮擋或時間(不同照明條件)導致。事實上在研究人員去掉了遮擋目標行人的其他人以後,視覺系統辨認的偏差反而更大了。

自動駕駛有望再獲大筆注資,但AI系統識別如何實現「膚色公平」還是個問題
Fitzpatrick皮膚類型量表。圖片來源:維基百科

最終研究人員認為,是損失函數(loss function)造成了自動駕駛視覺系統的預測偏差。所謂損失函數,就是在決策理論、機器學習中表示與某事件相關的“成本”函數。

研究人員表示,小心地修改一些(成本)權重可以改善視覺系統在檢測深色膚色行人時的表現,並且也不影響系統檢測淺色膚色行人的準確度。換句話說,一個人是否能成功被自動駕駛視覺系統檢測為人類進而避免死亡,依賴於各個自動駕駛公司在編寫函數時對公平這個倫理問題給予特別關注。

《衛報》認為,如果說谷歌圖像曾將黑人辨識成大猩猩只是說明機器學習的局限性的話,那自動駕駛大卡車辨別膚色較深的人類有困難就真的不是一個好消息了。雖然目前大多數現有的自動駕駛汽車配備多種不依賴可見光的感測器——例如特斯拉自動駕駛汽車的前部安裝了雷達,而Waymo則使用了精度極高的激光系統——但激烈的市場競爭和巨大的成本壓力正使這些自動駕駛公司更加依賴視覺感測器。

目前,自動駕駛市場商機無限,但這種商機是建立在自動駕駛比人類駕駛更加安全的基礎上的。更加重要的是,它應該使所有人都更安全,而不是使某些人承受更高的風險。

 

 

您可能也會喜歡…

發表迴響