聲明：本文來(lái)自于微信公眾號(hào) 大數(shù)據(jù)文摘（ID：BigDataDigest），來(lái)源:wired，編譯:Hippo、miggy，授權(quán)轉(zhuǎn)載發(fā)布。
4個(gè)Uber司機(jī)認(rèn)為，該公司的算法錯(cuò)誤地指控他們欺詐。現(xiàn)在他們希望法院可以迫使公司披露其神秘的決策過(guò)程。
Shahid 就是其中一位Uber司機(jī)，新冠疫情期間，每周六日他都在伯明翰街道附近通過(guò)Uber平臺(tái)接單。在過(guò)去的五年里，他為自己爭(zhēng)取到了一個(gè)很不錯(cuò)的評(píng)分:4.96分（滿分5分）的客戶評(píng)價(jià)和金牌駕駛員身份，但就在8月初的一個(gè)早晨，他發(fā)現(xiàn)他無(wú)法登錄系統(tǒng)接客了。
誰(shuí)能接單?賺多少錢?這些都是Uber算法說(shuō)了算。該算法監(jiān)測(cè)到他“對(duì)Uber平臺(tái)持續(xù)不當(dāng)?shù)氖褂谩辈⒁呀顾褂迷撓到y(tǒng)， 而他聲稱自己并沒(méi)有違背相關(guān)規(guī)定。
他表示，Uber還拒絕確切告訴他做錯(cuò)了什么。他所收到的信息寫道:“我們沒(méi)法給出確切的細(xì)節(jié)，只能給出不當(dāng)使用的例子，包括:同時(shí)使用乘客和司機(jī)帳戶、創(chuàng)建重復(fù)帳戶、接受無(wú)意完成的訂單、收費(fèi)欺詐、安裝及使用能夠操縱司機(jī)APP和行程詳細(xì)信息的軟件。基于上述原因，我們決定終止合作關(guān)系。你將不能通過(guò)Uber App提供獨(dú)立的服務(wù)。”
根據(jù)Uber的條款，Shahid被定性為“欺詐者”。盡管他否認(rèn)有任何錯(cuò)誤行為，但并沒(méi)有任何上訴的途徑。瞬間他失去了70%的收入，此后只能靠打車平臺(tái)Ola謀生。
Shahid不是唯一一個(gè)陷入類似困境的司機(jī)。2019年7月，也就是Shahid被取消運(yùn)營(yíng)資格一年前，Ali 在倫敦打開(kāi)Uber準(zhǔn)備上班卻發(fā)現(xiàn)他無(wú)法登錄。他收到Uber的信息，說(shuō)他的帳戶已被標(biāo)記為“違反Uber的 條款和政策”。信息寫道:“審查你最近的行程時(shí)，我們發(fā)現(xiàn)許多與欺詐有關(guān)的非正常行程。你的帳戶已被標(biāo)記為不當(dāng)使用，因此已被停用。不幸的是，停用是永久的。”
作為4個(gè)孩子的父親，Ali宣稱該APP是錯(cuò)誤的，像Shahid一樣，他否認(rèn)有任何不當(dāng)行為。他是個(gè)全職Uber司機(jī)，幾個(gè)月前剛剛籌資買了一輛價(jià)值29000英鎊的汽車，以使Uber APP可以評(píng)估他的車為商務(wù)車 。被解雇后，他還得為一輛無(wú)法使用的汽車償還貸款。“在過(guò)去一年半里，我持續(xù)給Uber發(fā)送電子郵件、打電話，至少有50、60次。我遇到了困難，我懇求他們但沒(méi)有回應(yīng)。”Ali說(shuō)。
Shahid和Ali對(duì)Uber提起了訴訟，指控該公司通過(guò)算法對(duì)他們進(jìn)行“攻擊”。在這4名司機(jī)中，3名來(lái)自英國(guó)、1名來(lái)自葡萄牙，他們聲稱沒(méi)有參與欺詐活動(dòng)，Uber也沒(méi)有拿出任何證據(jù)能夠證明將他們開(kāi)除是合理的。Uber也沒(méi)有向警方報(bào)告這4名司機(jī)的欺詐行為。
根據(jù)相關(guān)法律（https://www.adcu.org.uk/news-posts/app-drivers-couriers-union-files-ground-breaking-legal-challenge-against-ubers-dismissal-of-drivers-by-algorithm-in-the-uk-and-portugal），法院應(yīng)否決導(dǎo)致司機(jī)被解雇的算法，并強(qiáng)迫Uber分享其收集的相關(guān)司機(jī)以及用于解雇他們的信息。
這是根據(jù)《通用數(shù)據(jù)保護(hù)條例》（GDPR）第22條提起的首單此類訴訟。歐盟在2018年頒布了GDPR，該條款旨在保護(hù)用戶數(shù)據(jù)，允許歐洲公民在認(rèn)為算法(或僅由算法)作出與他們相關(guān)的決定時(shí)提供詳細(xì)信息。
如果他們獲得成功，那么大量其他法律糾紛將隨之而來(lái)。代表4名司機(jī)提起訴訟的“司機(jī)和快遞員應(yīng)用聯(lián)盟” （App Drivers&Couriers Union，ADCU）表示，自2018年以來(lái)，已經(jīng)有超過(guò)1000多個(gè)私人案件，這些案件均是因?yàn)樗惴ǖ腻e(cuò)誤導(dǎo)致司機(jī)被誤認(rèn)為存在欺詐行為，致使賬戶被立即中止且無(wú)權(quán)申訴。
ADCU的司機(jī)代表James Farrar認(rèn)為，Uber不能證明在其禁令中存在“有意義的”人為干預(yù)，因?yàn)樗緳C(jī)在提出訴求時(shí)得到的都是自動(dòng)回復(fù)。
該論點(diǎn)是針對(duì)Uber索賠的核心，根據(jù)信息專員的觀點(diǎn)（https://ico.org.uk/about-the-ico/news-and-events/ai-blog-automated-decision-making-the-role-of-meaningful-human-reviews/），如果人工智能系統(tǒng)僅用來(lái)支持或增強(qiáng)人類的決策能力，那么它將不受這些條款的約束。但是，一項(xiàng)決定不能僅僅因?yàn)橐呀?jīng)“蓋章”而超出GDPR第22條的范圍:人類需要有意義的投入。
英國(guó)信息專員辦公室（Information Commissioner's Office，ICO ）和歐洲數(shù)據(jù)保護(hù)委員會(huì)( European Data Protection Board)都曾表示，審閱人員必須積極參與檢查系統(tǒng)生成的建議，并且不應(yīng)“例行的”將自動(dòng)生成的結(jié)論應(yīng)用于個(gè)人;而且人類的參與必須是積極的，而不僅僅是象征性的姿態(tài)。指導(dǎo)意見(jiàn)指出，人應(yīng)該對(duì)決策產(chǎn)生實(shí)際影響，具備審核系統(tǒng)自動(dòng)生成建議的“權(quán)限和能力”。
但這些疑議并沒(méi)有考慮到Uber算法中嵌入的新信息。Farrar聲稱，自從Uber去年推出實(shí)時(shí)ID驗(yàn)證技術(shù)以來(lái)，自動(dòng)解雇的情況有所增加，以幫助解決其與倫敦交通局（TfL）的許可證問(wèn)題。他說(shuō)，TfL在此解雇過(guò)程中是“負(fù)有連帶責(zé)任的”，因?yàn)樵摍C(jī)構(gòu)促使Uber進(jìn)行實(shí)時(shí)驗(yàn)證，這反過(guò)來(lái)又導(dǎo)致Uber“緊急上線有缺陷的技術(shù)并加劇了現(xiàn)有問(wèn)題”，但是對(duì)此TfL拒絕置評(píng)。
實(shí)時(shí)ID技術(shù)會(huì)定期要求司機(jī)為自己拍照以進(jìn)行驗(yàn)證。然后，將這些自拍照與帳戶持有人的個(gè)人資料圖片進(jìn)行匹配，然后再根據(jù)駕照進(jìn)行檢查。如果駕駛員未通過(guò)ID檢查，則他們的帳戶將被暫時(shí)停用，等待進(jìn)一步檢查，然后可能無(wú)限期地被停用。
但是這項(xiàng)措施并未得到倫敦的交通運(yùn)輸當(dāng)局的認(rèn)可。在發(fā)現(xiàn)14000次行程中的43名司機(jī)在APP上偽造身份后，當(dāng)局決定吊銷Uber的倫敦牌照。涉案的41名駕駛員被TfL吊銷了駕照（其中2人無(wú)牌）。Uber成功贏得了之后的上訴，獲得了在倫敦運(yùn)營(yíng)的18個(gè)月臨時(shí)許可證。9月28日的判決書指出，Uber與TfL之間的溝通已有所改善，法院對(duì)公司為保護(hù)客戶對(duì)平臺(tái)所做的改進(jìn)感到滿意。
但是這種交涉并不一定要延伸到司機(jī)，他們長(zhǎng)期以來(lái)一直抱怨Uber算法不夠透明。算法為決定誰(shuí)獲得工作以及獲得多少報(bào)酬奠定了基礎(chǔ)，并針對(duì)不端行為、遲到等問(wèn)題的對(duì)司機(jī)進(jìn)行評(píng)分。
2020年1月，Uber為英國(guó)的司機(jī)實(shí)施了一項(xiàng)名為“忠誠(chéng)”的計(jì)劃，提供免費(fèi)的教育課程、路邊援助、健身房會(huì)員資格和汽車保養(yǎng)打折，司機(jī)可以通過(guò)每趟行程積累的“積分”來(lái)?yè)Q取相關(guān)服務(wù)。Uber 鼓勵(lì)司機(jī)接受行程以達(dá)到各個(gè)狀態(tài):藍(lán)色（基本級(jí)別）、金(倫敦500點(diǎn)，其他地區(qū)600點(diǎn))，白金(倫敦900點(diǎn)，其他地區(qū)1200點(diǎn))和鉆石(倫敦1300點(diǎn)，其他地區(qū)1800點(diǎn)) 。但司機(jī)表示他們不知道該算法如何通過(guò)這個(gè)分級(jí)系統(tǒng)來(lái)確定上車的乘客會(huì)是誰(shuí)。
當(dāng)司機(jī)不想接客時(shí)會(huì)發(fā)生什么?這一點(diǎn)也無(wú)從得知。ADCU指的是Uber的共享準(zhǔn)則，該準(zhǔn)則將欺詐行為定義為拒絕派單以及為等待更高的溢價(jià)而選擇性的退出登錄。該機(jī)構(gòu)指控Uber將原本屬于業(yè)績(jī)?cè)蚨鴮?dǎo)致的解雇行為偽裝成因欺詐行為而導(dǎo)致的解雇行為，以此來(lái)減輕它本應(yīng)對(duì)司機(jī)們履行的義務(wù)。
新冠疫情期間，被Uber停用的司機(jī)一直在努力彌補(bǔ)收入損失。英國(guó)第3位向Uber提起訴訟的司機(jī)Ravi說(shuō):“目前我為Bolt、Ola和FreeNow工作（類似于Uber和滴滴，都是一站式出行平臺(tái)），疫情很可怕。我每天從凌晨5點(diǎn)開(kāi)始工作，到下午2點(diǎn)左右能賺27英鎊，這比以前少多了，以前每天可以賺到150到200英鎊。”
在倫敦被解雇的司機(jī)將有14天的時(shí)間向TfL解釋為什么他們不該被解雇，但問(wèn)題是他們不知道自己被指控什么，或者如何證明自己的清白。本周啟動(dòng)的GDPR索賠所涉及的2名司機(jī)表示，今年夏天Uber分別與他們?nèi)〉昧寺?lián)系，那已經(jīng)是他們被解雇一、兩年之后了。
Farrar表示:“這是監(jiān)管疏忽，向司機(jī)求證他們幾年前所做的事情并不是真正明智的執(zhí)法，由于TfL忽略了司機(jī)的工作條件，這種行徑實(shí)際上使得實(shí)際操作的合理性更差了。”
