人工智能機(jī)器學(xué)習(xí)領(lǐng)域里的科學(xué)家們表示將拒絕幫谷歌審核論文，直到谷歌改變對(duì)前AI倫理團(tuán)隊(duì)聯(lián)合負(fù)責(zé)人Timnit Gebru的立場(chǎng)。
學(xué)界科學(xué)家拒為谷歌審查論文
選擇要在學(xué)術(shù)會(huì)議上發(fā)表研究的審稿人通常都是自愿工作，審稿人會(huì)根據(jù)他們的經(jīng)驗(yàn)和專業(yè)知識(shí)，選出那些可以在人工智能頂會(huì)發(fā)表的論文。根據(jù)公開(kāi)數(shù)據(jù)顯示，谷歌是在人工智能研究會(huì)議里貢獻(xiàn)最多論文的公司。
上周，谷歌AI倫理團(tuán)隊(duì)聯(lián)合負(fù)責(zé)人Timnit Gebru突然在個(gè)人推特上表示，谷歌直接開(kāi)除了她，她的內(nèi)部賬號(hào)直接無(wú)法登錄。而做出決定的正是谷歌AI負(fù)責(zé)人Jeff Dean。雙方爭(zhēng)議焦點(diǎn)是一篇還在谷歌內(nèi)部審議的論文。
Timnit Gebru畢業(yè)于斯坦福大學(xué)，她的導(dǎo)師是人工智能領(lǐng)域知名學(xué)者李飛飛。她的主要研究方向是算法偏差和數(shù)據(jù)挖掘。Gebru一直致力于黑人在科技圈的平權(quán)，是Black in AI的創(chuàng)始人之一。Gebru最知名的研究是她在2018年發(fā)現(xiàn)，面部識(shí)別軟件對(duì)黑人女性有高達(dá)35%的錯(cuò)誤率，而對(duì)白人男性幾乎完全正確。
這篇引發(fā)爭(zhēng)議的論文標(biāo)題為《隨機(jī)鸚鵡的危險(xiǎn)：語(yǔ)言模型會(huì)太大嗎？》，英文為“On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?”。論文詳細(xì)介紹了機(jī)器學(xué)習(xí)領(lǐng)域里大型語(yǔ)言模型對(duì)邊緣化社區(qū)的負(fù)面影響，并仔細(xì)研究了使用大型語(yǔ)言模型相關(guān)的風(fēng)險(xiǎn)，例如環(huán)境、種族主義，以及基于性別，種族和其他特征的各種持久性的偏見(jiàn)。該論文的合著者包括來(lái)自谷歌AI的Mitchell和語(yǔ)言學(xué)家Emily Bender，他們批評(píng)大型語(yǔ)言模型的工作于今年早些時(shí)候還獲得了獎(jiǎng)項(xiàng)。
值得一提的是，2018年，谷歌推出了BERT模型，在自然語(yǔ)言處理領(lǐng)域中帶來(lái)了里程碑式影響。
Jeff Dean在反駁Gebru的郵件中稱，這篇論文臨近截止日期前一天才提交，而按照公司慣例論文審查需要的時(shí)間是2周。同時(shí)，Gebru還威脅提出各種條件，否則就辭職，公司在無(wú)法滿足條件的情況下，只是接受了Gebru辭職的說(shuō)法。
Gebru則表示自己并沒(méi)有提出辭職，谷歌卻在她休假期間停止了她登入谷歌內(nèi)部系統(tǒng)的賬號(hào)。同時(shí)也不認(rèn)同谷歌不發(fā)表自己論文的原因。她在發(fā)給團(tuán)隊(duì)的郵件里稱，對(duì)谷歌保持人才多樣性的做法感到沮喪。
谷歌如何對(duì)待Gebru和即將發(fā)表的論文，這一事件也提出了科技公司對(duì)于學(xué)術(shù)研究的影響究竟會(huì)有多大的討論。
機(jī)器學(xué)習(xí)社區(qū)的領(lǐng)導(dǎo)者拒絕審查來(lái)自谷歌人工智能部門的研究，剛好是今年NeurIPS大會(huì)開(kāi)幕之際，這是世界上最大的AI研究會(huì)議，會(huì)議上發(fā)表了有關(guān)GPT-3（迄今為止最大的語(yǔ)言模型）的論文，該論文榮獲最佳論文獎(jiǎng)。
在谷歌公司內(nèi)部，在谷歌辭掉Gebru僅一天后，谷歌真正變革（Google Walkout for Real Change）組織發(fā)表了一份聲明，聲明中譴責(zé)了谷歌“史無(wú)前例的研究審查制度”，并要求谷歌在完全公開(kāi)的情況下進(jìn)行論文審查。到目前為止，這份聲明已有1600多位谷歌員工和2600多名學(xué)術(shù)界、民間社會(huì)和工業(yè)界的支持者簽名。
許多AI研究人員與學(xué)術(shù)機(jī)構(gòu)都保持著聯(lián)系。有多項(xiàng)研究發(fā)現(xiàn)，從學(xué)術(shù)界到大技術(shù)公司，大型企業(yè)或初創(chuàng)公司的工作一直在吸引著智力人才。去年10月，Air Street Capital關(guān)于AI人才狀態(tài)的報(bào)告發(fā)現(xiàn)，在2004年至2018年期間，谷歌從美國(guó)大學(xué)聘用的終身任職教授數(shù)量超過(guò)任何其他公司。
【來(lái)源：澎湃新聞】
