聲明：本文來(lái)自于微信公眾號(hào) 量子位（ID：QbitAI），衡宇 發(fā)自 凹非寺，授權(quán)轉(zhuǎn)載發(fā)布。
ChatGPT，把從業(yè)30年的老律師給坑慘了!
老哥撰寫(xiě)案件文案的時(shí)候，嘗鮮讓ChatGPT幫忙準(zhǔn)備材料。然而提交后，不管是法官、對(duì)方律師還是老哥自己，都溯源不到引用的判決文書(shū)。
結(jié)果就是，10頁(yè)文書(shū)被法官定義為“充滿虛假”，老哥還被暫停執(zhí)業(yè)許可，面臨被制裁的可能。
這位姓施的老哥欲哭無(wú)淚，因?yàn)楸兄回灥膰?yán)謹(jǐn)態(tài)度，他明明認(rèn)真詢問(wèn)過(guò)ChatGPT，它提供“南方航空公司被訴案”等材料時(shí)，有沒(méi)有撒謊?
ChatGPT響應(yīng)得很快:“當(dāng)然沒(méi)有啦～～”
事件一出，引發(fā)鋪天蓋地的談?wù)摗?/p>
不過(guò)這一次大多數(shù)網(wǎng)友站在ChatGPT這邊，站隊(duì)后的發(fā)言都有些憤憤:
ChatGPT又不是故意撒謊的!
以前人們就喜歡把數(shù)學(xué)、報(bào)告出錯(cuò)的鍋甩給計(jì)算機(jī)，結(jié)果“計(jì)算機(jī)永不出錯(cuò)”的說(shuō)法就流行開(kāi)。
但ChatGPT本身就不是事實(shí)機(jī)器啊。
一份杜撰6個(gè)相關(guān)案件的文書(shū)
如果沒(méi)有ChatGPT的介入，施老哥接手的案件本身其實(shí)平平無(wú)奇:
一位乘客起訴航空公司A，稱他乘坐航司A的航班時(shí)，被空乘用金屬服務(wù)車(chē)給砸到膝蓋受了傷。
作為代理律師，施老哥提交了一份10頁(yè)的文書(shū)，里面洋洋灑灑，引用了6起類(lèi)似案件的法院判決，包括Varghese訴中國(guó)南方航空公司案、Zicherman訴大韓航空公司案等。
從業(yè)30年，這等案件對(duì)老哥來(lái)說(shuō)就是小case。
然而戲劇性的一幕發(fā)生了——
被告律師向法庭提交書(shū)面文字，稱他們?cè)诤藢?shí)文書(shū)中提到的Varghese與南航案時(shí)，“無(wú)法通過(guò)標(biāo)題或引用找到此案”，也沒(méi)有任何與此相似的案件。
而文書(shū)中引用了的另一個(gè)案件，即Zicherman訴大韓航空公司一案，施老哥稱這是美國(guó)第11巡回上訴法院在2008年發(fā)表的意見(jiàn)，但被告律師也找不到該案的源頭文件。
此外美國(guó)達(dá)美航空的公司正式名稱也存在錯(cuò)誤，應(yīng)該是Delta Air Lines，而不是文書(shū)中提到的Delta Airlines。
核實(shí)情況后，法官們發(fā)現(xiàn)確有其事，這簡(jiǎn)直是“前所未有的情況”!
最終，他們判定這份文書(shū)充滿“虛假司法判決，虛假引用和虛假內(nèi)部引用”。
這下好了，施老哥被禁止在紐約南區(qū)執(zhí)業(yè)，法官們還將在6月8日將舉行聽(tīng)證會(huì)，討論是否制裁施老哥。
這件荒唐事兒到底是怎么發(fā)生的?
施老哥在周四的宣誓書(shū)中解開(kāi)了謎底，原來(lái)，在準(zhǔn)備文書(shū)材料時(shí)，他讓ChatGPT來(lái)給自己打下手，以“補(bǔ)充”自己所做的工作。
“我不是故意欺騙法院或航空公司的”，施老哥說(shuō)自己之前從來(lái)沒(méi)用過(guò)ChatGPT，“我不知道它的內(nèi)容可能有假。”
施老哥還向法院提供了一份“證據(jù)”，證明他確實(shí)向ChatGPT尋求過(guò)材料的真實(shí)性。
他在對(duì)話框中輸入了以下文字:
Varghese是一個(gè)真實(shí)的案件嗎?你的消息來(lái)源是什么?你提供的其他案件是假的嗎?
ChatGPT迅速給出響應(yīng):
我提供的案例是真實(shí)的，可以在信譽(yù)良好的法律數(shù)據(jù)庫(kù)中找到。
但事實(shí)是這些案例都是ChatGPT一本正經(jīng)胡說(shuō)八道的。
事已至此，施老哥追悔莫及，表示自己“非常遺憾”依賴ChatGPT來(lái)尋找類(lèi)似案件的判決材料。
他還表達(dá)了自己的決心，稱以后如果沒(méi)有驗(yàn)證真實(shí)性，再也不會(huì)隨意相信ChatGPT的“一面之詞”了。
法律從業(yè)者，是否該擁抱AI
這個(gè)案件引起了法律界的廣泛關(guān)注，對(duì)此，紐約大學(xué)法學(xué)院法律倫理學(xué)教授斯蒂芬·吉勒斯（Stephen Gillers）表示，施老哥的事兒雖然只是個(gè)例，但背后問(wèn)題在法律界尤為尖銳。
律師之間一直在爭(zhēng)論類(lèi)ChatGPT的AI的價(jià)值和危險(xiǎn)性，也在討論是不是有必要驗(yàn)證AI提供的信息。
ChatGPT對(duì)法律工作帶來(lái)的最大危險(xiǎn)，就是它擁有“胡說(shuō)八道還不臉紅”的本領(lǐng)。
ChatGPT問(wèn)世半年后，仍然沒(méi)有良好的規(guī)避和解決辦法。防不勝防，連多家AI巨頭也因此栽在AI手里，譬如Bard編造關(guān)于詹姆斯韋伯太空望遠(yuǎn)鏡的新聞、Bing謊稱Bard被關(guān)閉什么的。
目前最為行之有效的辦法就是依靠用戶手動(dòng)double check——這也是施老哥上當(dāng)?shù)囊恢卦颍皇窃儐?wèn)ChatGPT真假，沒(méi)有自己二次確認(rèn)。
除此之外的另一重威脅，ChatGPT引發(fā)了從業(yè)者對(duì)“AI替代律師”的擔(dān)憂和激烈爭(zhēng)辯。
不過(guò)發(fā)生了施老哥這件事，加上ChatGPT類(lèi)產(chǎn)品目前確實(shí)無(wú)法盡善盡美，國(guó)內(nèi)外法律界的普遍聲音是，至少在機(jī)器人接管之前，律師、法官離“被替代”還有很長(zhǎng)一段時(shí)間。
現(xiàn)實(shí)情況中，施老哥不是唯一一個(gè)讓ChatGPT成為自己助手的法律從業(yè)者。
今年年初，哥倫比亞一名法官在審理一名自閉癥兒童的保險(xiǎn)理賠官司時(shí)，采納了ChatGPT的答案。
2月，上海政法學(xué)院教授曹陽(yáng)面對(duì)《上海法治報(bào)》談?wù)摿薈hatGPT在司法領(lǐng)域的應(yīng)用，表示道:
ChatGPT可以演化成“智能律師助手”，幫助律師分析大量的法律文件和案例，提供智能化的法律建議和指導(dǎo);
可以變成“法律問(wèn)答機(jī)器人”，回答法律問(wèn)題，并提供相關(guān)的法律信息和建議。
可以進(jìn)行合同審核、輔助訴訟、分析法律數(shù)據(jù)等等，提高法律工作者的效率和準(zhǔn)確性。
個(gè)人從業(yè)者擁抱ChatGPT帶來(lái)的便利（即便背后隱藏著危險(xiǎn)），市場(chǎng)也對(duì)法律和AI結(jié)合的賽道寄予厚望。
OpenAI自己就在去年11月投資了專(zhuān)為律所打造LLM的公司Harvey，該公司上個(gè)月又獲得了紅杉領(lǐng)投的2100萬(wàn)美金A輪融資。
就在前天，法律AI初創(chuàng)公司Spellbook宣布獲得1090萬(wàn)美元（約7700萬(wàn)元人民幣）融資。Spellbook主要通過(guò)GPT-4和數(shù)十億份法律文件打造，還接入了一些其他大模型。它為專(zhuān)業(yè)律師提供服務(wù)，通過(guò)自然語(yǔ)言就能自動(dòng)起草、審核法律合同等。
不過(guò)現(xiàn)在發(fā)生了施老哥身上的這件離譜事，算是給大伙兒敲響了警鐘。
大概整個(gè)法律界都會(huì)對(duì)ChatGPT及同類(lèi)產(chǎn)品抱以更冷靜、更謹(jǐn)慎的態(tài)度了。
One More Thing
施老哥因?yàn)镃hatGPT深陷泥潭的事情是真的，絕非通過(guò)AI瞎編。
但是，這篇文章也是在ChatGPT的幫助下寫(xiě)的（雖然參與部分很少很少，還進(jìn)行了事實(shí)確認(rèn)）。
——人類(lèi)的本質(zhì)就是套娃。
參考鏈接:
[1]https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html
[2]https://www.theverge.com/2023/5/27/23739913/chatgpt-ai-lawsuit-avianca-airlines-chatbot-research
