近期，斯坦福大學(xué)社會媒體實(shí)驗室的創(chuàng)立者及錯誤信息領(lǐng)域的專家杰夫·漢考克，在一項涉及明尼蘇達(dá)州選舉法案的法庭文件中，承認(rèn)借助了人工智能工具ChatGPT來輔助整理文獻(xiàn)資料。然而，這一行為卻引發(fā)了關(guān)于文件可信度的廣泛爭議。
漢考克提交的這份宣誓證詞，旨在支持明尼蘇達(dá)州一項旨在規(guī)范使用深度偽造技術(shù)影響選舉的法案。然而，該法案正面臨來自保守派YouTuber克里斯托弗·科爾斯及明尼蘇達(dá)州眾議員瑪麗·弗蘭森等人的挑戰(zhàn)。在審查過程中，他們的律師發(fā)現(xiàn)漢考克的宣誓證詞中引用了并不存在的文獻(xiàn)，質(zhì)疑其可靠性，并請求在審議過程中將其排除。
面對質(zhì)疑，漢考克坦然承認(rèn)了自己使用了ChatGPT這一事實(shí)，但堅決否認(rèn)用它來撰寫證詞內(nèi)容。他強(qiáng)調(diào)，證詞的全部內(nèi)容均出自他之手，并且每一項主張都基于最新的學(xué)術(shù)研究，同時反映了他作為專家對于人工智能與虛假信息社會影響的深刻見解。
關(guān)于引文錯誤的問題，漢考克給出了詳細(xì)的解釋。他表示，在準(zhǔn)備證詞時，他利用Google Scholar和GPT-4來搜索可能與證詞相關(guān)的文章，以便將已知知識與新研究相結(jié)合。在創(chuàng)建引文列表的過程中，他使用了GPT-4，但并未意識到該工具生成了兩個錯誤的引文，即所謂的“幻覺”，并且為另一個引文錯誤地添加了作者。
漢考克對此表示深感抱歉，他強(qiáng)調(diào)自己無意誤導(dǎo)法院或律師，并對由此造成的混亂表示誠摯的歉意。盡管如此，他依然堅持認(rèn)為宣誓證詞中的所有實(shí)質(zhì)性觀點(diǎn)都是站得住腳的。
這一事件再次提醒我們，在利用AI輔助工作時，必須高度重視人工審核和驗證的重要性。盡管AI工具能夠為我們提供便捷和高效的服務(wù)，但其生成的內(nèi)容仍需經(jīng)過嚴(yán)格的審查，以確保其準(zhǔn)確性和可靠性。
