近日，科技媒體TechCrunch披露了一則關(guān)于OpenAI視頻生成器Sora的重大安全事件。一個(gè)神秘組織宣稱，他們已獲取Sora的訪問(wèn)權(quán)限，并將這一技術(shù)公之于眾，以此抗議OpenAI的不當(dāng)行為。
據(jù)悉，該組織在人工智能開(kāi)發(fā)平臺(tái)Hugging Face上發(fā)布了一個(gè)項(xiàng)目，該項(xiàng)目與OpenAI尚未公開(kāi)的Sora API緊密相關(guān)。通過(guò)某種方式，他們獲得了身份驗(yàn)證令牌，并創(chuàng)建了一個(gè)前端界面，使得用戶無(wú)需直接訪問(wèn)OpenAI的系統(tǒng)，即可生成視頻。這一前端允許用戶輸入簡(jiǎn)短的文字描述，隨后生成最高可達(dá)1080p分辨率的10秒視頻。盡管在TechCrunch嘗試時(shí)，系統(tǒng)排隊(duì)時(shí)間較長(zhǎng)，但仍有用戶成功上傳了樣本視頻，這些視頻大多帶有OpenAI獨(dú)特的視覺(jué)水印。
然而，這一前端很快便無(wú)法訪問(wèn)。據(jù)推測(cè)，OpenAI和/或Hugging Face可能已經(jīng)撤銷了相關(guān)訪問(wèn)權(quán)限。緊接著，該組織聲稱OpenAI已暫時(shí)關(guān)閉了所有藝術(shù)家對(duì)Sora的早期訪問(wèn)權(quán)限。
該組織自稱為“Sora PR Puppets”，他們?cè)谇岸私缑嫔习l(fā)布的帖子中詳細(xì)闡述了此次行動(dòng)的原因。他們指責(zé)OpenAI向早期測(cè)試人員施壓，要求他們編造正面的敘述，但并未給予他們應(yīng)有的補(bǔ)償。這些早期測(cè)試人員包括紅隊(duì)成員和創(chuàng)意合作伙伴，他們?yōu)镾ora的早期訪問(wèn)計(jì)劃提供了大量的漏洞測(cè)試、反饋和實(shí)驗(yàn)工作。然而，該組織認(rèn)為，這一計(jì)劃似乎更多地與公關(guān)和廣告有關(guān)，而非創(chuàng)意表達(dá)和批評(píng)。
除了瑪麗貝絲·勞（Maribeth Rauh），這位曾在谷歌DeepMind擔(dān)任研究工程師的知名人士外，該組織還列出了部分成員名單。他們聲稱，OpenAI對(duì)早期訪問(wèn)用戶進(jìn)行了嚴(yán)格控制，誤導(dǎo)了人們對(duì)Sora能力的認(rèn)識(shí)。每個(gè)Sora輸出都需要經(jīng)過(guò)OpenAI的批準(zhǔn)才能共享，且只有少數(shù)創(chuàng)作者的作品會(huì)被選中進(jìn)行放映。
“我們并不反對(duì)將人工智能技術(shù)用作藝術(shù)工具，但我們不同意這個(gè)藝術(shù)家計(jì)劃的推出方式，以及該工具在可能公開(kāi)發(fā)布之前的發(fā)展情況。”該組織在帖子中寫(xiě)道，“我們向全世界分享這一點(diǎn)，希望OpenAI變得更加開(kāi)放、更加支持藝術(shù)家和藝術(shù)，而不僅僅是公關(guān)噱頭。”
對(duì)此，OpenAI發(fā)言人回應(yīng)稱，Sora仍處于研究預(yù)覽階段，公司正在努力在創(chuàng)造力與強(qiáng)有力的安全措施之間取得平衡。發(fā)言人表示：“我們alpha版的數(shù)百名藝術(shù)家塑造了Sora的發(fā)展，幫助確定新功能和保障措施的優(yōu)先順序。參與是自愿的，沒(méi)有提供反饋或使用該工具的義務(wù)。我們很高興為這些藝術(shù)家提供免費(fèi)訪問(wèn)權(quán)限，并將繼續(xù)通過(guò)贈(zèng)款、活動(dòng)和其他計(jì)劃支持他們。”然而，發(fā)言人并未明確說(shuō)明何為負(fù)責(zé)任的使用，也未指出哪些細(xì)節(jié)是機(jī)密的。
自今年早些時(shí)候首次亮相以來(lái)，Sora一直面臨技術(shù)挫折。競(jìng)爭(zhēng)對(duì)手在視頻生成領(lǐng)域拼命追趕，而Sora的聯(lián)合負(fù)責(zé)人之一Tim Brooks也于10月初離開(kāi)OpenAI加盟谷歌。OpenAI首席產(chǎn)品官Kevin Weil在最近的Reddit AMA上表示，Sora的發(fā)展受到模型完善、安全/模擬/其他事項(xiàng)確保無(wú)誤以及計(jì)算能力擴(kuò)展的阻礙。
據(jù)The Information報(bào)道，Sora的原始系統(tǒng)需要10多分鐘的處理時(shí)間才能制作出一分鐘的視頻片段。一致性也是Sora早期迭代的一個(gè)問(wèn)題。電影制作人Patrick Cederberg曾表示，他需要制作數(shù)百個(gè)剪輯才能得到一個(gè)可用的剪輯，因?yàn)槟Ｐ秃茈y在整個(gè)視頻中保持風(fēng)格、物體和角色的連貫性。
然而，根據(jù)X用戶發(fā)現(xiàn)的代碼，泄露的Sora似乎是一款速度更快的渦輪版本。該代碼還揭示了樣式控件和有限的自定義選項(xiàng)的存在。據(jù)The Information報(bào)道，OpenAI一直在使用數(shù)百萬(wàn)小時(shí)的高質(zhì)量剪輯來(lái)訓(xùn)練Sora，以提高其生成視頻的質(zhì)量。這些剪輯涵蓋了多種風(fēng)格和主題。
除了技術(shù)障礙外，OpenAI近幾個(gè)月來(lái)還失去了寶貴的合作空間。Runway與《疾速追殺》的制作公司Lionsgate簽署協(xié)議，將根據(jù)Lionsgate的電影目錄訓(xùn)練一個(gè)自定義視頻模型。同時(shí)，正在開(kāi)發(fā)自己視頻生成模型的Stability也招募了《阿凡達(dá)》導(dǎo)演詹姆斯·卡梅隆加入其董事會(huì)。相比之下，OpenAI雖然今年早些時(shí)候曾與電影制片人和好萊塢電影公司會(huì)面，演示Sora，但尚未宣布與大型制作公司合作。
此次事件無(wú)疑給OpenAI帶來(lái)了不小的挑戰(zhàn)。隨著競(jìng)爭(zhēng)對(duì)手的迅速崛起和市場(chǎng)的不斷變化，OpenAI需要更加謹(jǐn)慎地處理與藝術(shù)家和合作伙伴的關(guān)系，以確保Sora的順利發(fā)展。
同時(shí)，此次事件也引發(fā)了人們對(duì)人工智能技術(shù)倫理和責(zé)任的關(guān)注。如何確保技術(shù)的公平使用和藝術(shù)家的權(quán)益保護(hù)，將成為未來(lái)人工智能技術(shù)發(fā)展中不可忽視的問(wèn)題。
