10 月 21 日消息,復旦大學和百度聯合開發了一款名為 Hallo2 的全新 AI 模型,該模型可以生成長達數小時的 4K 分辨率人物動畫,現已在 GitHub 發布開源。
Hallo2 模型建立在 latent diffusion models 的基礎上,相比上一代 Hallo 模型的效果更好,支持了長視頻生成,通過引入數據增強方法如 patch-drop 和高斯噪聲,有效提高了長時間視頻的視覺一致性和時間連貫性。
Hallo2 還結合了向量量化生成對抗網絡和時間對齊技術,保證了高分辨率視頻的質量和流暢性。
此外,Hallo2 將可調整的語義文本標簽的肖像表情作為條件輸入。這超出了傳統的音頻提示,可以提高可控性并增加所生成內容的多樣性。項目頁面介紹稱,Hallo2 是第一種實現 4K 分辨率并生成長達 1 小時的音頻驅動的人像圖像動畫的方法,并通過文本提示進行增強。
IT之家附 Hallo2 項目地址如下:
https://fudan-generative-vision.github.io/hallo2/#/
【來源:IT之家】