9月 19 日,在杭州云棲大會上,阿里云CTO周靖人宣布通義萬相全面升級,并發布全新視頻生成模型,可生成影視級高清視頻,可應用于影視創作、動畫設計、廣告設計等領域。即日起,所有用戶可通過通義APP及通義萬相官網免費體驗。

據介紹,通義萬相首批上線文生視頻、圖生視頻功能,在文生視頻功能中,用戶輸入任意文字提示詞,即可生成一段高清視頻,支持中英文多語言輸入,并可以通過靈感擴寫功能智能豐富視頻內容表現力,支持16:9、9:16等多種比例生成;在圖生視頻功能中,支持用戶將任意圖片轉化為動態視頻,按照上傳的圖像比例或預設比例進行生成,同時可以通過提示詞來控制視頻運動。
現場,阿里云演示了該模型強大的運動生成和概念組合能力,輸入「穿著滑冰鞋的小兔子在冰面上靈活移動的可愛場景」,通義萬相僅用數分鐘就能生成一段高清、逼真的視頻。
通義萬相視頻生成大模型集成了多項創新技術,有效解決畫面表現力和大幅度運動等視頻生成技術難題。針對運動生成和物理模擬等難點優化算法,實現了大幅度主體運動和運鏡控制,并有效模擬真實世界物理特性;設計了高壓縮比、高質量視頻VAE框架,有效降低視頻信息冗余,并保持高質量視頻重構能力;同時,基于輕量微調框架和精選數據集優化訓練,在中式傳統元素、風格化視頻生成上表現更好。
去年7月,通義萬相圖像生成大模型首次亮相,目前已累計生成7500萬張圖片。云棲大會現場,通義萬相宣布視覺生成大模型全面升級為Diffusion Transformer框架,同時結合通義千問復雜提示詞解釋能力,有效提升畫面表現力、語義理解能力、可控生成能力。隨著通義萬相視頻生成模型的發布,通義大模型已覆蓋文本生成、圖像理解、視頻理解、音頻理解、圖像生成、視頻生成等全模態場景。