(網(wǎng)經(jīng)社訊)9月7日消息,阿里云近日推出全新視頻生成大模型I2VGen-XL,并在魔搭社區(qū)開放體驗(yàn),用戶上傳一張圖片后2分鐘左右即可生成一段1280*720的高分辨率視頻,該模型研發(fā)負(fù)責(zé)人表示,未來(lái)將進(jìn)一步實(shí)現(xiàn)2K超清效果,可應(yīng)用于短視頻內(nèi)容生產(chǎn)、電影制作等場(chǎng)景。
據(jù)介紹,和業(yè)界爆火的AI繪畫創(chuàng)作大模型不同,視頻生成大模型的技術(shù)門檻更高,其需要克服文本和視頻內(nèi)容匹配度、視頻畫面質(zhì)量、畫面連續(xù)性等諸多技術(shù)挑戰(zhàn)。
在此之前,阿里云和微軟等科技公司相繼推出一系列可控視頻生成研究成果,例如用戶可通過(guò)定義空間布局、運(yùn)動(dòng)模式等條件來(lái)生成視頻,但其畫面清晰度難以滿足真實(shí)場(chǎng)景應(yīng)用的需求。
據(jù)網(wǎng)經(jīng)社云計(jì)算臺(tái)(CC.100EC.CN)獲悉,針對(duì)該問題,阿里云進(jìn)一步提出創(chuàng)新思路,I2VGen-XL模型設(shè)計(jì)了兩個(gè)階段,首先在低分辨率條件下保證生成結(jié)果和給定圖像語(yǔ)義的匹配度,隨后通過(guò)視頻擴(kuò)散模型(VLDM)來(lái)提高視頻分辨率,并同時(shí)提升時(shí)間和空間上的一致性,保證最終視頻內(nèi)容的清晰度和連貫性,最終實(shí)現(xiàn)1280*720高分辨率的突破,并且在畫面細(xì)節(jié)的展現(xiàn)上大幅領(lǐng)先現(xiàn)有模型。
該模型的訓(xùn)練還使用了多種風(fēng)格的視頻數(shù)據(jù),因此可生成科技感、電影色、卡通風(fēng)格和素描等類型豐富的視頻。
目前,I2VGen-XL的模型和代碼均已開源,國(guó)內(nèi)外社交媒體顯示,該模型已吸引國(guó)內(nèi)外用戶和開發(fā)者的廣泛體驗(yàn)和二次開發(fā),涌現(xiàn)了大量創(chuàng)意AI視頻生成內(nèi)容,例如在城堡上展翅的恐龍、宇航員在飛船中行走的科幻電影畫面等等。
在視覺生成領(lǐng)域,阿里云此前已推出AI繪畫創(chuàng)作大模型通義萬(wàn)相(基座模型Composer)和可控視頻生成模型VideoComposer,團(tuán)隊(duì)在該領(lǐng)域發(fā)表60多篇CCF-A類論文,并在國(guó)際頂級(jí)視覺競(jìng)賽中獲得10余項(xiàng)冠軍。