今年是 AI 視頻生成爆發(fā)的元年，以 Sora 為代表的算法模型和產(chǎn)品應(yīng)用不斷涌現(xiàn)。短短幾個(gè)月內(nèi)，我們目睹了幾十種視頻生成工具的問世，基于 AI 的視頻創(chuàng)作方式開始流行起來。

　　但新技術(shù)也引發(fā)更多的挑戰(zhàn)與質(zhì)疑，除了大家熟知的 “開盲盒”現(xiàn)象，AI 所生成的視頻內(nèi)容也因可控性差、處理工作流繁瑣而頻頻被詬病。

　　OpenAI 曾經(jīng)邀請(qǐng)專業(yè)視頻制作團(tuán)隊(duì)對(duì) Sora 進(jìn)行了測試，其中來自于多倫多的 Shy Kids 團(tuán)隊(duì)，利用 Sora 制作了一個(gè)氣球人主題的短片，把創(chuàng)意和 AI 技術(shù)進(jìn)行了完美的結(jié)合，讓人印象深刻。

　　整個(gè)短片其實(shí)并不是 Sora 直接輸出的結(jié)果，而是由多個(gè)視頻片段組成，且 Sora 在生成不同視頻時(shí)，很難保證主角的一致性。因此，在引入了大量的人工后期編輯，他們才呈現(xiàn)出最終的短片效果。Shy Kids 的主創(chuàng)們總結(jié)，“Sora 的技術(shù)很酷，但是它的生成過程很難控制。”

　　對(duì)生成內(nèi)容的精準(zhǔn)可控，是 AI 視頻創(chuàng)作中的重要需求，也是今天算法面臨的一大挑戰(zhàn)。

　　為此，在剛結(jié)束的上海世界人工智能大會(huì)(WAIC)上，達(dá)摩院發(fā)布了一站式 AI 視頻創(chuàng)作平臺(tái) “尋光”。

　　其定位為 PUGC 一站式 AI 視頻創(chuàng)作平臺(tái)，可輔助用戶創(chuàng)作劇本、分鏡圖等，并通過工作流整合提升創(chuàng)作全流程的效率，支持對(duì)生成及上傳素材進(jìn)行豐富的 AI 編輯，提供人物控制、場景控制、風(fēng)格遷移、運(yùn)鏡控制、目標(biāo)新增 / 消除 / 修改等十多種 AI 編輯功能，讓視頻中的元素和對(duì)象精準(zhǔn)可控。

　　達(dá)摩院希望借由尋光平臺(tái)進(jìn)一步提升 AI 視頻創(chuàng)作的效率，目標(biāo)是用 AI 能力重塑傳統(tǒng)視頻制作的整個(gè)流程，打造 AI 時(shí)代的全新視頻工作流。

　　業(yè)界首次落地

　　基于圖層的視頻編輯

　　在尋光研發(fā)的初期，達(dá)摩院還與影視傳媒從業(yè)者及創(chuàng)作者進(jìn)行了廣泛且密集調(diào)研，了解其對(duì)于視頻 AIGC 創(chuàng)作的需求與痛點(diǎn)。他們發(fā)現(xiàn)，視頻圖層幾乎是所有視頻創(chuàng)作者們提到頻次最高、最迫切的需求。

　　基于此，尋光平臺(tái)首次在行業(yè)推出系統(tǒng)性的視頻圖層編輯功能。用戶通過文本輸入，即可生成符合文本描述且具有透明背景的視頻，并且一鍵將其融合到其他背景視頻當(dāng)中。在傳統(tǒng)視頻生成能力的基礎(chǔ)上，用圖層這樣一種更靈活的形式來產(chǎn)生內(nèi)容。

　　尋光更提供圖層拆解功能，輕輕一圈，選定目標(biāo)立刻拆解為單獨(dú)的圖層視頻，再絲滑嵌入不同的背景視頻。

　　用戶可以將不同的前景圖層跟不同的背景進(jìn)行圖層融合，組合出更多新的視頻。圖層融合的能力進(jìn)一步激發(fā) AI 創(chuàng)作力和想象力，同時(shí)能夠保持多個(gè)分鏡頭之間的場景和人物的一致性。

　　在達(dá)摩院看來，AI 不會(huì)取代創(chuàng)作者的工作，而是會(huì)優(yōu)化視頻創(chuàng)作的工作流，成為創(chuàng)意驅(qū)動(dòng)的新引擎。

　　一站式 AI 創(chuàng)作平臺(tái)

　　更簡潔的交互，更豐富的編輯能力

　　劇本創(chuàng)作、分鏡設(shè)計(jì)、素材編輯…… 傳統(tǒng)的視頻創(chuàng)作步驟分工明晰、周期冗長。在 AI 技術(shù)的加持下，原本分散在不同制作流程中的創(chuàng)作步驟，如今都可以在尋光平臺(tái)上流暢完成。

　　“我們希望讓視頻編輯像操作 ppt 一樣簡潔直觀，容易上手。” 達(dá)摩院視覺技術(shù)實(shí)驗(yàn)室高級(jí)算法專家陳威華在現(xiàn)場介紹，尋光平臺(tái)的一大亮點(diǎn)在交互方面。

　　尋光平臺(tái)在設(shè)計(jì)時(shí)便充分考慮到 AI 視頻創(chuàng)作的特點(diǎn)，將每個(gè)視頻項(xiàng)目抽象為多個(gè)分鏡頭畫面，用戶可根據(jù)劇本自動(dòng)生成一組分鏡頭，也可以自己上傳原始視頻素材，由算法切分成多個(gè)分鏡頭。

　　在創(chuàng)作空間里，用戶可以很方便的查看每一個(gè)分鏡頭，一個(gè)場景內(nèi)的多個(gè)分鏡頭可以收起或者展開，場景之間可以通過拖拽來調(diào)整順序，場景內(nèi)的分鏡頭也可以進(jìn)行拖拽。用戶也可以在任意位置上進(jìn)行分鏡頭的添加和新建，可調(diào)用圖片生成或者視頻生成能力去產(chǎn)生內(nèi)容，也可以添加自己已有的各種素材。

　　對(duì)于每個(gè)分鏡頭，尋光提供完整且智能的 AI 視頻編輯能力進(jìn)行處理，可依據(jù)用戶意圖，在語義層面而不是像素層面實(shí)現(xiàn)編輯。分鏡頭里的人體、人臉、前景、背景等任意局部目標(biāo)，都可以進(jìn)行精細(xì)化的編輯和修改。

　　比如，理解空間景深的運(yùn)鏡控制;

　　又比如，能夠理解物體相對(duì)關(guān)系的目標(biāo)消除 / 修改。

　　在對(duì)視頻全局元素的編輯上，尋光平臺(tái)提供了超過20種的風(fēng)格遷移。

　　尋光也提供幀率控制、視頻超分等實(shí)用的視頻編輯功能。

　　“我們希望一個(gè)視頻里的所有元素都是可編輯、可修改的，這樣可以給用戶的創(chuàng)作提供最大的自由度”，陳威華說。

　　寫在最后

　　今天，我們正處在 AIGC 的變革浪潮之中，AI 有可能催生出新的視頻工作流。無論是專業(yè)的影視從業(yè)者還是熱愛創(chuàng)作的 UGC 用戶，都將從中獲益。

　　“工欲善其事，必先利其器”，達(dá)摩院希望尋光視頻創(chuàng)作平臺(tái)能夠成為每一位創(chuàng)作者的專屬視頻工作室，實(shí)現(xiàn) AI 與創(chuàng)作者之間更緊密、高效的協(xié)作，真正釋放 AI 的生產(chǎn)力。

　　為此，達(dá)摩院視覺技術(shù)實(shí)驗(yàn)室已做了大量技術(shù)儲(chǔ)備。該實(shí)驗(yàn)室致力于多模態(tài)視覺信號(hào)的理解與生成技術(shù)研究，當(dāng)前的重點(diǎn)研究方向包括更加精準(zhǔn)的圖像 / 視頻 /3D 內(nèi)容生成，更加可控的圖像 / 視頻 /3D 內(nèi)容編輯，更加高效的生成框架，多模態(tài)的理解 - 生成框架等。

　　陳威華表示，“尋光”將于近期開放內(nèi)測，持續(xù)迭代，優(yōu)化交互，歡迎創(chuàng)作者們來定制屬于自己的 AI 工作流。