一鍵生成“換臉”視頻作品 真假難辨的AI內(nèi)容該如何監(jiān)管？

　　這幾天，國內(nèi)AI大模型都在密集上線新的版本，其中，國內(nèi)平臺進行內(nèi)測的新一代視頻生成模型，就給相關(guān)行業(yè)帶來了巨大的震撼。只要輸入簡單的文字描述，然后一鍵點擊，這個大模型就能自動生成包含多鏡頭切換、連貫敘事和同步音效的視頻作品，影視制作的門檻大大降低，甚至有人驚呼，以后做一部電影只需要導(dǎo)演一個人就夠了。

　　但驚喜背后，驚嚇也隨之而來，由該平臺生成的明星、演員的視頻在網(wǎng)絡(luò)瘋傳，真假難辨的程度前所未見。要知道，此前的AI換臉和聲音克隆技術(shù)，就已經(jīng)讓不少人上當受騙。如今，如果假視頻的生成到了電影級別，我們?nèi)绾文芊值们逄摂M和現(xiàn)實呢？人們的肖像權(quán)、隱私權(quán)以及著作權(quán)，該如何保護？

　　臨近春節(jié)，中國的人工智能領(lǐng)域，迎來了創(chuàng)新“井噴”。去年，還是DeepSeek一枝獨秀，今年，卻是多款大模型密集升級上線，而且在多個技術(shù)賽道，實現(xiàn)重大突破。本周，在智能體編程賽道，智譜推出新一代旗艦?zāi)Ｐ虶LM-5，引爆全球技術(shù)圈。更受矚目的是，在視覺生成賽道上，字節(jié)跳動正式上線新一代AI視頻生成模型Seedance 2.0，以“可導(dǎo)演的電影級全流程生成引擎”為定位，刷屏國內(nèi)外的內(nèi)容創(chuàng)作圈。

　　只需輸入簡短描述和參考圖即可生成具備多機位運鏡、原生音效的高質(zhì)量視頻，還支持多鏡頭長敘事等功能，Seedance 2.0模型的出現(xiàn)，讓知名視頻博主潘天鴻感慨，它簡直就是萬能的視頻生成模型。潘天鴻還參與了該模型正式發(fā)布前的灰度測試，其測評視頻標題為：改變視頻行業(yè)的AI，快來了，但有點恐怖。

　　潘天鴻：它永遠帶給你的是驚喜，不是失望，這就是這個模型“恐怖”的地方。它遠超出我的預(yù)期，這個AI的特性在于它有導(dǎo)演意識，會做明確分鏡，并且所有的人物呈現(xiàn)不會失真，非常真實。

　　Seedance 2.0與國外最優(yōu)秀的視頻大模型Sora比較，誰更優(yōu)秀？本周，記者與視頻博主合作進行了測試，記者希望大模型生成一個“大熊貓參加冬奧會并完成單板滑雪內(nèi)轉(zhuǎn)1980度抓板動作”的視頻，給兩款大模型分別輸入了80字的任務(wù)提示詞。

　　Sora版的視頻，用現(xiàn)場解說可實現(xiàn)如何向?qū)I(yè)動作靠攏，而Seedance版視頻，似乎更強調(diào)炫酷，也更適合傳播。

　　再看看專業(yè)人士點評。潘天鴻團隊稱，Seedance 2.0不是工具升級，而是行業(yè)革命；測評人士之外，游戲制作人馮驥評價說：AIGC，也就是人工智能，生成多模態(tài)內(nèi)容的創(chuàng)作方式，其童年期時代，結(jié)束了，并表示，該模型是“當前地表最強視頻生成模型”；而多位美國導(dǎo)演或影視從業(yè)者，在使用之后，更是公開表達諸如“好萊塢要完蛋了”，或“這東西說不定真能搞垮好萊塢”的感慨。

　　2024年就有數(shù)據(jù)顯示，我國網(wǎng)絡(luò)視聽行業(yè)市場規(guī)模超1.22萬億元，短視頻用戶規(guī)模達到10.4億，使用率達93.8%。行業(yè)普遍認為，隨著AI視頻技術(shù)的不斷迭代，AI將深度參與從創(chuàng)意、拍攝到傳播等各個環(huán)節(jié)，內(nèi)容生產(chǎn)的產(chǎn)業(yè)鏈將發(fā)生重構(gòu)。

　　一句話、一個人，就能拍電影，很多媒體用“顛覆”二字來形容Seedance 2.0的性能。它顛覆的不僅僅是整個行業(yè)，對個體來說，還在顛覆人的判斷力。在Seedance 2.0灰度測試的真人照片生成視頻階段，由于生成的視頻過于逼真，有評論就說，其以假亂真的程度，讓“眼見為實”四個字，受到更大的挑戰(zhàn)。

　　如今，新一代視頻大模型的出現(xiàn)，讓仿真能力更強，技術(shù)門檻更低，當然也讓人更擔(dān)憂。爭議之下，這個大模型內(nèi)測僅僅兩天之后，企業(yè)就宣布緊急優(yōu)化，暫停使用真人圖像作為主體參考，在本周四正式上線的版本中，這個功能也依舊不能使用。大家都在問：這個功能會恢復(fù)嗎？更重要的是：我們該如何為這項強大的技術(shù)，劃定清晰的邊界？

　　在沒有向AI提供任何聲音文件的情況下，僅僅上傳了一張照片，AI就自動匹配出了本人的聲音。Seedance 2.0的爆火，帶來的不僅是技術(shù)的驚嘆，更引發(fā)了公眾對隱私權(quán)的深層擔(dān)憂。

　　擔(dān)心不止于此。在此前Seedance 2.0內(nèi)測期間，就有網(wǎng)友利用該工具生成與明星的相關(guān)視頻，導(dǎo)致名人形象被隨意使用，“魔改”內(nèi)容泛濫。相比于此前語言大模型在文本層面的突破，Seedance 2.0所帶來的視頻生成能力的飛躍，更像是一個被打開的潘多拉魔盒。

　　短短兩天內(nèi)測，Seedance 2.0已暴露出諸多侵權(quán)風(fēng)險，其中爭議最大的是真人素材參考功能。2月9日，相關(guān)運營方在內(nèi)測群內(nèi)發(fā)布通知，進行緊急優(yōu)化，暫不支持輸入真人素材作為主體參考。而在本周四Seedance 2.0正式上線時，真人圖像參考功能依然無法使用。

　　真人素材的參考功能，如何才能合規(guī)、安全地使用呢？個人信息保護法中已有明確說法，人臉、聲音等生物識別信息，被明確界定為“敏感個人信息”。而法律也明確規(guī)定，處理此類信息，應(yīng)當取得個人的單獨同意。

　　除了真人素材，Seedance 2.0還面臨著影視動漫作品版權(quán)侵權(quán)的隱憂。

　　AI生成的視頻，越來越難辨真假，那些負責(zé)生成視頻的AI平臺，理應(yīng)是第一責(zé)任人，必須建立完善的內(nèi)部、外部監(jiān)督機制，防止侵權(quán)視頻的產(chǎn)生。但除了生成平臺，那些發(fā)布、傳播這些視頻的短視頻平臺、社交媒體，同樣責(zé)無旁貸。在AI內(nèi)容海量生成、瞬時傳播的今天，單靠個人舉報和事后刪除已經(jīng)遠遠不夠。平臺是否應(yīng)該把責(zé)任前置，建立更嚴格的審核機制，從源頭上遏制這些侵權(quán)視頻的發(fā)布和傳播呢？

　　根據(jù)明星、名人形象合成的視頻，充斥在各類短視頻平臺和社交媒體，有的涉嫌侵權(quán)，有的甚至被用來帶貨，作為傳播平臺，該負怎樣的責(zé)任呢？民法典規(guī)定，網(wǎng)絡(luò)用戶利用網(wǎng)絡(luò)服務(wù)實施侵權(quán)行為的，權(quán)利人有權(quán)通知網(wǎng)絡(luò)服務(wù)提供者采取刪除、屏蔽、斷開鏈接等必要措施，這就是“避風(fēng)港原則”。在這一原則下，平臺只需要按“通知—刪除”的原則進行事后補救。專家認為，在海量AI生成內(nèi)容涌現(xiàn)的當下，這一原則顯然已經(jīng)需要改進。

　　其實，民法典中已有規(guī)定，網(wǎng)絡(luò)服務(wù)提供者知道或者應(yīng)當知道網(wǎng)絡(luò)用戶利用其網(wǎng)絡(luò)服務(wù)侵害他人民事權(quán)益，未采取必要措施的，與該網(wǎng)絡(luò)用戶承擔(dān)連帶責(zé)任。其中，“應(yīng)當知道”四個字，意味著平臺要承擔(dān)起更多的注意義務(wù)，專家認為，面對AI侵權(quán)視頻，網(wǎng)絡(luò)平臺應(yīng)該從事后刪除的被動應(yīng)對，轉(zhuǎn)向事前識別和審核的主動治理。

　　目前，各大傳播平臺已普遍采用一定的過濾和攔截技術(shù)，防止侵權(quán)視頻的傳播。在專家看來，相比傳播平臺，作為內(nèi)容提供者的AI視頻生成平臺，在侵權(quán)違法內(nèi)容的審查中，理應(yīng)承擔(dān)更高的責(zé)任。2023年8月開始施行的《生成式人工智能服務(wù)管理暫行辦法》中就明確，生成式人工智能服務(wù)提供者應(yīng)當依法承擔(dān)網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責(zé)任，履行網(wǎng)絡(luò)信息安全義務(wù)。

　　AI的不斷升級，也需要監(jiān)管的發(fā)力。本周四，國家網(wǎng)信辦表示，針對發(fā)布AI生成信息時不添加標識、傳播虛假不實內(nèi)容等問題，已開展專項整治，已處置賬號1.3萬余個，清理違法違規(guī)信息54.3萬條，典型案例中，就包含了AI換臉假冒運動員、售賣AI生成的公眾人物“送祝福”視頻等情形。

　　從文字、圖片、聲音，再到如今愈發(fā)逼真的視頻生成，AI技術(shù)的迭代速度，已經(jīng)超出了很多人的想象。但AI發(fā)展得越快，我們越需要停下來思考一個根本問題：我們發(fā)展AI，究竟是為了什么？如果科技進步帶來的是一個越來越難以分辨真與假、善與惡、美與丑的世界，這樣的“進步”，是我們想要的嗎？技術(shù)的發(fā)展，永遠都是一把雙刃劍，為了避免技術(shù)被濫用，相關(guān)的監(jiān)管和規(guī)則的制定，也必須加速跟上。

（文章來源：央視新聞）

(原標題：一鍵生成“換臉”視頻作品 真假難辨的AI內(nèi)容該如何監(jiān)管？)

(責(zé)任編輯：38)