AI內(nèi)容“持證上崗”首測(cè)：35款應(yīng)用，誰(shuí)是漏網(wǎng)之魚(yú)

　　AI內(nèi)容的“身份標(biāo)識(shí)”正在全面落地。

　　9月1日，國(guó)家網(wǎng)信辦等四部門(mén)聯(lián)合發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》及配套國(guó)標(biāo)正式實(shí)施，要求文本、圖片、音頻、視頻、虛擬場(chǎng)景等AI合成內(nèi)容需加上標(biāo)識(shí)。用戶和傳播平臺(tái)也有責(zé)任標(biāo)明“內(nèi)容由AI生成”，以免與真實(shí)信息混淆。

　　當(dāng)天，DeepSeek、騰訊元寶、MiniMax等AI廠商宣布已上線AI標(biāo)識(shí)體系。微博、快手、B站、微信等社交平臺(tái)亦發(fā)布公告，提醒用戶主動(dòng)聲明，并增設(shè)了“未有AI標(biāo)識(shí)”的投訴選項(xiàng)。

　　雖然大部分公司都發(fā)布了響應(yīng)公告，但仍有被忽視的場(chǎng)景。21記者實(shí)測(cè)了35款應(yīng)用，其中2款未在圖片中標(biāo)識(shí)AI，4款未在交互頁(yè)面標(biāo)識(shí)AI。尤其是APP內(nèi)置的智能助手，具備深度思考、聯(lián)網(wǎng)搜索、生成長(zhǎng)文的能力，但沒(méi)有按要求提示AI生成。

　　執(zhí)行顆粒度存在差異，業(yè)內(nèi)也發(fā)現(xiàn)了爭(zhēng)議：只總結(jié)私域的AI功能，是否必須標(biāo)識(shí)？AI智能客服在監(jiān)管范圍內(nèi)嗎？下游的社交平臺(tái)，又該如何對(duì)待用戶的AI創(chuàng)作？

　　“AI標(biāo)識(shí)是一切治理的前提?！睆V東財(cái)經(jīng)大學(xué)法學(xué)院教授姚志偉向21記者強(qiáng)調(diào)，深度偽造和AI虛假信息事件頻發(fā)，AI標(biāo)識(shí)是非常重要的應(yīng)對(duì)方法。接下來(lái)的關(guān)鍵，是在實(shí)踐中找到平衡合規(guī)與用戶體驗(yàn)的合理邊界。

　　新規(guī)：文字、音頻、圖像分別標(biāo)識(shí)

　　隨著AI虛假信息、深度偽造換臉等事件越來(lái)越頻繁，建立更全面的AI標(biāo)識(shí)更為必要。今年4 月，中央網(wǎng)信辦開(kāi)展了為期 3 個(gè)月的“清朗·整治 AI 技術(shù)濫用”專(zhuān)項(xiàng)行動(dòng)。AI 生成外國(guó)人帶貨、AI內(nèi)容農(nóng)場(chǎng)批量生產(chǎn)謠言、企業(yè)家和公眾人物被換臉換聲，已是互聯(lián)網(wǎng)的共性問(wèn)題。

　　新規(guī)《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》明確了AI生成內(nèi)容的標(biāo)識(shí)方式，包括可肉眼分辨的“顯式標(biāo)識(shí)”，以及嵌入文件數(shù)據(jù)的“隱式標(biāo)識(shí)”。

　　配套的強(qiáng)制性國(guó)家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù)人工智能生成合成內(nèi)容標(biāo)識(shí)方法》進(jìn)一步細(xì)化了不同場(chǎng)景的標(biāo)識(shí)。例如，如果是AI合成圖片，需要用不低于畫(huà)面最短邊長(zhǎng)度的5%的文字，清晰標(biāo)明“AI/人工智能”和“生成/合成”。

　　標(biāo)識(shí)責(zé)任不僅在于AI平臺(tái)，新規(guī)還要求用戶不得刪除或篡改標(biāo)識(shí)，社交平臺(tái)和應(yīng)用商店需核驗(yàn)AI內(nèi)容是否帶有標(biāo)識(shí)。這意味著AI內(nèi)容的生產(chǎn)、制作、傳播、分發(fā)環(huán)節(jié)都被納入監(jiān)管鏈條。

　　事實(shí)上，我國(guó)此前已有《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等部門(mén)規(guī)章要求標(biāo)明AI生成內(nèi)容的標(biāo)識(shí)義務(wù)，但要求較為寬泛。新規(guī)的亮點(diǎn)主要是細(xì)化了場(chǎng)景、責(zé)任主體和后果。

　　“AI標(biāo)識(shí)是治理的前提。”姚志偉向21記者解釋?zhuān)拖窕ヂ?lián)網(wǎng)廣告必須先標(biāo)明是廣告，后續(xù)合規(guī)要求才有落實(shí)的可能性。從保障社會(huì)安全到保護(hù)知識(shí)產(chǎn)權(quán)、個(gè)人權(quán)利，都是AI內(nèi)容治理的課題，也是AI標(biāo)識(shí)想應(yīng)對(duì)的問(wèn)題。

　　對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)法學(xué)院教授張欣此前也指出，添加了AI內(nèi)容標(biāo)識(shí)后，用戶才能知道自己接收到的內(nèi)容來(lái)源。此類(lèi)信息區(qū)分，是互聯(lián)網(wǎng)內(nèi)容治理的基礎(chǔ)原則。

　　實(shí)測(cè)：大部分應(yīng)用已合規(guī)到位

　　9月1日，21記者按7月月活數(shù)首先選取了20款A(yù)I應(yīng)用測(cè)評(píng)，大部分應(yīng)用已合規(guī)，但執(zhí)行顆粒度有差異。

　　在交互頁(yè)面上，除了百度網(wǎng)盤(pán)，其他應(yīng)用均有一行“內(nèi)容由AI生成”的標(biāo)識(shí)。在圖像和視頻生成上，除了天工AI和百度文庫(kù)，其他應(yīng)用都在圖像中有“AI生成”水印。

　　按照新規(guī)，頁(yè)面標(biāo)識(shí)和文字標(biāo)識(shí)“二選一”即可。多位AI廠商法務(wù)坦言，由于擔(dān)心影響用戶體驗(yàn)，幾乎沒(méi)有平臺(tái)會(huì)選擇后者。而頁(yè)面標(biāo)識(shí)，各個(gè)平臺(tái)做法各異。

　　不少平臺(tái)雖然提示了“該內(nèi)容由AI生成”，但位置、字號(hào)和顏色幾乎難以辨認(rèn)。比如，百度網(wǎng)盤(pán)內(nèi)置的“云小朵智能助手”，只在頁(yè)面背景里用“隱形水印”的方式斜印了標(biāo)識(shí)。

　　目前，僅有DeepSeek會(huì)在對(duì)話框附近以醒目的黃色字體標(biāo)注，限于金融、法律、醫(yī)療類(lèi)回答，并未覆蓋全部?jī)?nèi)容。

　　在音頻內(nèi)容標(biāo)識(shí)方面，只有MiniMax同時(shí)提供了頁(yè)面標(biāo)識(shí)和音頻標(biāo)識(shí)。音頻標(biāo)識(shí)為可選項(xiàng)，默認(rèn)關(guān)閉，開(kāi)啟后，語(yǔ)音末尾會(huì)自動(dòng)插入“短-長(zhǎng)-短-短”的提示音（摩斯密碼中的“AI”）。

（上圖｜DeepSeek內(nèi)容附近的AI標(biāo)識(shí)；下圖｜MiniMax的音頻標(biāo)識(shí)）

　　對(duì)于圖像和視頻，新規(guī)要求在畫(huà)面位置顯著標(biāo)識(shí)。測(cè)評(píng)發(fā)現(xiàn)，百度文庫(kù)的智能漫畫(huà)只顯示產(chǎn)品LOGO，沒(méi)有標(biāo)明“AI生成”；而天工AI的圖片和視頻中則沒(méi)有任何標(biāo)識(shí)。

　　21記者已將發(fā)現(xiàn)問(wèn)題反饋給各個(gè)平臺(tái)。9月4日，昆侖萬(wàn)維調(diào)整并回應(yīng)稱(chēng)：圖片已經(jīng)上線了AI標(biāo)識(shí)，目前所有線上可用功能為合規(guī)狀態(tài)。

　　問(wèn)題：APP內(nèi)智能助手未規(guī)范？

　　我們?cè)跍y(cè)評(píng)中進(jìn)一步發(fā)現(xiàn)，不少產(chǎn)品內(nèi)嵌了AI智能助手，這也是一個(gè)容易被忽視的標(biāo)識(shí)場(chǎng)景。

　　從功能上看，AI智能助手可分為兩類(lèi)：一類(lèi)是通用聊天搜索，如百度網(wǎng)盤(pán)“云一朵”，實(shí)際具備深度思考、聯(lián)網(wǎng)搜索、生成長(zhǎng)文等功能。但前述三種產(chǎn)品的對(duì)話頁(yè)面、對(duì)話內(nèi)容，都未見(jiàn)明顯的AI標(biāo)識(shí)。

　　另一類(lèi)功能更窄，只能回答特定業(yè)務(wù)問(wèn)題，或者總結(jié)私域文件。例如BOSS直聘的“直閃閃”，只回答職場(chǎng)話題，無(wú)法展開(kāi)開(kāi)放式對(duì)話。

　　那么，這兩類(lèi)智能助手是否需要遵守《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》？

　　一位大廠AI合規(guī)法務(wù)表示，雖然法規(guī)原本針對(duì)AIGC產(chǎn)品或服務(wù)，但條款沒(méi)有限定必須是純AI產(chǎn)品?！痘ヂ?lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十七條已明確，“智能對(duì)話、智能寫(xiě)作等模擬自然人進(jìn)行文本生成或編輯服務(wù)”均屬生成服務(wù)。因此，產(chǎn)品內(nèi)的AI功能也應(yīng)遵守新規(guī)。

　　姚志偉也認(rèn)為，能廣泛搜索、總結(jié)第三方信息的AI助手，顯然需要標(biāo)識(shí)。但如果AI助手僅能回答特定問(wèn)題，比如一些航空公司在實(shí)踐的智能客服，其邊界仍不夠清晰。

　　姚志偉提到，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十七條中一項(xiàng)關(guān)鍵表述是“深度合成服務(wù)可能導(dǎo)致公眾混淆或者誤認(rèn)”。該前提留有一定解釋空間，可能會(huì)成為監(jiān)管考慮要不要發(fā)布行政通知的依據(jù)。

　　“尤其是現(xiàn)在越來(lái)越多電話客服，很難分辨是AI還是人?！币χ緜パa(bǔ)充道，海外如美國(guó)已經(jīng)對(duì)這類(lèi)智能客服進(jìn)行監(jiān)管，要求機(jī)器不能偽裝成人。我國(guó)AI標(biāo)識(shí)新規(guī)屬于內(nèi)容標(biāo)識(shí)，而非身份標(biāo)識(shí)，沒(méi)有明確規(guī)定AI能否自稱(chēng)為人。在他看來(lái)，這也是未來(lái)需要探索的邊界之一。

　　擔(dān)憂：商業(yè)使用，限流措施？

　　AI廠商擔(dān)心的用戶體驗(yàn)并非空穴來(lái)風(fēng)。AI標(biāo)識(shí)新規(guī)落地后，也出現(xiàn)了一些用戶爭(zhēng)議，主要集中在兩方面：

　　第一種爭(zhēng)議圍繞商業(yè)素材使用。

　　在設(shè)計(jì)和影視等場(chǎng)景，AI常被作為輔助工具。一位設(shè)計(jì)師告訴21記者，借助AI生成3D風(fēng)格素材已經(jīng)是他日常工作流的一部分。最終成品并非AI一鍵合成，而是一部分AI素材、一部分人工設(shè)計(jì)。這種情況下，他需要逐張裁剪水印，再統(tǒng)一寫(xiě)明“AI輔助創(chuàng)作”。

　　目前，六個(gè)社交平臺(tái)已要求用戶聲明“內(nèi)容由AI生成”，并主動(dòng)監(jiān)測(cè)疑似AI內(nèi)容，但還沒(méi)有提供聲明AI輔助創(chuàng)作的中間選項(xiàng)。

　　《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》對(duì)此有一項(xiàng)靈活條款。第九條寫(xiě)道，用戶可以申請(qǐng)不帶顯式標(biāo)識(shí)的內(nèi)容，但前提是簽署明確協(xié)議、承擔(dān)使用責(zé)任，且服務(wù)商必須留存相關(guān)日志至少六個(gè)月。

　　21記者從頭部AI廠商中了解到，這一機(jī)制主要用于大型商務(wù)合作，比如影視和廣告項(xiàng)目，會(huì)提供無(wú)水印版本。目前還沒(méi)有看到針對(duì)個(gè)體創(chuàng)作者的申請(qǐng)通道。

　　第二種爭(zhēng)議則集中在社交平臺(tái)的治理實(shí)踐。

　　多家社交平臺(tái)已經(jīng)上線“用AI識(shí)別AI”的技術(shù)，主動(dòng)給疑似合成內(nèi)容加注標(biāo)識(shí)。但這引發(fā)了另一重?fù)?dān)憂：有的用戶擔(dān)心真實(shí)作品被誤判；另一部分用戶認(rèn)為平臺(tái)對(duì)AI創(chuàng)作“不夠友好”，主動(dòng)標(biāo)識(shí)會(huì)影響流量分發(fā)。

　　小紅書(shū)相關(guān)負(fù)責(zé)人在此前交流中告訴21記者，AI圖像的識(shí)別準(zhǔn)確率已相對(duì)較高，系統(tǒng)判定內(nèi)容為疑似AI生成，將加注AI標(biāo)識(shí)。如果發(fā)現(xiàn)有誤導(dǎo)、違規(guī)等社會(huì)不良影響，內(nèi)容會(huì)被進(jìn)一步限流處理。

　　換句話說(shuō)，各平臺(tái)的重點(diǎn)主要在打擊“低質(zhì)AI”上。所謂低質(zhì)AI內(nèi)容，典型特征是內(nèi)容空洞、前后矛盾、有不良社會(huì)影響。今日頭條此前透露的數(shù)據(jù)顯示，去年打壓了超過(guò)93萬(wàn)條低質(zhì)AI內(nèi)容，處罰了近3萬(wàn)個(gè)利用AI批量發(fā)布虛假、低質(zhì)內(nèi)容或惡意洗稿、抄襲的賬號(hào)。

　　至于如何對(duì)待高質(zhì)量的AI創(chuàng)作，取決于各個(gè)平臺(tái)想要營(yíng)造的社區(qū)調(diào)性。例如，前述小紅書(shū)負(fù)責(zé)人提到，小紅書(shū)最看中“真實(shí)性”，會(huì)將真實(shí)體驗(yàn)的內(nèi)容擺在第一位。而今日頭條表示，在監(jiān)測(cè)AI內(nèi)容的整體流量占比，“會(huì)評(píng)估處一個(gè)相對(duì)健康的水位，確保原創(chuàng)作者的空間，同時(shí)接納合理的AI內(nèi)容的存在?！?/p>

　　這些分歧或許都指向同一個(gè)問(wèn)題：如何在合規(guī)、創(chuàng)新與用戶體驗(yàn)之間找到合理邊界。“雖然國(guó)外對(duì)AI標(biāo)識(shí)也有討論，但不像中國(guó)已進(jìn)入國(guó)家標(biāo)準(zhǔn)、平臺(tái)測(cè)試和普遍實(shí)施階段。”姚志偉強(qiáng)調(diào)，作為全球首個(gè)全面推進(jìn)的國(guó)家，很多問(wèn)題還需要在接下來(lái)的實(shí)踐中尋找平衡。

（文章來(lái)源：21世紀(jì)經(jīng)濟(jì)報(bào)道）

(原標(biāo)題：AI內(nèi)容“持證上崗”首測(cè)：35款應(yīng)用，誰(shuí)是漏網(wǎng)之魚(yú))

(責(zé)任編輯：10)