中新網(wǎng)北京10月30日電(記者 吳濤)“一眼看去像是某領域專家，結果發(fā)現(xiàn)人物和身份都是AI虛構的。”“宣傳圖片光鮮亮麗，實景卻相差萬里，后來才知是AI合成。”
隨著AI的廣泛應用，AI廣告違規(guī)風險越來越突出，這些內(nèi)容涉嫌違背公序良俗、侵權抄襲、虛假宣傳等。如何構建有效的AI廣告治理體系，成為目前多個行業(yè)面臨的問題。
仍有AI內(nèi)容未做標識
一般來說，AI內(nèi)容指利用人工智能技術生成、合成的文本、圖片、音頻、視頻、虛擬場景等信息。如今，一些不法廣告主利用AI技術生成逼真但虛假的消費場景，活躍在短視頻、電商等平臺上。
此前由國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部等四部門發(fā)布的《人工智能生成合成內(nèi)容標識辦法》9月1日起正式實施，規(guī)定人工智能生成合成內(nèi)容應有顯式標識和隱式標識。
記者在多個短視頻和電商平臺瀏覽發(fā)現(xiàn)，疑似為AI生成但同時又未打AI標識的內(nèi)容仍然可能出現(xiàn)，尤其是在2025年9月1日之前的存量宣傳內(nèi)容。有業(yè)內(nèi)人士表示，受限于技術和算力成本，平臺多依靠自帶的AI水印或作者主動聲明來識別，如果內(nèi)容非本平臺AI生成，則識別難度增加。
據(jù)CNNIC發(fā)布的數(shù)據(jù)顯示，截至2025年6月，我國生成式人工智能用戶規(guī)模達5.15億人，較2024年12月增長2.66億人。龐大的AI用戶數(shù)量背后，也給AI內(nèi)容治理提出更高的要求。
將如何治理AI廣告？
面對海量的AI內(nèi)容，傳統(tǒng)的人工審核方式已難以為繼。治理AI違規(guī)廣告，必須依靠技術本身。據(jù)了解，在AI生成活躍的短視頻社交平臺上，已有大模型技術應用其中。
例如，有平臺表示，在AI標識方面，90%素材10分鐘內(nèi)完成審核，對比傳統(tǒng)審核效率提升了75%。對于涉及違規(guī)的廣告，大模型通過推理判斷，能快速提供精細化拒審理由，告知違規(guī)內(nèi)容出現(xiàn)在視頻中的具體時間點或具體畫面。
巨量引擎商業(yè)安全治理標準負責人項韻對中新網(wǎng)記者表示，針對違規(guī)行為設置了從預警整改、限制新開、賬戶封停、主體清退等梯度化、多元化處置體系，“今年第三季度已前置攔截涉AI違規(guī)素材84萬余個。”
快手平臺則表示，會在AI生成的內(nèi)容中添加“AI生成”顯示標識、以及嵌入文件元數(shù)據(jù)中的隱式標識。如內(nèi)容被平臺檢測為疑似AI內(nèi)容時，則進行顯著提示。
中國政法大學副教授、中國廣告協(xié)會法德委朱巍對中新網(wǎng)表示，鑒于AI技術的復雜性和應用的廣泛性，AI治理需要實現(xiàn)跨領域的協(xié)同。需要監(jiān)管持續(xù)加碼，需要平臺強化責任，更需要網(wǎng)民切身參與。面對AI換臉宣傳、深度合成侵權等新型風險，需要組建監(jiān)管、平臺、倫理委員會的 “共治聯(lián)盟”，形成治理合力。
中國廣告協(xié)會會長張國華近日表示，目前專門用于AI訓練的優(yōu)質語料依然稀缺，要從源頭上確保AI語料的真實性、合規(guī)性及其導向的正確性。
而對于如何識別潛在的AI謊言？“公安部網(wǎng)安局”公眾號29日發(fā)消息稱，對于圖片和視頻，仔細觀察是否存在AI生成的典型痕跡，例如人物手指數(shù)量異常、光影效果不自然、視頻口型與聲音不同步或背景模糊扭曲等。(完)