聲明：本文來自于微信公眾號 直播觀察（ID：zhibogc），作者：直播行業權威媒體，授權轉載發布。
最近，隨著ChatGPT的大熱，另一個詞也頻繁出現在大眾視野——AIGC。AIGC是一種使用人工智能技術生成內容的方法，它被視為繼UGC和PGC之后的新興內容生產方式。
然而任何技術的出現都是一把雙刃劍，在人工智能技術使內容生產更加方便時，AIGC生成內容以假亂真、數據泄露以及侵權的風險被進一步放大。數字應用場景的多元化，也給監管體系帶來更為復雜的法律挑戰。
繼4月初，國家網信辦發布的《生成式人工智能服務管理辦法（征求意見稿）》，對生成式人工智能做出諸多要求后，作為內容平臺方的抖音在5月9日，也對虛擬人直播、AI 輔助生成內容、流量是否支持 AI 內容等做出了約束。
1
抖音為虛擬人直播立規矩
據了解，抖音這次的發出的規范和倡議面向創作者、主播、用戶、商家、廣告主等平臺生態參與者，在抖音應用生成式人工智能技術時，應對人工智能生成內容進行顯著標識并負責。
首先抖音對人工智能生成內容作了解釋，是指利用生成式人工智能技術，自動生成的視頻、圖像、文本等內容。本規范重點針對人工智能生成的視頻、圖片，和衍生的虛擬人直播。
抖音要求，在抖音應用生成式人工智能技術時，發布者應對人工智能生成內容進行顯著標識，幫助其他用戶區分虛擬與現實，特別是易混淆場景。同時，發布者需對人工智能生成內容產生的相應后果負責，無論內容是如何生成的。
針對被視為行業未來的虛擬人、虛擬主播，抖音要求虛擬人需在平臺進行注冊，虛擬人技術使用者需實名認證，使用已注冊的虛擬人形象進行直播時，必須由真人驅動進行實時互動，不允許完全由人工智能驅動進行互動。
為配合倡議，當天，抖音還發布了人工智能生成內容標識的水印與元數據規范。據悉，標識元數據規范即通過規范人工智能生成內容的元數據格式，在相關圖片和視頻元數據中寫入信息，達到行業通用識別的效果。
此外，抖音禁止利用生成式人工智能技術創作、發布侵權內容，包括但不限于肖像權、知識產權等。同時，禁止利用生成式人工智能技術創作、發布違背科學常識、弄虛作假、造謠傳謠的內容。
“各生成式人工智能技術的提供者，均應對生成內容進行顯著標識，以便公眾判斷。同時使用統一的人工智能生成內容數據標準或元數據標準，便于其他內容平臺進行識別。”倡議提到。
2
虛擬人直播亂象早已出現
事實上，早在ChatCPT和AIGC成為熱點前，直播、短視頻的從業者們已經在探索AI的路上一騎絕塵，特別是虛擬數字人的應用場景目前已經從游戲、影視、娛樂業，逐漸向傳媒、直播、電商、醫療等多個領域擴展，而虛擬主播便是虛擬數字人向直播、泛娛樂和電商領域滲透的產物。
在泛娛樂領域的虛擬主播最早出現在2016年，“絆愛”在YouTube上發布了第一支視頻內容，短短一年時間，粉絲數量突破100萬，引領了虛擬主播的熱潮。隨后，因為二次元文化的流行，虛擬主播在國內的視頻和社交網站上發布日常VLOG、游戲直播、音樂舞蹈等視頻內容，開始受到獲得流量和關注。
而在直播電商領域，虛擬主播被用來填補真人主播沒有辦法出鏡的空白時間。因為技術的快速進步讓虛擬數字人的成本大幅降低。商家只要向供應商花數萬元購買虛擬主播定制軟件及后期的運維服務，便可以讓直播間實現24小時不斷播。于是，虛擬主播的商業價值受到了多家平臺、商家、MCN的關注。
然而，虛擬主播和真人直播一樣，在飛速發展時出現了一些亂象。
泛娛樂直播方面，為了獲得更多的流量和收益，一些虛擬主播在直播中出現了打擦邊球、惡意營銷、散布虛假信息、誘導未成年人打賞等行為。2022年5月，某虛擬主播在其直播的視頻平臺上宣稱自己被拐賣，后被警方查明拐賣經歷為虛構，其目的是博取流量。
電商方面，一些商家在運用虛擬主播時也出現了虛假夸大宣傳、誘導非理性消費甚至推銷假冒偽劣商品的行為。另外，還有一些虛擬數字人的運營公司急于搶占直播帶貨的商業賽道，但對選品質量的把關卻遠不如真人主播團隊嚴格。
此外，針對虛擬主播的肖像權侵權、版權侵權、以及不正當競爭等也層出不窮。
3
AI生成內容監管正當時
在生成式人工智能被定義為行業未來時，監管也必不可少。
2022年6月，國家廣播電視總局、文化和旅游部聯合印發《網絡主播行為規范》，為網絡主播劃定行為紅線，并明確利用人工智能技術合成的虛擬主播及內容也須參照該行為規范。隨后，諸多平臺在2022年下半年針對虛擬主播加強了監管，并封禁、懲罰了一批有違規行為的虛擬主播賬號。
今年開年以來，國家互聯網信息辦公室相繼發布《互聯網信息服務深度合成管理規定》、《生成式人工智能服務管理辦法（征求意見稿）》。要求深度合成服務提供者提供服務中，可能導致公眾混淆或者誤認的，應當在生成或者編輯的信息內容的合理位置、區域進行顯著標識，且該標識應不影響用戶使用。更進一步對利用生成式人工智能產品提供聊天和文本、圖像、聲音生成等服務的組織和個人的責任進行了規定。
平臺方面，聚集了大量虛擬主播賬號的B站曾發布《虛擬主播專項治理公告》，對于虛擬主播低俗色情類和其他違反公序良俗類的惡意行為及言論進行專項治理。在B站自己的統計中，此次行動被封禁的賬號有137個。
抖音這次推出規范，可以說是表明了自己在AI等人工智能被應用于內容生產上的態度，能有效的促進行業規范化、健康化發展，更能提高平臺創作者的整體素質和競爭力。
