在2024年烏鎮世界互聯網大會的“人工智能技術創新與治理”論壇上，小紅書副總裁許磊帶來了關于AIGC技術對內容平臺影響的深度剖析。他指出，AIGC在降低內容創作門檻的同時，也為平臺治理帶來了新的考驗。小紅書，這個被譽為“3億人的生活百科全書”的平臺，正積極應對這一挑戰。
小紅書以個性化推薦算法為核心，將過半流量傾斜給千粉以下的用戶，實現了流量的普惠。然而，隨著生成式AI技術的興起，算法不僅影響著內容的分發，更滲透到了內容的生產環節。這既為平臺帶來了機遇，也帶來了諸如惡意仿冒、虛構新聞、假冒真人引流和虛假營銷等新問題。
為了守護平臺的真實性，小紅書在2023年便啟動了針對AIGC的治理體系建設，并成立了專項組。他們加大了AI識別模型的研發投入，利用“分類器”技術對疑似AI生成的內容進行識別并顯著標識，同時設置了機器識別與人工識別的雙重保障，確保低質內容得到及時清理。
對于創作者，小紅書要求其對AI生成的內容進行顯著標識，并簡化了打標流程，鼓勵創作者在利用新技術創新的同時，也參與到平臺生態的建設中。
許磊強調，小紅書將堅持創新與治理并重，以應對人工智能技術浪潮帶來的機遇與挑戰。
