11月21日，小紅書副總裁許磊出席2024烏鎮世界互聯網大會“人工智能技術創新與治理”論壇，并發表主旨演講。許磊指出，AIGC大幅降低內容創作門檻的同時，也對平臺治理帶來了新挑戰。小紅書已初步完成AIGC治理體系建設，將持續治理工作推進，守好“真實”的平臺生命線。
隨著生成式人工智能技術的興起，算法從分發領域進入到內容生產領域，對內容平臺帶來了全新的機遇與挑戰。AI輔助工具提升了用戶創作的積極性，同時也降低了惡意仿冒的門檻，增加了虛構新聞、假冒真人引流和虛假營銷的風險。
許磊表示，小紅書為“真誠分享”而生，真實是小紅書平臺的生命線。為此，小紅書在 2023 年就啟動應對AIGC的治理體系建設，并在公司層面成立了專項組，加快治理工作推進。
首先，加大AI識別模型的研發投入，基于“分類器”技術的識別模型，平臺對識別為疑似AI生成的內容進行顯著標識，提醒用戶注意甄別內容真實性。同時，平臺設置了機器識別+人工識別的雙重屏障，以減少AI生成低質內容的曝光，針對其中侵權、假冒、誘導等內容第一時間下架處理。
對于創作者，平臺要求主動對AI生成內容進行顯著標識，并持續簡化打標流程，鼓勵創作者利用新技術進行內容創新的同時，也積極參與到生態建設中。
“小紅書將創新與治理兩手抓，迎接好新一波人工智能技術浪潮帶來的機遇與挑戰。”許磊表示。