榮耀公司宣布將于2025年4月在全球范圍內商用AI換臉檢測技術。在2025年世界移動通信大會(MWC 2025)上,榮耀CEO李健將作為“阿爾法戰略”一部分,公布相關戰略與技術。
榮耀公司在2024年9月舉行的柏林消費電子展上,正式推出全球首個基于設備端的AI換臉反詐檢測技術。該技術基于深度學習模型,通過分析圖像中的面部特征和行為模式,能夠實時識別出AI生成的偽造內容。
隨著AI技術的迅猛發展,換臉技術被一些不法分子用于網絡詐騙、誹謗等違法犯罪行為,帶來了很大的社會隱患。根據Entrust網絡安全研究所的數據,2024年每五分鐘就發生一次深度偽造攻擊,數字文件偽造同比2023年增加了244%。2023年11月至2024年11月,全球92%的企業經歷了身份欺詐,但2024年61%的高管表示他們尚未訂立應對深度偽造風險的任何協議。畢馬威公司調研報告稱,從2023年第一季度到2024年第一季度,數字經濟中的深度偽造現象,同比增長顯著,包括網游為1520%、市場營銷為900%、金融科技為533%、加密貨幣業為217%和咨詢業為138%。德勤公司報告顯示,在財務損失方面,生成式人工智能可能使欺詐損失從2023年的123億美元增加到2027年的400億美元,復合年增長率為32%。
聯合國工業發展組織印尼、東帝汶及東盟事務代表Marco Kamiya稱,在移動設備上使用AI深度偽造檢測是一種強有力的武器,可以對抗深度偽造。它能夠檢測出人眼可能忽略的深度偽造內容中的缺陷,例如眼神接觸、光線、圖像清晰度和視頻播放,從而阻止人們繼續參與可能危及其安全的活動。這使得個人、中小企業和各行業能夠在享受數字通信便利的同時,不必擔心隱私泄露和欺詐風險。