和你語音通話甚至視頻對話的，可能不是本人!近期，利用人工智能“換聲”“換臉”實施電信詐騙引發全網關注。以AI為代表的的新一代信息技術就像一把雙刃劍，我們在享受其帶來的便利和效率的同時，也應追根溯源，對數據安全和治理引起高度重視。

　　在美國軟件公司ElevenLabs的網站，上傳任何人的一段簡短音頻，只需花費1美元，5分鐘后就能讓這個聲音說你指定的任何話了。不僅如此，還有會講中國脫口秀的“馬斯克”，翻唱周杰倫的AI孫燕姿。AI技術日新月異，不僅大幅降低了使用成本，還讓詐騙變得更容易和更加隱蔽。在自然語言和人臉識別上，中國有海量訓練好的數據，基于AI大模型的小樣本學習，效率很高、成本很低。這就讓AI這柄“雙刃劍”，一面向善，一面向惡。

　　向善，可以根據故去者的音頻，讓他們繼續“活”在當下，例如“鄧麗君”演繹的新歌;根據逝去親人的生前錄音，讓他們在今天的場景中再現，以慰思念;向惡，則可以利用AI技術合成親人聲音實施詐騙，比如利用AI語音技術偽造緊急情況，騙取關心自己的親人交出現金或私人信息。。

　　面對AI詐騙，個人要提高防范意識。相比傳統電信詐騙，AI詐騙更加隱蔽和逼真，更加高效和精準，也更加難以防范和追查。在生成AI面前，大多數人沒有防范意識，“朋友”的臉和“朋友”的聲音就是信任的來源。面對AI詐騙，傳統的防詐技術還無法及時攔截、預警。要防范此類詐騙，首先還是要當事人自己有警惕之心，避免個人信息被盜用。

　　面對AI詐騙，應追根溯源，提升數據治理水平。一方面，相關監管部門的防詐措施要跟上，加快防詐的技術管理手段升級，識別并及時發出警示;要擴大宣傳廣而告之新型AI詐騙的特點，提示風險，提供識別手段。另一方面，要從法律法規、產業自律和AI接口管理等多個層面入手，堵住AI技術背后的危害源頭，切斷AI詐騙的灰色產業鏈，使AI應用合理合法。今年4月份，國家網信辦就《生成式人工智能服務管理辦法(征求意見稿)》公開征求意見，其中第五條就對提供服務方有規定，要求利用生成式人工智能產品提供聊天和文本、圖像、聲音生成等服務的組織和個人，承擔該產品生成內容生產者的責任，履行個人信息保護義務。

　　面對AI詐騙，還要見招拆招，“魔高一尺道高一丈”。例如各行各業對身份認證的基礎需求加快了人臉識別等AI技術的應用，給不法分子通過圖片、3D打印等物理方式攻擊突破人臉識別系統進行資金盜取詐騙提供可乘之機。針對人臉識別攻擊，我們要在技術上進行多模態融合防護。多模態生物識別技術相較于單一生物特征，通過設計融合算法，綜合人臉幾何特征、聲紋、虹膜等多種特征，彌補某些生物特征容易被偽造的弱點，提升識別精確度，可以形成對人臉識別攻擊的技術防御。

　　在防止AI技術被濫用的同時，我們對AI這樣新一代信息技術的應用不能因噎廢食。ChatGPT等前沿AI技術對社會生產力的推動作用顯而易見，面對新技術變革，我們除了積極擁抱，更要心懷敬畏，提升風控能力，令其為推動產業數字化轉型、提升實體經濟服務質效發揮更大的作用。

　　作者：劉晶　　來源：中國電子報、電子信息產業網