近年來，隨著人工智能技術的進步，一些犯警分子開始應用AI技術融會別人面貌和聲音，制造很是真切的分解圖像來實施新型網絡詐騙，這類騙局經常會在短時間內給被害天然成較年夜損掉。我們應該若何看清這類AI“深度造假”？辨別“AI換臉”有沒有什么好方式？我們先來了解一下狀況近期發生在陜西西安的一路“AI換臉”詐騙案例。
陜西西安財務人員張密斯與老板視頻通話，老板請求她轉賬186萬元到一個指定賬號。
被害人 張密斯：老板讓把這個款趕緊轉過往，這個款很是著急，因為他聲音還有視頻圖像都跟別人長得一樣的，所以就更確信這筆款是他說的了，然后我直接就把這筆款轉了。
轉賬之后，張密斯依照規定將電子憑證發到了公司財務內部群里，但是出人意料的是，群里的老板看到信息后，向她詢問這筆資金的來由？
被害人 張密斯：然后我們就打電話再跟老板往核實，老板說1對1教學他沒有給我發過視頻，然后也沒有說過這筆轉賬。
意識到被騙的張密斯連忙報警乞助，警方立即對接反詐中間、聯系相關銀行進行緊急止付，最終保住了年夜部門被騙資金156萬元。
AI“多人換臉”詐騙案 騙走2億港元
一百多萬的現金，對年夜部門人來說都算是一筆巨款了，好在警方處理及時，挽回了年夜部門損掉，上面我們再來看另一路案例，這起案例的“換臉”技術難度更高，涉案金額也更年夜。近期， 噴鼻港警方也表露了一路AI"多人換臉"詐騙案，涉案金額高達2億港元。
在該起案件中，一家跨國公司噴鼻港分部的職員，受邀參加總部首席財務官發起的多人的視頻會議。并依照請求，前后轉賬屢次，將2億港元轉賬到5個當地銀行賬戶內，其后向總部查詢方知受騙。警方調查得知，這起案件中，所謂的教學場地視頻會議中，只受益者一人為“真人”，其余所謂參會人員，所有的是經過AI換臉后的詐騙人員。
看完這兩起案例，您必定有些獵奇，AI換臉背后的技術道理究竟是什么？在技術層面，它是若何實現人臉的精確識別與替換，創造出真切後果？我們來聽聽專家的講解。
技術上若何實現人臉精確識別與替換
中國網絡空間平安協會人工智能平安管理專委會專家 薛聰明：AI換臉過程重要包含人臉識別追蹤、面部特征提取、人臉變換融會、佈景環境襯著、圖像與音頻分解等幾個關鍵步驟。其背后最焦點的包含為三個部門，起首，應用深度學習算法精準地識別視頻中的人臉圖像，并提掏出如眼睛、鼻子、嘴巴等關鍵面部特征。其次，將這些特征與目小樹屋標人臉圖像進行婚配、替換、融會。最后，通過佈景環境襯著并添加分解后的聲音，天生真切度較高的虛假換臉視頻。
疾速AI“換臉”僅通過一張照片就交流可完成
為了清楚AI換臉究竟能有多么真切，記者經過與專業技術人員一起配合，深度親身經歷了AI換臉技術。
技術人員起首用mobile_phone給記者拍了一張臉部照片，導進到AI人工智能軟件后，讓記者驚訝的是，雖然電腦攝像頭前的是技術人員，可是輸出的確是記者的照片，幾乎可以說是“一鍵換臉”，不需求復雜的環境息爭壓操縱。
更令人驚訝的是，隨著技術人員面部臉色變化，照片上記者的教學臉也跟著一路發生了相應變化。
記者：為什么技術人員這張臉動，我的照片會跟著動呢？
中國網絡空間平安協會人工智能平安管理專委會專家 薛聰明：起首通過視頻的采集，能夠把圖片里這個人臉的面部追蹤定位到，定位到以后第二步他能夠做一個人臉的面部特征點的采集和提取，重要就是包含嘴、鼻子跟眼睛相關的這些明顯的面部特征。采集到以后， 第三步就跟把這張原始的照片，做一個變換跟融會跟整形。
記者：通過這張照片還可以做到什么？
中國網教學場地絡空間平安協會人工智能平安管理專委會專家 薛聰明：當前通過這張照片技術人員已經讓這張照片能夠動起來，活起來了，而假如更進一個步驟的將這張照片存下來，能夠存儲大批共享空間的照片的話。后期可以把這張照片分解一段簡短的視頻發布出來。
人工智強人臉檢測技術重要通過深度學習算法實現，這種技術能夠識別出頭具名部特征并對其進行精準的剖析。可以將一個人的面部臉色從一張照片或視頻中提掏出來，并將其與1對1教學另一個人的面部特征進行婚配。專家告訴記者，假如想要實現視頻實時通話時采用人工智能AI換臉技術，一張照片是遠遠不夠的，那就需求分歧角度的近千張照片的采集。
中國網絡空間平安協會人工智能平安管理專委會專家 薛聰明：假如要實時點對點“走吧，回去準備吧，該給我媽端茶了。”他說。交通的話，需求再采集更多的照片，完了進行深度學習算法模子的訓練，訓練出來這個模子以后灌到咱們這個視頻里往，就可以做實時的變化跟教學場地轉換了。這種情況下，就可以私密空間做到實時的變臉。聲舞蹈場地音的交通也可以，需求預先采集一些咱們目標人群當中的聲音，然后進行模子的訓練，能夠把目標人群的聲音還原出來。
AI天生仿真度極高視頻 難度高投進年夜
專家介紹，以瑜伽教室詐騙為目標，實施點對點視頻通話，需求AI人工智能天生仿真度極高的視頻。想要達到以假亂真後果用于詐騙，難度不小。
中國計算機學會平安專業委員會數字經濟與平安教學任務組成員 方宇：針對詐騙，其實重要是通過點對點的視頻通話，這時候假如采用換臉技術和聲音分解做實時的換臉詐騙的話，想要完成這些技術操縱，就需求投進很強的技術支撐。
中國網絡空間平安協會人工智能平安管理專委會專家 薛聰明：背后需求有大批瑜伽教室的資金的投進，包含圖片的采集，包含專業算法的人員等等，需求很長的一個周期，包含一些算力算法。各方面的投進，需求長時間不斷地迭舞蹈教室代，進行操縱，才幹達到一個相當真切的後果，才有能夠實現到詐騙的實際後果。
今朝AI“換臉”更多應用于娛樂視頻錄制
除了一些犯警分子企圖應用AI技術實施詐騙，事實上，近年來，AI技術更多地被應用于短視頻的二次創作，屬于娛樂性質，越來越多的名人小樹屋AI換臉視頻出現在網絡上，不少網友感嘆，這類視頻“嘴型、手勢都對得上，太天然了，差點兒以為是真的。”
好比這款軟件，拍下記者面部照片后，就能錄制天生出一段記者秒變賽車手的視頻。
△網友發布的密斯系絲巾原會議室出租版視頻
△需求變換的臉的照片
△天生視頻
中國計算機學會平安專業委員會數字經濟瑜伽教室與平安任務組成員 方宇：AI技術舞蹈教室今朝我們常看到的重要是短視頻換臉，通過做一些特定的動作，舞蹈啊等等。這些視頻其實看起來是有一些不天然的，自己也是純屬于娛樂性質的換臉。
記者發現在mobile_phone應用商城中，有數十款換臉軟件，都可以做到換臉的目標。
中國網絡空間平安協會人工智能平安管理專委會專家 薛聰明：假如從娛樂年夜眾的角度來說的話，現在市道上也有良多的這些軟件和東西，能夠達到AI換臉的後果，可是仿真度只要六七分的樣子，年夜眾直接就能看出來。可是假如要天生一個詐騙視頻來說話，就要天生咱們仿真度極高的這種點對點會議室出租視頻。
AI技術“換臉換聲”能夠存在法令風險
不過，AI技術也是把“雙刃劍”，即便是出于娛樂應用AI換臉、AI換聲，也是存在法令風險的。法令專家表現，用AI技術為別人換臉換聲甚至翻譯成其他語言并發布視頻，能夠涉嫌侵權，重要有三個方面：
一是涉嫌侵略著作權，例如相聲、小品等都屬于《中華國民共和國著作權法》保護的“作品”。例如網友用AI軟件將相聲、小品等“翻譯”成其他語言，需經過著作權人授權，否則就存在侵權問題。
二是涉嫌侵略肖像權，根據《中華國民共和國平易近法典》，任何組織或許個人不得以丑化、污損，或許應用信息技術手腕偽造等方法損害別人的肖像權。未經肖像權人批準，不得制作、瑜伽教室應用、瑜伽場地公開肖像權人的肖像，可是法令還有規定的除外。
三是涉嫌侵略聲音權，根據《中華國民共和國平易近法典》規定，對天然人聲音的保護，參照適用肖像權保護的有關規定。也就是說，需求獲得聲音權人的批準，才幹夠應用別人的聲音。
學會幾招 輕易識別AI“換臉換聲”
AI換臉這一技術的出現，導致耳聽為虛、眼見也紛歧定為實了。那我們該“我女兒能把他看成是他三生修煉的福分，他怎麼敢拒絕？”藍沐哼了一聲，一臉若敢拒絕的神情，看她如何修復他的表情，若家教何防范呢？專家表現，其實AI人工換臉無論做得多么真切， 想要識別視頻真假還是有一些方式的。會議室出租
中國計算機學會平安專業委員會數字經濟與平安任務組成員 方宇：實際上從我今朝看到的深度偽造的實時視頻上來看，其實還是可以通過一些方法，往進行一些驗證。
那好比說我們可以請求對方在視頻對話的時候呢，在臉部的眼前通過揮手的方法，往進行一個識別，實時偽造的視頻，因為它要對這個視頻進行實時的天生和處理和AI的換臉。
那么在揮手的過程中，就會形成這種面部的數據的干擾，最終產生的後果就是我們看到的這樣，揮手的過程中，他所偽造的這個人臉會產生必定的抖動或許是一些閃現，或許是一些異常的情況。
第二個就是點對點的溝通中可以問一些只要對方了解的問題，驗證對舞蹈教室方的真實性。
進步防范意識 防止個人生物信息泄露
專家表現，除了一些辨別AI換臉詐騙的小訣竅，我們每一個人都應該進步防范意識，在日常生涯中也要做好相關防范辦法，養成傑出的上網習慣。起首應該是做好日常的信息平安的保護，加強對人臉、聲紋、指紋等生物特征數據的平安防護：別的做好個人的mobile_phone、電腦等終端設備的軟硬件的平安治理。第二，不要登錄來路不明的網站，以免被病毒侵進。第三，對能夠進行聲音、圖像甚至視頻和定位采集的應用，做好授權治理。不給別人搜集本身信息的機會，也能在必定水平上讓AI換臉詐騙遠離本身。
伴隨AI技術發展 需求多層面監管規范
除了要進步自我防范意識，若何對AI技術加強監管，也成了越來越多人關注的問題。AI技術自己不是問題，關鍵是我們要怎么用它？若何構成有用監管？專家介紹，AI技術發展，需求多層面監管規范。
一是在源頭端，需求進一個步驟加強國民個人信息保護，尤其是加強對生物特征等隱私信息的技術、司法保護力度。二是在技術層面可以加強治理。例如可以讓視頻傳播網站或許社瑜伽場地交軟件，應用專業的鑒別軟件來鑒定，對AI天生視頻，打上不成打消的“AI天生”水印字樣。今朝，這種數字水印鑒偽技術有待進一個步驟普及家教。三是在法令軌制層面，要進一個步驟完美人工智能等領域相關法令法規。2023年8月15日，我國正式實施《天生式人工智能服務治理暫行辦法》。《辦法》從多個方面“劃下紅線”，旨在促進天生式人工智能安康發展和規范應用。 （記者 崔世杰）