多地現"變臉"詐騙案:一段段逼真的視頻竟是偽造的

  來(lái)源:新華網(wǎng) 中國青年網(wǎng)張漫子,張超,陳諾2022-04-15
打印本文
核心提示:一段視頻、一段語(yǔ)音未必是真人拍攝或者錄制。在你不知道的手機App后臺、支付界面、門(mén)禁閘機,或許有人正在盜刷你的臉……去年以來(lái),多地發(fā)生“變臉”詐騙案?!靶氯A視點(diǎn)”

一段視頻、一段語(yǔ)音未必是真人拍攝或者錄制。在你不知道的手機App后臺、支付界面、門(mén)禁閘機,或許有人正在盜刷你的臉……去年以來(lái),多地發(fā)生“變臉”詐騙案。

  “新華視點(diǎn)”記者調查發(fā)現,隨著(zhù)深度合成技術(shù)迅猛發(fā)展、落地場(chǎng)景激增,一些不法分子趁機牟利。音頻、視頻等合成技術(shù)濫用,對人臉、聲紋、指紋等個(gè)人敏感信息保護形成挑戰。

  合成動(dòng)態(tài)視頻一個(gè)2至10元 竟能注冊手機卡、支付賬戶(hù)

  近日,陳先生來(lái)到浙江省溫州市公安局甌海分局仙巖派出所報案,稱(chēng)自己被“好友”騙了近五萬(wàn)元。經(jīng)過(guò)警方核實(shí),騙子用了AI換臉技術(shù),利用陳先生好友阿誠社交平臺上先前發(fā)布的視頻,截取了面部視頻畫(huà)面并進(jìn)行了“換臉”,從而對陳先生進(jìn)行了詐騙。

  2021年4月,安徽省合肥市警方在公安部“凈網(wǎng)2021”專(zhuān)項行動(dòng)中打掉一個(gè)犯罪團伙,該團伙利用人工智能技術(shù)偽造他人人臉動(dòng)態(tài)視頻,為黑灰產(chǎn)業(yè)鏈提供注冊手機卡等技術(shù)支撐。

  在警方抓捕現場(chǎng),幾名犯罪嫌疑人正用電腦將一張張靜態(tài)照片制作為人臉動(dòng)態(tài)視頻。模擬制作出來(lái)的動(dòng)態(tài)人物不僅能做點(diǎn)頭、搖頭等動(dòng)作,還可完成眨眼、張嘴、皺眉等豐富表情,效果極為逼真。

  在嫌疑人的電腦里,警方發(fā)現了十幾個(gè)G的公民人臉數據,人臉照片和身份證照片分門(mén)別類(lèi)存放在一個(gè)個(gè)文件夾里?!吧矸葑C正反面照片、手持身份證照片、自拍照等,被稱(chēng)為一套?!泵窬榻B,成套照片被稱(chēng)為“料”,出售照片的人被稱(chēng)為“料商”,這些“料”在網(wǎng)上已轉手多次,而“料”的主人卻毫不知情。

  犯罪嫌疑人馬某交代,由于制作簡(jiǎn)單,一個(gè)視頻價(jià)格僅為2至10元,“客戶(hù)”往往是成百上千購買(mǎi),牟利空間巨大。

  近年來(lái),類(lèi)似案件在浙江、江蘇、河南等多地發(fā)生。浙江衢州中級人民法院的一份刑事裁定書(shū)披露:張某、余某等人運用技術(shù)手段騙過(guò)支付寶人臉識別認證,并使用公民個(gè)人信息注冊支付寶賬戶(hù),非法獲利數萬(wàn)元。

  這些案件的作案流程頗為雷同:不法分子非法獲取他人照片或有償收購他人聲音等“物料”,僅需少量音視頻樣本數據,便可合成媲美真人的偽造音視頻,用來(lái)實(shí)施精準詐騙,侵害他人人身和財產(chǎn)安全,或銷(xiāo)售、惡意傳播技術(shù)換臉不雅視頻等,造成肖像權人名譽(yù)受損。

  網(wǎng)絡(luò )“叫賣(mài)”合成軟件教程 風(fēng)險背后存技術(shù)漏洞、治理短板

  據合肥市公安局包河分局網(wǎng)安大隊民警王祥瑞介紹,前述案件中8名犯罪嫌疑人多為社會(huì )閑散人員,有的連高中都沒(méi)有讀完。他們按照網(wǎng)購教程下載軟件,花幾個(gè)月便“自學(xué)成才”。

  記者在網(wǎng)上聯(lián)系到一位售賣(mài)相關(guān)教程的賣(mài)家。賣(mài)家介紹,全套軟件及教程售價(jià)有400元、800元兩檔,800元的為高階版本,“過(guò)人臉成功率超高”。記者在演示視頻中看到,照片上傳至軟件后,標注出五官位置,調整腳本參數,一張臉便動(dòng)了起來(lái)?!拔骞賲惦S教程送上,照抄即可?!睋榻B,這些偽造視頻不僅通過(guò)率高,人工審核都難辨真假。

  “目前公眾對照片等靜態(tài)信息易被篡改已有所警惕,但對視頻、聲音等動(dòng)態(tài)信息內容仍持有較高信任度?!鼻迦A大學(xué)人工智能研究院基礎理論研究中心主任朱軍說(shuō),深度合成技術(shù)飛速演進(jìn),讓“眼見(jiàn)不再為實(shí)”,破解身份核驗的難度會(huì )越來(lái)越低、耗時(shí)將越來(lái)越短。

  專(zhuān)家擔心,盡管針對深度合成技術(shù)的識別技術(shù)不斷迭代、檢測手段持續增強,但依然沒(méi)能跑贏(yíng)“偽造”技術(shù)升級的速度。浙江大學(xué)網(wǎng)絡(luò )空間安全學(xué)院院長(cháng)任奎說(shuō),隨著(zhù)合成技術(shù)應用門(mén)檻的進(jìn)一步降低,合成內容已模糊真實(shí)與偽造的邊界。

  北京智源人工智能研究院安全創(chuàng )新中心執行主任田天認為,新型偽造方法層出不窮,網(wǎng)絡(luò )傳播環(huán)境日趨復雜,檢測算法存在漏洞缺陷等,反深偽檢測難度越來(lái)越大。

  法律規定相對滯后,也給不法分子留下可乘之機。中倫律師事務(wù)所合伙人陳際紅說(shuō),目前法律規定,禁止利用信息技術(shù)手段偽造等方式侵害他人的肖像權,但技術(shù)如何使用算合理使用,哪些情形下應禁止使用等,沒(méi)有具體規定;收集或收購個(gè)人聲紋、照片,使用人臉、指紋、DNA、虹膜等個(gè)人生物信息等行為,在哪些范圍內構成犯罪、將面臨怎樣的懲罰,需要司法裁判進(jìn)一步給出明確指引。

  規制合成技術(shù)濫用 別再讓公眾為“臉面”擔憂(yōu)

  保護人臉、指紋、聲紋等敏感信息,不再擔憂(yōu)信息“裸奔”損害個(gè)人隱私、財產(chǎn)、名譽(yù)等,是公眾的共同期待。

  我國首個(gè)國家層面的科技倫理治理指導性文件《關(guān)于加強科技倫理治理的意見(jiàn)》近日印發(fā),凸顯技術(shù)倫理治理的重要性緊迫性。在今年的最高法工作報告中,包括人臉安全在內的個(gè)人信息安全等多次被提及。

  陳際紅表示,打擊“變臉”詐騙犯罪,應從技術(shù)的合法使用邊界、技術(shù)的安全評估程序、濫用技術(shù)的法律規制等方面予以規范,提高技術(shù)濫用的違法成本。

  中國工程院院士、信息技術(shù)專(zhuān)家鄔賀銓提出,針對深度合成技術(shù)濫用現象,應以技術(shù)規制技術(shù),利用技術(shù)創(chuàng )新、技術(shù)對抗等方式,提升和迭代檢測技術(shù)的能力。

  技術(shù)規制之外,針對技術(shù)濫用暴露的風(fēng)險治理應當體系化、完善化?!耙獦嫿〝祿|(zhì)量規范、根據應用場(chǎng)景對相關(guān)技術(shù)進(jìn)行風(fēng)險分級分類(lèi)管理,明確設計開(kāi)發(fā)單位、運維單位、數據提供方的責任?!眹夜I(yè)信息安全發(fā)展研究中心副總工程師邱惠君說(shuō)。

  專(zhuān)家提醒,針對花樣翻新的“變臉”詐騙,公眾要提高防范意識,不輕易提供人臉、指紋等個(gè)人生物信息給他人,不過(guò)度公開(kāi)或分享動(dòng)圖、視頻等;網(wǎng)絡(luò )轉賬前要通過(guò)電話(huà)、視頻等多種溝通渠道核驗對方身份。一旦發(fā)現風(fēng)險,及時(shí)報警求助。

(編輯:映雪)


多地現

 

相關(guān)閱讀: "變臉"詐騙案視頻偽造

    [責任編輯: 315xwsy_susan]

    免責聲明:

    1、本網(wǎng)內容凡注明"來(lái)源:315記者攝影家網(wǎng)"的所有文字、圖片和音視頻資料,版權均屬315記者攝影家網(wǎng)所有,轉載、下載須通知本網(wǎng)授權,不得商用,在轉載時(shí)必須注明"稿件來(lái)源:315記者攝影家網(wǎng)",違者本網(wǎng)將依法追究責任。
    2、本文系本網(wǎng)編輯轉載,轉載出于研究學(xué)習之目的,為北京正念正心國學(xué)文化研究院藝術(shù)學(xué)研究、宗教學(xué)研究、教育學(xué)研究、文學(xué)研究、新聞學(xué)與傳播學(xué)研究、考古學(xué)研究的研究員研究學(xué)習,并不代表本網(wǎng)贊同其觀(guān)點(diǎn)和對其真實(shí)性負責。
    3、如涉及作品、圖片等內容、版權和其它問(wèn)題,請作者看到后一周內來(lái)電或來(lái)函聯(lián)系刪除。