警惕AI技術(shù)背后的隱蔽角落

換臉、變聲，移花接木，以假亂真……當(dāng)前，AI技術(shù)正在以勢不可擋的趨勢，創(chuàng)造數(shù)字技術(shù)生活，為社會帶來深刻影響和變革。

然而，在AI技術(shù)被廣泛應(yīng)用于各領(lǐng)域的背后，存在著隱蔽的黑暗角落。不法分子利用AI技術(shù)進(jìn)行違法犯罪，對社會安全構(gòu)成威脅。公安機(jī)關(guān)在對此類犯罪給予高度關(guān)注的同時也向公眾發(fā)出預(yù)警。

從眼下已經(jīng)出現(xiàn)的利用AI技術(shù)實(shí)施電信網(wǎng)絡(luò)詐騙犯罪活動來看，其主要表現(xiàn)為下面幾種形式：一是騙子用AI換臉技術(shù)，偽裝成受害人的熟人、朋友，通過視頻通話，進(jìn)行信息確認(rèn)，騙取受害人的信任；二是騙子通過騷擾電話錄音等來提取聲音，獲取素材后，利用AI技術(shù)進(jìn)行聲音合成，然后用偽造的聲音欺騙受害人；三是騙子利用AI技術(shù)分析公眾發(fā)布在網(wǎng)絡(luò)上的各類信息，根據(jù)所要實(shí)施的騙術(shù)對人群進(jìn)行目標(biāo)篩選，個性化定制詐騙腳本，從而實(shí)施精準(zhǔn)詐騙。

但也有業(yè)內(nèi)人士指出，目前的AI換臉技術(shù)若做到融進(jìn)視頻通話中，并達(dá)到不卡頓、肉眼難以識別的真實(shí)質(zhì)感，在技術(shù)上并非易事。同時，AI換臉換聲技術(shù)如果被用于詐騙，騙子還必須對被換臉人的外貌、聲音、行為習(xí)慣、思維方式以及和受害人之間的關(guān)系等非常熟悉，否則很容易露出馬腳。

當(dāng)然，技術(shù)本身無好壞，關(guān)鍵在于如何利用。AI技術(shù)的應(yīng)用必須符合國家的法律法規(guī)以及社會倫理規(guī)范。為規(guī)范AI技術(shù)的合法合規(guī)使用，今年1月開始施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，對人臉生成、替換、操控，合成人聲、仿聲等都有明確約束；今年4月，國家互聯(lián)網(wǎng)信息辦公室發(fā)布《生成式人工智能服務(wù)管理辦法（征求意見稿）》，對AI偽造進(jìn)行了全面規(guī)定。

我國各地公安機(jī)關(guān)出重拳、全鏈條嚴(yán)厲打擊利用AI技術(shù)實(shí)施違法犯罪行為。同時，對社會公眾來說，針對“變臉”“變聲”詐騙，一定要提高防范意識，不輕易向他人提供人臉、指紋等個人生物信息，不在社交平臺過度分享個人的動圖、視頻，一旦發(fā)現(xiàn)自己有被騙風(fēng)險，及時報警求助。

歸根結(jié)底，在使用AI技術(shù)時，要因勢利導(dǎo)、趨利避害，堅守法律和道德的底線，使其更利于人類社會的進(jìn)步發(fā)展。