AI詐騙的成本正變得越來(lái)越低，由此帶來(lái)的新詐騙方式不但沒(méi)有得到很好的治理，反而越發(fā)頻繁猖狂。

文/余洋洋 編輯/張麗娟

很多人收到一條語(yǔ)音信息就被騙了。

劉倩突然收到一條來(lái)自多年不聯(lián)系好友的微信消息，“最近在忙什么?”“要不要見(jiàn)一面?”

從打招呼、互相寒暄到吐槽近況，整個(gè)聊天過(guò)程自然而然。她感嘆幾年過(guò)去了，好友仍是語(yǔ)氣可愛(ài)的“軟萌妹子”，甚至記得她們?cè)诒本┞《哪骋惶焱砩显诮诸^分食一份煎餅。

聊天就這樣切換到語(yǔ)音，好友開(kāi)始找她借錢(qián)，數(shù)額不大， 2000塊。她毫不猶豫地轉(zhuǎn)過(guò)去了。緊接著好友第二次、第三次向她借錢(qián)，她開(kāi)始察覺(jué)事情有些不對(duì)。

事情確實(shí)不對(duì)，劉倩沒(méi)想到，那個(gè)聲音、語(yǔ)氣一如既往地熟悉，甚至能清晰記得他們多年前共同經(jīng)歷的“好友”是個(gè)詐騙犯。

騙子在獲取了劉倩好友的聲音素材之后，用AI合成的“好友”聲音與之對(duì)話(huà)；

大多數(shù)受騙者都與劉倩有著類(lèi)似的經(jīng)歷。不過(guò)是司空見(jiàn)慣的網(wǎng)絡(luò)詐騙手法，一旦被AI變聲、換臉?biāo)鶢I(yíng)造出來(lái)的逼真假象所懵逼，受騙的幾率極大地提高了。

騙子用AI將自己合成假王源，在直播平臺(tái)上大肆行騙;公司員工被“上司”的一通電話(huà)騙走了22萬(wàn)歐元;學(xué)校工作人員則在收到一封看起來(lái)內(nèi)容真誠(chéng)可信的郵件之后，被“合作伙伴”騙走巨額項(xiàng)目合作款。

多名經(jīng)手過(guò)AI詐騙案例的民警和律師告訴CV智識(shí)，隨著技術(shù)的進(jìn)步，網(wǎng)絡(luò)詐騙的手段往往也花樣不斷、新招頻出，一次又一次的突破人們的認(rèn)知和想象。

“前些年行騙者利用惡意郵件、短信或者電話(huà)行騙的手段已經(jīng)逐漸能夠被社會(huì)大眾識(shí)別和破解，但近年來(lái)興起的基于AI技術(shù)的詐騙手段大家還沒(méi)有形成普遍的警覺(jué)。”

AI詐騙，多快好騙

你的聲音正在你看不見(jiàn)的地方被AI加工，成為騙子用來(lái)誘騙你周?chē)嗽诰W(wǎng)上向“你”轉(zhuǎn)賬的得力工具。

2019年，AI詐騙事件進(jìn)入人們視野的比例逐漸上升。從普通人到明星偶像，甚至是辦事章程復(fù)雜、流程規(guī)范的商業(yè)公司、學(xué)校機(jī)構(gòu)，無(wú)一不曾陷入騙子用人工智能布下的完美陷阱。

“朋友發(fā)過(guò)來(lái)一條語(yǔ)音，讓我微信轉(zhuǎn)賬給他2000塊錢(qián)，我一聽(tīng)是他的聲音，就毫不猶豫轉(zhuǎn)給他了。”更多的語(yǔ)音信息發(fā)過(guò)來(lái)，劉倩從來(lái)沒(méi)有懷疑過(guò)，她本能地相信，這個(gè)正和她在微信上聊著天的人就是她的朋友。

然而讓劉倩沒(méi)想到的是，這條與朋友聲音一模一樣的語(yǔ)音，并不出自朋友之口，直到更多的人詢(xún)問(wèn)劉倩轉(zhuǎn)賬的事情，她才意識(shí)到，自己上了騙子的當(dāng)。

但她還是有些想不明白，這樣和朋友一模一樣的聲音，騙子是怎么做到的?“跟朋友的聲音、語(yǔ)調(diào)、語(yǔ)氣一模一樣，真的一模一樣，朋友聽(tīng)完都脊背發(fā)涼。”

更讓劉倩覺(jué)得不可思議的是，“騙子連我們幾年前微信聊天用到的詞都能知道，也是神奇了。”一模一樣的聲音，加上熟悉的聊天方式，讓劉倩更加確信了向她借錢(qián)的就是朋友本人。

“騙局其實(shí)很拙劣，但加上AI的手法，真是防不勝防。”劉倩向CV智識(shí)回想起這次被騙的經(jīng)歷，現(xiàn)在再也不敢說(shuō)被騙的人沒(méi)文化了，原來(lái)不是被騙的沒(méi)文化，真的是騙子太高強(qiáng)。

語(yǔ)音詐騙揭開(kāi)了AI詐騙的冰山一角。當(dāng)人們還在感嘆區(qū)區(qū)毛騙，何足掛齒的時(shí)候，有騙子已經(jīng)把AI這門(mén)新技術(shù)運(yùn)用得爐火純青——算法篩選被騙群體、分析你的個(gè)人特點(diǎn)和喜好，機(jī)器人定時(shí)撥打騷擾電話(huà)，再加上換臉、變聲等一系列操作，讓人想不相信騙子是你都難。

CV智識(shí)了解到，過(guò)去幾個(gè)月內(nèi)，類(lèi)似操作手法的AI詐騙事件開(kāi)始增多，有網(wǎng)友被“同事”騙走兩萬(wàn)多，“騙子聲音特別逼真，以公司副總名義騙得，轉(zhuǎn)賬后跑去領(lǐng)導(dǎo)辦公室核實(shí)，結(jié)果得知被騙了。”有學(xué)生家長(zhǎng)被騙，“兒子在讀大學(xué)，我們(父母)街道要轉(zhuǎn)賬的電話(huà)，電話(huà)里說(shuō)要轉(zhuǎn)錢(qián)留個(gè)保研位，就一口氣轉(zhuǎn)了好幾萬(wàn)。”

多位民警也向CV智識(shí)表示，之前從未遇到過(guò)AI詐騙案例，但今年以來(lái)這樣的案例正在增加。“遇到過(guò)語(yǔ)音詐騙，但還沒(méi)有遇到過(guò)換臉換頭的情況，這種運(yùn)用技術(shù)手段進(jìn)行的詐騙，雖然目前來(lái)說(shuō)還不普遍，但陸續(xù)出現(xiàn)一些了。”

在民警們看來(lái)，雖然目前AI詐騙案例較少，但因?yàn)槠鋸?qiáng)偽裝、高成功率，仍然十分值得警惕。

不止普通人，明星偶像乃至商業(yè)公司也曾屢屢陷入AI詐騙風(fēng)波。有騙子用AI換臉成王源，然后直播騙錢(qián)，引得粉絲紛紛來(lái)刷禮物，而在騙術(shù)被粉絲識(shí)破后，該騙子竟變本加厲、揚(yáng)言要報(bào)復(fù)：做一個(gè)“王源”在KTV抽煙喝酒的視頻，然后賣(mài)給自媒體以制造負(fù)面新聞。

據(jù)報(bào)道，今年3月，一名詐騙犯利用AI語(yǔ)音模仿軟件冒充公司大老板，成功地模仿了那位董事長(zhǎng)夾雜德國(guó)口音的英語(yǔ)，讓一家英國(guó)能源公司的總經(jīng)理相信自己正在與德國(guó)母公司的老板通電話(huà)，并騙走了22萬(wàn)歐元。

美國(guó)南俄勒岡大學(xué)曾被誘騙向進(jìn)行了190萬(wàn)美元的轉(zhuǎn)賬，他們認(rèn)為自己的轉(zhuǎn)賬對(duì)象是負(fù)責(zé)建設(shè)學(xué)生娛樂(lè)中心的安德森建筑公司，實(shí)際上卻轉(zhuǎn)到了騙子的銀行賬戶(hù)。

釣魚(yú)郵件早已經(jīng)不是什么新鮮的攻擊手段了，但如果與人工智能相結(jié)合，使攻擊者能夠訪(fǎng)問(wèn)公司網(wǎng)絡(luò)并說(shuō)服員工授權(quán)轉(zhuǎn)賬，那帶來(lái)的后果就會(huì)非常可怕。

換臉、變聲，AI“過(guò)濾”——算法篩選受騙對(duì)象，搜集并且分析受騙者信息，則讓受騙者放下了最后一道心理防線(xiàn)。正如劉倩所說(shuō)，騙子和朋友近乎一樣的說(shuō)話(huà)方式令她感到詫異。

愈發(fā)頻繁的AI詐騙事件引發(fā)了人們對(duì)人工智能被用于犯罪的擔(dān)憂(yōu)。

AI詐騙為何能“瞞天過(guò)海”？

語(yǔ)音聊天、視頻通話(huà)，一些看似老套低級(jí)的騙術(shù)，為什么一旦用上了AI的技術(shù)，就可以如此輕易地騙過(guò)人類(lèi)?

現(xiàn)在的AI變臉、變聲技術(shù)已經(jīng)完全可以做到通過(guò)算法來(lái)生成人的全套語(yǔ)音，甚至連不同語(yǔ)氣都可以做到惟妙惟肖，以假亂真。

因?yàn)闄C(jī)器人語(yǔ)音系統(tǒng)還可能存在卡頓、音色機(jī)械化、語(yǔ)氣表現(xiàn)力不足、多輪對(duì)話(huà)“鬼打墻”等問(wèn)題，但通過(guò)AI變聲技術(shù)， 不僅說(shuō)話(huà)的聲音達(dá)到了真人水準(zhǔn)，甚至還能模仿真人的情感和語(yǔ)調(diào)，自動(dòng)說(shuō)出全新的語(yǔ)句。

“用方言說(shuō)話(huà)總能驗(yàn)證出來(lái)對(duì)方是不是騙子吧?”沒(méi)有受過(guò)騙的網(wǎng)友發(fā)出僥幸的質(zhì)疑。

科大訊飛已經(jīng)推出了四川、廣東等地口音的語(yǔ)音識(shí)別，同理，帶有特殊口音或者純方言的語(yǔ)音合成也是可以做到的。

AI偽裝成“老板”電話(huà)，講出帶有德國(guó)腔的英文，要求必須在一個(gè)小時(shí)之內(nèi)給“匈牙利供應(yīng)商”轉(zhuǎn)賬，成功騙走22萬(wàn)歐元，就是一個(gè)典型的案例。

而除了能夠利用神經(jīng)網(wǎng)絡(luò)對(duì)原始音頻進(jìn)行建模和模仿之外，AI還能夠分析本人的社交網(wǎng)絡(luò)，很快掌握個(gè)性化的說(shuō)話(huà)方式、與周?chē)说年P(guān)系、興趣愛(ài)好等等，從而模仿你與身邊的人自然地交流。

一模一樣的聲音，再加上一模一樣的聊天方式，讓人想不相信與你聊天的就是你熟悉的朋友都難，騙子就是這樣成功騙取了劉倩等人的信任。

要生成這樣的語(yǔ)言，僅僅需要被生成者的幾段話(huà)。

騙子完全可以通過(guò)騷擾電話(huà)提取到大家的聲音，然后通過(guò)機(jī)器學(xué)習(xí)或者深度學(xué)習(xí)軟件進(jìn)行合成，從而在語(yǔ)音層面欺騙我們。

那直接視頻通話(huà)進(jìn)行驗(yàn)證身份，還能被騙嗎?

當(dāng)然不是。

GitHub上曾經(jīng)有一個(gè)開(kāi)源的項(xiàng)目代碼倉(cāng)庫(kù)——Deepfake，以及前段時(shí)間異?；鸨膿Q臉App“ZAO”，這兩個(gè)項(xiàng)目都能做到“移花接木”，將一個(gè)人的臉換到另一個(gè)人的身體上。

并且ZAO的出現(xiàn)讓那些在編程方面沒(méi)什么基礎(chǔ)的人，只要搜索到了足夠多的素材，就能完全“換臉”，人人都能夠上手。

當(dāng)變臉、變聲這兩者被組合起來(lái)，我們的聲音和臉都可以被合成，于是就出現(xiàn)了直播平臺(tái)上有人冒充王源繪聲繪色地直播，卻依然能騙過(guò)廣大粉絲的一幕。

總得來(lái)說(shuō)，目前常見(jiàn)的運(yùn)用AI技術(shù)進(jìn)行詐騙的方式一共有三種：

第一種，聲音合成，也是目前發(fā)生頻率最高的AI詐騙方式。騙子通過(guò)騷擾電話(huà)等方式，錄音提取某人的聲音，并對(duì)素材進(jìn)行合成，用偽造的聲音實(shí)施詐騙。

第二種：AI換臉，視頻通話(huà)的可信度明顯高于語(yǔ)音和電話(huà)，利用AI換臉，騙子可以偽裝成任何人。

第三種：通過(guò)AI技術(shù)篩選受騙人群，獲取受騙者的聊天習(xí)慣、生活特性等。通過(guò)分析公眾發(fā)布在網(wǎng)上的各類(lèi)信息，騙子會(huì)根據(jù)所要實(shí)施的騙術(shù)對(duì)人群進(jìn)行篩選，從而選出目標(biāo)人群。例如實(shí)施情感詐騙時(shí)，可以篩選出經(jīng)常發(fā)布感情信息的人群;實(shí)施金融詐騙時(shí)，可以篩選出經(jīng)常搜集投資信息的人群。

大多數(shù)情況下，人們遇到的AI詐騙無(wú)非是這三種形式的排列組合，相對(duì)于傳統(tǒng)的網(wǎng)絡(luò)詐騙、電信詐騙，AI詐騙的形勢(shì)不存在什么新奇之處。

但就是電話(huà)、微信、視頻這些老套低級(jí)的網(wǎng)絡(luò)詐騙方式，一旦穿上了AI的外衣，一來(lái)用算法精準(zhǔn)篩選特定受騙目標(biāo)，分析人們的上網(wǎng)習(xí)慣，抓住人們的心理弱點(diǎn);二來(lái)通過(guò)變聲、變臉等手段達(dá)到以假亂真的效果，突破人們的信任防線(xiàn)，人們就很容易陷入騙子制造的“迷幻陷阱”。

當(dāng)AI被用來(lái)詐騙，誰(shuí)的責(zé)任？

距離第一批AI詐騙已經(jīng)過(guò)去一段時(shí)間了，可隨著越來(lái)越多簡(jiǎn)單易用的開(kāi)源變臉變聲軟件出現(xiàn)，AI詐騙的成本正變得越來(lái)越低，由此帶來(lái)的新詐騙方式不但沒(méi)有得到很好的治理，反而愈發(fā)頻繁猖狂。

谷歌的WaveNet、Lyrebird語(yǔ)音合成軟件，Adobe的 Project VoCo，以及百度的Deep Voice，科大訊飛、騰訊等等都提供語(yǔ)音合成的開(kāi)源應(yīng)用。

一位法院干警告訴CV智識(shí)，目前國(guó)內(nèi)沒(méi)有利用人工智能手段進(jìn)行詐騙的已結(jié)案件，常見(jiàn)的是利用AI語(yǔ)言模仿軟件冒充上級(jí)要求緊急轉(zhuǎn)款，但在未來(lái)，隨著AI詐騙的技術(shù)門(mén)檻不斷降低，這種詐騙方式仍然十分值得警惕。

普通人應(yīng)該如何應(yīng)對(duì)AI詐騙呢？多名警察告訴CV智識(shí)，普通人可以通過(guò)多重驗(yàn)證，延遲轉(zhuǎn)賬，銀行匯款，保護(hù)個(gè)人信息等方法保護(hù)個(gè)人權(quán)益，防止受騙。

“通過(guò)語(yǔ)音、電話(huà)、視頻等多方式驗(yàn)證對(duì)方身份，詢(xún)問(wèn)一些雙方才知道的信息;將到賬時(shí)間設(shè)定為2小時(shí)到賬或24小時(shí)到賬，以預(yù)留處理時(shí)間。此外，可以選擇向?qū)Ψ姐y行匯款，避免通過(guò)微信等社交工具轉(zhuǎn)賬。這樣做，一方面便于核實(shí)對(duì)方信息，確認(rèn)錢(qián)款去向;另一方面，對(duì)方能通過(guò)短信通知得知轉(zhuǎn)賬信息。”

同時(shí)，應(yīng)謹(jǐn)慎使用各類(lèi)AI“換臉”、AI“變聲”軟件，加強(qiáng)個(gè)人信息保護(hù)意識(shí)，盡量少注冊(cè)、不注冊(cè)需要或者需求不高的網(wǎng)絡(luò)賬號(hào)，盡量少填寫(xiě)、不填寫(xiě)不必要的個(gè)人信息，以防個(gè)人信息泄露，盡量不給騙子可乘之機(jī)。

北京成竺律師事務(wù)所高級(jí)合伙人、律師王佳月告訴CV智識(shí)，無(wú)論多么高科技的詐騙，最根本的還是迎合民眾“愛(ài)占便宜”、喜歡“不勞而獲”、“愛(ài)面子”、“慌不擇路”等心理和弱點(diǎn)，給犯罪分子預(yù)留了可作為的空間。

“首先還是從根源上杜絕貪婪的心理，并且時(shí)刻保持警醒、提高警惕、提高個(gè)人防范意識(shí)，知道自己才是個(gè)人資產(chǎn)安全的第一責(zé)任人。”

但面對(duì)威力如此高強(qiáng)的AI詐騙，僅僅是加強(qiáng)個(gè)人安全警示教育顯然不夠。科技公司開(kāi)始為這些被他們所“創(chuàng)造”出來(lái)的技術(shù)承擔(dān)責(zé)任，許多新的技術(shù)方法被應(yīng)用在防范AI詐騙上。

比如安全公司賽門(mén)鐵克，最近就提出了采用區(qū)塊鏈技術(shù)和IP語(yǔ)音(VoIP)呼叫的方法，就是來(lái)辨別來(lái)電者的真實(shí)性，從而減少哪些模擬來(lái)自上級(jí)的詐騙電話(huà)。

再比如，卡迪夫大學(xué)和查爾斯三世大學(xué)的科學(xué)家通過(guò)NLP技術(shù)來(lái)判斷書(shū)面謊言，通過(guò)一個(gè)名為VeriPol的工具來(lái)識(shí)別語(yǔ)句中的各種特征，判斷出報(bào)告是否真實(shí)。對(duì)于一些偽裝真人發(fā)出的詐騙郵件或書(shū)面文件，更強(qiáng)大的AI模型顯然能起到很好的反制的作用。

當(dāng)然，在不明確技術(shù)泛濫后果的前提下，合理地釋放技術(shù)成果也成為一些科技企業(yè)的選擇。比如OpenAI前段時(shí)間推出的性能更高的無(wú)監(jiān)督語(yǔ)言模型GPT-2，就沒(méi)有按照行業(yè)慣例進(jìn)行開(kāi)源，只發(fā)布了簡(jiǎn)化版，不發(fā)布數(shù)據(jù)集、訓(xùn)練代碼以及模型權(quán)重，目的就是避免AI被人惡意利用。

除了技術(shù)人員與騙子們斗智斗勇，產(chǎn)業(yè)界也開(kāi)始從規(guī)則建設(shè)的層面，為濫用AI的行為設(shè)立了禁區(qū)。在美國(guó)安全中心發(fā)布的《人工智能與國(guó)家安全》報(bào)告中，明確將人工智能偽造技術(shù)列為威脅國(guó)家安全的重點(diǎn)技術(shù)。

中國(guó)也開(kāi)始通過(guò)政策管理和技術(shù)限制等途徑進(jìn)行布局，來(lái)應(yīng)對(duì)人工智能的潛在安全風(fēng)險(xiǎn)。

王佳月告訴CV智識(shí)，面對(duì)人工智能對(duì)法律、社會(huì)、道德、倫理等方面帶來(lái)的新挑戰(zhàn)，從2017年開(kāi)始，國(guó)家立法就開(kāi)始關(guān)注個(gè)人信息保護(hù)方面的立法，例如《網(wǎng)絡(luò)安全法》從網(wǎng)絡(luò)運(yùn)營(yíng)者收集、使用、保存?zhèn)€人信息上加以規(guī)范;針對(duì)“侵犯公民個(gè)人信息刑事案件” 最高人民法院、最高人民檢察院也出臺(tái)了司法解釋予以明確辦案標(biāo)準(zhǔn)。

2019年則出現(xiàn)了更多好消息，在十三屆全國(guó)人大二次會(huì)議上，人工智能方面立法項(xiàng)目，如數(shù)字安全法、個(gè)人信息保護(hù)法等，已經(jīng)被列入立法規(guī)劃，同時(shí)被列入抓緊研究項(xiàng)目。《民法典人格權(quán)編》(審議稿)中也存在著加強(qiáng)人工智能技術(shù)法律規(guī)制等條文，對(duì)肖像權(quán)、聲音保護(hù)等都將受到更加明確的規(guī)范，以應(yīng)對(duì)人工智能的潛在安全風(fēng)險(xiǎn)。

硬幣的反面

AI出世，一騎絕塵。從技術(shù)人員、商業(yè)公司、社會(huì)管理者再到普羅大眾，所有人都被人工智能的能力驚艷了，于是五花八門(mén)的換臉變聲軟件層出不窮。

隨著技術(shù)的成熟，應(yīng)用的門(mén)檻也在不斷被降低，直到人工智能被做成一個(gè)個(gè)簡(jiǎn)單易上手的手機(jī)App，普通人也可以輕松

還有一個(gè)不容忽視的事實(shí)是，越是厲害的高科技，也越是具有殺傷力。人工智能技術(shù)使用不當(dāng)，其副作用已經(jīng)開(kāi)始顯現(xiàn)。

騙子向來(lái)是普通人里最熱衷于嘗試新方法、新手段的那一群人，當(dāng)人工智能這把極具殺傷力的武器被騙子利用，普通人的生命財(cái)產(chǎn)安全也將受到更大威脅。

在經(jīng)歷了前幾年的快速發(fā)展期后，今年，人工智能開(kāi)始全面回歸理性。在處理AI詐騙案件時(shí)，人們也越發(fā)意識(shí)到，僅靠警察辦案與加強(qiáng)個(gè)人安全教育已經(jīng)不能解決人工智能濫用所造成的一系列社會(huì)問(wèn)題。

AI詐騙正是人工智能這枚硬幣反面的一個(gè)點(diǎn)，除了行騙，人工智能在被用來(lái)獲取用戶(hù)數(shù)據(jù)、個(gè)人信息，監(jiān)控學(xué)生等方面同樣引發(fā)了大量爭(zhēng)議。

攻擊者與防御者手中的武器都在升級(jí)迭代，而圍繞AI生成的網(wǎng)絡(luò)欺騙與安全問(wèn)題有著太多意想不到的可能性，這場(chǎng)全新的斗法，正在從技術(shù)維度，走向常識(shí)、倫理、規(guī)則等更廣闊的領(lǐng)地。

關(guān)鍵詞： AI詐騙