換臉、變聲，AI“過濾”——算法篩選受騙對象，搜集并且分析受騙者信息，則讓受騙者放下了最后一道心理防線。正如劉倩所說，騙子和朋友近乎一樣的說話方式令她感到詫異。

愈發(fā)頻繁的AI詐騙事件引發(fā)了人們對人工智能被用于犯罪的擔(dān)憂。

AI詐騙為何能“瞞天過海”？

語音聊天、視頻通話，一些看似老套低級的騙術(shù)，為什么一旦用上了AI的技術(shù)，就可以如此輕易地騙過人類?

現(xiàn)在的AI變臉、變聲技術(shù)已經(jīng)完全可以做到通過算法來生成人的全套語音，甚至連不同語氣都可以做到惟妙惟肖，以假亂真。

因為機器人語音系統(tǒng)還可能存在卡頓、音色機械化、語氣表現(xiàn)力不足、多輪對話“鬼打墻”等問題，但通過AI變聲技術(shù)， 不僅說話的聲音達(dá)到了真人水準(zhǔn)，甚至還能模仿真人的情感和語調(diào)，自動說出全新的語句。

“用方言說話總能驗證出來對方是不是騙子吧?”沒有受過騙的網(wǎng)友發(fā)出僥幸的質(zhì)疑。

科大訊飛已經(jīng)推出了四川、廣東等地口音的語音識別，同理，帶有特殊口音或者純方言的語音合成也是可以做到的。

AI偽裝成“老板”電話，講出帶有德國腔的英文，要求必須在一個小時之內(nèi)給“匈牙利供應(yīng)商”轉(zhuǎn)賬，成功騙走22萬歐元，就是一個典型的案例。

而除了能夠利用神經(jīng)網(wǎng)絡(luò)對原始音頻進行建模和模仿之外，AI還能夠分析本人的社交網(wǎng)絡(luò)，很快掌握個性化的說話方式、與周圍人的關(guān)系、興趣愛好等等，從而模仿你與身邊的人自然地交流。

一模一樣的聲音，再加上一模一樣的聊天方式，讓人想不相信與你聊天的就是你熟悉的朋友都難，騙子就是這樣成功騙取了劉倩等人的信任。

要生成這樣的語言，僅僅需要被生成者的幾段話。

騙子完全可以通過騷擾電話提取到大家的聲音，然后通過機器學(xué)習(xí)或者深度學(xué)習(xí)軟件進行合成，從而在語音層面欺騙我們。

那直接視頻通話進行驗證身份，還能被騙嗎?

當(dāng)然不是。

GitHub上曾經(jīng)有一個開源的項目代碼倉庫——Deepfake，以及前段時間異?；鸨膿Q臉App“ZAO”，這兩個項目都能做到“移花接木”，將一個人的臉換到另一個人的身體上。

并且ZAO的出現(xiàn)讓那些在編程方面沒什么基礎(chǔ)的人，只要搜索到了足夠多的素材，就能完全“換臉”，人人都能夠上手。

當(dāng)變臉、變聲這兩者被組合起來，我們的聲音和臉都可以被合成，于是就出現(xiàn)了直播平臺上有人冒充王源繪聲繪色地直播，卻依然能騙過廣大粉絲的一幕。

總得來說，目前常見的運用AI技術(shù)進行詐騙的方式一共有三種：

第一種，聲音合成，也是目前發(fā)生頻率最高的AI詐騙方式。騙子通過騷擾電話等方式，錄音提取某人的聲音，并對素材進行合成，用偽造的聲音實施詐騙。

第二種：AI換臉，視頻通話的可信度明顯高于語音和電話，利用AI換臉，騙子可以偽裝成任何人。

第三種：通過AI技術(shù)篩選受騙人群，獲取受騙者的聊天習(xí)慣、生活特性等。通過分析公眾發(fā)布在網(wǎng)上的各類信息，騙子會根據(jù)所要實施的騙術(shù)對人群進行篩選，從而選出目標(biāo)人群。例如實施情感詐騙時，可以篩選出經(jīng)常發(fā)布感情信息的人群;實施金融詐騙時，可以篩選出經(jīng)常搜集投資信息的人群。

大多數(shù)情況下，人們遇到的AI詐騙無非是這三種形式的排列組合，相對于傳統(tǒng)的網(wǎng)絡(luò)詐騙、電信詐騙，AI詐騙的形勢不存在什么新奇之處。

但就是電話、微信、視頻這些老套低級的網(wǎng)絡(luò)詐騙方式，一旦穿上了AI的外衣，一來用算法精準(zhǔn)篩選特定受騙目標(biāo)，分析人們的上網(wǎng)習(xí)慣，抓住人們的心理弱點;二來通過變聲、變臉等手段達(dá)到以假亂真的效果，突破人們的信任防線，人們就很容易陷入騙子制造的“迷幻陷阱”。

當(dāng)AI被用來詐騙，誰的責(zé)任？

距離第一批AI詐騙已經(jīng)過去一段時間了，可隨著越來越多簡單易用的開源變臉變聲軟件出現(xiàn)，AI詐騙的成本正變得越來越低，由此帶來的新詐騙方式不但沒有得到很好的治理，反而愈發(fā)頻繁猖狂。

谷歌的WaveNet、Lyrebird語音合成軟件，Adobe的 Project VoCo，以及百度的Deep Voice，科大訊飛、騰訊等等都提供語音合成的開源應(yīng)用。

一位法院干警告訴CV智識，目前國內(nèi)沒有利用人工智能手段進行詐騙的已結(jié)案件，常見的是利用AI語言模仿軟件冒充上級要求緊急轉(zhuǎn)款，但在未來，隨著AI詐騙的技術(shù)門檻不斷降低，這種詐騙方式仍然十分值得警惕。

普通人應(yīng)該如何應(yīng)對AI詐騙呢？多名警察告訴CV智識，普通人可以通過多重驗證，延遲轉(zhuǎn)賬，銀行匯款，保護個人信息等方法保護個人權(quán)益，防止受騙。

“通過語音、電話、視頻等多方式驗證對方身份，詢問一些雙方才知道的信息;將到賬時間設(shè)定為2小時到賬或24小時到賬，以預(yù)留處理時間。此外，可以選擇向?qū)Ψ姐y行匯款，避免通過微信等社交工具轉(zhuǎn)賬。這樣做，一方面便于核實對方信息，確認(rèn)錢款去向;另一方面，對方能通過短信通知得知轉(zhuǎn)賬信息。”

同時，應(yīng)謹(jǐn)慎使用各類AI“換臉”、AI“變聲”軟件，加強個人信息保護意識，盡量少注冊、不注冊需要或者需求不高的網(wǎng)絡(luò)賬號，盡量少填寫、不填寫不必要的個人信息，以防個人信息泄露，盡量不給騙子可乘之機。

北京成竺律師事務(wù)所高級合伙人、律師王佳月告訴CV智識，無論多么高科技的詐騙，最根本的還是迎合民眾“愛占便宜”、喜歡“不勞而獲”、“愛面子”、“慌不擇路”等心理和弱點，給犯罪分子預(yù)留了可作為的空間。

“首先還是從根源上杜絕貪婪的心理，并且時刻保持警醒、提高警惕、提高個人防范意識，知道自己才是個人資產(chǎn)安全的第一責(zé)任人。”

但面對威力如此高強的AI詐騙，僅僅是加強個人安全警示教育顯然不夠?？萍脊鹃_始為這些被他們所“創(chuàng)造”出來的技術(shù)承擔(dān)責(zé)任，許多新的技術(shù)方法被應(yīng)用在防范AI詐騙上。

比如安全公司賽門鐵克，最近就提出了采用區(qū)塊鏈技術(shù)和IP語音(VoIP)呼叫的方法，就是來辨別來電者的真實性，從而減少哪些模擬來自上級的詐騙電話。

再比如，卡迪夫大學(xué)和查爾斯三世大學(xué)的科學(xué)家通過NLP技術(shù)來判斷書面謊言，通過一個名為VeriPol的工具來識別語句中的各種特征，判斷出報告是否真實。對于一些偽裝真人發(fā)出的詐騙郵件或書面文件，更強大的AI模型顯然能起到很好的反制的作用。

當(dāng)然，在不明確技術(shù)泛濫后果的前提下，合理地釋放技術(shù)成果也成為一些科技企業(yè)的選擇。比如OpenAI前段時間推出的性能更高的無監(jiān)督語言模型GPT-2，就沒有按照行業(yè)慣例進行開源，只發(fā)布了簡化版，不發(fā)布數(shù)據(jù)集、訓(xùn)練代碼以及模型權(quán)重，目的就是避免AI被人惡意利用。

除了技術(shù)人員與騙子們斗智斗勇，產(chǎn)業(yè)界也開始從規(guī)則建設(shè)的層面，為濫用AI的行為設(shè)立了禁區(qū)。在美國安全中心發(fā)布的《人工智能與國家安全》報告中，明確將人工智能偽造技術(shù)列為威脅國家安全的重點技術(shù)。

中國也開始通過政策管理和技術(shù)限制等途徑進行布局，來應(yīng)對人工智能的潛在安全風(fēng)險。

王佳月告訴CV智識，面對人工智能對法律、社會、道德、倫理等方面帶來的新挑戰(zhàn)，從2017年開始，國家立法就開始關(guān)注個人信息保護方面的立法，例如《網(wǎng)絡(luò)安全法》從網(wǎng)絡(luò)運營者收集、使用、保存?zhèn)€人信息上加以規(guī)范;針對“侵犯公民個人信息刑事案件” 最高人民法院、最高人民檢察院也出臺了司法解釋予以明確辦案標(biāo)準(zhǔn)。

2019年則出現(xiàn)了更多好消息，在十三屆全國人大二次會議上，人工智能方面立法項目，如數(shù)字安全法、個人信息保護法等，已經(jīng)被列入立法規(guī)劃，同時被列入抓緊研究項目?！睹穹ǖ淙烁駲?quán)編》(審議稿)中也存在著加強人工智能技術(shù)法律規(guī)制等條文，對肖像權(quán)、聲音保護等都將受到更加明確的規(guī)范，以應(yīng)對人工智能的潛在安全風(fēng)險。

硬幣的反面

AI出世，一騎絕塵。從技術(shù)人員、商業(yè)公司、社會管理者再到普羅大眾，所有人都被人工智能的能力驚艷了，于是五花八門的換臉變聲軟件層出不窮。

隨著技術(shù)的成熟，應(yīng)用的門檻也在不斷被降低，直到人工智能被做成一個個簡單易上手的手機App，普通人也可以輕松

還有一個不容忽視的事實是，越是厲害的高科技，也越是具有殺傷力。人工智能技術(shù)使用不當(dāng)，其副作用已經(jīng)開始顯現(xiàn)。

騙子向來是普通人里最熱衷于嘗試新方法、新手段的那一群人，當(dāng)人工智能這把極具殺傷力的武器被騙子利用，普通人的生命財產(chǎn)安全也將受到更大威脅。

在經(jīng)歷了前幾年的快速發(fā)展期后，今年，人工智能開始全面回歸理性。在處理AI詐騙案件時，人們也越發(fā)意識到，僅靠警察辦案與加強個人安全教育已經(jīng)不能解決人工智能濫用所造成的一系列社會問題。

AI詐騙正是人工智能這枚硬幣反面的一個點，除了行騙，人工智能在被用來獲取用戶數(shù)據(jù)、個人信息，監(jiān)控學(xué)生等方面同樣引發(fā)了大量爭議。

攻擊者與防御者手中的武器都在升級迭代，而圍繞AI生成的網(wǎng)絡(luò)欺騙與安全問題有著太多意想不到的可能性，這場全新的斗法，正在從技術(shù)維度，走向常識、倫理、規(guī)則等更廣闊的領(lǐng)地。

關(guān)鍵詞： AI詐騙